This is a brief guide to my new art project microgpt, a single file of 200 lines of pure Python with no dependencies that trains and inferences a GPT. This file contains the full algorithmic content of what is needed: dataset of documents, tokenizer, autograd engine, a GPT-2-like neural network architecture, the Adam optimizer, training loop, and inference loop. Everything else is just efficiency.
ClaudeCodeやGemini CLIなど最近コーディングエージェントを使う方も増えてきている昨今、コーディングエージェントがどのように動作しているか気になったことはないでしょうか。 コーディングエージェントは、chatGPTのようなチャットのみだけではなく自律的にコードを生成してくれます。 これはどのように実現されているのでしょうか？ この本ではGo言語を使い、複数ファイル編集のようなタスクをこなせるコーディングエージェントを作成していきます。 また、よくある機能のPlanモードや会話記憶機能も作成していこうと思います。 本書が少しでもコーディングエージェントの理解につながれば幸いです。
Class website here: https://kmicinski.com/cis531-f25 Are you interested in building a compiler? Learning how functional languages are implemented? Gaining a bit of practical experience with x86-64 assembly language? If so, I invite you to try your hand at the projects in my class, CIS531. CIS531 is a masters-level class on compiler design which assumes that (a) you know how to program, (b) you’ve
GAME80コンパイラ解説 (2003/08/05) GAME80コンパイラの作者の中島聡さんにGAME80 コンパイラのソースを掲載する許可を頂きました。 プログラム言語の仕組みに興味がある方にとって非常に参考になると思います。 GAME80コンパイラは、約5.5キロバイト強と非常にコンパクトなソースで記述されています。 コンパイラがこのようなサイズで作成できる理由は、GAME IIIという言語が単純な文法でありながら密度の高い記述ができることにあります。コンパイラがターゲットとする言語自身で書かれていることもGAME80コンパイラの特徴です。自分で自分自身をコンパイルできることは、言語の改善や拡張が容易であり、GAME80コンパイラ以後に多くのマシン用のGAMEコンパイラが開発された理由にもなっています。GAME IIIの文法は GAME86 または VTL系言語の歴史 を参考にして下
This presentation was recorded at GOTO Amsterdam 2018. #gotocon #gotoams http://gotoams.nl Liz Rice - Technology Evangelist with Aqua Security @lizrice5029 ABSTRACT What is a container? Is it really a “lightweight VM”? What are namespaces and control groups? What does a host machine know about my containers? And what do my containers know about each other? In this talk Liz will live-code a cont
TSKaigi 2025について 2024年に産声をあげ、大盛況のうちに幕を閉じた TSKaigi を今年も開催します！ 私たちは、誰かの発表を聞くだけでなく、他の誰かに向けて発表することもまた学びの一つだと考えています。 参加者、登壇者、スタッフ、スポンサーをはじめ、TSKaigi に関わるすべての人たちが互いに学び合い、新たな繋がりを生み出し、型にとらわれないエンジニアとして生き生きと活躍できる世界を目指します。 その実現に向け、今年は会場を中野から神田へ移し、2日間開催とすることで、大幅にパワーアップしました。 TypeScript に関するあらゆるテーマを扱う国内最大級のカンファレンスとして、まさに「型破り」なイベントを目指し成長を続ける TSKaigi にご期待ください。 公式サイト - https://2025.tskaigi.org/ 一般社団法人TSKaigi As
An HTTP Server in Go from scratch: Part 2 Follow along while I improve the HTTPServer I wrote from scratch in Go. March 2025 Last year I wrote a blog post explaining how I built my HTTP Server in Golang by following a Coder Crafters, I got some good feedback on it and improved the HTTP Server quite a bit, let’s dive into the changes! The git repository is still available if you want to look at the
An HTTP Server in Go from scratch Follow along while I write an HTTPServer in Go from scratch following a codecrafters challenge. August 2024 I finished the Coder Crafters course “Build your own HTTP server” in Golang. In this post, we’ll go over the code necessary for the challenge, and we’ll also take a look at the refactorization I made at the end to improve the DX. The git repository is availa
We are going to rewrite React from scratch. Step by step. Following the architecture from the real React code but without all the optimizations and non-essential features. If you’ve read any of my previous “build your own React” posts, the difference is that this post is based on React 16.8, so we can now use hooks and drop all the code related to classes. You can find the history with the old blo
Operating System in 1,000 Lines Hey there! In this book, we're going to build a small operating system from scratch, step by step. You might get intimidated when you hear OS or kernel development, the basic functions of an OS (especially the kernel) are surprisingly simple. Even Linux, which is often cited as a huge open-source software, was only 8,413 lines in version 0.01. Today's Linux kernel
はじめに 私は初めてDependency Injection（依存性注入）という概念に出会ったのは、NestJSのドキュメントを読んでいるときでした。その時、providerや@Injectable()は何なのか？といった素朴な疑問を感じましたが、ドキュメントを読んでもすぐには理解できず、そのまま一度放置しました。 最近、業務で触れているAPIサービスではNestJSではなく、InversifyJSというライブラリを使用してDependency Injectionを実装しています。これを機に、DIについてもう一度学び直すことにしました。そして、自分が調べて理解したことをまとめて共有したいと思います。 この記事では、以下のような疑問に答える形で情報をまとめています： Dependency Injectionは何？なぜ使うのか？ Dependency Injectionはどのように実装されてい
0-1. はじめに 少し前に「自作エミュレータで学ぶx86アーキテクチャ」という本を元に、Linux上でx86エミュレータを自作しました。（詳しくはこちらの記事をどうぞ） で、「CPUが内部でどんなことをしているのか？」というイメージをざっくり掴むことはできたのですが、 『そもそもCPUはどうして命令を実行できるのか？』 といった根本的な疑問は依然解決しないままの状態で、頭の中が逆にモヤモヤするという結果になってしまいました。。 そのため、x86エミュレータの記事にも書いたのですが 「時間ができたら次はハードウェア的な部分のエミュレートにも挑戦してみたいなぁ」 と思っていたわけなのですが、最近ようやくその願いが叶いなんとか「CPUそのものの自作」（といってもブレッドボード上でですが..）までこぎつけましたので、作業中に気づいたことや苦労したことなどを軽くメモしていこうと思います。 また私自
はじめに build own xってなに？という方がいらっしゃると思います。 下記ページにあるような自作～みたいなやつのことを指しています。 自作OSとかDBとかとにかく様々な種類があるんですが、僕がやってみて良かったなぁと感じたものだけ紹介します。(一部やってないけど良さそうなのも紹介します。) 難易度を星5を最高として書いていきます。 言語は日本語 or 英語です。 コンパイラ writing interpreter in go 形態:本 言語: 日本語、英語 コンパイラ系なら一番初めにおすすめなのは間違いなくこれ。 日本語版では「Go言語でつくるインタプリタ」という題で出版されています。 外部に依存するライブラリを一切使わないのが特徴でスクラッチで書きます。 語り口調も平易でわかりやすく、コンパイラ？インタープリタ？という方にもおすすめ。 Monkeyという言語を実装するのですが、既
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
