ディープラーニング入門:データから関数を学ぶ仕組み
ニューロン、層、損失、勾配、逆伝播。小さなネットワークにXORを学ばせながら、ディープラーニングが「学ぶ」仕組みを短く整理する。
Pythonが読めれば十分
EXPLORE ARTICLES
記事・開発ノート
実装ガイド、設計の考え方、トラブルシュート。前提とコードから探す。
ARTICLES & NOTES
9 ARTICLES記事・開発ノート
LLMはどう動くか:次のトークンを予測する仕組み
トークン、確率、温度、コンテキストウィンドウ。おもちゃのモデルを動かしながら、LLMが答えを作る流れと、間違える理由を整理する。
JavaScriptが読めれば十分
Transformerの中身をのぞく:attentionを手で計算する
LLMの中で、次のトークンの確率を計算しているTransformer。全体の構造と、中心のattentionを小さなコードで実際に計算して確かめる。
「LLMはどう動くか」を読んだ人向け
LLMモデルの全体像:種類と選び方
クラウドのAPIと公開モデル、大きさ、MoE、思考、マルチモーダル、役割。たくさんあるLLMモデルを、何で分けて、どう選ぶかを短く整理する。
LLMを使ったことがあれば十分
ローカルLLM入門:自分のPCでモデルを動かす
ローカルLLMとは何か、クラウドAPIと何が違うのか。メモリの見積もり、量子化、Ollamaでの動かし方、向いている用途までを整理する。
ターミナルが使えれば十分
ローカルLLMを本格的に動かす:大きなモデルとKVキャッシュ
重み以外に必要なメモリ(KVキャッシュ)の計算、複数GPUへの分割、MoE、同時利用、サーバー用ツールの選び方を整理する。
ローカルLLM入門を読んだ人向け
手元の文書に質問できるシステムを作る(ローカルLLM × RAG)
文書を分割し、関連部分を検索して、ローカルLLMに渡して答えさせる。依存パッケージなしのPythonで、社内文書向けの質問システムを作る。
Pythonが読めれば十分
社内文書Q&Aを本番で動かす:権限・更新・評価・運用の設計
文書に質問できるRAGを、複数人が使う本番の仕組みにする。取り込みの差分更新、権限での絞り込み、検索の改善、評価、運用までの設計をまとめる。
RAGの基本記事を読んだ人向け
Colabで試すLLM:無料のGPUで、モデルを動かしてみる
自分のPCにGPUがなくても、Google Colabの無料のGPUでLLMを動かせる。OllamaとTransformersの2通りの動かし方と、使える範囲、禁止されていること、メモリの見積もりを整理する。
Pythonのコードをノートブックで動かせれば十分
