FareedKhan-dev/train-llm-from-scratch

★12,855Python🌐 その他発MIT⑂ 1,788Issue 1更新 2026年10月2日

A straightforward method for training your LLM, from downloading data to generating text.

生テキストから対話モデルまで、LLMを自作で学ぶ実装集 — PyTorchのみでTransformerを一から実装し、事前学習からSFT・報酬モデル・PPO/DPO・GRPOまで一通り体験できるチュートリアルです。trlやpeftなど既存ライブラリを使わず全アルゴリズムを手書きしている点が特徴で、単一GPUで数百万〜数十億パラメータのLLMを自作したい学習者に向いています。

学習・リソース集geminilarge-language-modelsllmopenaitrainingtransformers

指標

相対成長率(7日)+3%規模に対する直近7日の伸び
加速度+55%前週からの増加ペースの変化
定着率+38%trending初掲載30日後の伸びの維持
注目度503指標を0〜100に揃えて合成

指標の定義はこのサイトについて を参照。

star推移とTrending掲載(直近30日)

+212★/日ウィークリー
2026/9/302026/10/29

帯はtrendingに載った日(濃いほど上位)

日別の掲載順位を表で見る(9日)
日付デイリーウィークリー
2026年9月30日—
python 13位 +955
2026年9月29日—
python 13位 +921
2026年9月28日—
python 12位 +1,179
2026年9月27日—
python 10位 +1,356
2026年9月26日—
python 14位 +1,376
2026年9月25日—
python 11位 +1,294
2026年9月24日—
python 10位 +1,271
2026年9月23日
python 7位 +141
—
2026年9月21日
python 5位 +265
—

リポジトリ作成 2025/1/12・trending初掲載 2026/9/21

同じカテゴリの注目リポジトリ(学習・リソース集)

学習・リソース集 の全リポジトリを見る →

gemini 内の順位

#リポジトリ★
1Graphify-Labs/graphify137,911
2google-gemini/gemini-cli108,601
3cheaper-inference/OmniRoute82,285
4code-yeongyu/oh-my-openagent70,445
5asgeirtj/system_prompts_leaks70,374
6tw93/Pake62,390
7router-for-me/CLIProxyAPI56,802
8QuantumNous/new-api50,898
9LibreChat-AI/LibreChat46,439
10Wei-Shaw/sub2api45,030
20FareedKhan-dev/train-llm-from-scratch12,855

gemini の全リポジトリを見る →

週間まとめをメールで受け取る

毎週月曜に、前週に伸びたリポジトリと海外・日本語圏での話題の広がりをメールでお届けします。配信はいつでも停止できます。 取り扱いはプライバシーポリシーと広告方針をご覧ください。