FareedKhan-dev/kimi-k3-in-c
A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.
2.78兆パラメータKimi K3をGPUなしでCPU推論 — 2.78兆パラメータのKimi K3モデルを、BLASやフレームワーク不要の176KBのポータブルC99エンジンで、単一CPU・最大8.24GBのRAMで動かすプロジェクトです。1.56TBのチェックポイントをディスクからストリーミングするため、メモリが少なくても動作し、増やせば速度が向上します。巨大MoEモデルを普通のハードウェアで試したい人に向いています。
LLM・機械学習avx2c99cpu-inferencedeep-learningfrom-scratchinference-enginekimi-k3linear-attentionllmllm-inferencemachine-learningmemory-efficientmixture-of-expertsmoemxfp4quantizationsimdsystems-programmingtransformerzero-dependencies
指標
相対成長率(7日)+11%規模に対する直近7日の伸び
加速度+7%前週からの増加ペースの変化
注目度603指標を0〜100に揃えて合成
定着率はtrending初掲載から30日経過後に計算できる指標(それまでは表示しない)。指標の定義はこのサイトについて を参照。
star推移とTrending掲載(直近30日)
リポジトリ作成 2026/8/1・trending初掲載 2026/11/5
話題になっている場所
このリポジトリを主題に取り上げた投稿(日本語圏は日本語の技術メディア・日本語の動画での言及で、日本国内の利用実態ではない)。
同じカテゴリの注目リポジトリ(LLM・機械学習)
- snap-stanford/memorilla
- kerlenton/bootgpt
- scienthoon/jev-ood-calibration
- alejandrohdez00/alien-space-of-science
- microsoft/VibeVoice
deep-learning 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | tensorflow/tensorflow | 201,446 |
| 2 | huggingface/transformers | 168,755 |
| 3 | AUTOMATIC1111/stable-diffusion-webui | 165,293 |
| 4 | pytorch/pytorch | 105,332 |
| 5 | rohitg00/ai-engineering-from-scratch | 78,323 |
| 6 | labmlai/annotated_deep_learning_paper_implementations | 67,746 |
| 7 | roboflow/supervision | 51,588 |
| 8 | coqui-ai/TTS | 46,210 |
| 9 | ray-project/ray | 44,251 |
| 10 | huggingface/diffusers | 34,902 |
| 21 | FareedKhan-dev/kimi-k3-in-c | 11,661 |