PrismML-Eng/Bonsai-demo

★3,462ShellApache-2.0⑂ 394Issue 16更新 2026年10月28日

Bonsai Demo

27Bクラスの推論を5.9GBで動かす三値量子化モデル — Bonsai 2 27Bは27B規模のLLMをFP16比98.2%の性能を保ったまま三値量子化し5.9GBに圧縮、Mac・Linux・Windows・CPUでローカル実行できるデモです。ビジョン入力や262Kトークンの長文脈、エージェント型ツール呼び出しにも対応し、llama.cppとMLXの両バックエンドをサポートする点が特徴です。

LLM・機械学習bonsaillamacppllmmlxprism-mlsmall-models

指標

相対成長率（7日）+1%規模に対する直近7日の伸び

加速度-46%前週からの増加ペースの変化

注目度343指標を0〜100に揃えて合成

定着率はtrending初掲載から30日経過後に計算できる指標（それまでは表示しない）。指標の定義はこのサイトについてを参照。

star推移とTrending掲載（直近30日）

初掲載+24★/日ウィークリー

2026/9/302026/10/29

帯はtrendingに載った日（濃いほど上位）

日別の掲載順位を表で見る（1日）

日付	ウィークリー
2026年9月30日	16位 +210

リポジトリ作成 2026/3/26・trending初掲載 2026/9/30

同じカテゴリの注目リポジトリ（LLM・機械学習）

pst2154/nemotron-deciffusion1GPU・1パスで構造化判断を返す拡散型LLM
todesking/slopsamplerAIっぽい「スロップ文章」を収集・分析するプロジェクト
datalab-to/indraわずか100万パラメータの爆速CPU OCR「Indra」
fudan-generative-vision/Remory要約で失われる文脈を学習記憶で補う
google-pytorch/torch_tpuPyTorchをGoogle TPUで動かすバックエンド「TorchTPU」

LLM・機械学習の全リポジトリを見る →

llm 内の順位

#	リポジトリ	★
1	morluto/rea	403,020
2	affaan-m/ECC	291,826
3	firecrawl/firecrawl	196,448
4	Significant-Gravitas/AutoGPT	187,805
5	ollama/ollama	185,148
6	DietrichGebert/ponytail	179,269
7	huggingface/transformers	168,313
8	langgenius/dify	159,853
9	open-webui/open-webui	157,086
10	Graphify-Labs/graphify	137,911
133	PrismML-Eng/Bonsai-demo	3,462

llm の全リポジトリを見る →

指標

star推移とTrending掲載（直近30日）

同じカテゴリの注目リポジトリ（LLM・機械学習）

llm 内の順位

週間まとめをメールで受け取る