FlashML-org/FreeToken
FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
290B超のMoEモデルを個人PCで動かすエッジ推論エンジン — FreeTokenはデータセンター級の巨大MoEモデルをゲーミングPCなどの一般ハードウェアで高速に動かすエッジ特化型推論エンジンです。GPU・CPU・メモリを統合的に扱うq⋆ポリシーやセマンティックキャッシュ、弾性メモリ管理により、DeepSeek-V4やQwen、GLMなど大規模モデルのローカル実行を効率化します。
指標
相対成長率（7日）+1%規模に対する直近7日の伸び
加速度-13%前週からの増加ペースの変化
注目度スコア423指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とtrending掲載（直近30日）
初掲載+148★/日マンスリー
2026/9/192026/10/18
帯は trending に載った日（濃いほど上位）
日別の掲載順位を表で見る（4日）
| 日付 | マンスリー |
|---|---|
| 2026年9月25日 | python 17位 +9,075 |
| 2026年9月24日 | python 9位 +10,806 |
| 2026年9月23日 | 9位 +12,528 python 4位 |
| 2026年9月22日 | 2位 +13,373 python 1位 |
リポジトリ作成 2026/7/20・trending 初掲載 2026/9/22
同じカテゴリの注目リポジトリ（LLM・機械学習）
- lightseekorg/tokenspeed
- Niko1221/Strata
- debpalash/VoiceStudio
- opper-ai/jevman-benchmark
- experientiallabs/experiential
inference 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | vllm-project/vllm | 94,008 |
| 2 | sgl-project/sglang | 37,256 |
| 3 | FlashML-org/FreeToken | 14,559 |
| 4 | vllm-project/semantic-router | 6,205 |
| 5 | trymirai/uzu | 2,384 |
| 6 | theagentrouter/agent-router | 2,237 |
| 7 | SemiAnalysisAI/InferenceX | 1,871 |
| 8 | sgl-project/sglang-omni | 1,540 |
| 9 | google/agentmesh | 1,107 |
| 10 | llm-d/llm-d-router | 418 |