FlashML-org/FreeToken
FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
290B超のMoEモデルを個人PCで動かすエッジ推論エンジン — FreeTokenはデータセンター級の巨大MoEモデルをゲーミングPCなどの一般ハードウェアで高速に動かすエッジ特化型推論エンジンです。GPU・CPU・メモリを統合的に扱うq⋆ポリシーやセマンティックキャッシュ、弾性メモリ管理により、DeepSeek-V4やQwen、GLMなど大規模モデルのローカル実行を効率化します。
指標
相対成長率（7日）+1%規模に対する直近7日の伸び
加速度-34%前週からの増加ペースの変化
定着率+48%trending初掲載30日後の伸びの維持
注目度353指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とTrending掲載（直近30日）
+52★/日
2026/9/302026/10/29
日別の掲載順位を表で見る（4日）
| 日付 | マンスリー |
|---|---|
| 2026年9月25日 | python 17位 +9,075 |
| 2026年9月24日 | python 9位 +10,806 |
| 2026年9月23日 | 9位 +12,528 python 4位 |
| 2026年9月22日 | 2位 +13,373 python 1位 |
リポジトリ作成 2026/7/21・trending初掲載 2026/9/22
同じカテゴリの注目リポジトリ（LLM・機械学習）
- pst2154/nemotron-deciffusion
- todesking/slopsampler
- datalab-to/indra
- fudan-generative-vision/Remory
- google-pytorch/torch_tpu
inference 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | vllm-project/vllm | 95,796 |
| 2 | sgl-project/sglang | 38,326 |
| 3 | FlashML-org/FreeToken | 14,813 |
| 4 | vllm-project/semantic-router | 6,303 |
| 5 | trymirai/uzu | 2,999 |
| 6 | theagentrouter/agent-router | 2,311 |
| 7 | SemiAnalysisAI/InferenceX | 1,943 |
| 8 | sgl-project/sglang-omni | 1,646 |
| 9 | google/agentmesh | 1,163 |
| 10 | fudan-generative-vision/Remory | 563 |