lightseekorg/tokenspeed
TokenSpeed is a speed-of-light LLM inference engine.
制御面とPython実行面を分離した新型LLM推論エンジン — TokenSpeedはエージェント向けワークロードに特化したLLM推論エンジンで、C++のスケジューラ（制御面）とPythonの実行面を分離した点が特徴です。KV cacheの安全な再利用を型システムでコンパイル時に保証しつつ、Blackwell向け最速クラスのMLAカーネルなどでTensorRT-LLM並みの性能とvLLM並みの使いやすさを両立します。PyTorch Foundationからもアーキテクチャの独自性が評価されています。
LLM・機械学習b200b300blackwelldeepseekgb200gb300glmgpt-ossinklingkimilightseekllmmi355xmi455xminimaxqwenrubinspeed-of-lighttokenspeedvlm
指標
相対成長率（7日）+18%規模に対する直近7日の伸び
加速度+2195%前週からの増加ペースの変化
注目度スコア883指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とtrending掲載（直近30日）
初掲載+313★/日デイリーウィークリー
2026/9/192026/10/18
帯は trending に載った日（濃いほど上位）
日別の掲載順位を表で見る（3日）
| 日付 | デイリー | ウィークリー |
|---|---|---|
| 2026年10月18日 | python 11位 +24 | python 9位 +482 |
| 2026年10月17日 | python 6位 +308 | python 9位 +464 |
| 2026年10月16日 | 11位 +30 python 4位 | — |
リポジトリ作成 2026/5/6・trending 初掲載 2026/10/16
同じカテゴリの注目リポジトリ（LLM・機械学習）
- Niko1221/Strata
- debpalash/VoiceStudio
- opper-ai/jevman-benchmark
- experientiallabs/experiential
- multimodal-art-projection/YuE
deepseek 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | ollama/ollama | 183,639 |
| 2 | huggingface/transformers | 167,798 |
| 3 | Snailclimb/JavaGuide | 159,097 |
| 4 | langgenius/dify | 158,728 |
| 5 | vllm-project/vllm | 94,008 |
| 6 | unslothai/unsloth | 78,194 |
| 7 | diegosouzapw/OmniRoute | 77,732 |
| 8 | QuantumNous/new-api | 50,137 |
| 9 | LibreChat-AI/LibreChat | 45,894 |
| 10 | sgl-project/sglang | 37,256 |