lightseekorg/tokenspeed
TokenSpeed is a speed-of-light LLM inference engine.
制御面とPython実行面を分離した新型LLM推論エンジン — TokenSpeedはエージェント向けワークロードに特化したLLM推論エンジンで、C++のスケジューラ（制御面）とPythonの実行面を分離した点が特徴です。KV cacheの安全な再利用を型システムでコンパイル時に保証しつつ、Blackwell向け最速クラスのMLAカーネルなどでTensorRT-LLM並みの性能とvLLM並みの使いやすさを両立します。PyTorch Foundationからもアーキテクチャの独自性が評価されています。
LLM・機械学習b200b300blackwelldeepseekgb200gb300glmgpt-ossinklingkimilightseekllmmi355xmi455xminimaxqwenrubinspeed-of-lighttokenspeedvlm
指標
相対成長率（7日）+3%規模に対する直近7日の伸び
加速度-54%前週からの増加ペースの変化
注目度403指標を0〜100に揃えて合成
定着率はtrending初掲載から30日経過後に計算できる指標（それまでは表示しない）。指標の定義はこのサイトについて を参照。
star推移とTrending掲載（直近30日）
初掲載+313★/日デイリーウィークリーマンスリー
2026/9/302026/10/29
帯はtrendingに載った日（濃いほど上位）
日別の掲載順位を表で見る（13日）
| 日付 | デイリー | ウィークリー | マンスリー |
|---|---|---|---|
| 2026年10月29日 | — | — | python 15位 +642 |
| 2026年10月28日 | — | — | python 13位 +642 |
| 2026年10月27日 | — | — | python 13位 +633 |
| 2026年10月26日 | — | — | python 11位 +617 |
| 2026年10月25日 | — | — | python 12位 +619 |
| 2026年10月24日 | — | — | python 12位 +617 |
| 2026年10月23日 | — | python 15位 +386 | python 13位 +603 |
| 2026年10月22日 | — | python 12位 +501 | — |
| 2026年10月20日 | — | python 8位 +506 | — |
| 2026年10月19日 | — | python 7位 +494 | — |
| 2026年10月18日 | python 11位 +24 | python 9位 +482 | — |
| 2026年10月17日 | python 6位 +308 | python 9位 +464 | — |
| 2026年10月16日 | 11位 +30 python 4位 | — | — |
リポジトリ作成 2026/5/6・trending初掲載 2026/10/16
同じカテゴリの注目リポジトリ（LLM・機械学習）
- pst2154/nemotron-deciffusion
- todesking/slopsampler
- datalab-to/indra
- fudan-generative-vision/Remory
- google-pytorch/torch_tpu
deepseek 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | ollama/ollama | 185,148 |
| 2 | huggingface/transformers | 168,313 |
| 3 | langgenius/dify | 159,853 |
| 4 | Snailclimb/JavaGuide | 159,318 |
| 5 | nexu-io/open-design | 104,657 |
| 6 | vllm-project/vllm | 95,796 |
| 7 | cheaper-inference/OmniRoute | 82,285 |
| 8 | unslothai/unsloth | 78,720 |
| 9 | QuantumNous/new-api | 50,898 |
| 10 | LibreChat-AI/LibreChat | 46,439 |
| 26 | lightseekorg/tokenspeed | 2,820 |