ai-dynamo/dynamo
A Datacenter Scale Distributed Inference Serving Framework
NVIDIA発、データセンター規模の分散推論基盤Dynamo — vLLM・SGLang・TensorRT-LLMといった推論エンジンを置き換えず、その上位で複数ノードを協調動作させるオーケストレーション層です。分離型サービング(disaggregated serving)、インテリジェントルーティング、多層KVキャッシュ、自動スケーリングを組み合わせ、LLMやマルチモーダル・動画生成ワークロードのスループット最大化とレイテンシ低減を実現します。RustとPythonで実装され、大規模LLM推論基盤を運用する企業・研究者に刺さる内容です。
LLM・機械学習diffusiondisaggregated-servingkubernetesllm-inferenceomnirouting-enginerustsglangtensorrt-llmvllm
指標
相対成長率(7日)+1%規模に対する直近7日の伸び
加速度-23%前週からの増加ペースの変化
注目度353指標を0〜100に揃えて合成
定着率はtrending初掲載から30日経過後に計算できる指標(それまでは表示しない)。指標の定義はこのサイトについて を参照。
star推移とTrending掲載(直近30日)
初掲載+16★/日デイリー
2026/9/302026/10/29
帯はtrendingに載った日(濃いほど上位)
日別の掲載順位を表で見る(9日)
| 日付 | デイリー |
|---|---|
| 2026年10月24日 | rust 4位 +11 |
| 2026年10月18日 | rust 5位 +7 |
| 2026年10月17日 | rust 9位 +11 |
| 2026年10月16日 | rust 11位 +11 |
| 2026年10月6日 | rust 3位 +5 |
| 2026年10月4日 | rust 11位 +4 |
| 2026年10月3日 | rust 6位 +7 |
| 2026年10月2日 | rust 10位 +13 |
| 2026年10月1日 | rust 6位 +9 |
リポジトリ作成 2025/3/4・trending初掲載 2026/10/1
同じカテゴリの注目リポジトリ(LLM・機械学習)
- pst2154/nemotron-deciffusion
- todesking/slopsampler
- datalab-to/indra
- fudan-generative-vision/Remory
- google-pytorch/torch_tpu
kubernetes 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | kubernetes/kubernetes | 128,595 |
| 2 | bregman-arie/devops-exercises | 85,148 |
| 3 | netdata/netdata | 81,202 |
| 4 | traefik/traefik | 65,399 |
| 5 | etcd-io/etcd | 52,432 |
| 6 | Kong/kong | 44,318 |
| 7 | ToolJet/ToolJet | 41,141 |
| 8 | aquasecurity/trivy | 38,816 |
| 9 | istio/istio | 38,475 |
| 10 | seaweedfs/seaweedfs | 35,794 |
| 34 | ai-dynamo/dynamo | 8,404 |