vllm-project/semantic-router
An open, programmable decision layer for models and compute.
異種LLM基盤を束ねるプログラマブルなMixture-of-Modelsルーター — vLLMプロジェクトによる、複数モデル・複数コンピュート環境をまたいでリクエストごとに最適なモデルパスを選ぶルーティング層です。品質・コスト・レイテンシ・プライバシー・安全性を、アプリ側にルーティングロジックを書かずに最適化できるのが特徴です。Kubernetesやガードレールとも連携し、AIゲートウェイ的な使い方も想定されています。
LLM・機械学習ai-gatewayguardrailsinferencekubernetesllmllmroutermixture-of-modelspytorchsemantic-routertransformervllm
指標
相対成長率（7日）+1%規模に対する直近7日の伸び
加速度-18%前週からの増加ペースの変化
定着率+224%trending初掲載30日後の伸びの維持
注目度453指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とTrending掲載（直近30日）
+29★/日デイリーマンスリー
2026/9/302026/10/29
帯はtrendingに載った日（濃いほど上位）
日別の掲載順位を表で見る（13日）
| 日付 | デイリー | マンスリー |
|---|---|---|
| 2026年10月15日 | go 10位 +24 | — |
| 2026年10月14日 | go 6位 +30 | — |
| 2026年10月5日 | go 14位 +15 | — |
| 2026年10月3日 | — | go 20位 +518 |
| 2026年10月2日 | — | go 14位 +537 |
| 2026年10月1日 | — | go 12位 +552 |
| 2026年9月30日 | go 4位 +18 | go 10位 +590 |
| 2026年9月29日 | — | go 5位 +597 |
| 2026年9月28日 | — | go 6位 +599 |
| 2026年9月27日 | — | go 5位 +620 |
| 2026年9月23日 | — | go 23位 +687 |
| 2026年9月22日 | — | go 22位 +690 |
| 2026年9月20日 | — | go 23位 +695 |
リポジトリ作成 2025/8/27・trending初掲載 2026/9/20
同じカテゴリの注目リポジトリ（LLM・機械学習）
- pst2154/nemotron-deciffusion
- todesking/slopsampler
- datalab-to/indra
- fudan-generative-vision/Remory
- google-pytorch/torch_tpu
ai-gateway 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | cheaper-inference/OmniRoute | 82,285 |
| 2 | BerriAI/litellm | 62,258 |
| 3 | QuantumNous/new-api | 50,898 |
| 4 | Kong/kong | 44,318 |
| 5 | decolua/9router | 31,591 |
| 6 | apache/apisix | 17,262 |
| 7 | casdoor/casdoor | 14,694 |
| 8 | higress-group/higress | 9,662 |
| 9 | maximhq/bifrost | 9,185 |
| 10 | tbphp/gpt-load | 7,177 |
| 11 | vllm-project/semantic-router | 6,303 |