BerriAI/litellm
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
100超のLLMをOpenAI形式で統一操作 — Bedrock、Azure、Anthropic、VertexAI、vLLMなど100以上のLLM APIをOpenAI形式で呼び出せるAIゲートウェイです。Rustコア＋Python SDKで高速・軽量を実現し、コスト管理やガードレール、ロードバランシング、ロギングも標準搭載。セルフホストでエンタープライズ利用も可能で、マルチLLM運用を統一したい開発者に刺さります。
LLM・機械学習ai-gatewayanthropicazure-openaibedrockgatewaylangchainlitellmllmllm-gatewayllmopsmcp-gatewayopenaiopenai-proxyrustrust-aivertex-ai
指標
相対成長率（7日）+1%規模に対する直近7日の伸び
加速度+2%前週からの増加ペースの変化
定着率+107%trending初掲載30日後の伸びの維持
注目度433指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とTrending掲載（直近30日）
+296★/日デイリーマンスリー
2026/9/302026/10/29
帯はtrendingに載った日（濃いほど上位）
日別の掲載順位を表で見る（12日）
| 日付 | デイリー | ウィークリー | マンスリー |
|---|---|---|---|
| 2026年10月23日 | python 10位 +107 | — | — |
| 2026年10月18日 | — | — | python 18位 +2,650 |
| 2026年10月16日 | — | — | python 18位 +2,720 |
| 2026年10月15日 | — | — | python 16位 +2,719 |
| 2026年10月14日 | — | — | python 15位 +2,711 |
| 2026年10月13日 | — | — | python 15位 +2,684 |
| 2026年10月12日 | — | — | python 14位 +2,632 |
| 2026年10月11日 | — | — | python 20位 +2,613 |
| 2026年10月10日 | 7位 +95 python 2位 | — | — |
| 2026年9月27日 | — | python 13位 +553 | — |
| 2026年9月26日 | — | python 11位 +568 | — |
| 2026年9月25日 | — | python 13位 +597 | — |
リポジトリ作成 2023/7/27・trending初掲載 2026/9/25
同じカテゴリの注目リポジトリ（LLM・機械学習）
- pst2154/nemotron-deciffusion
- todesking/slopsampler
- datalab-to/indra
- fudan-generative-vision/Remory
- google-pytorch/torch_tpu
ai-gateway 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | cheaper-inference/OmniRoute | 82,285 |
| 2 | BerriAI/litellm | 62,258 |
| 3 | QuantumNous/new-api | 50,898 |
| 4 | Kong/kong | 44,318 |
| 5 | decolua/9router | 31,591 |
| 6 | apache/apisix | 17,262 |
| 7 | casdoor/casdoor | 14,694 |
| 8 | higress-group/higress | 9,662 |
| 9 | maximhq/bifrost | 9,185 |
| 10 | tbphp/gpt-load | 7,177 |