NVIDIA-NeMo/Switchyard

★3,395RustApache-2.0⑂ 336Issue 54更新 2026年10月17日

GitHubで見る ↗

Switchyard lets LLM applications route traffic across models and providers while preserving native OpenAI and Anthropic API compatibility - enabling flexible model selection, benchmarking, and cost/performance optimization.

LLMコールを最安モデルへ自動振り分け — Switchyardは各LLM呼び出しを要件を満たせる最安モデルへ自動ルーティングするツールです。OpenAI/Anthropic API互換を保ちながら、NeMo Relayプラグイン、LiteLLM連携、スタンドアロンプロキシ、ライブラリ埋め込みなど複数の導入経路を提供し、既存のエージェントコードを変更せずコスト最適化とベンチマークを実現します。

指標

指標の定義はこのサイトについて を参照。

star推移とtrending掲載（直近30日）

リポジトリ作成 2026/5/19・trending 初掲載 2026/9/20

同じカテゴリの注目リポジトリ（LLM・機械学習）

• lightseekorg/tokenspeed制御面とPython実行面を分離した新型LLM推論エンジン
• Niko1221/StrataゲーミングPCで1250億パラメータAIを動かす
• debpalash/VoiceStudio完全ローカルで動くElevenLabs代替の音声スタジオ
• opper-ai/jevman-benchmarkLLMにパックマンを操作させるベンチマーク
• experientiallabs/experientialLLMゲートウェイでトラフィックからコスト削減とモデル最適化

LLM・機械学習 の全リポジトリを見る →