vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
PagedAttentionで高速・低コストなLLM推論 — vLLMはUC Berkeley発のLLM推論・サービングエンジンで、PagedAttentionによるメモリ効率化や連続バッチング、多様な量子化形式に対応し高スループットを実現します。GPUだけでなくAMD/CUDA/TPUなど幅広いハードウェアに対応し、2000人超のコントリビューターが支える活発なOSSです。
LLM・機械学習amdblackwellcudadeepseekdeepseek-v3gptgpt-ossinferencekimillamallmllm-servingmodel-servingmoeopenaipytorchqwenqwen3tputransformer
根拠(直近7日): DevelopersIO 1 users
指標
相対成長率(7日)+1%規模に対する直近7日の伸び
加速度蓄積中前週からの増加ペースの変化
注目度スコア243指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とtrending掲載(直近30日)
初掲載+88★/日デイリー
2026/9/192026/10/18
帯は trending に載った日(濃いほど上位)
日別の掲載順位を表で見る(1日)
| 日付 | デイリー |
|---|---|
| 2026年10月8日 | python 12位 +67 |
リポジトリ作成 2023/2/9・trending 初掲載 2026/10/8
話題になっている場所
このリポジトリを主題に取り上げた投稿(日本語圏は日本語の技術メディアでの言及で、日本国内の利用実態ではない)。
日本語圏
同じカテゴリの注目リポジトリ(LLM・機械学習)
- lightseekorg/tokenspeed
- Niko1221/Strata
- debpalash/VoiceStudio
- opper-ai/jevman-benchmark
- experientiallabs/experiential
cuda 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | vllm-project/vllm | 94,008 |
| 2 | debpalash/VoiceStudio | 73,379 |
| 3 | jamiepine/voicebox | 57,865 |
| 4 | sgl-project/sglang | 37,256 |
| 5 | bendlang/bend | 23,754 |
| 6 | tracel-ai/burn | 16,125 |
| 7 | vosen/ZLUDA | 15,096 |
| 8 | NVIDIA/TensorRT-LLM | 14,843 |
| 9 | NVIDIA/cuda-rust | 3,732 |
| 10 | SemiAnalysisAI/InferenceX | 1,871 |