NVIDIA/TensorRT-LLM
TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.
NVIDIA製、GPU最適化LLM推論エンジン — NVIDIA GPU上でLLMを高速推論するためのライブラリです。専用カーネルや効率的なランタイムにより、PythonからLLMを定義しつつ最新の最適化を適用でき、Blackwell世代GPUやMoEモデルにも対応。大規模サービング用途で性能を追求するエンジニアに向いています。
指標
相対成長率（7日）+0%規模に対する直近7日の伸び
加速度+112%前週からの増加ペースの変化
注目度スコア433指標を0〜100に揃えて合成
指標の定義はこのサイトについて を参照。
star推移とtrending掲載（直近30日）
初掲載+13★/日デイリー
2026/9/192026/10/18
帯は trending に載った日（濃いほど上位）
日別の掲載順位を表で見る（1日）
| 日付 | デイリー |
|---|---|
| 2026年9月20日 | python 5位 +14 |
リポジトリ作成 2023/8/16・trending 初掲載 2026/9/20
同じカテゴリの注目リポジトリ（LLM・機械学習）
- lightseekorg/tokenspeed
- Niko1221/Strata
- debpalash/VoiceStudio
- opper-ai/jevman-benchmark
- experientiallabs/experiential
cuda 内の順位
| # | リポジトリ | ★ |
|---|---|---|
| 1 | vllm-project/vllm | 94,008 |
| 2 | debpalash/VoiceStudio | 73,379 |
| 3 | jamiepine/voicebox | 57,865 |
| 4 | sgl-project/sglang | 37,256 |
| 5 | bendlang/bend | 23,754 |
| 6 | tracel-ai/burn | 16,125 |
| 7 | vosen/ZLUDA | 15,096 |
| 8 | NVIDIA/TensorRT-LLM | 14,843 |
| 9 | NVIDIA/cuda-rust | 3,732 |
| 10 | SemiAnalysisAI/InferenceX | 1,871 |