gpu

pytorch/pytorch

PyTorch：動的計算グラフのPython深層学習フレームワーク — NumPy感覚で使えるGPU対応テンソル計算と、テープ方式のautogradによる動的ニューラルネットワーク構築ができるライブラリです。Python-Firstな設計で命令的にモデルを書けるため、研究から実運用まで広く使われ、TensorFlowなどの静的グラフ系フレームワークとの差別化点になっています。

Tensors and Dynamic neural networks in Python with strong GPU acceleration

bendlang/bend

AI時代の証明付き超高速プログラミング言語Bend — BendはAIが実装したコードの正しさを数学的証明で検証できる新言語です。依存型と線形性により、CPUではC言語並み、GPUではCUDA並みの速度を実現しつつ、証明チェックも既存の定理証明系より桁違いに高速です。AIとの協働開発で「意図のズレ」を防ぎたい開発者に刺さる設計です。

Bend 2: a fast language that blocks AI mistakes via proof. Install: curl -fsSL https://bend-lang.com/install.sh | sh

gfx-rs/wgpu

WebGPU標準を実装した純Rust製グラフィックスAPI — Vulkan・Metal・D3D12・OpenGLに対応し、wasm上ではWebGL2やWebGPUでも動く純Rust製のグラフィックスAPIです。WebGPU標準に基づく設計で、FirefoxやServo、Denoの内部実装にも採用されており、クロスプラットフォームなGPUプログラミングを安全かつ統一的なAPIで実現します。

A cross-platform, safe, pure-Rust graphics API.

koharu-rs/koharu

Rust製・ローカル完結の漫画翻訳AIツール — 物体検出・OCR・インペイント・LLMを組み合わせ、漫画の翻訳作業を自動化するRust製GUIツールです。ビジョンモデルとLLMを全てローカル実行するためデータを外部に出さず、プライバシーを保ちつつ高速に翻訳パイプラインを回せる点が特徴です。

ML-powered manga translator, written in Rust.

NVIDIA/cuda-rust

CUDAカーネルを純粋なRustで書けるコンパイラ — NVIDIA発のcuda-oxideは、rustc独自バックエンドで#[kernel]関数をCUDA PTXへ直接コンパイルするプロジェクトです。DSLや外部言語バインディング不要で、ホスト・デバイスコードを同一ファイルに記述する単一ソース設計が特徴。型安全な共有メモリ操作やスコープ付きアトミック、warp/cluster操作など、Rustらしい安全な抽象化でGPUプログラミングに新しい選択肢を提示します。

NVIDIA's CUDA platform for Rust. Host runtime crates plus Tile (cutile-rs) and SIMT (cuda-oxide) kernel programming models in idiomatic Rust.

TheTumultuousUnicornOfDarkness/CPU-X

CPU-X is a Free software that gathers information on CPU, motherboard and more

SemiAnalysisAI/InferenceX

SemiAnalysis発、オープン推論ベンチマーク基盤 — vLLM・SGLang・TensorRT-LLM等、NVIDIA/AMD双方のGPU上でLLM推論性能を統一的に計測するOSSプラットフォームです。エンドツーエンド推論、通信、カーネルレベルまで階層的にベンチマークでき、OpenAIやMetaなど大手も活用。実運用に即した100万トークン超のマルチターンAgentXベンチマークも特徴です。

Open Source AI Accelerator Research Platform Standard / 开源推理研究平台

l0ng-ai/tty7

ウィンドウを閉じても死なないターミナル「tty7」 — tty7はシェルをバックグラウンドのサーバーに常駐させ、ウィンドウはそれを表示するだけという設計のRust製ターミナルです。tmuxの設定や別キー操作を覚えずにセッションが生き続け、26種のAIコーディングCLIをサイドバーで一元管理できる点が特徴です。GPUレンダリングとAlacrittyのVTコアを採用し、SSH先でも同じ体験が得られます。

The terminal that outlives its window. Shells survive quitting the app, agents can drive other agents, and remote machines work the same way. Pure Rust, GPU-rendered.

eagle-hq/EAGLE-4

Official Inference Code of EAGLE-4

sorrycc/Mayoi

A small, fast code editor written in Go, with a native GPU-drawn UI (no webview, no Electron)

ymcrcat/rgpu

MacでもCUDA不要、リモートGPUでPyTorchを動かす — CUDA非搭載のMacなどからPyTorchテンソル演算をリモートのNVIDIA GPUに透過的にオフロードできるツールです。専用deviceを使う簡単な方式と、既存のLinux CUDAバイナリをそのまま動かせるCUDAシム方式の2経路を提供し、ローカル開発環境を変えずに手元に無いGPUを活用できます。

Keep Python on your laptop. Run PyTorch operations and hold tensors on a remote GPU, including from a Mac with no CUDA installation.