LLM・機械学習
193件のリポジトリ（注目度順） — 5ページ目
abi/screenshot-to-code画面デザインを瞬時にコードへ変換するAIツール — スクリーンショットやFigmaデザイン、画面録画をAIで解析し、HTML/Tailwind/React/Vue/Bootstrapなどの実装可能なコードに自動変換します。Gemini・GPT・Claudeなど複数の最新モデルを切り替えて比較できる点が特徴で、デザインからプロトタイプ作成までの工程を大幅に短縮できます。フロントエンド開発者やデザイナーに便利です。
Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue)
antirez/ds4DeepSeekをMac/CUDA/ROCmでローカル推論するC実装 — antirez氏によるDwarfStarは、DeepSeek V4 Flash/PROやGLM 5.x、Qwen3.8などの最新オープンウェイトモデルを、Mac・NVIDIA・AMD(ROCm)のコンシューマー機で動かすことに特化した軽量推論エンジンです。汎用GGUFランナーではなく、自前のGGUFファイルとモデル群に最適化されている点が特徴で、SSDストリーミングによる大容量モデル対応やマルチGPU対応など、個人所有可能なハードウェアで最良のLLM体験を追求しています。
DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm
SamsungLabs/LittleBitLLMを0.1ビットまで圧縮するLittleBit — Samsung発のLLM超低ビット量子化手法の公式実装です。重み行列を低ランク潜在因子に分解しバイナリ化することで1〜0.1ビット/重みという極端な圧縮を実現し、推論時のアーキテクチャは変更不要です。後継のLittleBit-2では初期化段階でJoint-ITQによる潜在空間の整合を行い、追加コストなしで精度を改善します。Llama、Qwen、Gemmaなど主要モデルに対応しています。
Official implementation of LittleBit (NeurIPS 2025) and its follow-up LittleBit-2 (ICML 2026)
pulse-energy-eu/slopshapeAI生成B2Bブログ記事を見抜く検証用リリース — 論文「SlopShapeもAI生成商用Web文章を構造的特徴だけで検出する研究の再現パッケージです。2,250件の実記事と5モデルによる11,250件のAI生成記事を比較し、構造特徴のみでmacro-F1 97.0を達成。フィクション検出研究StoryScopeの知見がB2Bブログでも成立することを検証コード・プロンプト付きで追体験できます。
Release package for SlopShape: Identifying AI-Generated Commercial Web Content (verification artifacts, instrument, prompts, code)
FlashML-org/FreeToken290B超のMoEモデルを個人PCで動かすエッジ推論エンジン — FreeTokenはデータセンター級の巨大MoEモデルをゲーミングPCなどの一般ハードウェアで高速に動かすエッジ特化型推論エンジンです。GPU・CPU・メモリを統合的に扱うq⋆ポリシーやセマンティックキャッシュ、弾性メモリ管理により、DeepSeek-V4やQwen、GLMなど大規模モデルのローカル実行を効率化します。
FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
firelex/jeff0.8Bの高速判断モデルJeffで大型LLMの前段フィルタを — Jeffは0.8Bの軽量「System 1」モデルで、LoRAアダプタを差し替えて様々な判断タスクをミリ秒単位でこなします。27B級の大型モデルの前段に置くことで、精度を落とさず数十倍の高速化とメモリ節約を実現し、エージェント基盤のコスト削減に役立ちます。
Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.
tracel-ai/burnRustでPyTorch超え目指すテンソル/DLフレームワーク — Burnは学習と推論を同一コードで実行できるRust製テンソルライブラリ兼深層学習フレームワークです。ONNXエクスポートなしに訓練コードがそのまま本番で動き、カーネル融合JITにより動的グラフの柔軟さと高速性を両立します。CUDA/Metal/WebGPU/ROCmなどマルチプラットフォーム対応で、研究向けの速い編集・実行サイクルも実現しています。
Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.
ai-dynamo/dynamoNVIDIA発、データセンター規模の分散推論基盤Dynamo — vLLM・SGLang・TensorRT-LLMといった推論エンジンを置き換えず、その上位で複数ノードを協調動作させるオーケストレーション層です。分離型サービング（disaggregated serving）、インテリジェントルーティング、多層KVキャッシュ、自動スケーリングを組み合わせ、LLMやマルチモーダル・動画生成ワークロードのスループット最大化とレイテンシ低減を実現します。RustとPythonで実装され、大規模LLM推論基盤を運用する企業・研究者に刺さる内容です。
A Datacenter Scale Distributed Inference Serving Framework
PrismML-Eng/Bonsai-demo27Bクラスの推論を5.9GBで動かす三値量子化モデル — Bonsai 2 27Bは27B規模のLLMをFP16比98.2%の性能を保ったまま三値量子化し5.9GBに圧縮、Mac・Linux・Windows・CPUでローカル実行できるデモです。ビジョン入力や262Kトークンの長文脈、エージェント型ツール呼び出しにも対応し、llama.cppとMLXの両バックエンドをサポートする点が特徴です。
Bonsai Demo
NVIDIA/TensorRT-LLMNVIDIA製、GPU最適化LLM推論エンジン — NVIDIA GPU上でLLMを高速推論するためのライブラリです。専用カーネルや効率的なランタイムにより、PythonからLLMを定義しつつ最新の最適化を適用でき、Blackwell世代GPUやMoEモデルにも対応。大規模サービング用途で性能を追求するエンジニアに向いています。
TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.
deepfates/impDSPyをElixir/BEAMに移植した自己改善LLMプログラム — ImpはPythonのDSPyをElixirに完全移植したライブラリで、型付きのLMステップをOTPのプロセスとして動かせます。プロンプトやパーサーを手書きせず、シグネチャから入出力を宣言し、ラベル付き例とメトリクスで自動的にプログラムを最適化できます。エージェントや検索も含め、BEAMの並行性・耐障害性を活かしたLLMアプリ構築を目指す開発者に向いています。
declarative self-improving language-model programs for Elixir 😇
mudler/LocalAIGPU不要で動く、OpenAI互換のオープンソースAIエンジン — LocalAIはOpenAI API互換のローカルAI実行エンジンで、LLMだけでなく画像・音声・動画生成まで幅広いモデルをGPUなしで動かせます。llama.cppやvLLM、whisper.cppなど最良のバックエンドをそれぞれ個別イメージでラップする「小さなコア」構成が特徴で、クラウド依存を減らしたい開発者やセルフホスト志向のチームに向いています。
LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.
PostHog/jeeves思考してから判断する9B規模の意思決定モデル — Jeevesは、yes/noや多肢選択・評価など複数形式の質問にJev互換APIで答える9B規模のQwen3.5ベース分類器です。SFTとCISPOで学習し、拡散ドラフターを使って判断前に推論する点が特徴。未学習の分布外データやJevBenchでKev-9BやJevを上回る精度を達成し、学習コードとデータも公開されています。
Jeeves – Reasoning improves Jev-like decision models
microsoft/TRELLIS.2MicrosoftのTRELLIS.2、超高速・高精細な画像から3D生成AI — Microsoft発の40億パラメータ3D生成モデルです。新提案の『O-Voxel』表現により、従来のメッシュ生成で苦手だった開けた面や非マニフォールド構造も忠実に再現できます。H100で1024³解像度・PBRマテリアル付きの3Dアセットを約17秒で生成でき、高速・高品質の両立が強みです。
Native and Compact Structured Latents for 3D Generation
deepseek-ai/DeepGEMMDeepSeek製、LLM向け高速GEMMカーネル — DeepSeek-AIによるCUDA製テンソルコアカーネルライブラリです。FP8/FP4/BF16のGEMM、MoE通信オーバーラップ、MQAスコアリングなどLLM計算の核をDeepJITで実行時コンパイルし、軽量な設計ながら専門チューニング並みの性能を実現しています。
DeepGEMM: clean and efficient BLAS kernel library on GPU
kserve/kserve生成AIと予測AIを統合するKubernetes推論基盤 — KServeはKubernetes上でLLM推論と従来の機械学習モデル推論を単一プラットフォームで扱えるCNCFプロジェクトです。vLLMによる高速化やOpenAI互換API、KVキャッシュオフロードなど生成AI向け機能に加え、TensorFlow/PyTorch/XGBoostなど多様なフレームワークのモデルサービングやCanaryデプロイ、説明可能性もサポートし、MLOps基盤を統一します。
Standardized Distributed Generative and Predictive AI Inference Platform for Scalable, Multi-Framework Deployment on Kubernetes
danielmiessler/FabricAIプロンプトを部品化する統合フレームワーク — FabricはAI活用を「統合の問題」と捉え、クラウドソースされたプロンプト集をCLIやREST APIから呼び出せる形でモジュール化したフレームワークです。乱立するAIアプリを個別に使うのではなく、目的別プロンプトを一元管理・再利用できる点が特徴で、コマンドライン志向の開発者に向いています。
Fabric is an open-source framework for augmenting humans using AI. It provides a modular system for solving specific problems using a crowdsourced set of AI prompts that can be used anywhere.
Sparticle62ops/pssaTransformerに依存しないRust製の新アーキテクチャ言語モデル — PSSAはPyTorchやTensorFlowを使わず、Rustでスクラッチ実装された状態空間ベースの小型言語モデルです。トークンを逐次処理し、ハイパボリック空間の記憶バンクと自己書き換え型の重みを持つことで、同条件のTransformerより学習が速く推論も約12倍高速という独自アプローチが特徴です。アーキテクチャ研究者やRustでMLを実装したい人に刺さる内容です。
PSSA: a non-transformer language model written from scratch in Rust. Recurrent state-space layer, episodic memory, self-modifying weights, CUDA training, and a full terminal dashboard.
janhq/jan完全オフラインで動くChatGPT代替「Jan」 — JanはRust/Tauriで作られたオープンソースのChatGPT代替アプリで、llama.cppを使いLLMを100%オフラインでローカル実行できます。データを外部送信せずプライバシーを守りたい人や、自分のPCでLLMを完全に制御したい開発者に向いています。Microsoft StoreやFlathubから簡単に導入可能です。
Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.
NVIDIA/Model-OptimizerNVIDIA製、推論高速化のためのモデル最適化統合ライブラリ — 量子化・蒸留・枝刈り・NAS・投機的デコーディングなど最新の最適化手法を一つのPython APIで扱えるNVIDIA公式ライブラリです。Hugging Face・PyTorch・ONNXモデルを入力し、TensorRT-LLMやvLLM、SGLangなど推論フレームワークへそのまま展開できる量子化済みチェックポイントを出力できる点が特徴です。
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
run-llama/liteparse完全ローカルで動く高速PDF解析ツール — LlamaIndexが開発したRust製OSSのPDF解析ツールです。PDFiumで1ページ数msの高速なテキスト抽出を行い、Tesseract内蔵やOCRサーバー連携も可能。クラウド不要でローカル完結し、Markdown/JSON出力やバウンディングボックス取得もでき、RAGパイプライン構築に向いています。複雑な文書はクラウド版LlamaParseへの誘導も用意されています。
A fast, helpful, and open-source document parser
mozilla-ai/otari自前で運用できるLLMゲートウェイ Otari — OpenAI互換の単一エンドポイントで40以上のプロバイダーをルーティングできる自己ホスト型LLMゲートウェイです。仮想APIキー発行・予算管理・利用量トラッキングを備え、LiteLLMの代替としてMozilla AIが開発。プロバイダー資格情報をゲートウェイ内に隠蔽でき、失敗時のルーティングフォールバックにも対応します。
Open-source, OpenAI-compatible LLM gateway you run yourself. One endpoint for 40+ providers, with virtual keys, budgets, and usage tracking.
microsoft/VibeVoiceMicrosoftのオープンソースTTS/ASR統合音声AI — VibeVoiceはMicrosoftが公開するオープンソースの音声AIで、音声合成に加えて「誰が何を話したか」をリアルタイム認識するストリーミングASRも提供します。CPU上でも1.58GBまで軽量化され、GPUなしでリアルタイム推論が可能な点が特徴で、エッジ用途や多言語対応（10言語）を求める開発者に刺さります。
Open-Source Frontier Voice AI
huggingface/tokenizersRust製の超高速トークナイザー — Hugging FaceによるRust実装のトークナイザーで、BERTやGPT、Llamaなど主要モデルの事前学習済みトークナイザーをそのまま読み込んで高速に処理できます。Python等の言語バインディングも提供し、研究から本番運用まで業界標準を目指す設計が特徴です。
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
microsoft/graphragナレッジグラフで賢くなるRAG基盤 — MicrosoftによるGraphRAGは、LLMを使って非構造化テキストからナレッジグラフを構築し、従来のベクトル検索型RAGより深い文脈理解と推論を可能にする研究プロジェクトです。プライベートな大量文書に対する質問応答精度を高めたい開発者・研究者に適しています。現在はメンテナンスモードですがバグ修正は継続されます。
A modular graph-based Retrieval-Augmented Generation (RAG) system
google-research/timesfmGoogle製の時系列予測基盤モデル TimesFM 3.0 — デコーダーオンリー構造で事前学習された時系列予測基盤モデルです。TimesFM 3.0では多変量予測や過去・未来の共変量サポートが加わり、ゼロショット汎化性能が向上しています。BigQuery MLやVertex AIなどGoogle製品にも統合され、実務での時系列予測に直接活用できる点が特徴です。
TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting.
prabanta-dev/janasRAM超えLLMをllama.cppより高速推論するC製エンジン — PythonやPyTorchに依存しない純CのLLM推論エンジンです。32GBメモリのノートPCで48GBのQwen3-Next-80Bを動かし、llama.cppより最大8倍以上高速な生成速度を達成。投機的デコーディングやMoE、量子化・Vulkan/AVX2対応で、RAM容量を超える大型モデルをCPU/GPUで快適に動かせます。
37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cpp on all 13 models compared in Q4_K_M. LLMs bigger than your RAM, pure C, CPU or GPU.
onyx-dot-app/onyx50以上のアプリを横断して知識を繋ぐセルフホスト型AIコンテキスト層 — Onyxは50以上の業務アプリから情報をインデックス化し、あらゆるLLMに文脈として提供するオープンソースのAIプラットフォームです。セルフホストでデータ主権を保ちつつ、Web検索やサンドボックスなどの高度な機能をRAGに追加し、汎用チャットボットではなく「AIの同僚」を目指しています。
Open Source AI Platform - AI Chat with advanced features that works with every LLM
songquanpeng/one-api主要LLMを一本化するAPIゲートウェイ — OpenAIやAzure、Claude、Gemini、国産中国系モデルなど多数のLLMを、OpenAI互換の単一APIに統一するゲートウェイです。単一バイナリ＆Docker対応ですぐ使え、APIキーの一元管理や再配布にも対応しているため、複数プロバイダを扱う開発者や運用者に便利です。
LLM API 管理 & 分发系统，支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型，统一 API 适配，可用于 key 管理与二次分发。单可执行文件，提供 Docker 镜像，一键部署，开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.
invoke-ai/InvokeAIStable Diffusionを操る高機能WebUI — Invokeは画像生成AI「Stable Diffusion」向けの業界最高水準のWebUIを備えたクリエイティブツールです。txt2imgやinpainting、ワークフロー構築などプロ向け機能を商用利用可能なライセンスで無料提供し、複数の商用製品の基盤にもなっています。
Invoke is a leading creative engine for Stable Diffusion models, empowering professionals, artists, and enthusiasts to generate and create visual media using the latest AI-driven technologies. The solution offers an industry leading WebUI, and serves as the foundation for multiple commercial products.