LLM・機械学習
155件のリポジトリ(注目度順) — 5ページ目
MLモデル不要、CPUだけで動くPDF構造抽出ツール — paparoはPDFをMarkdown・JSON・Word・Excelへ変換するオープンソースAPIです。テキストだけでなく読み順・表・数式・図の位置まで構造を復元できるのが特徴で、ML不要・CPUのみで高速動作し、ブラウザ上でも処理できるためファイルを外部に保存せず安全に使えます。RAGや検索、LLM用のデータ前処理に向いています。
Fast, open-source PDF text extraction API. Files never stored.
ストリーミング3D再構成のFoundationモデル — LingBot-Mapは、座標の基準化・幾何的手がかり・長期ドリフト補正を単一のストリーミング型TransformerアーキテクチャにまとめたFeed-forward型3D基礎モデルです。Paged KVキャッシュによる高効率推論で、1万フレーム超の長時間系列でも約20FPSの安定動作を実現し、既存のストリーミング手法や反復最適化手法を上回る再構成精度を達成しています。
[ECCV 2026 Best Paper Award Candidate] LingBot-Map: Geometric Context Transformer for Streaming 3D Reconstruction
ベクトルDB不要、知識が蓄積するLLM知識ベース — OpenKBは生ドキュメントをLLMでWiki形式の知識ベースに自動構築するCLIツールです。従来のRAGが毎回ゼロから検索し直すのに対し、PageIndexのベクトルレス・推論型検索を使い、要約や関連ページ、相互参照を自動生成・維持することで知識が時間とともに蓄積していく点が特徴です。長文ドキュメントの扱いやマルチモーダル対応にも強みがあります。
OpenKB: Open LLM Knowledge Base
複雑な表やレイアウトも読み取る最新OCRモデル — Chandra OCR 2は画像やPDFを表・手書き文字・複雑なレイアウトまで保持したままHTML/Markdown/JSONに変換する最新のOCRモデルです。従来のOCRが苦手とするレイアウト保持を強みとし、Datalabのマネージド基盤では大量ページの高速バッチ処理にも対応しています。文書構造を忠実に再現したいドキュメントAI開発者に特に刺さる選択肢です。
OCR model that handles complex tables, forms, handwriting with full layout.
ロボティクスモデル専用の高速推論ランタイム — ロボット向けVLA/VLAモデルに特化した高性能サービングフレームワークです。Jetson ThorやRTX 4090/5090向けにFP8・Tritonカスタムカーネルを用いた専用エンジンを提供し、最大33.78倍の推論高速化を実現。Python/WebSocket両対応で8系列のロボティクスモデルを即実行できる点が特徴です。
High-Performance Serving Runtime for Robotics Models
主要LLMを一本化するAPIゲートウェイ — OpenAIやAzure、Claude、Gemini、国産中国系モデルなど多数のLLMを、OpenAI互換の単一APIに統一するゲートウェイです。単一バイナリ&Docker対応ですぐ使え、APIキーの一元管理や再配布にも対応しているため、複数プロバイダを扱う開発者や運用者に便利です。
LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.
ナレッジグラフで賢くなるRAG基盤 — MicrosoftによるGraphRAGは、LLMを使って非構造化テキストからナレッジグラフを構築し、従来のベクトル検索型RAGより深い文脈理解と推論を可能にする研究プロジェクトです。プライベートな大量文書に対する質問応答精度を高めたい開発者・研究者に適しています。現在はメンテナンスモードですがバグ修正は継続されます。
A modular graph-based Retrieval-Augmented Generation (RAG) system
RustでPyTorch超え目指すテンソル/DLフレームワーク — Burnは学習と推論を同一コードで実行できるRust製テンソルライブラリ兼深層学習フレームワークです。ONNXエクスポートなしに訓練コードがそのまま本番で動き、カーネル融合JITにより動的グラフの柔軟さと高速性を両立します。CUDA/Metal/WebGPU/ROCmなどマルチプラットフォーム対応で、研究向けの速い編集・実行サイクルも実現しています。
Burn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.
PDFをLLM学習用にOCR変換するツール — PDFや画像文書を数式・表・手書き文字まで対応したクリーンなMarkdownに変換するツールキットです。7BパラメータのVLMを用いて複雑なレイアウトでも自然な読み順を再現し、100万ページあたり200ドル未満という効率でLLM学習データセット作成に活用できます。
Toolkit for linearizing PDFs for LLM datasets/training
ブラウザだけで完結するNSFW画像判定 — TensorFlow.jsを使い、サーバーに画像を送らずクライアント側だけで不適切画像を検出できるJSライブラリです。モデルサイズに応じて約90〜93%の精度を実現し、Node.jsやReact Nativeでも利用可能。プライバシーを保ちつつコンテンツ管理したい開発者に向いています。
NSFW detection on the client-side via TensorFlow.js
決定木の中身を“見える化”するライブラリ — 決定木やランダムフォレスト、XGBoost・LightGBMなどのモデルを直感的に可視化できるPythonライブラリです。単なる木構造の図示に留まらず、特徴量の分岐やデータ分布まで表示することでモデルの解釈を助けてくれるため、機械学習を学ぶ人やモデル診断を行うデータサイエンティストに特に役立ちます。
A python library for decision tree visualization and model interpretation.
画像のNSFW判定をKerasで実現 — 60GB超のデータで学習したInception V3ベースのモデルで、画像をdrawings・hentai・neutral・porn・sexyの5分類に判定します。93%の精度を達成しており、NSFWコンテンツの自動フィルタリングをアプリに組み込みたい開発者に便利です。CLIやPythonから手軽に利用できます。
Keras model of NSFW detector
Spivak微積分学を丸ごとLean 4で形式化 — Michael Spivakの名著『Calculus』第3版・第4版の全30章と付録9本の定義・定理・問題をLean 4で形式化したプロジェクトです。Spivak自身の独自定義(ε-δ論法や上下和積分など)を基点にMathlibの関数と同一視し、さらにeやπの超越性証明、Liouvilleの定理まで踏み込んでいる点が特徴で、形式化数学や解析学に関心のある人に刺さる内容です。
Michael Spivak's Calculus formalized in Lean 4: every theorem and every problem of all 30 chapters and 9 appendices, in both the 3rd and 4th editions
MisskeyのNSFW検出を切り出すサイドカー — MisskeyのAiService.detectSensitiveをONNX Runtimeベースの独立HTTPサービスとして切り出した公式実装です。画像正規化やしきい値判定は本体側に残し、推論処理のみを担うことでネイティブMLスタックを隔離できるのが特徴です。
Official reference implementation of external sensitive media detector for Misskey
ローカル推論で動く型付き判定モデル「Jeff 1」 — 自由文生成の代わりにラベルと確率を返す、型付き意思決定・ファクトチェック用オープンウェイトモデルです。Qwen3-4B向けLoRAアダプタとして構築され、クローズドなJev APIと互換性を保ちつつローカルで完結します。9,730件のファクトチェックデータでJev 1.13.0に匹敵する精度を実証しています。
Jeff 1 — local open-weight typed decision / fact-checking model (Jev-compatible)
C/C++で動くLLM推論エンジンllama.cpp — GPUなしでも動作するC/C++製のLLM推論エンジンで、量子化により軽量な環境でも大規模モデルを実行できます。GGML基盤を使い、curl一発インストールやDocker対応、REST API提供など、ローカルLLM実行の事実上の標準として広く使われています。
LLM inference in C/C++
1ビットLLMを高速推論するMicrosoft公式フレームワーク — BitNet.cppはMicrosoftが公開する1ビットLLMの公式推論エンジンです。I2_S量子化によりCPU/GPU上でF16比最大2倍超の高速化を実現し、埋め込みモデルや音声認識エンジンVibeASR.cppにも展開されています。省メモリ・省電力でLLM推論を動かしたい開発者に最適です。
Official inference framework for 1-bit LLMs
トークナイザー不要の多言語TTS「VoxCPM2」 — OpenBMBによるトークナイザーフリーのTTSモデルで、多言語の音声生成・創造的なボイスデザイン・高精度な音声クローニングを実現します。MiniCPM系の技術をベースに、より自然で表現力豊かな音声合成を目指す点が特徴で、音声合成の研究者や開発者に刺さる内容です。
VoxCPM2: Tokenizer-Free TTS for Multilingual Speech Generation, Creative Voice Design, and True-to-Life Cloning
4GBのGPUで700億パラメータLLMを動かす — AirLLMは量子化や蒸留なしに、70Bクラスの大規模言語モデルをわずか4GBのGPUメモリで推論できるライブラリです。レイヤー単位で重みをストリーミングすることで、Kimi K2やDeepSeek-V3といった超巨大モデルも省VRAMで動作・学習でき、個人環境でのLLM活用の敷居を大きく下げます。
AirLLM 2.8T LLM inference with single 4GB GPU
CPUで動く軽量・高性能TTS — KittenTTSはCPUだけでリアルタイム動作するオープンソース音声合成ライブラリです。1.7Bパラメータの1-bitモデルは5秒の音声サンプルだけで声をクローンでき、表現制御も可能。GPU不要な15M〜80Mの軽量モデルも同梱され、組み込み用途に最適です。
Open-source State-of-the-art TTS model which runs on a CPU 😻
ローカルで動く最強クラスの音楽生成AI — ACE-Step 1.5は商用サービスに匹敵、あるいは凌駕する性能を持つオープンソースの音楽生成モデルです。Mac・AMD・Intel・CUDAなど多様な環境で動作し、新たに4Bパラメータの高音質XL版DiTデコーダも追加されました。無料で自分のPCに音楽生成AIを構築したい開発者やクリエイターに最適です。
The most powerful local music generation model that outperforms almost all commercial alternatives, supporting Mac, AMD, Intel, and CUDA devices.
NVIDIA製、ペルソナ制御可能な全二重音声対話AI — NVIDIAが公開したPersonaPlexは、テキストのロールプロンプトと音声条件付けでペルソナを制御できるリアルタイム全二重音声対話モデルです。Moshiアーキテクチャを基盤に、低遅延で一貫したキャラクター性を持つ自然な音声対話を実現します。
PersonaPlex code.
RustでGraph-RAGを1バイナリ+Postgresで実現 — EdgeQuakeはLightRagに触発されたGraph-RAGエンジンで、文書を知識グラフ化して出典付きの回答を生成します。Rust製の単一バイナリとPostgresだけで動き、Ollamaやクラウド各種LLMを自由に選べるため、ローカル完結もクラウド利用も柔軟に構築できる点が特徴です。
EdegQuake 🌋 High-performance GraphRAG inspired from LightRag written in Rust; Transform documents into intelligent knowledge graphs for superior retrieval and generation
音声・マルチモーダルAIを高速配信するSGLang派生フレームワーク — SGLang-OmniはTTSやASR、統合マルチモーダルモデルに特化した高性能サービングフレームワークです。SGLangの技術基盤を活かし、ストリーミングや分散推論、OpenAI互換APIに対応することで、音声・マルチモーダルAIの実運用を容易にします。
SGLang-Omni is a high-performance serving framework for audio models (TTS, ASR) and unified multimodal models.
わずか100万パラメータの爆速CPU OCR「Indra」 — Indra OCRはパラメータ数わずか1MながらCPUで毎秒49ページを処理できるOCRモデルです。TesseractやPaddleOCRより最大24倍高速でありながら精度も上回り、PDFや画像をMarkdown・プレーンテキスト・JSON(バウンディングボックス付き)に変換できます。GPU不要で軽量なドキュメント解析を求める開発者に向いています。
Fast CPU OCR: line detection, CTC recognition, reading order, markdown
ジェイルブレイクPS5がLLMサーバーになる — ジェイルブレイクしたPS5のGPU上でllama.cppを動かし、GGUFモデルをネイティブ実行してOpenAI/Anthropic互換APIで家中の端末に配信できるプロジェクトです。PCもクラウドも不要で、TV画面向けUIを備えた自宅専用のプライベートLLMサーバーとして使えます。Qwen系モデルや決定モデルにも対応しています。
llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting with Qwen 3.8
GPU不要、CPUだけで動く多言語リアルタイム字幕 — 早耳(hayamimi)はCPUのみで動く多言語音声認識ツールです。言語ごとに最適な専門モデルへ自動振り分けし、量子化ONNXモデルで高速推論。日本語でWhisper-large-v3-turboを大幅に上回る精度(CER3.8%)を達成しつつ、発話終了後約100msで字幕を確定表示します。
早耳 - Real-time multilingual speech-to-text on CPU only. Live subtitles, browser dashboard, speaker labels, translation. No GPU, no cloud.
RAM超えLLMをllama.cppより高速推論するC製エンジン — PythonやPyTorchに依存しない純CのLLM推論エンジンです。32GBメモリのノートPCで48GBのQwen3-Next-80Bを動かし、llama.cppより最大8倍以上高速な生成速度を達成。投機的デコーディングやMoE、量子化・Vulkan/AVX2対応で、RAM容量を超える大型モデルをCPU/GPUで快適に動かせます。
37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cpp on all 13 models compared in Q4_K_M. LLMs bigger than your RAM, pure C, CPU or GPU.
要約で失われる文脈を学習記憶で補う — 長期対話でコンテキストを圧縮(要約)する際、要約文の後に学習済みの「残差メモリ」を追加することで、凍結したモデルでも過去の作業履歴を踏まえた継続ができる手法です。Qwenセッションでのオンライン学習にも対応し、Hugging Face Daily Papersで2位を獲得した注目の研究実装です。
Remory: Learning Residual Memory for Context Compaction
デザイン画像を生成・レイヤー分解するAIモデル — inclusionAIによる6Bパラメータのオープンソースモデル群です。UIやポスターなど文字入りのビジュアルデザインを生成するモデルと、フラット化された画像を編集可能な透明レイヤーに分解するモデルの2種類を提供し、UIコーディングやPPT再現などのエージェントスキルとも連携できます。