LLM・機械学習

pst2154/nemotron-deciffusion

1GPU・1パスで構造化判断を返す拡散型LLM — NVIDIA Nemotron-Labs-Diffusion-8BをベースにしたDeciffusion 8B v2は、JSON状態と最大512個の質問を受け取り、生成やCoTなしで1回の双方向プリフィルで全選択肢の確率を返します。vLLM対応コンテナやNVFP4量子化版も提供され、ライセンス追跡済みデータで学習された実務向けの判断特化モデルです。

Nemotron Deciffusion 8B v2: big-model decisions, one GPU, one pass

todesking/slopsampler

AIっぽい「スロップ文章」を収集・分析するプロジェクト — 日本語文章に現れるAI Slop表現（AI生成特有の不自然な言い回しや定型句）を収集・分析するプロジェクトです。複数のテーマとモデルで文章を生成し、分析用モデルで不自然な表現を抽出する手法を採っており、LLM出力の「それっぽさ」を定量的に捉えたい人に刺さる内容です。

スロップすぎるよ展

datalab-to/indra

わずか100万パラメータの爆速CPU OCR「Indra」 — Indra OCRはパラメータ数わずか1MながらCPUで毎秒49ページを処理できるOCRモデルです。TesseractやPaddleOCRより最大24倍高速でありながら精度も上回り、PDFや画像をMarkdown・プレーンテキスト・JSON（バウンディングボックス付き）に変換できます。GPU不要で軽量なドキュメント解析を求める開発者に向いています。

1M param OCR model - runs on CPU, 15x faster than tesseract, close to 1B+ param models in accuracy

fudan-generative-vision/Remory

要約で失われる文脈を学習記憶で補う — 長期対話でコンテキストを圧縮（要約）する際、要約文の後に学習済みの「残差メモリ」を追加することで、凍結したモデルでも過去の作業履歴を踏まえた継続ができる手法です。Qwenセッションでのオンライン学習にも対応し、Hugging Face Daily Papersで2位を獲得した注目の研究実装です。

Remory: Learning Residual Memory for Context Compaction

google-pytorch/torch_tpu

PyTorchをGoogle TPUで動かすバックエンド「TorchTPU」 — TorchTPUはPyTorchモデルをTPU上で実行するためのバックエンドで、独自のATenカーネルとコンパイルキャッシュを備えています。torch.compile()によるグラフモード実行やデータ/テンソル並列分散学習に対応し、Llama・Qwen・ResNetなどの実行例やTPU VM向けインタラクティブノートブックも提供します。

deepseek-ai/deepseek-recipe

DeepSeekモデル向けAPI形式変換ライブラリ — deepseek-recipeは、DeepSeek AIによるRust製ライブラリ（Pythonバインディング付き）です。Messages・Chat Completions・Responsesなど異なるAPI形式のリクエストを共通のConversation形式に変換し、DeepSeek V4/V4.1向けプロンプトのレンダリングやトークナイザによるエンコード、出力の形式別変換までを担います。推論バックエンドを複数APIに対応させたい開発者に向いています。

deepseek-ai/DeepInfer

DeepSeek本番運用の推論基盤がOSSに — DeepInferはDeepSeekが大規模サービスで使う推論フレームワークのオープンソース版で、DeepSeek-V4.1-Flashに対応します。FlashMLAなど最適化カーネル、MoE/CP並列、投機的デコード、バッチ不変な決定論的サンプリングを備え、大規模運用での再現性を重視する開発者に向いています。

DeepInfer: High-performance, large-scale inference framework for DeepSeek models

VAST-AI-Research/EdenLive

参照映像をゲーム映像にリアルタイム生成するEdenLive — EdenLiveは、エンジンやコーディングエージェントが管理する世界状態と見た目の描画を分離し、最初のフレームとテキストプロンプトに基づきリアルタイム生成します。コンシューマGPU1台で480P/720Pを24FPS以上で実現し、5B/14Bの重みやストリーミング推論コード、プロンプトからプレイ可能なゲームを作るEdenGolemスキルも公開しています。

Real-time generative rendering for interactive worlds, from any visual reference.

strot-ai/STROT-Compiler

LLMは一度だけ、実行は自前モデルで高速判定 — STROTはLLMを「コンパイル時」に一度だけ使い、分類・スコアリング・ルーティングを行う決定ロジックを自己完結型のPythonアーティファクトとして生成します。本番環境ではLLM呼び出しなしでローカルの軽量モデルが推論し、低信頼な場合は推測せず棄権するため、エージェントを常時稼働させるより低コストかつ再現性の高い運用が可能です。

STROT (arXiv:2505.01636): compile-time LLM code synthesis with deterministic, self-routing NLU runtimes. PyPI: strot-ai

NVIDIA/personaplex

NVIDIA製、ペルソナ制御可能な全二重音声対話AI — NVIDIAが公開したPersonaPlexは、テキストのロールプロンプトと音声条件付けでペルソナを制御できるリアルタイム全二重音声対話モデルです。Moshiアーキテクチャを基盤に、低遅延で一貫したキャラクター性を持つ自然な音声対話を実現します。

PersonaPlex code.

trymirai/uzu

Rust製・端末上で動く高速LLM推論エンジン — Mirai社によるRust製の高性能推論エンジンで、AIモデルをアプリ内に直接組み込み、ゼロレイテンシーと完全なデータプライバシーを実現します。AppleのMetalに対応し、iOS/macOS向けにSwift・Python・TypeScriptバインディングを提供、オンデバイスLLM/TTS実行の選択肢として注目されます。

A high-performance inference engine for AI models

hsfzxjy/npunlock

Intel NPUのSHAVEコアでカスタムCカーネルを直接実行 — Intel Core Ultraの公式スタックはグラフレベルのプログラミングしか公開していませんが、npunlockはSHAVEコア向けにカスタムC言語カーネルを書いて実行する未公開の経路をリバースエンジニアリングで再構築しています。Pythonから直接C言語でGELUなどの演算を組み込み、NumPyと結果を比較検証できる点が特徴で、NPUの低レイヤー制御に興味がある開発者・研究者に刺さる内容です。

Write and run custom C kernels for Intel Core Ultra NPUs

pollen-robotics/microduck_rl

小型二足歩行ロボットMicroduckの歩行をPPOで学習 — 約800g・25cmの二足歩行ロボットMicroduck向けに、MuJoCo Warpベースのmjlab上でPPO歩行ポリシーを訓練するリポジトリです。BAMアクチュエータ物理やドメインランダム化、バックラッシュシミュレーションなど実機移行(sim2real)のノウハウを反映し、学習済みポリシーはONNXに書き出して実機で動かせます。小型ロボットの強化学習に取り組む研究者・ホビイストに向けた実践的な設計例として参考になります。

RL training environments for Microduck (mjlab)

cobanov/PS5LM

ジェイルブレイクPS5がLLMサーバーになる — ジェイルブレイクしたPS5のGPU上でllama.cppを動かし、GGUFモデルをネイティブ実行してOpenAI/Anthropic互換APIで家中の端末に配信できるプロジェクトです。PCもクラウドも不要で、TV画面向けUIを備えた自宅専用のプライベートLLMサーバーとして使えます。Qwen系モデルや決定モデルにも対応しています。

llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting with Qwen 3.8

experientiallabs/experiential

LLMゲートウェイでトラフィックからコスト削減とモデル最適化 — BYOK・セルフホスト・1000以上のマーケットプレイスモデルを1つのOpenAI互換APIで統合できるオープンソースゲートウェイです。ユーザーやエージェントごとに利用モデルや予算を制御でき、実際のトラフィックを学習して専用ルーターやモデルへ最適化する点が特徴です。マークアップなしでコストと品質のバランスを取りたいチームに向いています。

Experiential is the open source, zero markup gateway for BYOK, self-hosted and 1000+ marketplace models. It learns from your traffic to cut costs, recommend better models, and train a specialized model you own.

openai/math

OpenAI内製モデルが生成した数学研究論文集 — OpenAIの内部モデルが未解決の数学研究問題に挑んだ成果を集めたリポジトリです。722本の数学的原稿を372のファミリーに分類し、一部はLeanによる形式証明付きで公開されています。AIが数学研究にどこまで迫れるかを示す貴重な実例資料です。

misskey-dev/sensitive-detector

MisskeyのNSFW検出を切り出すサイドカー — MisskeyのAiService.detectSensitiveをONNX Runtimeベースの独立HTTPサービスとして切り出した公式実装です。画像正規化やしきい値判定は本体側に残し、推論処理のみを担うことでネイティブMLスタックを隔離できるのが特徴です。

Official reference implementation of external sensitive media detector for Misskey

shitagaki-lab/see-through

一枚絵をレイヤー分解して2.5Dモデル化する研究プロジェクト — SIGGRAPH 2026で発表されたこの手法は、アニメ調の一枚絵を髪・顔・目・服・小物など最大23層に自動分解し、各レイヤーを補完（インペイント）しつつ描画順も推定します。編集可能なPSD風素材や2.5Dモデルを得たいイラストレーターや研究者に向いており、オンラインデモも公開されています。

"Single-image Layer Decomposition for Anime Characters" (SIGGRAPH 2026 Conference Paper)

debpalash/VoiceStudio

完全ローカルで動くElevenLabs代替の音声スタジオ — VoiceStudioはクラウド不要・完全ローカルで動くElevenLabsの代替ツールです。646言語対応の音声クローン、音声デザイン、動画の吹き替え、ディクテーション、文字起こし、オーディオブック生成までを一括で扱えます。CUDAやMLXにも対応し、ローカルAPI/MCPでエージェント連携も可能な点が特徴です。

VoiceStudio is the open-source, fully-local ElevenLabs alternative — voice cloning, voice design, video dubbing, dictation, transcription & audiobook creation in 646 languages.

baidu/Unlimited-OCR

Baidu発、一回で長文書類を解析するOCR — Baiduが公開したOCRモデルで、複数ページにわたる長い文書を一度の推論でまとめて解析できる「One-shot Long-horizon Parsing」を実現しています。vLLMやms-swiftでの学習・推論に対応し、Hugging Faceでも配布されているため既存エコシステムに組み込みやすいのが特徴です。

Unlimited OCR Works: Welcome the Era of One-shot Long-horizon Parsing.

OpenBMB/VoxCPM

トークナイザー不要の多言語TTS「VoxCPM2」 — OpenBMBによるトークナイザーフリーのTTSモデルで、多言語の音声生成・創造的なボイスデザイン・高精度な音声クローニングを実現します。MiniCPM系の技術をベースに、より自然で表現力豊かな音声合成を目指す点が特徴で、音声合成の研究者や開発者に刺さる内容です。

VoxCPM2: Tokenizer-Free TTS for Multilingual Speech Generation, Creative Voice Design, and True-to-Life Cloning

tashfeenahmed/freellmapi

34の無料LLMを1つのAPIに集約するルーター — 34の無料LLMプロバイダー・635の無料モデルエンドポイントを、OpenAI互換の単一/v1エンドポイントに集約するツールです。最適モデルへのスマートルーティング、レート制限時の自動フェイルオーバー、キーごとの使用量管理により無料枠を使い切らずに運用できます。個人の実験用途向けで、鍵は暗号化保存されます。

7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.

Niko1221/Strata

ゲーミングPCで1250億パラメータAIを動かす — Strataは大規模言語モデルQwen3.8-Flash-Nextを、普通のゲーミングPC（12GB以上のNVIDIA/AMD GPU）上でワンクリック導入して動かせる推論エンジンです。OpenAI/Anthropic互換APIをローカルで提供し、画像入力にも対応。クラウド不要でコーディングエージェントや自作アプリと連携できる点が特徴です。

Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

Robbyant/lingbot-map

ストリーミング3D再構成のFoundationモデル — LingBot-Mapは、座標の基準化・幾何的手がかり・長期ドリフト補正を単一のストリーミング型TransformerアーキテクチャにまとめたFeed-forward型3D基礎モデルです。Paged KVキャッシュによる高効率推論で、1万フレーム超の長時間系列でも約20FPSの安定動作を実現し、既存のストリーミング手法や反復最適化手法を上回る再構成精度を達成しています。

[ECCV 2026 Best Paper Award Candidate] LingBot-Map: Geometric Context Transformer for Streaming 3D Reconstruction

KittenML/KittenTTS

CPUで動く軽量・高性能TTS — KittenTTSはCPUだけでリアルタイム動作するオープンソース音声合成ライブラリです。1.7Bパラメータの1-bitモデルは5秒の音声サンプルだけで声をクローンでき、表現制御も可能。GPU不要な15M〜80Mの軽量モデルも同梱され、組み込み用途に最適です。

Open-source State-of-the-art TTS model which runs on a CPU 😻

Tencent-Hunyuan/Hy-MT2

Tencentの高速多言語翻訳LLM「Hy-MT2」 — TencentによるHy-MT2は33言語対応の高速思考型翻訳モデル群で、1.8B/7B/30B-A3B(MoE)の3サイズを提供します。AngelSlimによる1.25bit量子化で1.8Bモデルを440MBまで軽量化しつつ高速化し、DeepSeekやKimiなど既存OSSモデルや大手商用APIを上回る翻訳性能を実証しています。翻訳指示追従を測るIFMTBenchも同時公開されています。

VectifyAI/PageIndex

ベクトルDB不要、人間のように読むRAG基盤 — PageIndexはベクトルDBやチャンキングを使わず、文書の構造をツリー化してLLMに推論させることで検索精度を高める新しいRAG手法です。長く複雑な専門文書に強く、SDKでローカル実行もクラウド利用も可能です。既存の埋め込み検索型RAGとの差別化を狙う開発者に向いています。

📑 PageIndex: Document Index for Vectorless, Reasoning-based RAG

inclusionAI/Ming-Image

デザイン画像を生成・レイヤー分解するAIモデル — inclusionAIによる6Bパラメータのオープンソースモデル群です。UIやポスターなど文字入りのビジュアルデザインを生成するモデルと、フラット化された画像を編集可能な透明レイヤーに分解するモデルの2種類を提供し、UIコーディングやPPT再現などのエージェントスキルとも連携できます。

anthropics/ClaudeForFoundationModels

ClaudeをApple純正AI基盤に統合するSwiftパッケージ — AppleのFoundation ModelsフレームワークにClaudeを対応させるSwiftパッケージです。オンデバイスモデルと同じLanguageModelSession APIでClaudeを呼び出せ、ストリーミングや構造化出力、ツール呼び出しもそのまま利用可能。Apple製アプリ開発者が手軽にClaudeへ切り替えられる点が魅力です。

Claude support for Apple Foundation Models

datalab-to/chandra

複雑な表やレイアウトも読み取る最新OCRモデル — Chandra OCR 2は画像やPDFを表・手書き文字・複雑なレイアウトまで保持したままHTML/Markdown/JSONに変換する最新のOCRモデルです。従来のOCRが苦手とするレイアウト保持を強みとし、Datalabのマネージド基盤では大量ページの高速バッチ処理にも対応しています。文書構造を忠実に再現したいドキュメントAI開発者に特に刺さる選択肢です。

OCR model that handles complex tables, forms, handwriting with full layout.