LLM・機械学習

xai-org/x-algorithm

XのおすすめフィードAlgorithm、ついにコード公開 — X（旧Twitter）の「おすすめ」フィードで表示順を決めるコア実装がRustで公開されました。フォロー内/外コンテンツの取得からML検索、トランスフォーマーによるスコアリング・ランキング、フィルタリングまで一連の仕組みが読めます。SNSのレコメンドは通常ブラックボックスですが、重み付けの仕組みや法的要請による表示制限の透明化レポートまで含む点が特に注目されます。

Algorithm powering the For You feed on X

unslothai/unsloth

LLM/画像生成モデルをローカルで動かすデスクトップアプリ — Unslothはローカル環境でLLMや拡散モデルの実行・学習ができる初のデスクトップアプリです。GGUFやMLX形式に対応し、Qwen3.8やDeepSeek-V4、Gemma、FLUXなど最新モデルを幅広くサポート。クラウド不要でファインチューニングまで完結できる点が特徴です。

Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4, MiniMax-H3, Gemma 4, FLUX and more.

abi/screenshot-to-code

画面デザインを瞬時にコードへ変換するAIツール — スクリーンショットやFigmaデザイン、画面録画をAIで解析し、HTML/Tailwind/React/Vue/Bootstrapなどの実装可能なコードに自動変換します。Gemini・GPT・Claudeなど複数の最新モデルを切り替えて比較できる点が特徴で、デザインからプロトタイプ作成までの工程を大幅に短縮できます。フロントエンド開発者やデザイナーに便利です。

Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue)

grafana/o11y-bench

Grafanaスタックで試すLLMエージェントのSRE能力評価 — o11y-benchはHarborフレームワーク上に構築された、LLMエージェントの可観測性・SRE対応能力を測るオープンベンチマークです。Prometheus・Loki・Tempoを備えた実際のGrafanaスタックに対しエージェントを動かし、決定的チェックとルーブリック評価で採点、HTMLレポートやリーダーボード提出用の成果物を生成します。自前のエージェントやモデルを組み込んで比較できる点が特徴です。

Open benchmark on observability tasks built on Harbor

BerriAI/litellm

100超のLLMをOpenAI形式で統一操作 — Bedrock、Azure、Anthropic、VertexAI、vLLMなど100以上のLLM APIをOpenAI形式で呼び出せるAIゲートウェイです。Rustコア＋Python SDKで高速・軽量を実現し、コスト管理やガードレール、ロードバランシング、ロギングも標準搭載。セルフホストでエンタープライズ利用も可能で、マルチLLM運用を統一したい開発者に刺さります。

The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

Tencent-Hunyuan/Hy-MT2

Tencentの高速多言語翻訳LLM「Hy-MT2」 — TencentによるHy-MT2は33言語対応の高速思考型翻訳モデル群で、1.8B/7B/30B-A3B(MoE)の3サイズを提供します。AngelSlimによる1.25bit量子化で1.8Bモデルを440MBまで軽量化しつつ高速化し、DeepSeekやKimiなど既存OSSモデルや大手商用APIを上回る翻訳性能を実証しています。翻訳指示追従を測るIFMTBenchも同時公開されています。

cactus-compute/needle

小型デバイス向け超軽量AI基盤モデル「Needle」 — Needleは8〜29MBの2bit量子化モデルで、スマホやウェアラブル、車、マイコンなどオンデバイスで動作します。ツール呼び出しは10倍大きいモデルを上回り、構造化抽出でも2〜3倍のモデルに匹敵する精度を実現。文埋め込みも同一モデルで扱え、エッジAI開発者に最適です。

Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, ASR, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.

google/langextract

Google製、LLMで文章から構造化データを抜き出すライブラリ — LangExtractはGeminiなどのLLMを使い、臨床記録やレポートなどの非構造テキストから構造化情報を抽出するPythonライブラリです。抽出結果を元テキストの正確な文字位置に紐づける「ソースグラウンディング」と、結果をインタラクティブに可視化できる点が特徴で、医療文書解析や大規模テキストの情報抽出を行う開発者に有用です。

A Python library for extracting structured information from unstructured text using LLMs with precise source grounding and interactive visualization.

openai/openai-python

OpenAI公式のPython向けAPIクライアント — OpenAI REST APIをPython 3.10+から利用するための公式ライブラリです。OpenAPI仕様から自動生成され、全リクエスト/レスポンスの型定義を備え、HTTPX2による同期・非同期両対応のクライアントを提供します。Responses APIやChat Completions APIを簡潔に呼び出せる点が特長です。

The official Python library for the OpenAI API

kserve/kserve

生成AIと予測AIを統合するKubernetes推論基盤 — KServeはKubernetes上でLLM推論と従来の機械学習モデル推論を単一プラットフォームで扱えるCNCFプロジェクトです。vLLMによる高速化やOpenAI互換API、KVキャッシュオフロードなど生成AI向け機能に加え、TensorFlow/PyTorch/XGBoostなど多様なフレームワークのモデルサービングやCanaryデプロイ、説明可能性もサポートし、MLOps基盤を統一します。

Standardized Distributed Generative and Predictive AI Inference Platform for Scalable, Multi-Framework Deployment on Kubernetes

raullenchai/Rapid-MLX

Apple Silicon特化の高速LLM推論サーバー — Rapid-MLXはMLXベースで構築されたOSS推論サーバーで、OpenAIおよびAnthropic API互換です。コーディングエージェント向けの信頼性あるツール呼び出しに特化し、同じモデル・重みでApple公式のmlx-lmより最大4倍高速に動作する点が特徴です。ローカルLLM派のOllama/LM Studio代替として注目です。

Rapid-MLX is an open-source (Apache 2.0) OpenAI- and Anthropic-compatible LLM inference server for Apple Silicon, built on MLX, focused on reliable tool calling for coding agents. Up to 4× faster than Apple's MLX (mlx-lm) on the same weights.

huggingface/tokenizers

Rust製の超高速トークナイザー — Hugging FaceによるRust実装のトークナイザーで、BERTやGPT、Llamaなど主要モデルの事前学習済みトークナイザーをそのまま読み込んで高速に処理できます。Python等の言語バインディングも提供し、研究から本番運用まで業界標準を目指す設計が特徴です。

💥 Fast State-of-the-Art Tokenizers optimized for Research and Production

janhq/jan

完全オフラインで動くChatGPT代替「Jan」 — JanはRust/Tauriで作られたオープンソースのChatGPT代替アプリで、llama.cppを使いLLMを100%オフラインでローカル実行できます。データを外部送信せずプライバシーを守りたい人や、自分のPCでLLMを完全に制御したい開発者に向いています。Microsoft StoreやFlathubから簡単に導入可能です。

Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.

deepseek-ai/DeepGEMM

DeepSeek製、LLM向け高速GEMMカーネル — DeepSeek-AIによるCUDA製テンソルコアカーネルライブラリです。FP8/FP4/BF16のGEMM、MoE通信オーバーラップ、MQAスコアリングなどLLM計算の核をDeepJITで実行時コンパイルし、軽量な設計ながら専門チューニング並みの性能を実現しています。

DeepGEMM: clean and efficient BLAS kernel library on GPU

firelex/jeff

0.8Bの高速判断モデルJeffで大型LLMの前段フィルタを — Jeffは0.8Bの軽量「System 1」モデルで、LoRAアダプタを差し替えて様々な判断タスクをミリ秒単位でこなします。27B級の大型モデルの前段に置くことで、精度を落とさず数十倍の高速化とメモリ節約を実現し、エージェント基盤のコスト削減に役立ちます。

Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.

microsoft/VibeVoice

MicrosoftのオープンソースTTS/ASR統合音声AI — VibeVoiceはMicrosoftが公開するオープンソースの音声AIで、音声合成に加えて「誰が何を話したか」をリアルタイム認識するストリーミングASRも提供します。CPU上でも1.58GBまで軽量化され、GPUなしでリアルタイム推論が可能な点が特徴で、エッジ用途や多言語対応（10言語）を求める開発者に刺さります。

Open-Source Frontier Voice AI

deepfates/imp

DSPyをElixir/BEAMに移植した自己改善LLMプログラム — ImpはPythonのDSPyをElixirに完全移植したライブラリで、型付きのLMステップをOTPのプロセスとして動かせます。プロンプトやパーサーを手書きせず、シグネチャから入出力を宣言し、ラベル付き例とメトリクスで自動的にプログラムを最適化できます。エージェントや検索も含め、BEAMの並行性・耐障害性を活かしたLLMアプリ構築を目指す開発者に向いています。

declarative self-improving language-model programs for Elixir 😇

antirez/ds4

DeepSeekをMac/CUDA/ROCmでローカル推論するC実装 — antirez氏によるDwarfStarは、DeepSeek V4 Flash/PROやGLM 5.x、Qwen3.8などの最新オープンウェイトモデルを、Mac・NVIDIA・AMD(ROCm)のコンシューマー機で動かすことに特化した軽量推論エンジンです。汎用GGUFランナーではなく、自前のGGUFファイルとモデル群に最適化されている点が特徴で、SSDストリーミングによる大容量モデル対応やマルチGPU対応など、個人所有可能なハードウェアで最良のLLM体験を追求しています。

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

anthropics/ClaudeForFoundationModels

ClaudeをApple純正AI基盤に統合するSwiftパッケージ — AppleのFoundation ModelsフレームワークにClaudeを対応させるSwiftパッケージです。オンデバイスモデルと同じLanguageModelSession APIでClaudeを呼び出せ、ストリーミングや構造化出力、ツール呼び出しもそのまま利用可能。Apple製アプリ開発者が手軽にClaudeへ切り替えられる点が魅力です。

Claude support for Apple Foundation Models

google/magika

AIで数msに高精度なファイル種別判定 — Magikaは深層学習で約200種類以上のファイル形式を数MBの軽量モデルで99%精度判定するGoogle製ツールです。CPU単体でミリ秒単位の高速処理を実現し、GmailやDrive、VirusTotalなど大規模サービスで既に実運用されています。従来のmagic number判定に代わる新しい選択肢として注目されています。

Fast and accurate AI powered file content types detection

PostHog/jeeves

思考してから判断する9B規模の意思決定モデル — Jeevesは、yes/noや多肢選択・評価など複数形式の質問にJev互換APIで答える9B規模のQwen3.5ベース分類器です。SFTとCISPOで学習し、拡散ドラフターを使って判断前に推論する点が特徴。未学習の分布外データやJevBenchでKev-9BやJevを上回る精度を達成し、学習コードとデータも公開されています。

Jeeves – Reasoning improves Jev-like decision models

tile-ai/tilelang

PythonicにGPUカーネルを書けるDSL「TileLang」 — TileLangはGEMMやFlashAttentionなど高性能カーネルをTVM基盤上でPythonライクに記述できるDSLです。CUDA/CPUに加えHuawei Ascend 950 NPUやMetalにも対応し、低レベル最適化を保ちつつ開発生産性を高めます。LSPやマルチバックエンド対応など開発基盤も急速に拡充中です。

Domain-specific language designed to streamline the development of high-performance GPU/CPU/Accelerators kernels

roboflow/supervision

モデル依存しないCV用ツールキット — 物体検出・セグメンテーション・トラッキングなど、YOLOやTransformersなど任意のモデル出力を統一的に扱える汎用アノテーション・データ処理ライブラリです。特定モデルに依存せず、可視化やゾーンカウントなどのビジネスロジックを素早く実装できる点が特徴で、CVアプリ開発者に人気です。

We write your reusable computer vision tools. 💜

Vibra-Ingenn/Janus

PythonもDockerも不要、単一バイナリで動くローカルLLMサーバー — JanusはGo製の単一実行ファイルで.ggufモデルを動かし、OpenAI互換API（/v1/chat/completions等）を公開するローカルLLMサーバーです。Vulkan経由でAMD/Intel/NVIDIAのGPUやCPUで推論でき、Ollamaのような外部依存なしに手軽にCursorやClineなどへ組み込めるのが特徴です。モデルのホットスワップや思考過程の分離表示にも対応しています。

Janus is a API router for AI models written in Go and has a Vulkan Model runner

VectifyAI/PageIndex

ベクトルDB不要、人間のように読むRAG基盤 — PageIndexはベクトルDBやチャンキングを使わず、文書の構造をツリー化してLLMに推論させることで検索精度を高める新しいRAG手法です。長く複雑な専門文書に強く、SDKでローカル実行もクラウド利用も可能です。既存の埋め込み検索型RAGとの差別化を狙う開発者に向いています。

📑 PageIndex: Document Index for Vectorless, Reasoning-based RAG

invoke-ai/InvokeAI

Stable Diffusionを操る高機能WebUI — Invokeは画像生成AI「Stable Diffusion」向けの業界最高水準のWebUIを備えたクリエイティブツールです。txt2imgやinpainting、ワークフロー構築などプロ向け機能を商用利用可能なライセンスで無料提供し、複数の商用製品の基盤にもなっています。

Invoke is a leading creative engine for Stable Diffusion models, empowering professionals, artists, and enthusiasts to generate and create visual media using the latest AI-driven technologies. The solution offers an industry leading WebUI, and serves as the foundation for multiple commercial products.

dchristopoulos/jev-aita

TypeSafeのJev、Reddit AITA判定でSonnet 5と対決 — TypeSafeの高速確率予測モデル「Jev」を、Sonnet 5・GPT-5 nano・ローカルLLMとともにReddit r/AmItheAssholeの770件の投稿で検証したベンチマークです。Brierスコアでは僅差でSonnet 5に次ぐ2位ながら、速度は6.3倍、コストは62倍安く、公式が主張する「40〜200倍高速」との差や、ロジスティック回帰による補正の公平性も検討しています。LLM評価の信頼性に関心がある人に有用です。

Benchmark of TypeSafe's Jev against Sonnet 5, GPT-5 nano and local LLMs on 770 Reddit AITA verdicts: Brier scores, latency and cost

chenyme/grok2api

Grok複数アカウントを束ねるAPIゲートウェイ — Grok Build・Grok Web・Grok Consoleへのアクセスを複数アカウントでまとめて扱えるAPIゲートウェイです。Go製バックエンドとReact製フロントエンドを備え、Dockerで簡単にデプロイ可能。個人でGrokの機能をAPI経由で研究・活用したい開発者に向いています。

Multi-account API gateway for Grok Build, Grok Web, and Grok Console

meituan-longcat/LongCat-Video

美団発、長尺動画生成基盤モデルLongCat-Video — 美団(Meituan)が公開した動画生成モデルで、テキストや画像から長時間の動画を生成できる点が特徴です。関連するLongCat-Video-Avatar 1.5も展開されており、アバター動画生成など応用範囲の広さがうかがえます。技術レポートやHugging Faceモデルも公開され、研究・実用双方からの検証が進められています。

vllm-project/vllm

PagedAttentionで高速・低コストなLLM推論 — vLLMはUC Berkeley発のLLM推論・サービングエンジンで、PagedAttentionによるメモリ効率化や連続バッチング、多様な量子化形式に対応し高スループットを実現します。GPUだけでなくAMD/CUDA/TPUなど幅広いハードウェアに対応し、2000人超のコントリビューターが支える活発なOSSです。

A high-throughput and memory-efficient inference and serving engine for LLMs