トピック / qwen
qwen
16件のリポジトリ
ollama/ollamaローカルLLM実行を誰でも簡単にするOllama — Kimi、GLM、DeepSeek、Qwen、Gemmaなど多様なオープンモデルをワンコマンドでダウンロード・実行できるツールです。Claude CodeやCopilot CLIなど既存のコーディングエージェントとの統合も充実し、ローカルLLM利用のハードルを大きく下げています。
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.
huggingface/transformers最先端モデルを統一的に扱うTransformers — テキスト・画像・音声・マルチモーダルの最先端モデルを共通APIで推論・学習できるフレームワークです。Qwen・Gemma・DeepSeekなど主要LLM/VLMにも対応し、Hugging Face Hubの事前学習モデルを即活用できる点が強みです。研究者・実務者双方にとって事実上の標準ツールとなっています。
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
vllm-project/vllmPagedAttentionで高速・低コストなLLM推論 — vLLMはUC Berkeley発のLLM推論・サービングエンジンで、PagedAttentionによるメモリ効率化や連続バッチング、多様な量子化形式に対応し高スループットを実現します。GPUだけでなくAMD/CUDA/TPUなど幅広いハードウェアに対応し、2000人超のコントリビューターが支える活発なOSSです。
A high-throughput and memory-efficient inference and serving engine for LLMs
unslothai/unslothLLM/画像生成モデルをローカルで動かすデスクトップアプリ — Unslothはローカル環境でLLMや拡散モデルの実行・学習ができる初のデスクトップアプリです。GGUFやMLX形式に対応し、Qwen3.8やDeepSeek-V4、Gemma、FLUXなど最新モデルを幅広くサポート。クラウド不要でファインチューニングまで完結できる点が特徴です。
Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4, MiniMax-H3, Gemma 4, FLUX and more.
diegosouzapw/OmniRoute359プロバイダーを1窓口に束ねる無料AIゲートウェイ — OmniRouteはClaude・GPT・Gemini・DeepSeekなど1200以上のモデルと359のAIプロバイダーを一つのエンドポイントに統合する無料OSSゲートウェイです。独自のRTK+Caveman圧縮でトークン消費を15〜95%削減し、クォータ枯渇時は自動フォールバック。Claude Code・Cursor・Copilotなど既存ツールと直結でき、月間約16億トークン相当の無料枠をまとめて使い切れる点が特徴です。
Never stop coding. Free MIT AI gateway: one endpoint, 359 providers (150+ free), 1200+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by hundreds of contributors
sgl-project/sglangLLM/マルチモーダル推論を高速化するSGLang — SGLangはLLMやVLM、拡散モデルまで対応する高性能推論サーバーです。DeepSeekやQwen、GLMなど最新モデルへの即日対応や、投機的デコーディングなど独自最適化でBlackwellやTPUといった最新ハードウェアで高速推論を実現し、大規模モデル運用者に注目されています。
SGLang is a high-performance serving framework for large language models and multimodal models.
decolua/9routerAIコーディングツールを40以上のプロバイダーに繋ぐ無料ルーター — Claude Code、Cursor、Copilot、CodexなどのAIコーディングツールを40以上のプロバイダー経由で無料・低価格のClaude/GPT/Geminiモデルに接続できるルーターです。RTKによるトークン削減（最大40%）と自動フォールバックにより、レート制限に引っかからず開発を継続できるのが特徴で、サブスク課金や利用上限に悩むエンジニアに刺さります。
Unlimited FREE AI coding. Connect Claude Code, Codex, Cursor, Cline, Copilot, Antigravity to FREE Claude/GPT/Gemini via 40+ providers. Auto-fallback, RTK -40% tokens, never hit limits.
dyad-sh/dyadローカルで動くOSSのAIアプリビルダー — Dyadはv0やLovable、Boltの代替となるローカル実行型・オープンソースのAIアプリビルダーです。自分のAPIキーを使え、ベンダーロックインなしでMac/Windowsどちらでも高速かつプライベートに動作します。サインアップ不要でダウンロードしてすぐ使える点も魅力です。
Local, open-source AI app builder for power users ✨ v0 / Lovable / Replit / Bolt alternative 🌟 Star if you like it!
FlashML-org/FreeToken290B超のMoEモデルを個人PCで動かすエッジ推論エンジン — FreeTokenはデータセンター級の巨大MoEモデルをゲーミングPCなどの一般ハードウェアで高速に動かすエッジ特化型推論エンジンです。GPU・CPU・メモリを統合的に扱うq⋆ポリシーやセマンティックキャッシュ、弾性メモリ管理により、DeepSeek-V4やQwen、GLMなど大規模モデルのローカル実行を効率化します。
FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
lightseekorg/tokenspeed制御面とPython実行面を分離した新型LLM推論エンジン — TokenSpeedはエージェント向けワークロードに特化したLLM推論エンジンで、C++のスケジューラ（制御面）とPythonの実行面を分離した点が特徴です。KV cacheの安全な再利用を型システムでコンパイル時に保証しつつ、Blackwell向け最速クラスのMLAカーネルなどでTensorRT-LLM並みの性能とvLLM並みの使いやすさを両立します。PyTorch Foundationからもアーキテクチャの独自性が評価されています。
TokenSpeed is a speed-of-light LLM inference engine.
youssofal/MTPLXApple Silicon上でQwen3.8を高速推論するMTPLX — MTPLXはApple Silicon向けに、モデル自身のマルチトークン予測(MTP)ヘッドを使って複数トークンを先読みし、厳密な棄却サンプリングで検証するローカル推論エンジンです。M5 Maxで125tok/sを実測し、通常デコードの約2倍速でありながら出力分布は変えません。OpenAI/Anthropic互換APIでOpenCodeやClaude Code等から利用でき、Qwen3.8やGemma系モデルに対応します。
The fastest way to run Qwen 3.8 Flash Next, Qwen 3.8 27B and Ternary Bonsai 2 27B on a Mac: 125 tok/s in OpenCode on an M5 Max, and a 27B model on 16 GB Macs. Native MTP speculative decoding on Apple Silicon, exact at any temperature. OpenAI and Anthropic compatible local server.
SemiAnalysisAI/InferenceXSemiAnalysis発、オープン推論ベンチマーク基盤 — vLLM・SGLang・TensorRT-LLM等、NVIDIA/AMD双方のGPU上でLLM推論性能を統一的に計測するOSSプラットフォームです。エンドツーエンド推論、通信、カーネルレベルまで階層的にベンチマークでき、OpenAIやMetaなど大手も活用。実運用に即した100万トークン超のマルチターンAgentXベンチマークも特徴です。
Open Source AI Accelerator Research Platform Standard / 开源推理研究平台
AtomicBot-ai/Atomic-Chat完全ローカルで動くAIチャット＆推論エンジン — Atomic ChatはTauri製のデスクトップアプリで、GGUFやMLX形式のオープンウェイトLLM（DeepSeek、Qwen、Gemmaなど）を100%オフライン・ローカルで実行できます。クラウドAPI不要でプライバシーを守りたい人や、Apple Silicon環境でエージェント型AIを試したい開発者に向いています。MCP対応で拡張性もあり、ChatGPT代替のセルフホスト型ツールとして注目されています。
Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https://discord.com/invite/8wGSsvmg4V
webbrain-one/webbrainブラウザに常駐するAIエージェント拡張機能 — ChromeやFirefoxのサイドパネルに常駐し、ページ内容について対話したりクリック・入力・ナビゲーションを自動化できるAIエージェント拡張機能です。ローカルのllama.cppやOllama、クラウドAPIなどLLMを自由に選べる点が特徴で、オフライン利用や既存クラウド依存型エージェントとの差別化を図っています。
Open-source AI browser agent for Chrome and Firefox (monorepo) 🧠
cobanov/PS5LMジェイルブレイクPS5がLLMサーバーになる — ジェイルブレイクしたPS5のGPU上でllama.cppを動かし、GGUFモデルをネイティブ実行してOpenAI/Anthropic互換APIで家中の端末に配信できるプロジェクトです。PCもクラウドも不要で、TV画面向けUIを備えた自宅専用のプライベートLLMサーバーとして使えます。Qwen系モデルや決定モデルにも対応しています。
llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting with Qwen 3.8
rasonyang/ai-native-callcenterAIが一次応答するセルフホスト型コールセンター — FreeSWITCHとOpenAI Realtime/Qwenを組み合わせ、音声AIが標準でコールに応答し、必要に応じて人間オペレーターへシームレスに引き継ぐOSSコールセンターです。REST+SSEのOpenAPI付きで自社製品に組み込め、サーバー1バイナリ+PostgreSQLで自前運用できる点が特徴です。
Self-hosted AI call center: AI talks, code controls the call. AI agents answer every call; humans take over without dropping it. Runs on FreeSWITCH with your SIP trunk and realtime model (OpenAI, Grok, Qwen, Doubao, or any compatible gateway). API-first, with a built-in agent desktop.