transformers

10件のリポジトリ

rohitg00/ai-engineering-from-scratch

523レッスンで学ぶAIエンジニアリング完全ガイド — 深層学習・LLM・エージェント・強化学習・コンピュータビジョンまでを20フェーズ523レッスンで体系的に学べる実践型カリキュラムです。学んで、作って、他人のために出荷するという理念のもと、Pythonを中心にRustやTypeScriptも扱い、多言語READMEも用意されています。AI Agent Memoryの作者による信頼性の高い教材です。

Python🇪🇺 欧州発注目度 44
★79,622
labmlai/annotated_deep_learning_paper_implementations

注釈付きコードで学ぶ60以上の深層学習論文実装集 — PyTorchによる実装に、注釈ノートを並べて解説する論文実装集です。Transformer、GAN、強化学習、オプティマイザなど60以上を網羅し、ほぼ毎週更新されています。コーディングエージェント向けの実装スキルも案内されており、論文を読むより実装として理解したい学習者やエンジニアに向いています。

Python注目度 17
★67,774
arc53/DocsGPT

自社ドキュメントに根ざしたプライベートAIエージェント基盤 — DocsGPTは社内文書やGitHubなどの情報源にRAGで根拠付けしたエージェントを自己ホストできるOSSプラットフォームです。Agent Builderやディープリサーチ、文書解析、マルチモデル対応を標準搭載し、ChatGPT的なクローズドSaaSに頼らず自社データを安全に活用したい企業・開発者に向いています。ワンコマンドで導入できる手軽さも強みです。

Python🇪🇺 欧州発注目度 7
★18,374
neuml/txtai

ベクトル検索・グラフ・LLMエージェントを統合するAIフレームワーク — txtaiはベクトルインデックス、グラフネットワーク、リレーショナルDBを統合した埋め込みデータベースを核に、セマンティック検索やRAG、マルチモデルワークフローを実現するAIフレームワークです。個別ツールを組み合わせずに、自律エージェントや検索主体のAIアプリをPythonで構築したい開発者に適しています。

Python🇺🇸 北米発注目度 47
★13,656
FareedKhan-dev/train-llm-from-scratch

生テキストから対話モデルまで、LLMを自作で学ぶ実装集 — PyTorchのみでTransformerを一から実装し、事前学習からSFT・報酬モデル・PPO/DPO・GRPOまで一通り体験できるチュートリアルです。trlやpeftなど既存ライブラリを使わず全アルゴリズムを手書きしている点が特徴で、単一GPUで数百万〜数十億パラメータのLLMを自作したい学習者に向いています。

Python🌐 その他発注目度 38
★13,278
openvinotoolkit/openvino

PyTorchやONNXのモデルをCPU/GPU/NPUで高速推論するIntel製ツールキット — OpenVINOはPyTorch、TensorFlow、ONNX、JAX/Flaxなどで学習したモデルを最適化し、LLMや拡散モデル、画像・音声認識などの推論を高速化するツールキットです。Hugging FaceとのOptimum Intel連携にも対応し、CPU・GPU・NPUまでエッジからクラウドまで幅広く展開できます。

C++注目度 76
★11,595
huggingface/tokenizers

Rust製の超高速トークナイザー — Hugging FaceによるRust実装のトークナイザーで、BERTやGPT、Llamaなど主要モデルの事前学習済みトークナイザーをそのまま読み込んで高速に処理できます。Python等の言語バインディングも提供し、研究から本番運用まで業界標準を目指す設計が特徴です。

Rust🇪🇺 欧州発注目度 4
★11,259
MakazhanAlpamys/Soup

4GB GPUでも8BモデルをLoRA/QLoRA微調整 — YAML一つでLLMのファインチューニングと事後学習をワンコマンド実行できるCLIです。レイヤーストリーミング技術により、家庭用の4GB GPUでも8Bモデルを学習可能にしている点が特徴です。SSHやconfig地獄なしで手軽にLoRA/QLoRA/DPO/SFTを試せます。

Python🇺🇸 北米発注目度 39
★10,659
Rizzo-AI-Academy/rizzo-pii

イタリア語法務文書向けローカルPII匿名化ツール — 外部LLMに文書を渡す前に、個人情報をローカルで匿名化・復元可能な形に置き換えるツールです。約0.3Bパラメータの軽量モデルでCPU・0.5GB RAMで動作し、22種のPIIをmicro-F1 0.989で検出します。GDPR・EU AI Act準拠を意識した設計で、イタリアの法務分野でのLLM活用を安全に後押しします。

Python注目度 40
★1,283
SheepSeb/tinyworldformer

ループ型Transformerでゲームを夢想するPico 2W用ワールドモデル — Raspberry Pi Pico 2W上で動く2つの小型ニューラルネットが特徴です。重みを再利用するループ型Transformerでゲーム映像を生成し、もう一方がストリーミング強化学習でその映像内で行動を選びます。マイコン上で動く生成的ワールドモデルに興味がある人におすすめです。

Rust🇪🇺 欧州発注目度 34
★375