AI OSS カタログ

ローカル環境でLLMを動かすための実行環境。コマンド1つでモデルを取得して起動でき、OpenAI互換のAPIサーバーとしても使えます。ローカルLLMを試す最初の一歩として最も手軽な選択肢です。

Hugging Faceが提供するモデル定義・実行のフレームワーク。公開されている大半のモデルがこの形式で配布されており、研究から実装への橋渡しを担っています。ファインチューニングや推論の標準的な入口です。

C/C++で書かれたLLM推論エンジン。GPUがない環境でも量子化モデルを動かせるのが特徴で、GGUF形式やローカルLLM界隈の事実上の基盤になっています。多くのローカル実行ツールが内部でこれを使っています。

サーバー用途に特化した高スループットの推論エンジン。PagedAttentionによりGPUメモリを効率的に使い、同時リクエストが多い環境で性能を発揮します。self-hostでLLM APIを提供する際の定番です。

LLMのファインチューニングを高速・省メモリで行うためのツール。限られたGPUメモリでも学習を回せるため、個人や小規模チームがモデルを微調整する用途で広く使われています。

OpenAIの音声認識モデルWhisperをC/C++に移植したもの。llama.cppと同じ作者による実装で、ローカル環境やエッジデバイスで文字起こしを動かせます。

LLMとマルチモーダルモデル向けの高速サービングフレームワーク。プロンプトのキャッシュ再利用や構造化生成に強く、vLLMと並んで推論基盤の選択肢に挙がります。

自律エージェントブームの起点になったプロジェクト。目標を与えるとタスクを分解して実行を試みます。現在はワークフロー構築プラットフォームとして開発が続いています。

LLMアプリケーション開発のフレームワーク。モデル・ツール・データソースを抽象化して組み合わせられ、エージェント構築の共通言語のような位置づけになっています。

AIエージェントにブラウザを操作させるためのライブラリ。画面を認識してクリックや入力を行い、Webサイト上の作業を自動化します。API化されていないサービスを扱うときに有効です。

Googleが公開しているターミナル上で動くAIエージェント。Geminiをコマンドラインから使い、ファイル操作やコード編集を任せられます。Claude Codeと比較されることが多いツールです。

VS Code拡張として動く自律型コーディングエージェント。ファイルの読み書きやコマンド実行を伴う作業を、差分を確認しながら進められます。SDKやCLIとしても利用できます。

Microsoftによるマルチエージェントのフレームワーク。エージェント同士の会話でタスクを解かせる方式を採り、研究寄りの実験にもよく使われます。

役割を持った複数のエージェントを協調させるフレームワーク。「リサーチ担当」「執筆担当」のように分担を定義してタスクを進めさせる設計が特徴です。

ターミナルで動くAIペアプログラミングツール。gitリポジトリを理解したうえで編集し、変更をコミットまで行います。CLI派の開発者に支持されています。

LangChainチームによるエージェントのワークフロー構築ライブラリ。処理をグラフとして定義し、状態管理・分岐・人の承認を挟む設計を扱いやすくしています。複雑な多段エージェントを組むときの選択肢です。

Webページをクロールし、LLMが扱いやすい形式に整形して返すサービス基盤。RAGの材料集めやエージェントのWeb参照に使われます。

LLMアプリをGUIで構築できるプラットフォーム。ワークフローやRAGパイプラインをノードを繋いで作れ、self-hostも可能です。コードを書かずに検証を回したい場面で強みがあります。

文書理解に重点を置いたRAGエンジン。PDFや表を含む複雑なレイアウトの文書を解析して取り込めるのが特徴で、社内文書を扱う用途に向いています。

AIエージェントに長期記憶を持たせるためのメモリ層。会話や作業の履歴を蓄積して次回以降に参照させる用途で使われます。

文書をLLMから扱えるようにするためのデータフレームワーク。取り込み・分割・インデックス化・検索までを一通り備え、RAG構築の定番として使われています。

Rustで書かれたベクトルデータベース。大規模なベクトル検索を高速に処理でき、フィルタ条件を併用した検索にも対応します。RAGの検索基盤として広く使われています。

手軽に組み込めるベクトルデータベース。少ない設定で動かせるためプロトタイプや小規模なRAGに向いており、学習用途でもよく登場します。

ローカルLLM向けのチャットUI。Ollamaや OpenAI互換APIに接続でき、self-hostでChatGPTのような画面を用意できます。ローカル環境の入口として定番です。

複数のモデルプロバイダに対応したチャットUI。プラグインやエージェント管理を備え、見た目の完成度が高いのが特徴です。

文書を取り込んで対話できるデスクトップ／self-hostアプリ。RAGの構築をGUIで完結でき、社内資料を扱わせる用途で使われます。

ChatGPT風のUIを自前で運用できるOSS。複数モデルの切り替え・エージェント・MCP対応を備え、チームでの共有利用を想定した機能が揃っています。

100以上のLLM APIをOpenAI互換の形式で呼び出せるゲートウェイ。プロバイダの切り替えやフォールバック、コスト管理を1箇所に集約できます。マルチプロバイダ構成の要になります。

LLMアプリの可観測性プラットフォーム。トレース・評価・プロンプト管理・コスト計測をまとめて扱え、本番運用の挙動を追跡できます。

機械学習の実験管理から始まり、現在はLLMやエージェントの評価・トレースにも対応するプラットフォーム。既存のML基盤を持つ組織がLLMへ広げる際の選択肢です。

プロンプトやエージェントをテストするためのツール。期待する出力との比較を自動化でき、レッドチーミングや脆弱性検査の機能も備えています。

LLMアプリのデバッグ・評価・監視を行うプラットフォーム。RAGやエージェントの挙動を記録し、品質の変化を追えます。

AIアプリの可観測性と評価に特化したツール。トレースを可視化して問題箇所を特定でき、OpenTelemetryベースで既存の監視基盤とも組み合わせられます。