LiteLLMで社内LLMゲートウェイを作る:OpenAI・Claude・ローカルLLMを1つのAPIで扱う
LiteLLMプロキシをDocker Composeで立て、OpenAI・Claude・Ollamaを1つのAPIに集約。部署ごとの仮想キーと予算、キー制限をすり抜けるフォールバ…

生成AI、ローカルLLM、RAG、MLOps、AIガバナンス。企業でAIを安全に本番運用するための実践ガイドと解説。
LiteLLMプロキシをDocker Composeで立て、OpenAI・Claude・Ollamaを1つのAPIに集約。部署ごとの仮想キーと予算、キー制限をすり抜けるフォールバ…

情報漏えい・著作権・誤情報のリスクの仕組みから、ガイドラインに入れる10項目、コピーして使える文例、DLPや法人プランなどの技術的補完策、段階的な導入手順までを整理しました。
RAG(検索拡張生成)の仕組みを検索→文脈注入→生成の3段階で解説し、ファインチューニングとの使い分け、権限・鮮度・チャンク・評価の失敗パターン、PoCから本番への進め方をまとめ…
モデルサイズと量子化からVRAMを見積もる早見表、日本語・コーディング・要約・画像・埋め込みの用途別に試す系列、GPU構成の目安、ライセンス確認と企業導入の10項目をまとめました。

MCPの仕組みと用語、Python SDK v2で書く読み取り専用の在庫ツール、Claude Desktop・Claude Codeへの接続、入力検証・認証・ログ・タイムアウトの…

DifyをDocker Composeでセルフホストし、Ollamaを登録してチャットボット・ワークフロー・ナレッジ検索を作る手順。.envで変える値、Linuxでの接続の落とし…

PostgreSQL 17 + pgvectorとOllamaの埋め込みモデルで社内文書RAGを実装。ACLをWHERE句で効かせる理由、HNSWとフィルタの相性、評価方法まで動…

Ollama同梱のcompose.yaml、GPU割り当て、管理者作成と登録制御、RAG設定、nginx/CaddyでのHTTPS化とSSO、バックアップと更新までを実際のエラー…

Ollamaのインストール手順、量子化タグの読み方とVRAMの見積もり、日本語モデルの探し方、REST APIの呼び出し、社内公開時の安全な構成を確認コマンド付きで解説します。
