NeMo Guardrails（ニーモガードレールズ）
NVIDIAが開発したLLMアプリケーション向け対話フロー制御・安全フィルタリングのオープンソースフレームワーク。
NeMo Guardrailsとは
NVIDIA NeMo Guardrailsは、本番環境のLLMアプリケーションにプログラマブルな安全ガードレールを追加するオープンソースフレームワーク（GitHub: nvidia/NeMo-Guardrails）です。モデル自体を変更せずに、アプリケーション層で対話フロー・有害コンテンツフィルタ・トピック制限を実装できます。
主要コンポーネント
Colang言語
Guardrailsの制御ロジックを記述する独自DSL（ドメイン特化言語）。対話フロー・許可/拒否ルール・外部API呼び出しを宣言的に定義する。
define user ask politics
"政治について話して"
"大統領は誰が良い?"
define flow
user ask politics
bot refuse to engage in politics
ガードレールの種類
Input rails: ユーザー入力を受信後、LLMに渡す前にチェック（ジェイルブレイク検出・禁止トピックフィルタ・PIIマスキング）
Output rails: LLMの応答をユーザーに返す前にチェック（有害コンテンツ検出・機密情報漏洩防止・事実整合性検証）
Dialog rails: 対話フロー全体の制御（トピック逸脱防止・特定質問への定型応答・エスカレーション制御）
Retrieval rails: RAGパイプラインの安全検証（取得ドキュメントの安全性検査・生成応答とソースの整合性チェック）
対応LLM・統合
OpenAI API（GPT-4/GPT-3.5）・Anthropic Claude API・Cohere API・Llama 2（ローカル推論）・HuggingFace Transformers・LangChain/LlamaIndex統合に対応。
類似ツールとの比較
NeMo Guardrails（Colang DSL・NVIDIA製・豊富な統合）はColang言語で複雑なフロー制御が得意。Llama Guard（Metaのファインチューン済み分類器）は単純な有害コンテンツ分類向け。Guardrails AI（Python宣言的・スキーマ検証強）は構造化出力保証に特化。Microsoft Presidioは個人情報マスキングに特化。
自作PC・ローカルLLM環境での活用
OllamaでLLMをローカル実行する際、NeMo Guardrailsをローカルエンドポイントに向けることで、プライベートLLMアプリに安全ガードを追加できる。特定の質問タイプを拒否したり、応答フォーマットを強制したりするユースケースに有用。カスタマーサポートボット・医療情報提供サービス・教育プラットフォームなどで採用実績あり。