Langfuseとは、LLMアプリケーション向けのオープンソースオブザーバビリティプラットフォームである。トレース記録、スコアリング、プロンプト管理、セッション追跡、コスト分析をセルフホスト可能な形で提供し、主要フレームワークとの統合SDKを備える。
Langfuse（ラングフューズ）は、MITライセンスのOSSで、Docker ComposeまたはHelm Chartでセルフホスト可能なLLMオブザーバビリティプラットフォームである。フレームワーク非依存で、OpenAI SDK、Anthropic SDK、LangChain、LlamaIndex、LiteLLM、Haystack等と統合SDKを提供する。
| 比較項目 | Cloud | セルフホスト |
|---|---|---|
| 料金 | 無料枠50,000イベント/月、Pro $59/月 | インフラ費用のみ |
| データ所在地 | EU/US | 自社管理 |
| SLA | 99.9%〜99.95% | 自社責任 |
| カスタマイズ | 不可 | ソースコード変更可能 |
Trace > Observation（Generation/Span/Event）の階層構造。user_id、session_id、tags、metadataを付与可能。session_idで複数ターン会話を追跡。
ユーザーフィードバック、LLM-as-Judge自動評価、カスタムスコアの3方式。UIから評価テンプレート・ルーブリック・サンプリング率を設定し自動実行。
Mustache形式テンプレート変数、バージョン自動採番、Productionラベルで本番適用。langfuse.get_prompt('name')で動的取得。
| フレームワーク | 統合方法 | 自動トレース |
|---|---|---|
| OpenAI SDK | observe_openai()ラッパー | ○ |
| LangChain | CallbackHandler | ○ |
| LlamaIndex | set_global_handler | ○ |
| LiteLLM | success_callback | ○ |
| 独自 | @observe()デコレータ | 手動 |
月1〜2回のバージョンアップとPostgreSQLバックアップが主な作業。月間100万トレースで約50〜100GBのディスク使用量。
v3以降で実験的サポート。OpenLLMetryとの併用が推奨される。
セルフホスト単一インスタンスで月間500万〜1,000万トレース。それ以上はRead Replica追加やKubernetesスケーリングが必要。