AI サーバー ソフトウェア 2026.05.20 11 LLM アプリの観測性 — トークン・コスト・ハルシネーションを計測する LLM アプリの観測性は 普通の Web アプリの観測性 + LLM 固有のメトリクス が必要です。トークン消費・コスト・レイテンシ・ハルシネーション率・ユーザー評価を OpenTelemetry ベースで計測し、改善のフィードバックループを回す設計を整理します。 # LLM # プロンプト # OpenTelemetry
