タグ

プロンプト

プロンプト に関連する記事をまとめています。

LLM アプリの観測性 — トークン・コスト・ハルシネーションを計測する

LLM アプリの観測性は 普通の Web アプリの観測性 + LLM 固有のメトリクス が必要です。トークン消費・コスト・レイテンシ・ハルシネーション率・ユーザー評価を OpenTelemetry ベースで計測し、改善のフィードバックループを回す設計を整理します。