LLM評価プラグイン
質問・回答・参照文脈をもとに、LLM回答の関連性や根拠との一致を評価します。変更前後の比較に使えます。
Dify上の実行結果は掲載していません。

回答のどこを改善したいか、評価項目を決める
プロンプトを変えた後、回答が良くなったかを印象だけで比べないためのプラグインです。質問と回答に加え、RAGなら参照文脈も渡し、関連性や根拠との一致を評価します。
スコアの読み方
同じ質問群で変更前後を比べ、下がった項目を調べます。Faithfulnessは回答が参照文脈に沿うかを見る指標、G-Evalは独自の評価基準を与える方式です。スコアだけで本番公開を決めず、業務上の誤りや見落としを人が確認します。
評価点の差を回答文へ戻って見る
同じ質問群で変更前後を比較し、点が変わった回答と参照文脈を開いて確かめます。
仕様・導入前に確認すること
対応環境・入力・出力・制約
認証方式
- プロバイダー設定にOpenAI APIキーが必要。評価モデルの利用料金は利用者の契約に従います
入力
- 10種類の評価ツールから選択。関連性は
inputとactual_output、忠実性はそれにretrieval_contextを加えます - 指標ごとにモデルと合格しきい値を選べます
出力
- 指標名、0〜1の
score、passed、reasonなどのJSON
制約
- 指標ごとに必須入力が異なります。RAGの精度・再現率は
expected_outputも必要です - スコアは評価モデルの判定であり、事実性や業務上の正しさを保証しません
配布内容を確認して申し込む
配布物、利用条件、申請後の案内を専用フォームで確認できます。



