G-ATAI
← AIの記事をもっと読む

MIT News · 原記事の公開日:

制約付きAI:要件を実行可能な検査にする

許可された範囲内に留まる、といった要件には明確な検査が必要です。プロンプトに書くだけでは、最終結果が条件を守ったか判断できません。

G-ATAIの分析

必須条件と希望条件を分けます。計画は権限と予算を守りながら、遅延の削減も目指せます。必須条件は独立した検証器で合否を判定します。後の変換で以前の承認が無効になっても見逃さないよう、実行の直前に近い位置で検査します。

成功例だけでなく、不可能な依頼や矛盾する条件も試します。解がなければ、何が進行を妨げるか説明して人に制御を戻します。違反は品質スコアとは別に記録します。平均性能が高くても境界を越えたことは相殺できません。重要な行動につなぐ前に、小さく取り消し可能な試行で検証器、代替手段、監査記録を確認します。

導入前に確認したいこと

  • 品質向上のために犠牲にできない要件は何ですか。
  • 別の検証器が最終行動を確認しますか。
  • 不可能な依頼は理由を示して停止しますか。

MIT Newsの原記事を読む ↗

MIT Newsを参考にした独立した論評です。MITとの提携や推奨を示すものではありません。

多面体の金属迷路を通るシアンの軌道