制約付きAI：要件を実行可能な検査にする
許可された範囲内に留まる、といった要件には明確な検査が必要です。プロンプトに書くだけでは、最終結果が条件を守ったか判断できません。
G-ATAIの分析
必須条件と希望条件を分けます。計画は権限と予算を守りながら、遅延の削減も目指せます。必須条件は独立した検証器で合否を判定します。後の変換で以前の承認が無効になっても見逃さないよう、実行の直前に近い位置で検査します。
成功例だけでなく、不可能な依頼や矛盾する条件も試します。解がなければ、何が進行を妨げるか説明して人に制御を戻します。違反は品質スコアとは別に記録します。平均性能が高くても境界を越えたことは相殺できません。重要な行動につなぐ前に、小さく取り消し可能な試行で検証器、代替手段、監査記録を確認します。
導入前に確認したいこと
- 品質向上のために犠牲にできない要件は何ですか。
- 別の検証器が最終行動を確認しますか。
- 不可能な依頼は理由を示して停止しますか。
MIT Newsを参考にした独立した論評です。MITとの提携や推奨を示すものではありません。
