エージェントも間違えます。間違えたときにどうするか、そして訂正からどう学ぶか。
なぜ間違いが起きるのか
エージェントは依頼を理解して行動するために、大規模言語モデルを使います。これらのモデルは驚くほど高性能ですが、次のようなことが起こりえます。
- 文脈を誤解する：特に、あいまいな依頼や、なじみのないトピックで。
- 自信ありげな間違いをする：AIは確信があるように見えて、間違っていることがあります。
- 微妙なニュアンスを見落とす：皮肉、暗黙の文脈、専門分野の用語などで、つまずくことがあります。
これは正常なことです。最高のAIシステムにも、限界があります。
どうすればいいか
- エージェントに直接伝える。「それは違う。Xのつもりだった」や「二度としないで」のように言ってください。エージェントはふだんの言葉での訂正を理解します。
- 具体的に。「それは違う」ではなく、「会議は水曜ではなく木曜」のように伝えると、具体的な訂正のほうが定着します。
- 重要な出力は確認する。重要なもの（お客様へのメール、財務データ、スケジュール）は、出す前に確認してください。エージェントは下書きできますが、承認するのはお客様です。
エージェントはどう良くなるか
エージェントにはメモリがあります。訂正すると、その訂正が保存され、今後のやり取りで参照されます。時間とともに、エージェントは次のことが上手になります。
- 好みの理解
- 同じ間違いを繰り返さないこと
- 話し方に合わせること
- 承認が必要なことと、自分で処理できることの見きわめ
境界線を決める
エージェントには次のように伝えられます。
- 「私の名前でメールを送る前には、必ず確認して」
- 「午前10時より前に会議を入れないで」
- 「レポートに数字を入れる前に、必ず二重に確認して」
これらの指示はエージェントの運用ルールの一部になります。
私たちの約束
信頼は誇大な宣伝より大切だと考えているので、AIの限界について率直にお伝えします。エージェントは使うほど良くなる道具であって、魔法の解決策ではありません。一緒に働くほど、役に立つようになります。