智能体也会犯错。你的智能体出错时该怎么办，以及它如何从纠正中学习。
为什么会出错
你的智能体使用大语言模型来理解请求并采取行动。这些模型能力出众，但它们可能：
- 误解上下文：尤其是在请求含糊或话题陌生时。
- 出错时听起来很笃定：AI 可能在语气肯定的同时说错。
- 漏掉微妙之处：讽刺、言外之意或特定行业的术语都可能让它出错。
这是正常的。即使是最好的 AI 系统也有局限。
该怎么做
- 直接告诉你的智能体。可以说：“不对，我的意思是 X”或“别再这样做了”。你的智能体能听懂用平实语言给出的纠正。
- 说得具体。与其说“这不对”，不如说“会议在周四，不是周三”，具体的纠正更容易被记住。
- 检查重要的输出。凡是关键内容（发给客户的邮件、财务数据、日程安排），发出前请先过目。你的智能体可以起草，但应由你来批准。
你的智能体如何进步
你的智能体有记忆。你纠正它时，这次纠正会被存下来，并在以后的互动中参考。随着时间推移，你的智能体会越来越擅长：
- 理解你的偏好
- 避免重复犯错
- 贴合你的沟通风格
- 分清哪些事需要你批准，哪些事它可以自己处理
设定边界
你可以对你的智能体说这样的话：
- “代我发邮件之前，一定要先问我”
- “绝不要把会议安排在上午 10 点以前”
- “报告里用到任何数字之前，先仔细核对”
这些指令会成为你的智能体的运行规则的一部分。
我们的承诺
我们坦率说明 AI 的局限，因为信任比炒作更重要。你的智能体是一个越用越好的工具，而不是什么魔法。你与它相处得越多，它就越有用。