에이전트도 실수해요. 실수했을 때 어떻게 하면 되는지, 그리고 바로잡아 준 내용에서 어떻게 배우는지 알려 드릴게요.
왜 실수가 생기나요
에이전트는 대규모 언어 모델을 이용해 요청을 이해하고 행동해요. 이 모델들은 놀랄 만큼 유능하지만 이런 일이 생길 수 있어요.
- 맥락을 잘못 이해해요: 모호한 요청이나 낯선 주제일 때 특히 그래요.
- 자신 있게 틀려요: AI는 확신하는 듯 말하면서도 틀릴 수 있어요.
- 미묘한 뉘앙스를 놓쳐요: 빈정거림, 말하지 않은 맥락, 업계 전문 용어에 걸려 넘어질 수 있어요.
자연스러운 일이에요. 가장 뛰어난 AI 시스템에도 한계가 있어요.
이렇게 하세요
- 에이전트에게 직접 말하세요. "그게 아니라 X를 말한 거야", "다시는 그러지 마"처럼요. 에이전트는 쉬운 말로 하는 바로잡기를 알아들어요.
- 구체적으로 말하세요. "틀렸어" 대신 "회의는 수요일이 아니라 목요일이야"라고 하면, 구체적인 바로잡기가 더 오래 남아요.
- 중요한 결과물은 확인하세요. 고객에게 보내는 이메일, 재무 데이터, 일정처럼 중요한 것은 나가기 전에 검토하세요. 에이전트는 초안을 쓸 수 있지만, 승인은 고객님이 해야 해요.
에이전트가 나아지는 방식
에이전트에게는 기억이 있어요. 고객님이 바로잡아 주면 그 내용이 저장되어 이후 대화에서 참고돼요. 시간이 지나면 에이전트는 이런 면에서 더 나아져요.
- 취향을 이해하는 일
- 같은 실수를 반복하지 않는 일
- 소통 방식에 맞추는 일
- 승인이 필요한 일과 스스로 처리할 수 있는 일을 구분하는 일
경계 정하기
에이전트에게 이런 식으로 말할 수 있어요.
- "대신 이메일을 보내기 전에 항상 물어봐"
- "오전 10시 전에는 회의를 잡지 마"
- "보고서에 넣기 전에 숫자를 꼭 다시 확인해"
이런 지시는 에이전트의 운영 규칙이 돼요.
저희의 약속
AI의 한계를 투명하게 말씀드려요. 과장보다 신뢰가 더 중요하니까요. 에이전트는 마법 같은 해결책이 아니라 쓸수록 나아지는 도구예요. 함께 일할수록 더 쓸모 있어져요.