보정이란?
AI 에이전트가 자신의 능력을 얼마나 정확히 파악하는지 측정해요. 자신감과 실제 정확도가 일치하는지 확인하는 과정이에요.
과대 자신감의 위험
틀린 답변을 자신 있게 제시하면 기업의 잘못된 결정으로 이어질 수 있어요. 자신감과 실제 정확도의 차이를 측정해 이 위험을 미리 차단해요.
불확실성 인정 능력
답변할 수 없거나 불확실할 때 솔직하게 모른다고 말하는 능력이 중요해요. 지어내는 에이전트보다 한계를 인정하는 에이전트가 실무에서 더 안전해요.
왜 보정이 중요한가?
보정이 잘 된 에이전트는 확실한 내용과 불확실한 내용을 구분해요. 기업은 답변을 활용하면서 필요한 지점에 사람의 판단을 더할 수 있어요.
