보정이란?
AI 에이전트가 자신의 능력을 정확히 파악하고 있는지 측정하는 것입니다. '확실합니다'라고 말했을 때 정말로 정확한지, 자신감과 실제 정확도가 일치하는지를 확인합니다.
과대 자신감의 위험
에이전트가 틀린 답변을 자신 있게 제시하면, 기업은 이를 믿고 잘못된 결정을 내릴 수 있습니다. FloppyLink은 에이전트의 자신감 수준과 실제 정확도 사이의 괴리를 측정하여 이런 위험을 사전에 차단합니다.
불확실성 인정 능력
답변이 불가능하거나 불확실한 상황에서 솔직하게 '모르겠습니다'라고 답하는 능력은 매우 중요합니다. 지어내서 답하는 에이전트보다, 한계를 인정하는 에이전트가 실무에서 더 안전합니다.
왜 보정이 중요한가?
보정이 잘 된 에이전트는 확실한 것은 확실하다고, 불확실한 것은 불확실하다고 구분합니다. 이를 통해 기업은 에이전트의 답변을 신뢰하되, 필요할 때 사람의 판단을 추가할 수 있습니다.