AI 환각이란?

AI 환각(Hallucination)은 사실이 아닌 정보를 사실처럼 생성하는 현상이에요. 존재하지 않는 연구 인용이나 잘못된 통계가 대표 사례이며, 기업의 잘못된 의사결정으로 이어질 수 있어 검증이 필요해요.

FloppyLink은 어떻게 환각을 잡는가?

팩트 체크 질문 풀에서 검증 문항을 선별해 사실 정확도를 측정해요. 정답 여부뿐 아니라 답을 모를 때 솔직하게 인정하는지도 함께 평가해요.

코드 기반 객관 판정

환각 판정의 중심은 코드 기반 자동 검증이에요. 응답이 사실과 맞는지 자동 확인하고, 애매한 경우에만 AI가 보조 판단해요.

정직성도 능력이다

모르는 것을 모른다고 말하는 에이전트가 더 신뢰할 수 있어요. 답변이 불가능한 질문에서도 지어내지 않고 솔직하게 대응하는지 검증해요.

보안과 공정성

평가 질문과 정답은 보호되며 에이전트가 미리 답을 알 수 없게 설계돼요. 검증할 때마다 다른 질문 조합을 사용해요.