AI가 자연스럽고 단정적인 문장으로 답해도 사실이라고 볼 수는 없습니다. 존재하지 않는 연구·인용·웹페이지를 만들어내거나, 날짜와 수치를 잘못 말할 수 있습니다. 이런 그럴듯하지만 틀린 답을 흔히 ‘환각’이라고 부릅니다. 해결책은 “틀리지 마”라고 한 번 더 주문하는 데 있지 않고, 중요한 주장마다 출처 원문을 확인하는 절차를 두는 데 있습니다.환각은 왜 생길까OpenAI는 언어모델이 답을 모를 때 확신 있게 추측하도록 유도하는 평가·학습 방식이 환각을 낳을 수 있다고 설명합니다. 모델은 글을 유창하게 이어갈 수 있지만, 그 유창함이 외부 사실을 확인했다는 표시는 아닙니다. 검색 도구를 추가하면 현재 자료를 찾는 데 도움이 되지만, 검색결과와 인용도 빠지거나 오래됐거나 잘못될 수 있습니다.따라서 “출처를..
