AI 환각은 AI가 사실이 아닌 내용을 ‘그럴듯하게’ 지어내는 현상입니다. AI를 쓸 때 가장 주의할 점입니다.
환각이란
AI는 ‘가장 그럴듯한 다음 말’을 만들 뿐, 사실을 검증하지 않습니다. 그래서 없는 통계·인용·출처를 자신 있게 지어낼 수 있습니다.
왜 생기나
학습한 패턴에 기반해 답을 ‘생성’하기 때문입니다. 모르는 것도 모른다고 하지 않고 답을 만들 수 있습니다.
어떻게 대처하나
AI는 사실을 그럴듯하게 지어낼 수 있습니다(환각). 중요한 내용은 항상 신뢰할 수 있는 출처에서 다시 확인하세요. 출처를 함께 보여주는 도구(퍼플렉시티 등)나 ‘내 자료에서만 답하기’(RAG)도 도움이 됩니다.
AI를 단순히 써보는 데서 나아가 업무에 한데 모으고 싶다면, 채팅·자동화·앱을 한곳에서 잇는 플랫폼을 살펴볼 수 있습니다 — 예를 들어 osFoundry는 직접 모델을 연결하는(BYO 모델) 에이전트형 AI 플랫폼입니다.
더 읽어보기
이 글은 일반적인 정보이며 법률·세무 자문이 아닙니다.