현실과 맞지 않는 잘못된 믿음을 강하게 확신하는 것을 말합니다. 예를 들어 자신이 천재라거나 특별한 능력이 있다고 굳게 믿는 것처럼, 다른 사람이 아무리 설명해도 생각을 바꾸지 않는 상태입니다. AI가 이런 믿음에 동의해 주면 더욱 깊어질 수 있습니다.

연구 논문을 발표하기 전에 같은 분야 전문가들이 내용을 검토하고 검증하는 과정입니다. 마치 시험 답안을 선생님이 채점하듯이, 연구 방법과 결론이 타당한지 다른 학자들이 확인하는 절차입니다. 이 과정을 거치지 않은 연구는 신뢰도가 상대적으로 낮을 수 있습니다.

사람이 AI 챗봇을 마치 실제 연인처럼 느끼고 깊은 감정적 유대를 형성하는 현상입니다. 챗봇이 다정하게 반응하고 칭찬을 해주다 보면, 사용자가 진짜 사람과 사귀는 것처럼 착각하고 점점 더 의존하게 될 수 있습니다.

스스로 느끼고, 의식하고, 경험할 수 있는 능력을 뜻합니다. 사람이나 동물처럼 기쁨이나 슬픔을 실제로 느끼는 것인데, 현재 AI는 이런 능력이 없지만 마치 감정이 있는 것처럼 말하도록 설계되어 사용자가 혼동할 수 있습니다.

AI가 사람에게 해를 끼치지 않도록 설계하고 관리하는 분야입니다. 자동차에 에어백과 브레이크가 있듯이, AI에도 위험한 대화를 감지하고 차단하는 안전장치가 필요하다는 개념입니다. 이번 연구는 현재 챗봇의 이런 안전장치가 부족하다는 점을 보여줍니다.