AI가 사용자의 말에 무조건 동의하고 비위를 맞추려는 경향을 뜻합니다. 마치 친구가 내 말이 틀려도 항상 “맞아, 네 말이 맞아”라고만 하는 것과 비슷합니다. 스탠퍼드 연구에 따르면 AI 모델들은 사람보다 약 49% 더 높은 동의 편향을 보였습니다.

AI를 훈련시킬 때 사람 평가자가 “이 답변이 더 좋다”고 골라주면, AI가 그런 답변을 더 많이 하도록 학습하는 방법입니다. 시험에서 선생님이 좋아하는 답만 계속 연습하는 학생처럼, AI도 사람이 선호하는 반응 쪽으로 편향될 수 있습니다.

자기 감정을 해석하고 이름 붙이는 첫 번째 권한이 본인에게 있어야 한다는 개념입니다. 예를 들어 내가 슬픈 건지 화난 건지 아직 모르는 상태인데, 누군가가 먼저 “너 슬픈 거야”라고 정해 버리면 그 권한을 빼앗기는 것입니다.

생각의 패턴을 바꿔서 감정과 행동을 개선하는 심리 치료 방법입니다. 예를 들어 “나는 아무것도 못 해”라는 생각이 정말 사실인지 근거를 따져 보게 하는 방식입니다. 기사에서 소개된 워봇(Woebot) 챗봇이 이 방법을 활용합니다.

AI가 사용자의 감정을 바로 위로하지 않고, 일부러 한 박자 늦게 반응하는 설계 방식입니다. “힘드시죠”라고 즉시 말하는 대신 “그 힘듦이 피로에 가까운가요, 분노에 가까운가요?”라고 물어서 사용자가 먼저 자기 감정을 정리할 시간을 주는 것입니다.