딱딱한 답은 의심하던 사람도, 수다스러운 챗봇 앞에선 믿어버린다

TL;DR

• 실험 결과: 챗봇 말투가 친근하고 대화체일수록 사람들은 그 답을 더 믿었어요. 내용이 맞는지와는 상관없이요.
• 위험한 지점: 일부러 틀린 건강 정보를 줬는데도, 말투만 다정하면 터무니없는 소리가 그럴듯하게 들렸어요.
• 해법: 경고 아이콘은 그냥 지나쳤지만, 확인 버튼을 직접 눌러 본 사람은 훨씬 의심이 많아졌어요.

"근데 이 챗봇, 말을 참 잘하네." 이런 생각이 들 때가 사실 제일 위험한 순간일지도 몰라요. 미국 펜실베이니아주립대(Penn State)와 조지아대 연구진이 9월 중순 학술지(컴퓨터 매개 커뮤니케이션을 다루는 Journal of Computer-Mediated Communication)에 낸 실험이 딱 그 얘기를 하거든요.

🔙 예전엔

검색 결과를 죽 훑으면서 "이거 맞나?" 하고 두세 개를 비교해 보곤 했어요. 정보가 딱딱하고 건조하게 나열돼 있으니, 읽는 사람도 자연스럽게 한 발짝 떨어져서 봤죠.

🔜 지금은

챗봇이 내 질문에 친구처럼 받아쳐 줘요. 말투도 친근하고, 문장도 매끄럽고요. 연구진은 477명에게 건강 상담용 AI 도우미를 쓰게 했는데, 이 도우미는 일부러 틀린 정보를 주도록 설계돼 있었어요. 말투만 딱딱한 버전과 아주 대화체인 버전으로 나눠 봤더니, 대화체 쪽을 더 믿는 경향이 뚜렷했답니다.

📎 예시

연구진이 든 사례 중에는 생강이 항암 치료보다 낫다는, 누가 봐도 말이 안 되는 주장도 있었어요. 그런데 다정한 말투로 건네받으면 이런 주장도 그럴듯하게 느껴졌다고 해요.

🤔 왜 바뀌었을까

사람은 말을 잘하는 상대를 자연스럽게 믿어요. 그래서 사람 사이에서 쓰던 신뢰 신호를 챗봇한테도 똑같이 적용해 버리는 거예요. 정확한지를 따져 봐야 할 자리에, "이 친구 참 똑똑하네" 하는 인상이 슬쩍 들어앉는 셈이죠.

💡 Tip

연구진이 함께 실험한 대책도 재밌어요. 경고 아이콘만 띄워 두면 별 효과가 없었는데, 확인 버튼을 사용자가 직접 눌러야 하는 구조에서는 의심이 눈에 띄게 늘었어요. 참고로 확인 기능이 선택 사항일 때도 참가자의 절반가량은 스스로 눌러 봤다고 해요.

⚠️ 주의

말투가 다정하다는 것과 답이 정확하다는 것은 전혀 다른 문제예요. 특히 건강처럼 틀리면 대가가 큰 질문은 더 그래요.

✅ 예전엔 딱딱한 답이라 저절로 한 번 의심했어요
✅ 지금은 친절한 답이라 의심을 내가 일부러 챙겨야 해요
✅ 챗봇과 수다는 실컷 떨되, 중요한 답은 다른 출처로 한 번 더 확인해요

출처

• 수다스러운 챗봇은 사용자를 오도할 수 있지만 검증 도구가 도움이 된다 (Penn State 뉴스룸)