예전엔 AI 쓴 걸 숨겼는데, 이제는 '언제 밝힐지'를 설계해요

TL;DR

• 역설: 사람들은 AI 사용을 밝히라고 요구하면서, 막상 AI 표시가 붙은 글은 덜 믿는 경향이 있어요.
• 판단 틀: UX 연구 기업 닐슨 노먼 그룹이 공개 여부를 정하는 다섯 가지 기준 PACED를 내놨어요.
• 설계 과제: AI 표시는 이제 법 준수용 문구가 아니라 화면에서 다뤄야 할 UX 요소예요.

"AI 도움 받았다고 적으면 괜히 성의 없어 보이지 않을까요?" 콘텐츠를 만드는 팀이라면 한 번쯤 해본 고민이에요. 9월 25일 사용성 연구로 유명한 컨설팅 기업 닐슨 노먼 그룹(NN/g)이 이 고민에 답하는 글을 냈어요. 숨길지 말지가 아니라, 언제 어떻게 보여줄지로 질문이 바뀌었다는 이야기예요.

🔙 예전엔

AI 사용 표시는 각자 알아서 정하는 문제에 가까웠어요. 밝히면 손해라는 인식이 강했고, 표시하더라도 페이지 구석의 짧은 문구로 끝나는 경우가 많았죠. 실제로 NN/g가 소개한 한 연구에서 독자들은 공개를 원한다고 답하면서도, AI가 썼다고 표시된 글은 덜 믿음직하고 덜 진정성 있다고 평가했어요. 밝히자니 손해, 숨기자니 찜찜한 상황이었던 거예요.

🔜 지금은

규칙이 먼저 움직였어요. 유럽연합의 AI 법(EU AI Act, 유럽의 인공지능 규제법) 투명성 조항이 8월 2일부터 적용됐고, 완전히 AI로 만든 콘텐츠와 AI로 일부 고친 콘텐츠를 구분하는 공식 아이콘도 확정됐어요. 미국 캘리포니아 주지사는 9월 16일, 광고에 AI로 만든 가상 출연자가 나오면 눈에 띄게 알리도록 하는 법에 서명했고요. 앤트로픽은 EU 규정에 맞춰 앞으로 나올 클로드 모델의 글에 사람 눈에는 안 보이는 워터마크를 넣겠다고 밝혔어요.

🤔 왜 바뀌었을까

NN/g가 인용한 47개 연구 리뷰를 보면, 공개 자체가 신뢰를 일관되게 깎는 건 아니었어요. 반응을 가른 건 맥락이었죠. 감사 편지나 개인 이메일처럼 사람의 온기가 중요한 글에선 반감이 컸고, 예약 알림 같은 정보성 안내에선 거의 없었어요. 가장 큰 역풍은 숨겼다가 제3자에게 들켰을 때 왔고요.

💡 Tip

PACED는 정책(Policy), 독자(Audience), 맥락(Context), 기대(Expectations), AI 사용 정도(Degree)를 보고 공개 여부를 정하라는 틀이에요. 워터마크는 기계가 읽는 표시라서, 사람이 보는 안내 문구를 대신하진 못해요.

✅ 예전엔 AI 표시를 들키면 손해인 비밀처럼 다뤘어요.
✅ 지금은 법과 아이콘이 생겨 어디에, 어떤 강도로 보여줄지 정해야 해요.
✅ 결국 AI 표시도 맥락에 맞춰 설계하는 UX 요소가 됐어요.

참고문헌

• When Should You Disclose AI Use? The PACED Framework
• AI Can Help Write an Article, but It Can't Stand Behind It
• EU Finalises Transparency Rules for AI-Generated Content
• California Enacts SB 1050: New Disclosure Requirement for Synthetic Digital Performers in Advertising
• How Claude's text watermarking works