AI 학습 데이터 오염, 필터 통과 웹 글의 31%가 AI가 쓴 글이라는 연구가 나왔어요

TL;DR

- AI 학습용 필터를 통과한 웹 글에서 AI가 쓴 글의 토큰 기준 비중이 2024년 6월 10.1%에서 2026년 8월 31.1%까지 올랐어요.
- 연구팀이 언어 모델 800개를 직접 훈련시켜 봤더니, AI가 쓴 글은 데이터가 부족한 모델에만 잠깐 도움이 되고 곧 해로워졌어요.
- 걸러내지 않은 2026년 웹 데이터는 사람 글만 학습한 경우와 같은 성능을 내려면 계산 비용이 1.6배 더 든다고 해요.

"AI가 쓴 글을 AI가 또 읽고 배우면 어떻게 되는 거야?" 하고 궁금하셨던 분들 많으실 텐데요. 9월 30일 논문 공개 사이트 아카이브(arXiv)에 올라온 연구가 이 질문에 숫자로 답했어요.

📊 웹 글 세 개 중 하나가 AI 글

연구팀은 웹 페이지를 모아 공개하는 비영리 데이터 저장소 커먼 크롤(Common Crawl)의 글을 분석했어요. AI가 쓴 글을 찾아내는 업체 판그램(Pangram)의 판별 도구로 확인했고요. 파인웹(FineWeb, AI 학습용 웹 글을 품질 기준으로 걸러낸 데이터셋)의 필터를 통과한 글 중 AI가 쓴 비중이 2026년 6월 27.5%, 8월에는 31.1%였어요. 2024년 6월에는 10.1%였으니 2년 만에 세 배 가까이 늘었어요.

🧪 800개 모델로 직접 실험했어요

연구팀은 사람이 쓴 글과 AI가 쓴 글의 비율을 달리해 언어 모델 800개를 훈련시키고 결과를 비교했어요. 여기서 말하는 AI 글은 일부러 만든 실험용 합성 데이터가 아니라, 웹에서 이미 사람 글과 섞여 돌아다니는 글이에요.

📎 예시

학습 데이터가 모자란 작은 모델에는 AI 글을 섞으면 처음엔 성능이 나아졌어요. 그런데 비중이 커질수록 효과가 사라지고 곧 해로워졌어요. 반대로 사람 글이 충분한 모델에는 AI 글이 거의 바로 해로웠어요. 같은 분량의 새로운 사람 글은 계속 성능을 올려줬고요.

⚠️ 주의, 모델 붕괴와는 달라요

이 연구는 AI가 자기가 만든 글만 되풀이해서 배우다 망가지는 모델 붕괴(model collapse)를 다룬 게 아니에요. 논문도 그 점을 분명히 구분했어요. 여러 AI가 사람 독자와 검색엔진을 겨냥해 쓴 글이 라벨 없이 섞여 들어오는 현실 그대로를 본 거예요.

💡 연구팀이 내놓은 대처법

사람 글 성능이 목표라면 AI 글을 걸러내는 게 낫다고 해요. 데이터를 더 모으기 전에 사람 글을 반복해 쓰는 쪽이 낫다는 결과도 나왔어요. 사람 글과 AI 글을 섞어서 검증하면 해로움이 가려지는 경우가 많아서, 종류별로 따로 점수를 매기라는 조언도 있었어요. 연구팀은 라벨을 붙인 830억 토큰(AI가 글을 읽을 때 쪼개 쓰는 단위) 규모의 데이터를 공개했어요.

그러니 앞으로 AI 서비스의 품질을 가르는 건 모델 크기만이 아니라, 어떤 글을 걸러내고 먹이느냐가 될 수 있어요. 우리가 인터넷에 올리는 사람이 직접 쓴 글의 가치도 그만큼 올라가는 셈이고요.

✅ 필터를 통과한 웹 글 중 AI가 쓴 비중(토큰 기준)이 2년 만에 10.1%에서 31.1%로 늘었어요
✅ 사람 글이 충분한 모델에는 AI 글이 거의 바로 해로웠어요
✅ 모델 붕괴와는 다른 문제라서, 걸러내는 기준이 점점 중요해져요

참고자료

• How Much Is an AI Token Worth? 논문 초록(arXiv)
• How Much Is an AI Token Worth? 논문 전문(arXiv)

---

💬 AI 얘기하다 점심 메뉴 얘기로 새도 괜찮은 편한 오픈채팅방이에요, 눈팅만 하셔도 좋아요 → 오픈채팅 참여하기