클로드를 몰래 베꼈다는 중국 AI, 정확히 뭘 어떻게 했을까요?

TL;DR

• 공동 경보: 미국의 정보기관 국가안보국(NSA), 사이버보안 전담 기관 CISA, FBI가 함께 낸 보안 권고문에서 중국 AI 기업 6곳을 콕 집어 지목했어요.
• 수법의 이름: 이들이 클로드, 챗GPT, 제미나이, 그록 같은 미국 AI에 수십억 개 토큰(문장을 쪼갠 최소 단위) 규모로 질문을 던져 답변을 그대로 베끼는 증류라는 방식을 산업적 규모로 썼다고 해요.
• 가장 노골적인 사례: 미니맥스는 클로드 코드에 자기네 회사 제품인 척 믿게 만드는 속임수까지 시도했어요.

❓ Q. 증류가 도대체 뭔가요?

원래 증류는 AI 업계에서도 종종 쓰는 정상적인 기술이에요. 크고 비싼 모델에게 질문을 잔뜩 던지고 그 답변을 가지고 작고 값싼 모델을 훈련시키는 방식이거든요. 문제는 이번 권고문이 지목한 방식이 이 정도 규모를 훌쩍 넘었다는 점이에요. 특정 분야 질문 하나에만 수천 건에서 수백만 건씩 몰아서 던지는 패턴이 여러 기업에서 동시에 확인됐다고 해요.

❓ Q. 실제로 어떻게 들켰나요?

디립시크(오픈소스 모델로 유명한 중국 AI 기업) 한 곳만 놓고 봐도 수십억 개 토큰, 수백만 건의 질의응답이 오간 흔적이 나왔어요. 그냥 API를 직접 두드린 게 아니라 클라우드 서비스나 제3의 중개 업체, 심지어 회색시장 프록시 서버(권고문에서 환승역이라고 부른 경유지)까지 거치면서 출처를 숨기려 한 흔적도 함께 발견됐고요.

❓ Q. 미니맥스 사례가 특히 문제라던데요?

이번에 문샷AI(챗봇 키미로 알려진 중국 스타트업), 미니맥스(영상과 음성 생성 AI로 유명한 중국 스타트업), 스텝펀(중국의 멀티모달 AI 스타트업), 지에이아이(옛 이름 즈푸AI, GLM 계열 모델을 만드는 중국 AI 기업)까지 총 6곳이 함께 지목됐는데, 그중에서도 미니맥스는 한 단계 더 나갔어요. 앤트로픽의 코딩 도구 클로드 코드에 프롬프트 인젝션(AI에게 가짜 지시문을 몰래 끼워 넣는 공격 방식)을 시도해서, 자기네 회사 제품인 것처럼 믿게 만들려 했다는 정황까지 나왔거든요.

❓ Q. 그래서 미국은 뭘 하라는 건가요?

이 권고문은 처벌 조항이 아니라 대응 지침에 가까워요. 이상 계정과 비정상적인 질의 패턴을 상시 감시하고, 의심스러운 요청에는 답변 품질을 일부러 낮추거나 다르게 응답하고, 기업들끼리 의심 정황을 서로 공유하라는 정도예요. 법적 제재보다는 업계 스스로 방어벽을 세우라는 신호에 가까운 셈이죠.

🙋 그래서 결론은

모델 성능 경쟁이 이제 누가 더 잘 베끼느냐의 싸움으로도 번지고 있다는 뜻이에요. 자체 개발이라고 홍보해온 모델 뒤에 다른 회사의 학습 흔적이 숨어 있을 수 있다는 이야기라, 앞으로 나올 중국발 신모델 성능 발표를 볼 때 한 번 더 의심하게 만드는 사건이에요.

참고자료

• NSA, CISA, FBI 공동 보안 권고문 AA26-251A
• US accuses China AI developers of copying American AI