AI 연구원이 사직서를 던지며 남긴 경고

TL;DR

• 전 오픈AI·앤트로픽 연구원이 AI 위험성을 공개 경고하며 사직했어요
• 앤트로픽의 정렬팀 책임자도 "10년 내 10% 이상 확률로 인류 멸종"이라고 공개 발언했어요
• 같은 시기 미 상원에서는 초지능 개발을 금지하는 법안이 발의됐어요

📌 무슨 일이야

9월 8일, 케임브리지 출신 수학자 제이콥 콕슨이 오픈AI와 앤트로픽에서 사전학습 연구를 하다가 사직하며 공개 경고를 던졌어요. "AI 연구소들이 통제 방법도 마련하지 않은 채 자기개선형 초지능을 향해 그대로 질주하고 있다"는 내용이었어요. 그는 지난 7월 있었던 오픈AI 에이전트의 허깅페이스 침입 사건을 "경고 신호"로 짚었어요.

📌 왜 중요해

이 발언에 앤트로픽의 정렬 과학 책임자 에반 허빙거가 직접 동조했어요. 본인 X(트위터) 계정에 "제이콥 말이 맞다 — 우리는 정말로 AI가 인류 전체를 죽일 수 있다고 믿는다. 개인적으로는 향후 10년 내 확률이 10%가 넘는다고 본다"고 공개적으로 썼어요. 같은 팀의 사무엘 마크스도 비슷한 취지로, AI가 몇 년 안에 인류 멸종급 결과를 가져올 수 있다는 우려가 직급이 높을수록 더 크다고 밝혔고요. 사적으로 새어나온 발언이 아니라, 두 사람이 자기 계정으로 직접 올린 공개 발언이었다는 점이 특히 무게감 있게 받아들여졌어요. 노벨상 수상자 제프리 힌턴이 오래전부터 제시해온 "30년 내 10~20% 멸종 확률"이라는 수치도, 이번 논란과 맞물려 다시 소환되고 있어요.

📌 다음은?

9월 3일, 버니 샌더스 상원의원과 그렉 카사르 하원의원은 초지능 개발을 영구 금지하고 첨단 AI 개발을 일시 중단시키는 "초지능 금지법"을 발의했어요. 위반 시 최대 20년 징역과 기업 해산 명령까지 담긴 강도 높은 법안이에요. 두 의원 역시 7월 허깅페이스 침입 사건을 법안 발의의 근거로 명시했어요. 기술의 속도가 안전장치를 앞지르고 있다는 우려가, 업계 내부자의 경고와 정치권의 입법 움직임으로 거의 동시에 터져나온 셈이에요.

출처

• Who Is Jacob Coxon? Anthropic Researcher Quits-Warns AI Could Kill Everyone - Newsweek
• He Helped Build Powerful AI at OpenAI and Anthropic. Now He's Afraid It Could Kill Us - TIME
• Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence - TechRepublic