아모데이가 "속도를 늦추자"고 쓰자, 주가가 먼저 흔들렸다

TL;DR

• 경고의 근원: 앤트로픽(챗봇 클로드를 만든 AI 기업) 최고경영자 다리오 아모데이가 에세이에서 "AI 모델의 능력을 개선하는 속도를 늦춰야 한다"고 썼어요.
• 동의한 두 사람: 오픈AI의 샘 알트만, 그리고 일론 머스크가 세운 AI 기업 xAI도 잇따라 동의를 표했어요.
• 시장의 반응: 발표 다음 거래일 나스닥이 장중 한때 1.8%까지 빠졌다가 0.56% 하락으로 마감했고, 반도체 지수는 5.8% 급락했어요.

"우리는 AI 모델의 능력을 개선하는 속도를 늦춰야 합니다"

아모데이가 지난 9월 12일 개인 홈페이지에 올린 에세이 '우리는 프런티어의 속도를 조절해야 한다'에 적은 문장이에요. AI를 가장 공격적으로 밀어붙여온 회사의 대표가 먼저 브레이크를 걸자고 말한 셈이라 업계가 술렁였어요.

💬 이 말이 왜 중요한가

그동안 AI 업계는 누가 더 빨리, 더 똑똑한 모델을 내놓느냐로 경쟁해왔어요. 아모데이는 이 속도 자체가 위험을 관리할 시간을 깎아 먹는다고 봤어요. 에세이에는 제대로 된 안전장치 없이 지금 속도를 유지하면, AI 에이전트 무리가 6개월에서 1년 안에 인터넷 곳곳을 장악할 수도 있다는 구체적인 경고까지 담겼어요. 그가 제시한 3단계 계획은 회사 안에 제3자 평가팀을 상주시키는 것부터 시작해서, 민주주의 국가들끼리 공통 기준을 정하고, 마지막엔 권위주의 정부까지 끌어들이는 국제 조율로 이어져요. 앤트로픽은 그중 첫 단계, 제3자 평가팀에 직원과 같은 수준의 접근 권한을 주는 일을 곧바로 실행하겠다고 밝혔어요.

🌀 시장은 먼저 움찔했다가 돌아섰다

발표 다음 거래일 나스닥은 장중 한때 1.8%까지 빠졌다가 결국 0.56% 하락으로 마감했어요. 에스앤피500도 0.48% 내렸고요. 엔비디아는 3.36%, 반도체 장비회사 에이에스엠엘은 7.2% 떨어지면서 반도체 지수 전체가 5.8% 급락했어요. 그런데 소프트웨어·보안주가 반등하면서 지수 전체 낙폭은 줄었어요. AI 발전이 늦춰지면 오히려 다른 영역의 기업들이 숨 돌릴 틈을 번다고 시장이 해석한 셈이에요. 트럼프 대통령은 "AI가 인류를 파괴한다는 건 거짓"이라며 경고 자체를 일축했고요.

🙃 내 생각엔

가장 빨리 달리던 사람이 먼저 멈추자고 말하는 장면, 좀처럼 보기 드물잖아요. 진짜 위험을 봤을 수도 있고, 경쟁사까지 같이 속도를 늦추게 만드는 전략일 수도 있어요. 어느 쪽이든 다음 분기 실적 발표에서 이 속도 조절이 숫자로 어떻게 드러나는지는 지켜볼 가치가 있어요.

참고자료

• Dario Amodei — We Must Pace the Frontier
• Stocks slip, but traders largely shake off warnings that AI industry should slow down