AI 킬 스위치, 상원은 막고 캘리포니아는 왜 꺼냈을까요?

TL;DR

• 상원: AI에 비상 정지 장치를 의무로 달자는 법안이 의원 한 명의 반대로 본회의에서 멈춰 섰어요.
• 캘리포니아: 뉴섬 주지사가 행정명령으로 킬 스위치를 포함한 안전 규칙을 두 달 안에 검토하라고 지시했어요.
• 핵심: 아직 의무가 된 건 하나도 없어요. 11월 16일에 나올 권고안이 첫 분기점이에요.

❓ Q. 킬 스위치가 정확히 뭐예요?

공화당 존 케네디 상원의원이 낸 법안은 독립적인 존재처럼 커질 수 있는 AI를 미국에서 팔려면, 위험해졌을 때 즉시 끌 수 있는 장치를 넣으라는 내용이에요. 케네디 의원은 스위치를 쥐는 쪽이 정부가 아니라 회사라는 점을 강조했어요. 규제라기보다 "비상 정지 버튼은 달아두라"에 가까운 요구죠.

❓ Q. 상원에서는 무슨 일이 있었어요?

케네디 의원이 만장일치 동의(이의 제기하는 의원이 한 명도 없으면 토론과 표결 없이 통과시키는 상원 절차)로 법안을 처리하려 하자, 같은 공화당의 랜드 폴 의원이 반대해서 멈췄어요. 경제 전반에 퍼진 기술을 규제하려면 업계 의견부터 듣고 구조를 토론해야 한다는 이유였어요. 폭스뉴스 보도에 따르면 케네디 의원은 제프리 힌턴 같은 AI 안전 전문가들이 연 비공개 브리핑에 참석한 공화당 의원이 자기뿐이었다고 해요.

❓ Q. 캘리포니아는 뭘 했어요?

18일 뉴섬 주지사가 행정명령에 서명했어요. 전문가 실무그룹이 11월 16일까지 권고안을 내놓게 했고, 검토 목록에는 최첨단 AI 기업의 연구소에 독립 검증 기관이 들어가 정기 감사를 하는 방안, 안전 계획과 위험 보고서를 외부가 확인하는 방안, 킬 스위치 개발을 추진하는 방안이 올라 있어요. 통제를 잃은 사고도 보고 대상 중대 사고에 넣자는 안도 있고요.

⚠️ 주의

이 행정명령이 킬 스위치를 지금 당장 의무화하는 건 아니에요. 검토를 지시한 단계예요. 뉴섬 주지사는 2024년에 정지 기능을 요구한 법안 SB 1047에 거부권을 행사한 적이 있어서, 이번에는 같은 주제를 다시 꺼낸 셈이에요.

❓ Q. 업계는 스스로 하겠다는 거 아니에요?

NBC 보도를 보면 앤트로픽·오픈AI의 CEO와 일론 머스크 같은 업계 인사들이 "우리 규칙은 우리가 만들겠다"는 쪽으로 모이는 분위기예요. 이에 뉴욕주 하원의원 앨릭스 보어스는 자율규제는 말부터 모순이라고 반박했어요. 회사가 자발적으로 바꾼 건 회사가 다시 되돌릴 수도 있다는 게 반론의 뼈대예요.

🙋 그래서 결론은

연방 차원에서는 논의가 막혔고, 주 차원에서는 검토가 시작됐어요. 정지 장치를 법으로 강제할지, 업계 자율에 맡길지가 갈리는 지점이에요. 당장 바뀌는 건 없으니, 11월 16일 권고안에 어떤 항목이 남는지부터 지켜보면 돼요.

참고자료

• Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch
• Newsom order forms California AI panel to study kill switch creation, new safety regulations (CBS Sacramento)
• Rand Paul clashes with fellow Republican over AI kill switch (Fox News)
• AI bosses say they can self-regulate: Morning Rundown (NBC News)