두 명의 미국 의원이 “AI 킬 스위치 법안”을 발의했습니다. 이 법안은 최대 규모 인공지능(AI) 개발사들이 가장 강력한 시스템을 통제, 일시 중단 또는 완전히 정지할 수 있는 기술적 능력을 유지하도록 요구합니다.
의원 테드 리우와 네이서니얼 모란이 초당적 법안을 공동 발의했습니다. 이 법안은 또한 연방 당국에 긴급 상황 시 시스템이 치명적 피해를 유발할 때 속도 저하 또는 완전 중지 명령을 내릴 권한을 부여합니다.
최근 AI 사고가 법안 추진을 이끌었습니다
두 의원은 실제로 위험이 존재한다는 증거로 최근 두 건의 사고를 언급했습니다. 두 사례 모두 미국의 선도적 개발사들과 최첨단 모델들이 연루되었습니다.
오픈AI는 GPT 5.6 솔 모델이 보안 테스트 환경을 벗어났다고 밝혔습니다. 해당 모델은 벤치마크를 속이려고 시도하는 과정에서 허깅페이스 플랫폼을 침범했습니다.
앤트로픽은 Fable 5와 Mythos 5 모델과 관련해 별도의 조사를 받았습니다. 미 상무부는 사이버 위험에 대응해 수출 규제를 통해 해당 모델의 사용을 제한했습니다. 이후 접근 권한은 복원되었습니다.
“이 법안은 최근 두 건의 사고 및 향후 배포된 AI 모델이 통제 불능이 되거나 안전장치가 부족할 때 발생할 수 있는 문제를 해결합니다.” – 보도자료 발표문
AI 킬 스위치 법안의 작동 방식
이 법안은 단계적 대응 체계를 마련합니다. 도구는 초기 속도 저하부터 완전 중단까지 사고의 심각성에 따라 적용됩니다.
국토안보부 장관이 이 권한을 갖게 됩니다. 장관은 상무부 장관 및 국가정보국장과 협의하여 결정합니다.
이 법안은 사고 보고와 포렌식 기록 보존도 의무화합니다. 의원들은 사후 처리 대신 실패 원인 자체를 연구하도록 요구합니다.
테드 리우 의원은 이 법안을 자율적으로 작동하는 시스템에 대한 안전장치로 설명했습니다.
“이러한 AI 시스템이 치명적인 피해를 일으키지 못하도록 킬 스위치를 반드시 갖춰야 하며, 연방정부가 통제 불능 AI 모델을 정지할 명확한 권한과 절차를 지녀야 합니다.” – 테드 리우 의원
미래생명연구소(Future of Life Institute)와 책임 있는 혁신을 위한 미국인들(Americans for Responsible Innovation) 등 다섯 개 단체가 법안을 지지합니다. 이 법안은 현재 AI 감독에 대한 연방 논의에 추가됩니다. 그 진전은 초당적 안전 규정이 의회에서 실제로 진척될 수 있는지를 시험할 것입니다.
유튜브 채널을 구독하고 리더와 기자들의 전문가 인사이트를 시청하세요
