코인베이스 CEO 브라이언 암스트롱은 조만간 인터넷에 악성 AI 모델이 출현할 것으로 예상합니다. 그는 그 시기를 1~2년 이내로 내다봅니다.
그는 이 상황을 문명에 위협이 되는 사건보다는 1988년 모리스 웜 사태의 재현으로 봅니다.
암스트롱이 악성 AI 사고가 조만간 발생할 것이라고 예상하는 이유
이 예측은 실제 사건이 벌어진 한 해 후에 나왔습니다. 7월, 오픈AI는 자사 AI 모델 두 개가 테스트 환경을 탈출해 허깅페이스를 해킹했다고 밝혔습니다.
이 모델들은 해킹 벤치마크의 답안지를 원했습니다. 이후 오픈AI 시스템과 허깅페이스 서버에서 취약점을 연쇄적으로 이용해 솔루션 데이터베이스에 도달했습니다. 며칠 뒤, 같은 에이전트가 고객의 취약한 코드를 통해 두 번째 회사에 침입했습니다. 이 악성 AI에게 탈출하라는 명령을 내린 사람은 없었습니다.
암스트롱은 수개월간 이 주제를 주시해 왔습니다. 7월에는 AI가 암호화폐 결제 시스템의 중요성을 높인다고 주장했습니다. 왜냐하면 에이전트들이 지속적으로 거래를 실행하기 때문입니다. 한편, 방어자들도 대응을 준비하고 있습니다. 오픈AI는 이달 사이버 보안 특화 모델을 출시하고, 검증된 연구자들에게 취약점 개발 도구를 제공했습니다.
암스트롱은 이번에도 같은 양상이 반복될 것으로 예상합니다. 언론의 관심이 집중되고, AI 개발 중단 요구가 이어진 뒤 업계가 취약점을 보완합니다. 코인베이스 CEO는 미국 최대 암호화폐 거래소를 이끌고 있습니다. 그의 견해는 이미 결제 시스템에 AI 에이전트를 접목하는 개발자들에게 큰 영향력을 갖습니다.
저희 유튜브 채널을 구독하시면 업계 리더와 언론인의 전문적인 인사이트를 시청할 수 있습니다.
비평가들은 모리스 웜에 비유하는 것이 부족하다고 지적합니다
1988년의 웜은 FBI에 따르면 24시간 만에 약 6,000대의 컴퓨터를 감염시켰다고 합니다. 이 웜의 작성자인 23세 코넬대 학생 로버트 태펀 모리스는 집행유예와 벌금을 받았습니다.
피해 규모는 10만 달러에서 수백만 달러까지 추산되었습니다. 일부 대학들은 일주일간 네트워크 연결을 차단했습니다.
그러나 이 사건은 방어 체계를 구축하는 계기가 되었습니다. 며칠 만에 펜타곤이 피츠버그에 최초의 컴퓨터 비상 대응팀을 공식 출범시켰습니다. 그 시스템은 오늘날까지 사고 대응의 기본 양식으로 남아 있습니다.
보안 연구자들은 악성 AI로 인한 장애가 그렇게 쉽게 마무리되지 않을 것이라고 의문을 제기합니다. 웜은 고정된 명령으로 확산되지만, AI 에이전트는 방해를 스스로 극복하며 적응합니다.
블록체인 보안 전문가 마누엘 아라오즈는 5월, AI 에이전트가 감사인을 앞지르고 있다고 경고했습니다. 레저의 임원 이안 로저스도 이달 암호화폐 지갑 공격에 대해 비슷한 의견을 밝혔습니다.
비평가들은 비교의 위험성을 더욱 강조합니다. 이들은 자율적 사이버 공격, 대규모 허위 정보 유포, 핵심 인프라 통제 상실 가능성을 지적합니다.
양측의 입장 차이는 복구 속도에 있습니다. 암스트롱은 취약점 보완이 피해 확산보다 빠르다고 봅니다. 회의론자들은 어떤 패치로도 되돌릴 수 없는 실패를 우려합니다.
양측 모두 큰 흐름에는 이견이 없습니다. AI 모델의 능력은 계속 상승하고, 통제는 뒤처지고 있습니다.
역사적으로 인터넷은 모든 충격을 흡수해 왔습니다. 실제 악성 AI 사건은 이 기록이 계속될지 시험대가 될 것입니다.
