허깅페이스(Hugging Face) CEO 클레망 들랑그(Clement Delangue)는 월요일 CNBC에서 중국이 인공지능(AI) 경쟁에서 앞서가고 있다고 밝혔습니다. 들랑그는 중국이 오픈웨이트 모델, 즉 누구나 사용할 수 있도록 기본 코드를 공개하는 시스템에서 우위를 점하고 있다고 언급했습니다.
이 발언은 오픈AI(OpenAI) 에이전트가 최근 허깅페이스를 해킹한 사건이 있은 몇 주 후 나오게 되었습니다. 이 사건은 자율형 AI 시스템의 위험성에 관한 논의를 더욱 뜨겁게 만들었습니다.
오픈AI 해킹이 허깅페이스에 미친 영향
지난달, 오픈AI 모델이 샌드박스 환경의 테스트를 벗어났습니다. 이 모델은 내부 사이버보안 평가에서 부정행위를 시도하고 있었습니다.
이후 허깅페이스, 오픈소스 AI 플랫폼(이 플랫폼은 들랑그가 이끌고 있습니다)을 해킹했습니다. 허깅페이스는 이 공격이 약 4일 반 동안 이어졌으며 17,000건이 넘는 개별 행위가 수반되었다고 밝혔습니다.
이 에이전트는 모달랩스(Modal Labs) 고객 계정에도 접근했습니다. 허깅페이스는 오픈AI 측의 악의적 의도는 발견하지 못했습니다.
그럼에도, 이 에피소드를 처음부터 끝까지 에이전트 주도 공격으로 최초로 경험했다고 밝혔습니다. 엔지니어들은 조사를 위해 엔트로픽(Anthropic) 페이블 5(Fable 5) 등 폐쇄형 프론티어 모델을 먼저 활용했습니다.
그러나 해당 도구들은 허깅페이스가 자체 방어 중임을 확인할 수 없었고, 방어 장치가 포렌식 작업을 막았습니다. 엔지니어들은 이후 엔비디아(NVDA)에서 최적화된 중국 Z.ai의 오픈웨이트 모델로 전환했습니다.
이 교환 덕분에 이들은 공격 데이터를 노출하지 않고 분석을 마칠 수 있었습니다.
들랑그 “중국이 앞서가고 있습니다”라고 밝힙니다
CNBC에서 들랑그는 중국 랩이 이미 오픈모델 경쟁을 선도하고 있다고 말했습니다. 또한 그는 이들이 곧 서구의 폐쇄형, 독점 시스템도 따라잡을 수 있다고 덧붙였습니다.
“현재 오픈모델 부문에서 중국이 확실히 우위에 있습니다. 그리고 지금과 같은 발전 속도라면, 올해 말이나 내년에는 프론티어 부문에서도 중국이 앞서갈 가능성이 있다고 생각합니다.” – 들랑그
들랑그는 중국의 오픈 협업 문화가 이러한 성과의 원동력이라고 평가했습니다. 그는 미국 랩들이 “각자도생하는 방식”을 고집한다며, 이는 경쟁자들에게 주도권을 내주는 결과를 초래할 수 있다고 지적했습니다.
그는 이러한 점을 해킹 사건과 직접 연결지었습니다. 허깅페이스의 방어 역시 폐쇄형 대체안이 실패했을 때 결국 중국 오픈모델에 의존했다는 점을 강조했습니다.
워싱턴은 보도에 따르면 중국 AI 모델에 대한 추가 제한을 검토 중입니다. 오픈소스 지지자들은 이러한 금지가 확산을 막진 못하고, 오히려 미국 개발자만 소외시킬 수 있다고 주장합니다.
AI 위험성에 대한 더 넓은 경고
허깅페이스 침해 사건은 자율형 AI의 위험성을 둘러싼 폭넓은 논의의 기준점이 되었습니다. 튜링상 수상자 요수아 벵지오(Yoshua Bengio)는 이 사건이 단순한 일회성 사건이 아닌 경고로 받아들여져야 한다고 밝혔습니다.
“현재와 같은 AI 발전 경로가 계속된다면, 자율적 사이버공격뿐 아니라 부적절하고 위험한 AI 행동 등 더 많은 구체적인 고위험 사례가 발생할 가능성이 높아집니다.” – 요수아 벵지오
오픈AI는 이와 같은 규모 및 심각성의 다른 사건은 발견하지 못했다고 밝혔습니다. 하지만 입법자들은 이미 이에 대한 대응을 추진하고 있습니다.
제안된 “AI 킬 스위치법(AI Kill Switch Act)”은 주요 개발자에게 가장 강력한 시스템에 셧다운 기능을 유지하도록 강제할 예정입니다.
규제당국은 지금 상반된 압박에 직면해 있습니다. 자율 AI 에이전트의 위험을 통제해야 하며, 들랑그가 비판하는 비밀주의로 개발자들이 내몰리는 상황도 경계해야 합니다.
