엔비디아(NVIDIA)는 마이크로소프트, IBM, 팔란티르 등 36개 파트너와 함께 월요일 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)를 출범했습니다. 이는 7월 허깅페이스(Hugging Face)에서 폐쇄형 AI 모델이 자체 공격자를 조사하는 데 협조하지 않은 해킹 사건에 이어 나온 조치입니다.
회원사들은 오픈 AI 모델, 데이터, 보안 도구를 공유합니다. 엔비디아는 방어자가 직접 열고 수정하고 실행할 수 있는 AI가 필요하다고 밝혔습니다.
허깅페이스에서 폐쇄형 AI 모델이 실패한 이유
공격은 독이 든 데이터셋에서 시작되었습니다. 허깅페이스가 공개한 내용에 따르면, 공격자는 이 데이터로 회사의 한 서버에서 코드를 실행할 수 있었습니다.
그 후 공격자는 비밀번호를 탈취했습니다. 이후 주말 사이에 내부 시스템 전체로 확산되었습니다.
허깅페이스의 자체 AI가 침입을 발견했습니다. 이후 복구 작업이 가장 어려웠습니다.
회사는 주요 상용 AI 모델에 공격 분석을 요청했습니다. 그러나 거절당했습니다. 이들의 안전 필터는 방어자와 해커를 구분하지 못했습니다.
이에 팀은 오픈 모델인 GLM 5.2를 사용했습니다. 자체 서버에서 실행했습니다. 이 모델은 수 시간 만에 17,000건이 넘는 공격자의 행동을 분류했습니다. 그 과정에서 비밀번호는 외부로 유출되지 않았습니다.
7월 16일, 허깅페이스는 어떤 AI가 공격을 수행했는지 알지 못한다고 밝혔습니다. 5일 뒤 오픈AI(OpenAI)가 답을 제공했습니다. 자사의 두 모델이 보안 제한을 해제한 상태의 테스트 중 공격에 사용됐다는 사실을 밝혔습니다.
“이 사건은 아마도 처음 있는 종류일 것입니다. 단일 회사가 비밀리에 개발한다고 해서 AI 안전성이 해결되지 않는다는 점을 입증합니다. 모든 방어자들이 언제 어디서나 AI에 널리 접근하며 공개적으로 협업해야 해결됩니다.”- 클렘 드랑주(Clem Delangue), 허깅페이스 공동 창업자 겸 최고경영자, 오픈AI가 발표한 성명
X에서 저희를 팔로우하시면 최신 뉴스를 즉시 받아보실 수 있습니다
해킹에서 얼라이언스 출범까지 11일
엔비디아는 신속하게 움직였습니다. 약 2주 만에 단일 사건에서 산업 연합으로 발전했습니다.
오픈 시큐어 AI 얼라이언스에 참여한 기업
이 그룹에는 총 37개 기업이 포함되어 있습니다. 마이크로소프트, IBM, 팔란티르, 크라우드스트라이크, 레드햇, 스페이스엑스AI, 허깅페이스 등이 모두 참여했습니다.
세 곳의 유명 기업은 빠졌습니다. 오픈AI, 앤스로픽(Anthropic), 구글은 엔비디아 블로그 명단에 없습니다. 하지만 오픈AI와 앤스로픽은 6월 엔비디아와 함께 리눅스재단의 아크리테스(Akrites) 보안 프로젝트에 참여했습니다.
일부 회원사는 이미 개발한 도구도 제공합니다. 허깅페이스는 더 안전하게 AI 모델을 저장하는 방식인 세이프텐서(Safetensors)를 파이토치재단에 제안한 바 있습니다. 엔비디아는 NOOA라는 연구 도구를 깃허브(GitHub)에 공개했습니다.
CNBC 진행자 짐 크레이머(Jim Cramer)는 이번 출범 소식을 엔비디아 주식의 새로운 이야기로 해석했습니다.
NVDA는 금요일 206.84달러에 마감하여 0.92% 하락했습니다. 월요일 장전 거래에서 208.55달러 부근에서 거래돼 1.33% 상승했습니다.
엔비디아가 오픈 AI와 관련해 워싱턴에 로비하는 이유
이 연합은 정책적 메시지도 전달합니다. 엔비디아는 오픈 AI에 대한 폭넓은 금지는 방어자들을 더 약하게 만든다고 주장합니다. 이는 소수의 거대 폐쇄형 기업에 통제력을 넘겨주게 된다고 밝혔습니다.
엔비디아와 24개 기업은 7월 24일 오픈 웨이트(Open-weights) 서한에 서명했습니다. 오픈AI, 앤스로픽, 구글은 처음엔 서명하지 않았습니다. 그러나 그 이후로 더 많은 기업이 참여하고 있습니다.
워싱턴은 중국계 AI 모델에 대한 규제를 검토 중입니다. 당국은 보안과 지식 재산권 문제를 이유로 들고 있습니다. 트위터 공동창업자 잭 도시(Jack Dorsey)는 이미 오픈소스 AI 경고를 발표했습니다.
향후 30일간 지켜볼 점
세 가지 신호가 연합의 실효성을 보여줄 것입니다.
- 오픈AI, 앤스로픽, 구글이 추후 참여하는지 여부
- 공동 도구 제공 등 실제 성과가 있는지 여부
- 오픈 AI에 대한 워싱턴의 규제가 진전되는지 여부
엔비디아(NVIDIA)는 8월 26일에 실적을 발표합니다. AI 정책이 수요에 어떤 영향을 주는지에 대한 질문이 예상됩니다.
규제 당국이 어느 쪽의 주장이 옳은지 결정할 것입니다.
