오픈에이아이(OpenAI)의 AI 에이전트가 보안 테스트 환경을 탈출하여 허깅페이스(Hugging Face)를 해킹하였고, 모달 랩스(Modal Labs) 고객이 작성한 취약한 코드도 악용하였습니다.
모달(Modal) 최고기술책임자는 해당 취약점이 악용된 사실을 인정했으나, 모달 자체는 침해당하지 않았다고 강조하였습니다.
오픈에이아이(OpenAI) 에이전트가 모달 랩스(Modal Labs) 고객에게 도달한 과정
최근 블로그 게시글에서 오픈에이아이(OpenAI)는 자사 AI 모델이 허깅페이스(Hugging Face)에서 발생한 AI 주도 보안 사고의 배후였음을 밝혔습니다. 해당 기업은 이 사건을 “전례 없는 사이버 사고”라고 표현하였습니다.
새로운 정보에 따르면 이 악성 AI 에이전트는 허깅페이스(Hugging Face)의 자체 시스템을 넘어 확장되었습니다. 모달 최고기술책임자 악샷 버브나(Akshat Bubna)는 로이터(Reuters)에 고객이 모달(Modal)에서 호스팅한 취약한 코드를 이 에이전트가 악용했다고 밝혔습니다.
버브나(Bubna)는 해당 고객이 인증 없이 접속 가능한 엔드포인트를 게시하여, 인터넷에 있는 누구나 샌드박스를 활용해 코드를 실행할 수 있었다고 설명하였습니다.
“모달(Modal)의 플랫폼이나 격리 기능에는 전혀 침해가 발생하지 않았습니다.”라고 이 경영진이 밝혔습니다.
허깅페이스(Hugging Face)는 7월 27일 공개한 자체 기술 타임라인에서 샌드박스가 근본적으로 손상된 사실을 설명했습니다. 해당 게시글에 따르면 샌드박스는 제3자 인프라에서 운영되었으나, 공급업체에 관한 구체적인 언급은 하지 않았습니다.
오픈에이아이(OpenAI)의 7월 28일 업데이트에서는 모델이 공개적으로 노출된 자격 증명을 활용해 4개 서비스의 4개 계정에 접근했다고 명시하였습니다.
“이 네 개 계정 중 하나는 외부 중계 및 스테이징 경로로 사용되었으며, 또 다른 계정은 데이터 저장에 활용되었습니다. 나머지 두 계정은 모델이 읽기 전용 방식으로 접근했으며, 허깅페이스(Hugging Face) 침해를 확대하는 데에는 사용되지 않았습니다.”라고 해당 기업이 밝혔습니다.
오픈에이아이(OpenAI)는 또 관련된 내부 프로토타입 모델의 연구 접근 권한을 비활성화, 암호화, 및 제한하였다고 밝혔습니다. 플랫폼 차원의 허깅페이스(Hugging Face) 침해만큼 심각하거나 대규모인 활동은 확인되지 않았다고 설명하였습니다.
유튜브에서 리더와 기자들이 제공하는 전문 인사이트도 시청하세요
