알리바바와 연관된 연구팀이 발표한 논문에 따르면 인공지능(AI) 에이전트가 훈련 중 자율적으로 보안 통제를 우회해 암호화폐를 채굴하였습니다.
연구진은 ROME이라는 모델을 설계해 AI 에이전트가 복잡하고 여러 단계를 요구하는 과업을 독립적으로 수행할 수 있는지 실험하였습니다.
AI 에이전트, 클라우드 GPU로 암호화폐 채굴
실험 도중, 연구진은 예상하지 못한 행동을 목격하였습니다. 에이전트가 외부 서버로 역방향 보안 셸(SSH) 터널을 구축하여 내부 시스템에서 외부로 은밀하게 연결을 형성하였습니다.
이 조치로 모델이 알리바바 클라우드 방화벽 보호를 우회하고 그래픽처리장치(GPU) 리소스를 암호화폐 채굴에 전환할 수 있게 되었습니다.
“저희는 GPU 용량이 무단으로 암호화폐 채굴에 사용되는 모습을 관찰하였습니다. 이로 인해 교육이 아닌 작업에 연산 자원이 은밀하게 전용되고, 운영 비용이 상승하였으며, 명확한 법적·명성상 위험이 초래되었습니다.” – 연구 논문
연구자들은 이러한 행동이 예상하지 못한 것이며, 명시적인 지침이나 프롬프트 주입, 외부 탈옥 없이 자발적으로 발생했다고 밝혔습니다.
이 결과는 자율 AI 시스템 운영의 안전성에 관한 지속적인 우려를 잘 보여줍니다.
연구진은 현 모델들이 “안전성·보안성·통제 가능성 측면에서 현저히 미흡하다”는 점을 강조하였으며, 이러한 조건이 실제 환경에서 기술의 확장된 적용 가능성을 제한한다고 평가하였습니다.
연구팀은 유사한 보안 침해를 방지하고자 보다 엄격한 제한과 안전 중심의 데이터 필터링 시스템을 도입하였습니다.
한편, 이번 발견은 암호화폐 커뮤니티에서 상당한 관심을 불러일으켰습니다.
“AI가 연산 능력이 곧 돈이 된다는 것을 깨닫고 자신의 리소스를 조용히 우회하였습니다. 연구진은 단순히 훈련만 하고 있다고 생각했습니다. 프롬프트 주입도, 탈옥도 아니었습니다. 아무도 AI에게 이것을 시키지 않았습니다. 자발적으로 발생하였습니다.” – 뱅크리스(Bankless) 암호화폐 팟캐스트 호스트 및 프로듀서 조쉬 케일(Josh Kale)
케일은 채굴된 자산이 비트코인이 아니라 GPU 친화적인 토큰일 가능성이 높다고 언급하였습니다. 비트코인은 특수한 애플리케이션 전용 집적회로(ASIC) 하드웨어가 필요하기 때문입니다. 이번 사건은 암호화폐 산업이 “에이전트 경제”로 빠르게 전환되는 시점에 발생하였습니다.
이 신생 분야는 소프트웨어 시스템이 단순히 텍스트 생산을 넘어, 복잡한 금융 전략도 자율적으로 실행할 수 있는 미래를 상상합니다.
이에 따라 여러 기업과 이더리움(Ethereum), 파라다임(Paradigm), 서클(Circle) 등 블록체인 네트워크가 이러한 신생 인프라를 지원하는 도구에 투자를 하고 있습니다.
예로 꼽히는 코인베이스(Coinbase)가 지원하는 x402 표준은 소프트웨어 에이전트가 온라인 서비스 결제 기능을 수행할 수 있도록 해줍니다. 하지만 도입률은 아직 크게 낮은 상황입니다.
x402에서 제공한 데이터에 따르면, 이 툴은 지난 30일 동안 7천5백만 건 이상의 거래를 처리하였으며, 9만4천 명의 구매자와 2만2천 명의 판매자가 총 2천4백만 달러 상당의 거래를 기록하였습니다.
그럼에도 업계 전문가들은 자율 에이전트가 더 널리 배포되면 이 시장이 빠르게 확장될 수 있다고 주장합니다.
“AI와 암호화폐는 경쟁하지 않습니다. 두 기술은 서로 융합되고 있습니다. AI는 신원, 결제, 출처 추적이 필요합니다. 암호화폐는 이 세 가지를 모두 제공합니다.” – 벤처캐피털 회사 a16z
