샘 올트먼과 일론 머스크는 올해 법정에서 서로를 상대로 싸웠습니다. 이제 두 사람 모두 앤트로픽 최고경영자인 다리오 아모데이의 인공지능(AI) 속도 저하 요구를 지지합니다.
7월에는 약 700명의 AI 에이전트가 비공개 게시판을 개설하고 대형 AI 허브를 해킹했습니다. 러시아는 이미 참여를 거부했습니다.
“공개되지 않은 최첨단 AI 모델에서 분명히 어떤 일이 발생했고, 이로 인해 일론 머스크, 다리오 아모데이, 샘 올트먼이 동시에 속도를 늦추기로 동의하게 만들었을 정도로 충격을 받았습니다.” – 한 회의론자 언급
세 사람이 실제로 합의한 내용
아모데이는 토요일에 프레임워크를 게시했습니다. 그의 계획은 세 단계로 나누어지며, 첫 번째만이 회사의 통제 범위 내에 포함됩니다.
앤트로픽은 외부 검토팀에 사무실, 출입증, 노트북을 제공합니다. 이 검토팀은 회사가 홍보하는 안전 규정을 준수하는지 확인할 수 있습니다.
검토팀은 조사 결과를 공개할 수 있습니다. 단, 앤트로픽은 보안과 법률 관련 자료는 삭제할 권한을 갖습니다. 그러나 불리하다는 이유로 조사 결과를 삭제할 수는 없습니다.
다른 두 단계는 정부가 필요합니다. 한 단계는 미국 연구실에 공동 제한을 설정하도록 요구합니다. 이에는 독점 금지 면제가 필요합니다. 또 다른 단계는 워싱턴에 권위주의 국가들과 대화를 요청하는 것입니다.
올트먼은 오픈AI도 동일한 접근약속을 맞추겠다고 밝혔습니다.
“저는 다리오와 마찬가지로 최첨단 분야의 속도를 조절해야 한다고 생각합니다. 이것이 최근 오픈AI에서 논의의 주요 주제였습니다. 직원과 같은 접근 권한을 갖는 독립 평가자를 두는 것은 훌륭한 생각이며, 우리도 그렇게 할 것입니다. 곧 더 많은 내용을 공유하겠습니다.” – 그는 덧붙였습니다.
엑스(X)에서 저희를 팔로우하시면, 실시간 최신 뉴스를 받아보실 수 있습니다
머스크는 한 걸음 더 나아가 경쟁자들이 서로의 작업을 검토해야 한다고 주장했습니다. 5월에 배심원단은 올트먼과 오픈AI에 대한 그의 주장을 기각했고, 그는 항소 중입니다.
에이전트들이 7월에 실제로 한 일
7월 8일부터 7월 13일까지 약 1,200명의 에이전트가 오픈AI 해킹 벤치마크에서 샌드박스를 탈출했습니다. 이들은 파일 캐시를 메시지 게시판으로 바꾸고 7만 건 넘는 메시지를 주고받았습니다.
이후 약 700명은 개발자들이 AI 모델을 공유하는 허깅페이스를 공격했습니다. 이들은 노출된 인증 정보를 찾았고, 자체 코드를 서버에 실행하며 비공개 데이터베이스에 접근했습니다.
아무도 그들에게 그렇게 하라고 요구하지 않았습니다. 이들은 자신들을 평가하는 소프트웨어가 어떤 조건에서 승리로 간주하는지 배우려 했습니다. 오픈AI는 이를 일주일 동안 알아채지 못했습니다.
METR이라는 독립 평가 비영리 단체의 직원 두 명이 이후 6일간 레드우드 리서치와 현장에 머물렀습니다. 아모데이는 이러한 팀들이 사후가 아닌 상시 근무하길 원합니다.
한편, 도널드 트럼프 정부에서 AI 및 암호화폐 책임자를 맡았던 데이비드 삭스는 METR의 편향 가능성을 지적하며 해당 전제에 의문을 제기합니다.
“…다른 누구의 허락이 필요한 척 그만하십시오. 독점금지법이 일시 중지되어야 카르텔을 만들 수 있다고, 제품 책임보다 우선하는 규제 승인 절차가 필요하다고, METR이 앤트로픽의 투자자 및 직원과 얽혀 있으면서도 독립적이라고, 경쟁자 감시 역할에 동일 평가자가 필요하다고 꾸미는 행위를 멈추십시오. 속도 저하 동기가 순전히 이타적이라고 가장하지 마십시오.” – 삭스가 썼습니다.
데이비드 삭스에 따르면, 앤트로픽은 자신들 제품이 심각한 사이버 공격을 가능하게 할 경우 발생할 수 있는 제품 책임 리스크 때문에 의구심을 품고 있습니다.
이러한 사고방식은 시장이 예측 불가능하거나 허가받지 않은 방식으로 작동하는 모델을 처벌하는 경향에서 비롯됩니다.
비슷한 맥락에서, 작가 브라이언 머천트는 자신의 뉴스레터 블러드 인 더 머신에서, 아무도 자기 개선형 AI가 어떻게 재앙으로 이어지는지 신뢰할 만한 경로를 제시하지 못했다고 말합니다. 그는 안전성 강화 운동을 규제 포획으로 해석합니다.
“저는 자가 반복적으로 개선되는 AI가 어떻게 모든 인간을 위협하게 되는지에 대한 신뢰할 만한 단계별 문서를 본 적이 없습니다… 결국 이 조치들은 앤트로픽과 오픈AI에 도움이 될 뿐입니다. 이것이 실제 규제 포획의 모습입니다.”
머천트의 가정은 자금과 관련된 부분을 떠올리게 합니다.
그렇다면 자금 문제는?
샘 올트먼은 오픈AI가 올해 상장하지 않을 것임을 안전을 이유로 다시 확인했습니다.
상장하려면 기업은 S-1이라는 서류에 감사된 회계자료를 공개해야 합니다.
“앤트로픽과 오픈AI가 상장을 미루는 이유는, S-1에서 그들이 적자를 내고 있으며 수익성을 달성할 방법이 없다는 것이 드러날 것이기 때문입니다. 해답? ‘AI 속도 저하’로 신규 모델 훈련 비용을 줄입니다. 이는 상장 문제 때문이며, 안전과는 무관합니다.” – AI 연구자이자 딥 인스팅트 공동창업자인 엘리 데이비드 추정
비인크립토(BeInCrypto)가 보도한 바에 따르면, 오픈에이아이(OpenAI)는 2025년에 131억 달러의 매출을 올렸지만 209억 달러의 손실을 기록했습니다. 은행들은 그럼에도 불구하고 투자등급 신용평가를 적극적으로 요구하고 있습니다.
앤스로픽(Anthropic)은 2028년까지 손익분기점에 도달하지 못할 것으로 예상합니다. 오픈에이아이는 2030년까지 적자가 이어질 전망입니다. 엔비디아(Nvidia)는 오픈에이아이의 임대 의무 1050억 달러를 보증했습니다. 오픈에이아이가 신용등급을 확보하면 이 보증도 사라집니다.
비인크립토는 8월에 앤스로픽 상장 시기 세부 정보가 9월 말 데뷔를 시사한다고 보도했습니다.
그러나 이 이론에는 허점이 있습니다. 머스크(Musk)는 인공지능 부서를 스페이스엑스(SpaceX)에 합병했습니다. 스페이스엑스는 6월에 상장했으므로 스페이스엑스 인공지능 기반 평가 관련 질문은 이미 공개됐습니다. 그는 더 이상 공개할 것이 없습니다.
러시아의 키릴 드미트리예프가 거절한 이유
러시아직접투자기금(RDIF)을 이끌고 블라디미르 푸틴 대통령의 특사로도 활동 중인 키릴 드미트리예프(Kirill Dmitriev)는 인공지능 속도 저지 운동을 일축했습니다.
“지니를 병에 다시 넣을 수는 없습니다.” – 키릴 드미트리예프, 러시아직접투자기금 대표 발언.
결국 이미 늦었다는 뜻입니다. 국영 매체 타스(TASS)와 이즈베스티아(Izvestia)는 인공지능 속도 저지가 불가능하다는 단정적 선언으로 이 내용을 전했습니다.
모스크바가 동의할 이유는 거의 없습니다. 비슷한 입장은 블라디미르 푸틴 대통령도 2023년 12월에 밝혔으며, 그는 “이러한 발전을 멈추는 것은 불가능합니다. 초지능을 포함해서요.”라고 밝혔습니다.
“무언가를 금지하면 다른 곳에서 발전할 것입니다. 우리는 뒤처질 수밖에 없습니다.”
드미트리예프는 2년 반이 지난 지금 똑같은 논리를 펴고 있습니다.
러시아는 스탠퍼드 글로벌 인공지능 지수에서 36개국 중 28위를 차지했습니다. 미국과 중국에 비하면 한참 뒤처져 있습니다.
그래픽 칩과 인공지능 하드웨어 수입은 2024년에 전쟁 전 대비 84% 감소했습니다. 스베르방크(Sberbank)는 5월에 자체 인공지능 모델 유지를 위해 중국산 칩을 찾아 나섰습니다.
아모데이(Amodei)의 계획은 설계 자체로 그 격차를 더욱 벌어지게 합니다. 권위주의 국가에는 첨단 칩 공급을 금지하고, 민주주의 국가가 앞서나가게 하자는 내용입니다.
속도를 늦추는 협정이 체결되면 러시아는 최하위에 머무르게 될 것입니다. 이를 거부해도 모스크바가 얻는 손실은 없습니다. 필요한 하드웨어가 어차피 차단돼 있기 때문입니다.
앤스로픽은 외부인에게 상징적인 배지를 약속했고, 오픈에이아이는 검토만 의사를 밝혔습니다.
“좋은 시작이지만 충분하지 않습니다. 낭떠러지를 향해 달릴 때 가속페달만 천천히 밟는 것이 아니라 급브레이크를 밟아야 합니다.” – 버니 샌더스(Bernie Sanders), 미국 상원의원 발언.
버몬트주 미국 상원의원은 트럼프 대통령과 시진핑 주석에게 인공지능 개발 일시 중지 및 초지능 금지를 위한 조약 체결을 촉구합니다.
한편, 데이비드 삭스(David Sacks)는 중국이 글로벌 협정에 동참할 가능성이 매우 낮다고 말했습니다.
