앤스로픽(Anthropic)의 연구원 제이컵 콕슨(Jacob Coxon)은 본인이 사임했다고 밝혔으며, 앤스로픽과 오픈에이아이(OpenAI)가 자기 개선 능력을 갖춘 초지능 개발 경쟁을 벌이고 있다고 주장하며 인류의 생명을 위협하는 도박을 하고 있다고 말했습니다.
이 연구원은 지난 3년 동안 두 회사에서 사전 학습(pre-training) 업무에 종사했다고 밝혔습니다. 그는 X에 연속 게시글을 올려 이러한 주장을 했습니다.
앤스로픽 연구원, 내부 임직원에게 암울한 경고를 남기고 퇴사
콕슨은 현재 기술 발전 속도를 과소평가하고 있다고 주장했습니다. 그는 앞으로 등장할 시스템들은 어떤 것이든 해킹할 수 있고, 한순간에 모든 분야를 변화시키며 실제 권력과 자원을 확보할 것이라고 했습니다.
그는 업계 내부의 사적 대화가 대중에게 알리는 메시지와 크게 다르다고도 지적했습니다. 콕슨에 따르면, 고위 인물들은 언론 앞에서는 표현을 완화하지만, 사적으로는 두려움을 표시한다고 밝혔습니다.
“AI를 개발하는 이들은 진심으로 이 기술이 10년 안에 우리 모두를 죽일 수 있다고 믿고 있습니다. 이는 마케팅 행위가 아닙니다.” “이 정도의 위험을 가진 인간 활동은 없습니다.” – 제이컵 콕슨, 앤스로픽 연구원
콕슨은 본인의 두 전 직장에 대한 차이점도 언급했습니다. 그는 오픈에이아이에서는 많은 직원들이 그가 ‘문명적 위기’라고 부르는 상황을 실감하지 못한다고 주장했으며, 앤스로픽은 이를 인식하지만 먼저 도달하기 위한 경쟁에 갇혀 있다고 밝혔습니다.
그는 올해에 퇴사한 여러 직원 중 한 명입니다. 앤스로픽의 세이프가드 리드(safeguards lead) 므리낭크 샤르마(Sharma)도 2월에 사임했습니다.
오픈에이아이 전 선임 미래학자 조슈아 아치암(Joshua Achiam)은 9월 1일 게시글에서 자율적으로 움직이는 AI 시스템이 실제 세계에서 복제되고, 돈과 권력을 추구하게 될 것이라고 언급했습니다.
공조 촉구의 목소리
콕슨은 ‘엔드게임’에 들어선 것을 오만한 도박이라고 표현했습니다. 그는 이러한 결정이 사기업의 슬랙(채팅 프로그램)에서 시작되어서는 안된다고 주장했습니다.
하지만, 그는 공조에 대한 희망을 갖고 있다고 언급했습니다. 콕슨은 허깅페이스(Hugging Face) 공격 이후 미국 내 연구소 간 속도 조정 협약이 더 실현 가능해졌다고 평가했습니다.
양사 모두 이미 해당 개념의 일부를 지지하고 있습니다. 지난 7월에는 앤스로픽 CEO 다리오 아모데이(Dario Amodei)와 오픈에이아이 수석과학자 야쿱 파초키(Jakub Pachocki)를 포함해 1,100명 이상의 최전선 연구소 직원이 “페이싱 더 프론티어(Pacing the Frontier)” 서한에 서명했습니다.
“미국 정부가 인공지능 자동화 개발의 속도를 조절할 수 있는 기술적·거버넌스 도구의 국제적 개발 노력을 지원해 주시길 요구합니다.”라고 서한에는 적혀 있습니다.
또한 양사는 구글, 마이크로소프트 및 약 150개 조직과 함께 공동 공개 서한에도 서명했습니다. 해당 서한은 AI 기반 공격이 앞으로 몇 달 동안 더욱 광범위하고 정교해질 것이라고 경고합니다.
콕슨의 경고는 최근 유엔 인권 최고대표 볼커 튀르크(Volker Türk)가 인권이사회에서 고도화된 AI가 실존적 위협이 될 수 있다고 진술한 직후에 나왔습니다.
콕슨은 글로벌 경쟁을 막으려면 일시적으로 모델 성능 향상 노력을 중지해야 할 수도 있다고 덧붙였습니다. 그는 실험실 연구원들에게 결과물을 모른 채 초지능 강화학습을 시작해도 되는지 다시 생각해 보라고 촉구하며 글을 마무리했습니다.
BeInCrypto는 앤스로픽과 오픈에이아이에 논평을 요청했습니다.
유튜브 채널을 구독하고, 리더 및 기자들이 제공하는 전문 해설을 시청하세요
