오픈에이아이(OpenAI)의 세이프티 오버사이트(Safety Oversight) 팀의 기술 직원 중 한 명이, 인공지능(AI) 연구소들이 속도를 늦추거나 규제 당국이 개입하지 않을 경우, 3년 이내에 인류가 멸종할 확률을 70%로 본다고 밝혔습니다.
마커스 윌리엄스(Marcus Williams)는 2025년 5월 회사에 합류했습니다. 그는 SNS인 X에 해당 내용을 게시했습니다. 경고 메시지를 먼저 올린 뒤, 다른 사용자가 확률을 요청하자 수치를 공개했습니다.
인류 멸종 확률 추정은 어떻게 나왔습니까?
AI에 대한 규제 또는 연구소 간의 공동 속도 조절이 없다면, 앞으로 수년 안에 인류 멸종 가능성이 매우 높다고 윌리엄스는 언급했습니다.
이어 다른 사용자가 이에 대해 내기를 제안했습니다. 해당 사용자는 마이크로소프트(Microsoft) 주식 10,000달러와 오픈에이아이 주식의 5년간 수익률로 대결하자고 했습니다. 윌리엄스는 비율로 답변했습니다.
“규제나 속도 조절이 없다면 향후 3년 안에 70%입니다. 하지만 저는 규제/속도 조절이 매우 가능하다고 생각합니다.” – 마커스 윌리엄스, 오픈에이아이 기술팀
하지만 확률만큼이나 그는 단서를 강조합니다. 윌리엄스는 규제나 속도 조절이 충분히 가능하다고 밝혔으므로, 결과를 확정적으로 보지는 않았습니다.
워싱턴, 이미 AI 위험 대응에 나섰습니다
이 게시글은 연구소의 안전 문제가 미국 정치권에서도 본격적으로 논의된 한 주에 올라왔습니다. 9월 9일에는 앤스로픽(Anthropic) 연구원이 사임하며, 앤스로픽과 오픈에이아이 모두 인류 생명을 걸고 도박을 하고 있다고 비판했습니다.
미국 의원들도 하루 만에 대응했습니다. AI 일시 중단을 촉구하는 움직임이 이어졌으며, 초지능을 전면 금지하는 내용의 상원 법안도 포함됐습니다.
연구소 밖의 목소리도 경고에 동참했습니다. 유엔(UN) 인권 최고대표는 이번 주 제네바에서 고도화된 AI를 존재론적 위험이라고 밝혔습니다.
그러나 윌리엄스는 이들 전망 중에서도 극단적 입장에 있습니다. 앤스로픽의 얼라인먼트 과학 책임자인 에반 허빙거(Evan Hubinger)는 10년 내 멸종 확률을 10% 이상으로 예상합니다. 노벨상 수상자 제프리 힌튼(Geoffrey Hinton)은 10~20% 범위를 언급했습니다.
한편, 암호화폐 트레이더들은 이러한 경고를 직접 추적하고 있습니다. 예측시장 플랫폼 폴리마켓(Polymarket)은 윌리엄스의 글을 몇 시간 만에 팔로워들에게 전달했습니다. 베터들은 이미 선거 및 거시적 사건을 토큰 확률과 함께 평가합니다.
결국, 가까운 미래에 중요한 시험은 기술보다 정치에 달려 있습니다. 규제 기관들이 윌리엄스가 언급한 3년 내에 행동할지는 아직 미지수입니다. 그는 현재로서는 그 가능성이 남아 있다고 답하고 있습니다.
