마크 저커버그는 이번 주 인공지능(AI) 멸종 논쟁에 참여했습니다. 그는 시장 압력이 이미 AI 연구소들에게 새로운 규제 없이도 안전을 우선시하도록 만든다고 주장했습니다.
메타(META) 최고경영자인 저커버그는 몇 주 전 초지능에 대해 경고한 뒤 이번 입장을 밝혔습니다. 그는 이 기술이 소수의 기업이 아닌, 사용자 개개인을 강화해야 한다고 말했습니다.
저커버그가 시작하지 않은 논쟁
그는 8월 에세이에서 그 어떤 기업이나 정부도 초지능 시스템을 통제해서는 안 된다고 주장했습니다. 저커버그는 광범위한 분산 방식을 선호한다고 밝혔습니다.
이 글은 워싱턴이 AI 산업 내부에서 나온 경고에 대응하는 시기에 등장했습니다. 앤트로픽 연구원 제이콥 콕슨은 이번 달 사임했습니다. 그는 고용주와 오픈AI가 충분한 안전장치 없이 자기개선 시스템을 서둘러 도입한다고 비판했습니다.
콕슨의 퇴사는 초지능 전면 금지 움직임에 불을 지폈습니다. 상원의원 버니 샌더스와 하원의원 그렉 카사르는 이 노력을 이끌고 있습니다.
오픈AI 안전 연구원 마커스 윌리엄스는 인류 멸종 확률을 향후 3년 내 70%로 산정했습니다. 그는 연구소들이 개발 속도를 늦추거나 규제 당국이 개입하면 그 확률이 낮아질 수 있다고 덧붙였습니다.
저커버그의 실제 발언
저커버그는 통제가 아닌 정렬(alignment)이 성공적인 AI 에이전트와 실패한 에이전트를 가를 것이라고 주장했습니다. 그는 신뢰가 AI 산업의 가장 큰 자산이 되고 있다고 말했습니다.
“사람들은 자신과 맞지 않거나 요청한 것을 수행하지 않는 에이전트를 사용하고 싶어하지 않습니다. 연구소들은 자연스럽게 모델을 더 잘 맞추도록 강한 동기를 갖고 있습니다.”
마크 저커버그는 X에 올린 게시글에서 이 같은 견해를 밝혔습니다.
그는 메타가 안전성을 위해 취한 조치도 언급했습니다. 메타는 뮤즈(Muse) 개인 비서의 4월 초기 출시를 보류했습니다. 이는 보안 우려를 해결하기 위해서였습니다. 저커버그는 메타가 업계 전체의 규칙을 기다리지 않고 자체적으로 대응했다고 설명했습니다.
그는 또한 메타 슈퍼인텔리전스 랩스(MSL)가 이미 독립 평가자를 통해 작업을 검토하고 있다고 말했습니다. 저커버그는 경쟁 연구소들도 외부 평가를 도입할 수 있다고 주장했습니다.
메타 창업자는 대부분의 컴퓨팅 자원을 자기개선이 아니라 사람에게 제공하도록 집중하면 개발의 안전성을 유지할 수 있다고 덧붙였습니다.
저커버그의 주장은 근본적 의견 차이를 해소하지 못했습니다. 비평가들은 자기개선형 AI에 대한 실행력 있는 한계를 요구합니다. 메타는 경쟁과 이해관계에 맡기고 있습니다.
이 균형이 유지될지는 향후 저커버그의 AI 신속 도입 요구에 대한 미 의회의 대응에 영향을 미칠 수 있습니다.
