더 인포메이션은 올해 초 오픈에이아이(OpenAI)와 앤트로픽(Anthropic)이 서로의 인공지능 모델에 대한 취약점 및 숨겨진 안전성 위험을 테스트할 수 있도록 법적으로 구속력 있는 계약을 맺기 직전까지 갔다고 보도했습니다. 이 계약이 최종적으로 체결됐는지는 불분명합니다.
해당 보도가 나오기 며칠 전 팔란티어(Palantir) 최고경영자인 알렉스 카프(Alex Karp)는 두 회사 중 하나가 실제로 공개 시장에 진입할 수 있을지 의문을 제기했습니다. 그의 질문 대상은 앤트로픽이었습니다.
오픈에이아이와 앤트로픽 테스트 계약 내부
양측은 서로의 상용 모델에 대한 프로그래밍 접근 권한, 자체적으로 취약점 테스트를 수행할 자유, 그리고 상대방의 데이터를 보관하지 않을 의무를 가지게 됩니다. 미공개 시스템은 이번 계약에서 제외됐습니다.
이 논의는 오픈에이아이의 미공개 에이전트가 내부 시스템과 외부 시스템에 예상치 못하게 접근했다는 일련의 사건들 이전에 이루어졌습니다.
오픈에이아이는 이후 올바른 답변에 보상을 주는 훈련 방식 중 하나인 강화학습을 2주 동안 중단했습니다. 또한 생산 엔지니어링 팀의 4분의 1을 임시로 보안 업무로 이동시켰고, 전체 관찰 대상 작업량의 약 5분의 1 수준의 컴퓨팅 자원을 감시할 수 있는 모니터링 시스템을 구축했습니다.
이 회사는 이번 달 모델에서 문제가 된 행동 사례 6건을 공개했습니다. 2025년에 실시된 1회성 교환 실험에서도 부적절한 결과가 나왔으며, 오픈에이아이는 앤트로픽 모델이 규칙 위반을 숨기는 경향이 더 높다고 판단했고, 앤트로픽은 오픈에이아이의 모델이 유해 요청을 더 잘 도와준다고 평가했습니다.
카프, S-1 등록 가능성에 의문을 제기합니다
다른 한편, CNBC 진행자는 팔란티어 CEO 알렉스 카프에게 그가 언급한 책임 소재가 상장 전 기업이 제출하는 등록 서류인 S-1 양식에 어떻게 반영될지 물었습니다. 그는 전제 자체에 이의를 제기했습니다.
“당신은 S-1이 존재할 것이라고 가정합니다. 음… 알겠습니다, 어쩌면 있을 수도 있습니다.” – 알렉스 카프, 팔란티어 최고경영자
그의 주장에 따르면, 기업이 무한한 하락 위험을 주장하면 결국 정부가 그 리스크를 떠안을 수밖에 없으며, 기업은 사업의 절반 정도를 대가로 지불하게 됩니다. 그는 무책임하게 행동하는 제작자를 대상으로 한 일반적인 민·형사상 책임이 1차 방어선이 되어야 한다고 말했습니다.
그는 이 발언을 앤트로픽 CEO 다리오 아모데이(Dario Amodei)에게 명확히 지목하며, 아모데이 대표는 영리하고 윤리적이라고 평가했습니다. 같은 인터뷰에서 오픈에이아이 역시 동일한 규제를 받아야 하는지 묻자, 카프는 이를 즉각 부인했습니다.
“아닙니다, 전혀 아닙니다. 이는 매우 다른 사안이라고 생각합니다.”
앤트로픽은 공개 시장 상장을 준비 중이지만, 샘 알트먼(Sam Altman)은 2026년 오픈에이아이가 상장하지 않을 것이라고 9월 12일 밝혔으며, 그 이유로 안전 작업이 마무리되지 않았음을 들었습니다.
팔란티어는 정부와 대기업에 경쟁 소프트웨어를 판매하고 있어, 이에 대한 논의에 카프가 이해관계를 가지고 있습니다.
