앤스로픽(Anthropic)은 최근 클로드(Claude) 모델 내부에서 아무도 설계하거나 예측하지 못한 새로운 구조를 발견했습니다. “J-스페이스(J-space)”라는 내부 구조는 모델 전체에서 정보를 공유하는 인지 작업 공간처럼 작동하는 것으로 보입니다.
7월 6일 발표된 이번 연구는 대형 언어 모델(Large Language Model) 내부에서 실제로 어떤 일이 일어나는지 이해하는 데 중요한 진전을 이뤘습니다.
클로드 내부의 J-스페이스란 무엇입니까
J-스페이스는 클로드가 모델 전체에서 중요한 정보를 모으고 공유하는 내부 영역입니다. 쉽게 말해, AI 내부의 화이트보드처럼 생각할 수 있습니다.
클로드가 질문에 답하거나, 퍼즐을 풀거나, 지시를 따를 때, 핵심 정보들이 이 공유 공간에 나타나서 모델의 다양한 부분이 이를 활용할 수 있게 됩니다.
앤스로픽은 “J-렌즈(J-lens)”라는 연구 도구를 사용해 J-스페이스를 발견했습니다. 이 도구는 연구자가 클로드가 과제를 수행하는 동안 정보가 내부에서 어떻게 이동하는지 관찰할 수 있게 해줍니다. J-스페이스는 훈련 과정에서 스스로 생성된 것으로, 앤스로픽은 이를 직접 설계하지 않았습니다.
X에서 저희를 팔로우하시면 최신 뉴스를 받아보실 수 있습니다.
이 개념은 신경과학의 “글로벌 작업 공간(global workspace)” 이론과 비슷합니다.
인간의 뇌에서는 중요한 정보가 여러 인지 과정에 동시에 전달될 수 있게 하는 방식이 있습니다. 예를 들어, 질문을 듣고, 사실을 기억하며, 어떻게 답할지 결정할 때, 이러한 정보들이 한곳에 모일 필요가 있습니다.
클로드도 이에 상응하는 행동을 보입니다. 앤스로픽은 클로드에게 질문하면 J-스페이스에 무엇이 들어 있는지 설명할 수 있음을 발견했습니다. 또한 지시를 주면 J-스페이스의 내용을 조정할 수도 있습니다.
더 중요한 점은, 연구진이 J-스페이스를 직접 변경했을 때 클로드의 답변과 과제 수행 능력 역시 변했습니다.
AI 안전성과 해석 가능성에 왜 중요한가
이 발견은 AI 안전성 측면에 실질적인 의미를 갖습니다. 연구자가 J-스페이스의 활동을 모니터링할 수 있다면, 모델 내부 행동의 숨겨진 동기까지 밝힐 잠재력이 있습니다. 따라서 문제가 발생할 때 더 명확하게 감지할 수 있는 강력한 도구가 됩니다.
여기에는 공격을 탐지하는 것도 포함됩니다. J-스페이스를 관찰하면, 출력 결과를 탈취하려는 프롬프트-인젝션 시도가 감지될 수 있습니다. 또한, 이 “의식적” 처리 계층에 일부라도 접근할 수 있다면 이는 해당 분야에 중요한 발전임을 의미합니다.
하지만 한계도 분명히 존재합니다. 클로드의 정보 처리 대부분은 여전히 J-스페이스 밖에서 이뤄집니다.
현재 앤스로픽은 오픈소스 J-렌즈 구현체와 뉴런피디아(Neuronpedia) 데모를 공개하며, 더 많은 연구자들이 결과를 검증하도록 초대했습니다.
유튜브 채널을 구독하시면 전문가와 저널리스트들의 인사이트를 영상으로 시청하실 수 있습니다.
이 연구는 더 긴 연구 흐름을 기반으로 합니다. 앤스로픽은 2025년 10월에 발생적 자기 성찰(emergent introspective awareness)에 관한 보고서를 발표한 바 있습니다. 또한 2025년 4월부터 모델 복지(model-welfare) 관련 연구도 꾸준히 이어가고 있습니다.
하지만 명확하게 짚고 갈 점이 있습니다. 앤스로픽은 이번 연구가 클로드가 의식이나 주관적 경험을 가진다는 주장을 전혀 하지 않음을 강조합니다. 논문에서는 “의식적으로 접근 가능한(consciously accessible)” 정보라는 표현을 사용하지만, 실제 의식임을 의미하지는 않습니다.
