바이럴 프롬프트가 챗지피티(ChatGPT)에게 사용자를 아는 모든 정보로 빈 방을 채워 달라고 요청합니다. 그 결과, 챗지피티의 기억에 얼마나 많은 정보가 저장되어 있는지 드러납니다. 많은 사용자는 챗봇이 데이터를 저장한다는 사실을 알고 있었으나, 한 장의 이미지로 이를 한눈에 본 뒤 불안감을 느끼기도 합니다.
이 트렌드는 겉으로 보기에는 무해한 재미로 보입니다. 하지만 동시에 보안 테스트 역할도 합니다. 방 안의 모든 물건이 과거 사용자가 챗봇에 입력한 데이터를 반영하기 때문입니다. X에 공개적으로 공유된 이미지들은 같은 프로필을 타인에게도 넘겨줄 수 있습니다.
챗지피티의 메모리에는 실제로 무엇이 저장됩니까?
이 프롬프트는 텅 빈 회색 방의 단순한 이미지와 한 가지 지시만을 제공합니다. 챗봇은 과거 대화 내역을 기반으로 공간을 꾸밉니다. X의 인기 암호화폐 계정은 팔로워들에게 이를 시도하고 결과를 공유하라고 권유했습니다.
오픈에이아이(OpenAI)에 따르면, 챗지피티의 메모리는 두 가지 방식으로 작동합니다.
- 저장된 메모리는 사용자의 이름, 선호도, 목표와 같은 세부사항을 보관합니다.
- 플러스 및 프로 구독자는 채팅 기록 참조 기능도 제공받아, 아무것도 저장하지 않았어도 예전 대화를 참고할 수 있습니다.
메모리가 커질수록 전환이 더 어려워집니다. AI 메모리 락인에 대한 논쟁에서도 이를 확인할 수 있습니다.
암호화폐 보유자가 더 많은 위험을 감수하는 이유
암호화폐 보유자에게는 위험이 단순한 민망한 정보 이상의 문제로 이어집니다. 올해 초 개발자들은 구글이 공유 링크를 통해 인덱싱한 클로드(Claude) 챗의 암호화폐 지갑 데이터를 발견했습니다.
보유 내역, 거래소, 여행 계획 등이 언급된 저장된 프로필은 사기범이 더욱 그럴듯한 피싱 메시지를 작성하는 데 악용될 수 있습니다.
바이낸스 창립자 창펑 자오(Changpeng Zhao)는 비트코인의 암호기술을 깨는 것보다 피싱과 데이터 유출이 진짜 AI 위험이라고 이미 주장한 바 있습니다. 이런 점에서 빈 방은 공격자가 무엇을 알 수 있는지 보여줍니다.
오픈에이아이(OpenAI)는 사용자가 퍼스널라이제이션 설정에서 챗지피티의 메모리를 확인, 삭제 또는 비활성화할 수 있도록 합니다. 임시 채팅은 해당 메모리를 읽거나 업데이트하지 않습니다.
일부 암호화폐 이용자는 한발 더 나아갑니다. 이더리움 공동창립자 비탈릭 부테린은 프롬프트가 모델에 도달하기 전 내용을 가리는 AI 편집증 모드를 개발했습니다.
한편, 규제 당국은 잘못 관리된 데이터에 대한 비용을 높이고 있습니다. 뉴멕시코 판사는 메타(Meta)에게 페이스북 사용자 데이터 처리와 관련해 역대 최대인 250억 달러의 벌금을 부과하도록 명령했습니다.
챗지피티 메모리가 점점 방대해지면서, 빈 방 테스트는 AI 기업이 무엇을 보관 중인지 일상적으로 점검하는 수단이 될 수 있습니다.
