AI 기반의 도구를 활용한 딥페이크 콘텐츠 제작이 늘어나면서 공공 안전에 대한 우려가 다시 커지고 있습니다.
이 기술이 고도화되고 보편화됨에 따라 중앙화 거래소에서 사용하는 시각적 신원 확인 시스템의 신뢰성에도 의문이 제기되고 있습니다.
Sponsored정부, 딥페이크 규제 강화하다
기만적인 영상이 SNS 플랫폼 전반에 급격히 확산되면서 새로운 허위정보 유포와 조작된 콘텐츠에 대한 우려가 커지고 있습니다. 이 기술의 오남용 증가는 공공 안전과 개인의 명예를 점점 더 크게 훼손하고 있습니다.
이 문제는 전 세계적으로 심각해졌으며, 각국 정부가 딥페이크 사용을 불법으로 규정하는 입법을 추진하고 있습니다.
이번 주에 말레이시아와 인도네시아가 일론 머스크의 xAI가 개발한 인공지능 챗봇 ‘그록’에 대한 접근을 처음으로 제한한 국가가 되었습니다. 당국은 이 결정이 성적 이미지 및 비동의 이미지 생성에 그록이 오용될 수 있다는 우려에서 비롯되었다고 밝혔습니다.
캘리포니아 주 법무장관 롭 본타도 이와 비슷한 조치를 발표했습니다. 그는 수요일, 실제 인물의 동의 없는 성적 이미지를 포함한 사건들을 사무실에서 조사 중임을 확인했습니다.
“이 자료는 여성과 아동을 누드 또는 성적으로 노골적인 상황에서 그리며, 인터넷 전반에서 사람들을 괴롭히는 데 사용되고 있습니다. 저는 xAI가 더 이상의 확산을 막기 위해 즉각 행동에 나설 것을 촉구합니다.” – 롭 본타 캘리포니아 주 법무장관의 성명
초기의 딥페이크와 달리 최신 도구들은 지시에 따라 동적으로 반응합니다. 이 도구들은 자연스러운 얼굴 움직임과 동기화된 음성을 설득력 있게 모방합니다.
Sponsored따라서 깜빡임, 미소, 고개 움직임과 같은 기본적인 검사만으로는 이제 더 이상 사용자의 신원을 확실히 확인할 수 없습니다.
이러한 기술의 진보는 온보딩 과정에서 시각적 확인에 의존하는 중앙화 거래소에도 직접적인 영향을 미치고 있습니다.
중앙화 거래소, 압박 받다
딥페이크를 활용한 사기의 재정적 피해는 이제 이론에 그치지 않습니다.
업계 관측자와 기술 연구자들은 AI로 생성된 이미지와 영상이 보험 청구, 법적 분쟁과 같은 실제 상황에서 점점 더 자주 등장하고 있다고 경고합니다.
암호화폐 플랫폼은 전 세계적으로 운영되고 자동 온보딩에 자주 의존합니다. 만약 보안장치가 기술 발전 속도를 따라가지 못하면, 이 플랫폼은 이러한 사기의 주요 표적이 될 수 있습니다.
AI 생성 콘텐츠가 더욱 쉽게 접근 가능해지면서, 시각적 확인에만 기반한 신뢰는 충분치 않을 수 있습니다.
암호화폐 플랫폼은 기술 진보가 이용자와 시스템의 안전을 보장하는 보호장치보다 앞서 나가기 전에, 신속히 대응한다는 과제에 직면해 있습니다.
