인기 언어 모델인 ChatGPT를 개발한 OpenAI가 유럽에서 법률 준수 및 데이터 정확성 문제에 직면해 있습니다. 이 문제로 인해 오스트리아 빈에 본부를 둔 비영리 단체 유럽 디지털 권리 센터(NOYB)가 오스트리아 데이터 보호청(DPA)에 OpenAI에 대한 불만을 접수했습니다.
실제로 OpenAI의 데이터 수집은 규제 기관과 개인정보 보호 옹호자들 사이에서 우려를 불러일으켰습니다. NOYB의 이러한 움직임은 잠재적으로 기술의 윤리적 데이터 사용에 대한 더 큰 논의를 촉발할 수 있습니다.
OpenAI의 데이터 문제로 드러난 AI의 윤리적 문제
불만의 핵심은 최근 ChatGPT의 데이터 처리 한계입니다. OpenAI에 따르면, AI 모델은 개인에 대해 생성하는 정보의 정확성을 검증할 수 없으며, 데이터 입력의 출처도 공개할 수 없습니다. OpenAI가 이를 시인했다는 데 대한 문제 제기인 셈입니다.
2022년 11월 ChatGPT의 출시로 촉발된 AI에 대한 높은 관심 속에서 이 도구의 광범위한 채택으로 인해 심각한 취약점이 노출되었습니다. ChatGPT는 사실의 정확성을 보장하는 고유한 메커니즘 없이 사용자 프롬프트에 대한 응답 가능성을 예측하는 방식으로 작동합니다.
이로 인해 AI가 데이터를 ‘환각’하여 오해의 소지가 있거나 완전히 거짓일 수 있는 응답을 조작하는 경우가 발생했습니다. 이러한 부정확성은 일부 상황에서는 중요하지 않을 수 있지만, 개인 데이터와 관련된 경우에는 상당한 위험을 초래할 수 있습니다.
자세히 읽어보세요: ChatGPT API를 사용하여 개인 AI 챗봇을 구축하는 방법
유럽연합의 일반 데이터 보호 규정(GDPR)은 개인 데이터의 정확성을 의무화하고 개인이 자신에 대한 잘못된 정보에 액세스하고 수정할 수 있는 권리를 부여합니다. OpenAI의 현재 기능은 이러한 법적 요건에 미치지 못하기 때문에 민감한 데이터를 처리하는 데 있어 AI의 윤리적 영향에 대한 논쟁이 촉발되고 있습니다.
noyb의 데이터 보호 변호사 마르트제 드 그라프는 상황의 심각성을 강조합니다.
“현재 기업들이 개인에 관한 데이터를 처리할 때 ChatGPT와 같은 챗봇이 EU 법률을 준수하도록 할 수 없다는 것은 분명합니다. 시스템이 정확하고 투명한 결과를 산출할 수 없다면 개인에 대한 데이터를 생성하는 데 사용할 수 없습니다. 기술은 법적 요건을 따라야지 그 반대가 되어서는 안 됩니다.”라고 드 그라프는 설명합니다.
이 문제는 기술적 장애물을 넘어 더 광범위한 규제 문제로 확장됩니다. ChatGPT를 비롯한 생성형 AI 도구는 개발 초기부터 유럽의 개인정보 보호 감시 기관으로부터 집중적인 조사를 받아왔습니다.
예를 들어, 이탈리아 개인정보보호위원회(DPA)는 2023년 초에 부정확성을 이유로 ChatGPT의 데이터 처리에 제한을 가했습니다.
그 후 유럽 데이터 보호 위원회는 이러한 AI 플랫폼과 관련된 위험을 평가하고 완화하기 위해 공동의 노력을 기울였습니다.
이러한 법적 도전의 시기는 특히 주목할 만합니다. 동시에 OpenAI를 이끌고 있는 샘 알트먼이 공동 설립한 프로젝트인 Worldcoin과 전략적 제휴를 맺기 위한 논의를 진행 중이었습니다.
자세히 읽어보세요:2024년에 꼭 확인해야 할 11가지 최고의 ChatGPT Chrome 확장 프로그램
그러나 OpenAI와 Worldcoin의 잠재적인 협력은 추가적인 법적, 윤리적 딜레마를 야기할 수 있습니다. 생체 인식 데이터 사용에 대한 Worldcoin의 접근 방식은 데이터 프라이버시 및 정확성을 보장하는 OpenAI의 과제와 교차합니다.
게다가 월드코인은 데이터 수집과 관련하여 케냐, 스페인, 아르헨티나 등 전 세계 사법 당국의 조사를 받아왔습니다. 따라서 이러한 시너지 효과는 혁신적인 기술 활용을 위한 길을 열거나 규제 강화의 선례가 될 수 있습니다.
비인크립토 웹사이트에 포함된 정보는 선의와 정보 제공의 목적을 위해 게시됩니다. 웹사이트 내 정보를 이용함에 따라 발생하는 책임은 전적으로 이용자에게 있습니다.
아울러, 일부 콘텐츠는 영어판 비인크립토 기사를 AI 번역한 기사입니다.
