죽음의 알고리즘: 우리가 메타버스 몰입형 삶을 향해 나아가고 있지만, 이에 경보가 울리고 있다. 테크기업들은 알고리즘을 정돈할 필요성이 있으며, 그렇지 않을 경우 일부 사람들의 미래는 위험해질 수 있다.
아직 우리는 웹3에 도달하지 못했지만, 웹2의 문제점은 여전히 매우 우려되는 상황이다. 빅테크에 의해 만들어진 알고리즘은 범죄를 미리 예측하는 것과 같이 사회에 유용한 측면도 있지만, 반면에 완전히 재앙이 될 수도 있다.
검시관 앤드류 워커는 14세 몰리 로즈 러셀의 사망 사인을 자해 행위 때문이라고 밝혔다. 그는 이것이 우울증과 온라인 콘텐츠의 부정적인 영향 때문이라고 말했다. 워커는 “자살을 사인으로 인정하는 것은 우리에게 안전하지 않을 것”이라고 말했다.
죽음의 알고리즘: 인스타그램과 핀터레스트
이 전문가는 인스타그램과 핀터레스트가 학생이 정보를 요청하지 않고 부적절한 콘텐츠를 선택해 공유하는 알고리즘을 사용했다고 말했다. 워커는 “어떤 콘텐츠는 젊은이들의 자해 행위를 낭만적으로 묘사한 반면, 다른 콘텐츠는 고립을 조장하고 도움을 줄 수 있는 사람들과 문제를 논의하는 것을 불가능하게 만들었다”고 보고한다.
가디언에 따르면, 러셀은 사망 전날인 2017년 인스타그램 게시물을 2,000건 이상 저장하거나 좋아하거나 게시했다. 그들은 모두 자살, 우울증 또는 자해와 관련이 있다. 그 소녀는 또한 비슷한 성격의 영화 138편을 보았다. 그 중에는 15+와 18+의 사람들을 위한 13가지 이유 시리즈 에피소드도 포함되어 있다.
한 아동 정신과 의사는 청문회에서 러셀이 죽기 직전에 본 것을 분석한 결과 몇 주 동안 숙면을 취할 수 없을 정도였다고 말했다.
“당신이 관심을 가질 만한 우울증 게시물 10개”
수사관들은 소녀의 핀터레스트 계정에서 자해와 자살의 사진 수백 장을 발견했다. 플랫폼이 학생들에게 부적절한 콘텐츠를 추천하는 이메일을 보낸 사실도 드러났다. 그들 중 일부는 “당신이 관심을 가질 만한 우울증 게시물 10개”이라는 제목를 가지고 있었다.
이미 우울증을 앓고 있고 나이와 관련된 상처에 취약한 몰리가 본 자료가 몰리에게 부정적인 영향을 미쳤을 가능성이 높다. 이 역시 아이의 죽음에 기여를 했을 가능성이 높다.
메타와 핀터레스트 관계자들은 러셀이 그곳에 있어서는 안 될 플랫폼에서 콘텐츠를 접했다고 사과했다. 메타의 대변인은 “우리는 인스타그램이 모든 사람들, 특히 십대들에게 긍정적인 경험을 제공하기를 원합니다. 검시관이 전달하면 검시관의 전체 보고서를 자세히 살펴보도록 하겠다.”고 덧붙였다.
핀터레스트는 플랫폼을 지속적으로 개선하고 있으며 모두를 위한 보안을 보장하기 위해 노력하고 있다고 밝혔다.
또다른 예시
틱톡은 지난 5월 알고리즘의 “치명적인 추천” 혐의로 고소당했다. 2021년 12월 아마존의 가상 비서 알렉사가 10살 아이에게 치명적인 도전을 제안했다.
현재 우리가 살고 있는 세상은 새로운 신세계인 반면, 무섭게 느껴질 수도 있다. 빅테크 기업들은 해당 이슈에서 그들이 가지고 있는 미래의 역할에 대해 안주할 수 없다.
비인크립토 웹사이트에 포함된 정보는 선의와 정보 제공의 목적을 위해 게시됩니다. 웹사이트 내 정보를 이용함에 따라 발생하는 책임은 전적으로 이용자에게 있습니다.
아울러, 일부 콘텐츠는 영어판 비인크립토 기사를 AI 번역한 기사입니다.
