인도네시아 정부가 최근 인공지능(AI)을 이용한 ‘딥페이크’(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 ‘그록(Grok)’ 서비스를 차단했다.
11일 CNN 인도네시아 등에 따르면 무띠야 하피드(Meutya Hafid) 통신·디지털부 장관은 xAI의 그록 서비스를 일시 중단했다고 밝혔다.
무띠야 하피드 장관은 성명을 통해 “정부는 디지털 공간에서 동의 없이 이뤄지는 딥페이크를 인권과 존엄성을 침해하는 중대한 행위로 간주한다”며 서비스를 차단한 배경을 설명했다.
그록 서비스 접근을 차단한 국가는 인도네시아가 처음이다.
앞서 인도네시아 통신·디지털부는 xAI 관계자들을 불러 최근 논란과 관련한 사실관계를 확인했다.
인도네시아 정부의 애플리케이션 차단 조치 후 그록 측은 엑스(X·구 트위터)에 “불편을 드려 죄송하다”며 “문제 해결을 위해 노력하고 있다”고 밝혔다.
그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성해 엑스를 통해 유포해 논란이 됐다. 해당 사진들은 “여성들 사진을 비키니 차림으로 편집해 달라”는 일부 이용자 요청에 따라 생성됐으며, 1~2살 영유아로 보이는 아동 사진도 포함됐다.
수천 장의 사진이 딥페이크 기술로 만들어졌으며, 대부분 피사체 당사자의 동의 없이 생성됐다. 그록은 한 이용자가 문제를 제기하자 “안전장치의 허점을 확인했다”며 해당 사진들을 뒤늦게 삭제했다.
최근 프랑스와 말레이시아는 이 문제에 대한 조사를 시작했고, 호주와 인도도 관련 콘텐츠 단속에 나섰다.
논란이 커지자 엑스와 xAI 측은 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 사용할 수 있도록 제한했다.
그록은 일론 머스크 테슬라 최고경영자(CEO)가 2023년 설립한 xAI가 개발한 대화형 AI다. 머스크 CEO는 2022년 당시 트위터를 인수한 뒤 이름을 엑스로 바꿨고, 지난해 xAI에 매각했다.
인니투데이 사회부
[저작권자(c) 인니투데이, 무단 전재-재배포 금지]
