성 착취물 딥페이크 콘텐츠 논란에 휩싸인 ‘그록(Grok)’이 인도네시아에 이어 말레이시아에서도 퇴출됐다.
12일 로이터·AFP 통신 등에 따르면, 말레이시아 통신멀티미디어위원회(MCMC)는 전날 성명을 내고 자국 내 그록 접속을 일시적으로 제한한다고 밝혔다.
MCMC는 이번 조치가 “그록이 여성과 미성년자 관련 콘텐츠를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며 동의 없이 조작된 이미지 생성에 반복적으로 악용된 데 따른 것”이라고 설명했다.
MCMC는 이달 초 그록의 딥페이크 우려와 관련해 xAI에 공문을 보내 기술적 보호 조치를 요구했지만 xAI 측이 “AI 도구의 설계·운영으로 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다”고 지적했다. 이에 따라 “입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접속 차단을 시행한다”며 “여성·아동 관련 딥페이크 콘텐츠를 방지하는 효과적인 안전장치가 마련될 때까지 그록 접속 제한을 유지할 것”이라고 밝혔다.
앞서 10일 인도네시아 통신디지털부는 딥페이크 콘텐츠와 관련해 세계 최초로 그록 접속 차단 조치를 내렸다.
xAI는 인도네시아 정부의 그록 차단 조치와 관련해 사회관계망서비스(SNS) 엑스(X)에 올린 글에서 “불편을 드려 죄송하다. 이번 문제를 해결하기 위해 노력하고 있다”고 밝혔다.
xAI는 최근 엑스에서 그록을 통해 간편히 딥페이크 이미지를 생성하는 서비스를 선보였다. 이후 X에 올라온 여성·미성년자 등의 이미지를 이용해 다른 사용자가 동의 없이 비키니 수영복 착용 등 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 이어지면서 각국의 비난 여론이 커지고 있다.
미국에서는 일부 상원의원들은 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 X 애플리케이션을 앱스토어에서 퇴출하라고 요구했고, 영국 정부도 방송미디어 규제 기관 오프콤이 그록과 관련해 X 차단 결정을 내리면 지지하겠다고 밝혔다. 호주와 인도도 관련 콘텐츠 단속에 나섰다.
그록은 일론 머스크 테슬라 최고경영자(CEO)가 2023년 설립한 xAI가 개발한 대화형 AI다. 머스크 CEO는 2022년 당시 트위터를 인수한 뒤 이름을 엑스로 바꿨고, 지난해 xAI에 매각했다.
인니투데이 국제부
[저작권자(c) 인니투데이, 무단 전재-재배포 금지]
