말레이시아 정부가 비키니 수영복을 입은 아동 사진을 유포한 챗봇 ‘그록'(Grok)의 인공지능(AI) 기업 xAI를 상대로 조사에 착수했다.
5일(현지시간) 블룸버그 통신 등에 따르면 말레이시아 방송통신멀티미디어위원회(MCMC)는 최근 미성년자와 여성 사진을 조작해 음란 콘텐츠를 생성하는 AI 관련 신고를 접수해 조사 중이라고 밝혔다.
MCMC는 “유해 콘텐츠를 제작하거나 전송하는 행위는 말레이시아 법률상 범죄”라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 설명했다.
그록은 최근 비키니 수영복을 입은 아동 사진을 생성해 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)를 통해 유포했다. 사진들은 일부 이용자 요청에 따라 생성됐으며 이 중에는 1∼2살 영유아로 보이는 아동 사진도 포함됐다.
한 이용자가 문제를 제기하자 그록은 “안전장치의 허점을 확인했다”며 해당 사진들을 삭제했다.
최근 인도 정부도 xAI에 서한을 보내 그록이 노출이나 노골적인 성적 표현 등을 생성하지 않도록 포괄적으로 검토하라고 요청했다.
지난주 프랑스 정부도 그록이 사용자 동의 없이 명백하게 불법적인 성적 콘텐츠를 생성했다고 비판했다.
그록은 일론 머스크 테슬라 최고경영자(CEO)가 2023년 설립한 xAI가 개발한 대화형 AI다. 머스크 CEO는 2022년 당시 트위터를 인수한 뒤 이름을 엑스로 바꿨고, 지난해 xAI에 매각했다.
인니투데이 국제부
[저작권자(c) 인니투데이, 무단 전재-재배포 금지]
