2024년 인도네시아 선거는 AI(인공지능, Artificial Intelligence) 기술이 활용된 최초의 선거로 기록되었다.
이번 선거에서 AI 기술은 캠페인 운영부터 유권자 참여 유도까지 다양한 방식으로 활용되었다.
이번 시간에는 AI가 선거 과정에서 사용된 구체적인 사례들을 중심으로 AI의 긍정적 영향과 문제점, 그리고 앞으로의 전망에 대해 다뤄보도록 하겠다.
AI의 사용 사례
AI 기술은 2024년 선거에서 다양하게 활용되었다. 프라보워 수비안토(Prabowo Subianto) 후보의 캠페인에서는 ‘Gemoy’라는 AI 기반 캐릭터가 젊은 유권자들의 관심을 끌며 큰 인기를 얻었다. 이를 통해 AI는 맞춤형 콘텐츠를 제작하고 선거 메시지를 전달하는 데 효과적인 기술이라는 평가를 받았다.
AI는 가짜뉴스와 디스인포메이션(Disinformation)을 식별하는 데 중요한 역할을 했다. 조코 위도도(Joko Widodo) 대통령의 가짜 동영상 사례는 AI를 통해 빠르게 식별되고 차단됐다. 이는 선거 과정에서 정보의 신뢰성을 높이는 데 크게 기여했다.
데이터 분석에 있어서도 AI의 역할은 컸다. 유권자 데이터를 분석하여 맞춤형 메시지를 전달함으로써 캠페인의 효율성을 높였다. 이는 유권자 참여를 유도하는데 중요한 역할을 했다.
긍정적 영향
AI의 도입으로 선거 캠페인의 효율성이 크게 향상됐다. 데이터 기반의 맞춤형 메시지 전달이 가능해져 유권자 참여가 증대됐으며, 선거 과정 전반의 투명성과 신뢰성이 높아졌다. AI는 선거 캠페인을 혁신적으로 변화시켜 기존의 선거 방식에서 벗어나 새로운 접근법을 제시했다.
문제점과 규제 필요성
AI 사용으로 인한 윤리적 문제와 위험도 발생했다. 특히, 가짜 뉴스 및 딥페이크(Deepfake)의 확산은 여러 가지 문제들을 야기시켰다. 인도네시아 정부는 AI 사용에 대한 윤리 지침을 발표했지만 이것 만으로 충분치 않다는 의견이 지배적이다.
AI 기술의 윤리적 사용과 규제를 위한 법적 장치가 필요하다는 지적이 나온다. 이를 통해 AI 사용에 따른 부작용을 최소화할 수 있음은 물론 공정한 선거 과정을 기대해 볼 수 있을 것이다.
윤리적 가이드라인의 필요성
작년 12월 인도네시아 정부는 AI 사용에 대한 윤리 지침을 발표했다. 하지만 권고 수준에 머물러 있어 법적 강제력이 필요하다는 지적이 나온다.
유럽연합(EU)의 AI 법안(EU AI Act)과 같은 엄격한 규제가 필요하다. 이러한 규제는 AI 기술의 오용을 방지하고 투명성을 보장하는 데 필수적이다.
인도네시아 독립언론연맹(Alliance of Independent Journalists, AJI)의 이카 닝티아스(Ika Ningtyas) 사무총장은 AI 기반 콘텐츠 생성 도구의 증가에 대해 우려를 표명했다. 그녀는 AI가 생성한 콘텐츠가 유권자들의 인식을 왜곡할 수 있는 잠재력을 가지고 있다고 경고했다.
한 예로 테라완 아구스 푸트라노(Terawan Agus Putrano) 전 보건부 장관이 당뇨병 치료에서 획기적인 성과를 냈다고 주장하는 AI 생성 동영상이 큰 파장을 일으킨 바 있다. 해당 동영상은 페이스북에서 주목을 받았지만 가짜뉴스로 밝혀졌다.
AI는 혁신적인 도구로 평가 받고 있지만 그 사용에 대한 명확한 규제와 윤리적 기준이 필요하다. 단순히 선거 대책 차원을 넘어 AI가 시민 권리와 민주주의를 위협하는 것에 대응할 근본 대책이 필요하다는 지적이 나온다.
인니투데이ㅣ JIKS 11학년 조현빈
[저작권자(c) 인니투데이, 무단 전재-재배포 금지]
