AI로 만든 기시다 후미오 일본 총리(왼쪽), 아베 신조 전 총리 가짜 영상. 〈사진=유튜브 캡처〉
인공지능(AI)을 활용해 기시다 후미오 일본 총리가 등장하는 가짜 동영상을 만든 20대 일본인이 이번에는 전현직 총리의 목소리를 흉내 낼 수 있는 애플리케이션을 제작해 무료 배포했습니다.
이 앱은 이용자가 원하는 내용을 글로 입력하면 기시다 총리, 아베 신조·스가 요시히데 전 총리 등 3명의 목소리와 비슷한 음성으로 변환시켜 주는 것으로 전해졌습니다.
가짜 뉴스를 손쉽게 만들어 낼 수 있다는 우려가 나오고 있는데, 현재 일본에서는 이를 규제할 수 있는 법안 등은 없는 것으로 파악됐습니다.
오늘(22일) 요미우리신문에 따르면 혼슈 서부 효고현에 사는 20대 남성 A씨는 스마트폰과 컴퓨터 등에서 쓸 수 있는 '가짜 목소리 생성 프로그램'을 만들어 무료 배포했습니다.
A씨는 기시다 총리와 아베 신조·스가 요시히데 전 총리 등 3명의 전현직 총리 연설 동영상 등을 활용해 AI에게 음성을 학습시킨 후 비슷한 목소리로 흉내낼 수 있게끔 만들었습니다.
요미우리신문은 소셜미디어 엑스(X·옛 트위터)에는 이 앱으로 만든 것으로 보이는 거짓 발언이 올라오고 있다고 전했습니다. 유포된 한 가짜 음성에는 아베 전 총리가 생전 블라디미르 푸틴 러시아 대통령에게 정치권의 음모론을 언급하면서 위기감을 공유했다고 말하는 내용이 담긴 것으로 알려졌습니다.
앞서 A씨는 AI로 전현직 총리의 가짜 동영상을 만들어 유포하기도 했습니다.
야마구치 신이치 고쿠사이대 교수는 "정치인의 위조 동영상과 음성은 쉽게 혼란을 일으킬 우려가 있고, 국제 문제로도 번질 수 있다"며 "AI로 만든 동영상이나 음성을 인터넷에 올릴 때 'AI가 제작했다'는 사실을 명시하도록 의무화해야 한다"고 말했습니다.