"AI 윤석열입니다""AI 이재명입니다"지난 20대 대선 기간에 윤석열 국민의힘 후보와 이재명 더불어민주당 후보 유튜브에는 'AI OOO 입니다'라는 영상이 올라왔습니다.
지난 20대 대선 선거운동에서 당시 윤석열 국민의힘 후보와 이재명 더불어민주당 후보가 각자의 유튜브에 올린 AI 영상. 〈사진=윤석열·이재명 유튜브 캡처〉
영상만 보면 실제 후보가 말하는 것 같지만 사실은 인공지능 기술을 활용해 후보 사진이나 영상을 합성해 만든 편집물, 딥페이크(Deepfake)였습니다.
다소 어색한 손동작과 표정으로 국민들의 질문에 격 없이 답하는 모습이 화제가 됐었는데요.
앞으로는 선거를 앞두고 딥페이크를 활용한 선거운동 영상을 볼 수 없을 전망입니다.
국회가 선거일 90일 전부터는 딥페이크 선거운동을 할 수 없도록 법 개정을 추진하고 있기 때문이죠.
-
내년 1월 11일부턴 'AI OOO입니다' 선거운동 못 해
국회 정치개혁특별위원회는 오늘(5일) 전체회의를 열고 선거일 90일 전부터 딥페이크를 활용한 선거운동을 금지하는 내용의 '공직선거법 개정안'을 의결했습니다.
누구든지 선거일 전 90일부터 선거일까지 선거 운동을 위해 딥페이크 영상 등을 제작, 편집, 유포 상영 또는 게시할 수 없도록 금지하는 게 개정안의 주요 내용입니다.
22대 총선이 내년 4월 10일에 치러지는 걸 고려하면 내년 1월 11일부터 총선 선거일까지는 딥페이크를 활용한 선거운동이 금지되는 겁니다.
후보자의 얼굴뿐 아니라 제3자의 얼굴을 활용한 선거운동도 할 수 없습니다.
만약 이를 위반하면 7년 이하 징역 또는 1000만원 이상, 5000만원 이하의 벌금에 처할 수 있습니다.
영상을 만드는 것은 물론, 이를 유포하거나 상영, 게시하는 것도 모두 처벌될 수 있습니다.
딥페이크 선거운동 금지 기간이 아닌 때, 즉 내년 1월 11일 전까지는 딥페이크 영상을 활용한 선거운동을 해도 괜찮습니다.
다만 해당 영상이 '가상의 정보'라는 표시를 명확하게 해야 합니다.
지난 대선 선거전에서 후보들이 'AI OOO 입니다'라고 표시했던 것처럼, 해당 영상이 딥페이크를 활용했음을 명확하게 보여줘야 한다는 거죠.
표시 의무를 위반할 경우 1000만원 이하 과태료를 부과할 수 있습니다.
또 허위사실을 유포해서는 안 됩니다. 현재도 선거에 있어 특정 후보자의 당선과 낙선을 목적으로 허위사실을 공표하면 허위사실공표죄를 적용받게 되는데, 딥페이크도 마찬가지입니다.
만약 가상의 정보임을 표시하지 않은 채 허위사실까지 유포할 경우 가중처벌될 수 있습니다.
여야 합의로 처리된 이번 개정안은 무난하게 법제사법위원회와 본회의 문턱을 넘을 것으로 예상됩니다.
국회에서 정치개혁특별위원회가 법안심사소위원회. 〈사진=연합뉴스〉
-
'선거 당락에 영향 미칠라'…"처벌 수위도 높여"
국회가 법을 만든 건 딥페이크를 통한 잘못된 정보가 사실처럼 유포돼 선거 당락에 영향을 미칠 수 있다는 우려 때문입니다.
처음엔 가상인간, 버추얼 인플루언서 등의 형태로 영화나 광고에 쓰였던 딥페이크가 최근에는 그 영역이 정치로 확대되고 있죠.
2020년 미국 대선에서는 당시 민주당 후보였던 조 바이든이 선거 유세하는 주를 오인해 발언하는 가짜 동영상이 제작돼 유포됐는데요.
24시간도 안 돼 이 영상은 110만 뷰를 넘겼습니다.
정밀하게 제작된 딥페이크는 일반인이 진위를 파악하기 어려울 정도로 기술이 발달한 데다, 최근 SNS 등을 통해 유포 속도도 빨라지고 있는 겁니다.
지난해 우리나라에서 치러진 제8회 전국동시지방선거에서는 한 후보가 선거홍보 영상에 'AI 윤석열'을 등장시켰습니다. 윤석열 대통령이 특정 후보를 지지하는 것처럼 보이는 영상이었습니다.
이런 부작용이 커지자 총선을 앞두고 급히 법을 마련한 국회.
국회 행정안전위원회 관계자는 "논의 과정에서 정치인 본인이 본인 얼굴을 활용해 딥페이크 선거운동을 하는 건 예외로 두자는 의견도 있었다"며 "하지만 후보자 권리를 일부 제약하더라도 일률적으로 딥페이크 선거운동을 막는 게 바람직하다는 결론이 났다"고 말했습니다.
이 관계자는 "선거 직전에 잘못된 정보가 유포되면 후보자 당락이 좌우되는 만큼 강하게 규제하는 게 옳다는 공감대가 형성된 것"이라며 "처벌 수위도 높은 편"이라고 설명했습니다.
-
"실효성은 글쎄…해외서 유포되는 가짜뉴스 막을 방법 없어"
딥페이크 영상 제작 과정. 기사와 관련없는 자료사진. 〈사진=REUTERS/연합뉴스〉
국회가 보수적으로 법을 만들긴 했지만 실효성에 대한 우려는 나옵니다.
곳곳에서 유포돼 만들어지는 딥페이크 영상 등을 모두 막을 수 없을 뿐 아니라, 관련자를 처벌하는 것도 현실적으로 어렵다고 전문가는 지적합니다.
임종인 고려대 정보보호대학원 교수는 "정치권에서 만들어지는 가짜뉴스, 영상들은 은밀하게 만들어진다"면서 "극단적인 지지자들이 해외에서 영상을 만들어 각종 SNS를 통해 퍼뜨리는 경우들도 있는데, 이는 처벌하거나 막을 방법이 없다"고 했습니다.
그러면서 "특히 해외에서 가상사설망(VPN)을 이용해 가짜뉴스를 퍼뜨리면 수사에 시간도 오래 걸리고, 총책을 추적해 잡기도 어렵다"며 "그사이 이미 선거는 끝나 있을 것"이라고 꼬집었습니다.
임 교수는 "국회에서 선거운동과 관련한 법을 만드는 것보다, 정부가 적극적으로 나서서 국제 공조를 해야 한다"며 "유튜브, 틱톡 등 SNS 운영 기업들이 가짜뉴스를 미리 삭제하고 퍼지지 않도록 해야 선거에 영향을 주는 가짜뉴스를 효과적으로 막을 수 있다"고 강조했습니다.