[앵커]
인공지능 기술로 만든 가짜 영상을 딥페이크라고 하죠. 딥페이크가 진화하면서 그 위험도 커지고 있습니다. 저희가 만난 한 피해자는 누군가 자신의 얼굴을 합성한 음란물을 보낸 뒤 삭제하려면 수천만원을 내놓으라고 협박했다고 합니다. 얼굴 뿐 아니라 목소리를 똑같이 꾸며서 보이스피싱 범죄에 악용하기도 하는데요.
크로스체크 서준석, 윤재영 기자가 취재했습니다.
[기자]
[리처드 닉슨/전 미국 대통령 : 달을 탐구하러 갔던 분들이 평화로운 휴식을 취하기 위해 달에 머물기로 했습니다.]
닉슨 미국 전 대통령은 달 탐사에 실패할 경우를 대비해 위와 같은 연설을 준비 했습니다.
하지만 아폴로11호가 달 탐사에 성공했기 때문에 닉슨은 실제로 이런 말을 한 적이 없습니다.
위 연설은 우크라이나의 음성 변조 기술 회사와 이스라엘의 화상변조 기술 보유 회사가 합심해 만든 '딥페이크' 영상입니다.
최근 국내에도 AI 정치인이 등장했습니다.
[AI 윤석열 : 윤석열 후보와 너무 닮아 놀라셨습니까.]
김동연 후보는 자신의 인재영입 1호로 AI대변인을 내세웠습니다.
가상 인물 기술을 구현한 회사를 찾아가 봤습니다.
음성과 몸짓을 데이터로 기록해, 기계에 반복적으로 학습시키면 가상 인물이 탄생합니다.
[장세영/AI 딥러닝 업체 대표 : 30분에서 1시간만 촬영을 하면 자기와 똑같은 것을 이전의 퀄리티만큼 만들 수 있거든요. 이제 일반인들도 손쉽게 자기와 똑같은 아바타를 만들 수 있고…]
코로나 시국에 대면 접촉을 최소화하고 선거비용을 줄일 수 있는 방법이라는 의견도 있지만 우려하는 시각도 있습니다.
선거를 앞두고 누군가 악의적으로 영상을 왜곡해 퍼트릴 경우 피해를 회복하기 어렵다는 겁니다.
현재 중앙선거관리위원회는 해당 영상이 기존 법률에 저촉된 부분은 없는 지 검토 중입니다.
유럽과 미국의 일부 주의 경우 악의적인 목적을 가지고 만든 합성물에 대해서 엄격히 제제합니다.
다만 윤 후보의 경우처럼 스스로를 홍보를 위해 제작된 것이라, 제한 대상이 아니라는 의견이 많습니다.
[가상 인물 기술은 관련 제도가 정비되기 이전 이미 우리가 살고 있는 현실에 깊게 파고 들었습니다.]
우리가 이것을 어떻게 다뤄야할 지 논의가 늦어지고 있는 사이, 이에 따른 부작용도 잇따르고 있습니다.
[기자]
딥페이크 영상을 만들어준다는 앱입니다.
이렇게 제 사진을 찍고 합성할 영상을 클릭하기만 하면 금세 합성된 영상을 확인할 수 있습니다.
유튜버 나리씨는 얼마 전 황당한 연락과 한 영상을 받았습니다.
자신의 얼굴이 다른 여성의 나체와 합성된 영상이었습니다.
[나리/딥페이크 피해 유튜버 : 합성인 것도 티가 나고 일단 제가 그런 걸 찍힐 만한 의심되는 일도 전혀 없기 때문에 무시를 하니까 '나를 무시하면 이 동영상을 동료 BJ에게 보내겠다'…]
영상을 보낸 사람은 합성이 아니라고 주장했습니다.
그러면서 자신이 유포를 막기 위해 영상 원본을 샀다며 삭제 대가로 2천 만원을 요구했습니다.
[나리/딥페이크 피해 유튜버 : 중국으로 표시가 되더라고요, 카톡에. 비트코인으로 보내라고. (경찰은) 피해 입은 부분도 없고 외국에서 온 거라 추적이 가능할지 모르겠단 식으로…]
유명인만 대상이 아닙니다.
지난해 딥페이크 성범죄 피해 영상의 대상이 된 사람 가운데 약 20%는 학생이나 일반 직장인이었습니다.
트위터 등 sns에는 '지인 얼굴 합성 의뢰를 받는다'는 계정들이 넘쳐납니다.
그러나 제재할 방법이 마땅찮습니다.
[텔레그램 성착취 신고 프로젝트 '리셋' : 이용자들이 자체적으로 신고를 한다고 해도 트위터에서 정지를 바로바로 하고 있지 않는 편이고…]
성범죄 뿐 아니라 노인 등을 노리는 보이스 피싱 사기도 늘어나는 상황.
업계는 딥페이스 영상 여부를 판별해 주는 기술도 개발 중이지만 이것만으론 역부족입니다.
[장세영/AI 딥러닝 업체 대표 : 어마어마하게 특별한 기술이 아니거든요, 딥페이크 자체는. 피해가 발생했을 때 빨리 보호할 수 있는 그런 쪽으로 신경을 많이 (써야 한다.)]
(화면출처 : 유튜브 '나리')
(영상디자인 : 오은솔 / 영상그래픽 : 김정은 / 인턴기자 : 신단미)