[앵커]
AI가 만드는 진짜 같은 가짜 영상, 이른바 '딥페이크' 영상으로 전 세계가 몸살을 앓고 있습니다. 특히 '딥페이크'가 미국 대선뿐만 아니라 우리나라 총선에도 상당한 영향을 끼칠 수 있다는 목소리가 나오고 있는데요. 관련해서 김덕진 IT 커뮤니케이션 연구소 소장과 이야기 나눠보겠습니다. 안녕하세요.
[김덕진/IT 커뮤니케이션 연구소장 : 안녕하세요. 반갑습니다. 김덕진입니다.]
[앵커]
딥페이크 사실 많이 들어봤지만, 보면 딱 알 것 같은데. 간략하게 무엇인지부터 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 다들 알고 있죠. '딥러닝'할 때 그 '딥'이고요. '페이크', 속이다. AI 기술을 갖고 사람들을 속이는 기술이라고 보시면 될 것 같습니다. 예전에 우리가 알파고 많이 얘기했었잖아요. 그때 있었던 AI 기술이 최근에 더 진화했죠. 챗GPT나 생성형 AI가 나오니까. 실은 이 딥페이크라는 건 3~4년 전부터 상당히 이슈가 됐었는데요. 그때는 실제로 어떤 영상을 만들려면, 소스라고 그러죠. 어떤 사람의 이미지나 영상이 최소 몇 시간 분량이 필요 했습니다. 그런데 최근에는 이게 몇 분 정도 분량만 있으면 누구나 손쉽게 만들 수 있는 수준까지 AI가 진화했어요. 그러다보니까 예전에는 그래도 어느 정도 전문가의 영역이었다라고 말하면, 지금은 마음만 먹으면 누구나 5분도 안 돼서 금방 이러한 이른바 속일 수 있는 딥페이크 영상을 만들 수 있다 보니까, 실제로 문제가 커지고 있다 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
시간도 상대적으로 간략하게 들어가니까 더 문제가 될 것 같은데, 최근에 일어났던 사례들 좀 설명해 주시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 가장 최근에 있었던 사례 하나 말씀드리면, 홍콩에서 실제 한 340억 정도의 피해가 생겼었어요. 이게 어떤 거냐면 실제로 홍콩에 있는 한 은행이 외국에 있는, 자사에 있는 기업들과 화상회의를 하게 됐는데, 화상회의에 나오는 재무책임자가 계속 어디로 돈을 보내라고 하는 겁니다. 그래서 처음에는 믿지 않았다고 해요. 그런데 실제로 한 명만 나오는 게 아니라 6명 정도가 직원들의 얼굴을. 내가 원래 항상 영상에서 보던 사람들인데. 그 영상회의에 있던 모든 사람들이 알고 봤더니 이 딥페이크 기술을 악용을 한 것이죠. 그래서 실제로 돈을 노리는 조직이 실제 이 돈에 대한 구조를 안 다음에, 그 말씀드렸던 재무책임자의 얼굴을 활용을 해서 그리고 직원들의 얼굴을 활용을 해서 진짜 돈을 보내라고 영상회의를 통해서 얘기한 거고요. 6차례 넘게 활용을 해서 그걸 통해서 140억을 주게 되는 이러한 일들도 생겼습니다. 또 이제 하나 최근에 가장 이슈가 되고 있는 게 바로 정치권에서의 이슈죠. 얼굴뿐만 아니라 목소리도 너무나도 쉽게 바꾸다 보니까, 이미 미국 대선에서는 조금 활용이 되고 있는 상황인데요. 지난 1월 23일에 뉴햄프셔주의 프라이머리 선거에서 실제 조 바이든 대통령의 목소리로 갑자기 그 지역에 있던 사람들에게 전화가 간 거예요. 뭐라고 왔느냐. "도널드 트럼프 전 대통령을 뽑지 마라. 이렇게 너희가 선거를 하는 게 우리 당에게 좋지 않다. 그렇기 때문에 뽑지 말아라"는 목소리가 통화가 된 겁니다. 그러다 보니까 당연히 어떻게 보면, 어떤 입장에서는 이게 선거에 실제로 영향을 미쳤다라고 표현할 수 있는 부분이죠. 이후에 둘 다 본인이 한 것이 아니다라고 얘기를 했지만, 여전히 논란이 커지고 있다고 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 딥페이크 영상에 대해서 이걸 어떻게 악용되는지 얘기를 하고 있는데, 이번에는 어떤 건지 좀 보면서 얘기를 해보고 싶습니다. 직접 영상을 좀 준비해 오셨잖아요.
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 제가 제 얼굴을 한 2분 정도 일단 저렇게 학습을 시켜요. 학습을 시킨 다음에, 실제로 제가 키보드로 뭔가를 쓰는 겁니다. 그렇게 되면 소개를 하는 방송인데요. 볼게요.]
[앵커]
중국어, 아랍어까지 나와요. 되게 여러 개의 말에 유창하시네요.
[김덕진/IT 커뮤니케이션 연구소장 : 실제로 온라인, 제 AI 아바타가 한 7개 국어 정도 하는 영상인데 제가 한 거 아니고요.]
[앵커]
근데 어떻게 인터네이션이랄까, 이런 것들이 너무 자연스럽거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 이게 AI 기술의 발전인데요. 저는 한국어로 2분 정도 저 얘기가 아닌 다른 얘기로 학습을 시켰습니다. 그리고 나서 제가 한국어를 치면 한국어 혹은 영어, 일본어, 중국어까지 말씀하신 것처럼 입모양, 인터네이션까지 다 할 수 있는 게 지금의 AI 기술이다. 이렇게 말씀드릴 수 있을 것 같습니다.]
[앵커]
저희가 하나 더 준비했는데, 제 음성을 이용한 딥페이크 오디오가 제작돼 있다고 하는데 한번 들어보시죠.
[김덕진/IT 커뮤니케이션 연구소장 : 저 소개 잘해 주셔서 감사드립니다.]
[앵커]
저는 사실 그런데 제가 들었을 때는 내가 저런 말투로… 저는 조금의 디테일을 알아낼 수 있지만, 사실 시청하고 계신 분들께서는 그냥 '강지영 앵커가 말을 하네'라고 생각하실 것 같거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 만약에 저런 식으로 해서 갑자기 출마를 한다, 이런 식의 음성들이 전화를 통해서 간다고 생각해보세요.]
[앵커]
너무 끔찍해요.
[김덕진/IT 커뮤니케이션 연구소장 : 저런 것도 만드는 게 어려운 일이 아닙니다. 온라인상에 예를 들면 뉴스 브리핑하시는 거 있잖아요. 그런 걸 한 1분 30초 정도의 음원만 따서 특정사이트에 넣고, 이거에 내가 원하는 키워드를 넣으면 30초에서 1분이면 이런 영상 만드는 건 일도 아니다. 이렇게 말씀드릴 수 있는 것이죠.]
[앵커]
저희가 앞서 딥페이크가 어떻게 악용되는지 말씀드렸는데. 제가 걱정되는 건, 아마 많은 분들이 걱정하실 거예요. 이걸 막기 위해서 이 딥페이크 영상을 필터링하는 그런 기술도 함께 발전되고 있는지가 사실 가장 궁금하거든요.
[김덕진/IT 커뮤니케이션 연구소장 : 결국에는 딥페이크가 어떤 식으로 만들어지는지 간단하게 설명을 드리면, 딥페이크는 결국에는 우리가 만약 위조화폐 있지 않습니까? 위조화폐를 만드는 알고리즘과 위조화폐를 찾는 알고리즘이 둘이서 싸우는 거예요. 결국에는 이 위조화폐가 아닌 수준까지 AI가 만들면 이게 영상으로 나오는 거거든요. 그 말은 찾는 방식 역시도 인공지능이 기존에 있던 패턴을 가지고 계속 학습을 하는 겁니다. 문제는 말씀드린 대로 그렇게 새로운 방식이 나오면 그걸 또 뚫는, 마치 해킹처럼 계속 이 알고리즘이 발전된다는 것이고요. 결국에는 지금 상황에서는 후행적인 단계, 그러니까 새로운 방식이 나오면 그것을 모니터링해서 고치는 쪽으로 쓸 수 있지만 완벽하게 이것을 찾는다는 것은 지금 기술적으로는 그렇게 실시간적으로 찾기란 냉정하게 말해서 쉽지 않다. 이렇게 말씀드릴 수 있습니다.]
[앵커]
사실 제가 아까 언급드렸지만, 선거에서도 이 딥페이크 기술 때문에 비상이 걸려 있습니다. 지금 보니까 선관위에서 딥페이크 전담팀이 72명. 실효성에 대해서 여쭤보고 싶어요.
[김덕진/IT 커뮤니케이션 연구소장 : 일단은 분명히 이런 가이드라인이 나온다는 게, 선거 이후에 어떤 잘잘못을 가릴 때는 분명히 어느 정도 도움이 될 것 같습니다. 그런데 반대로 선거 기간 안에 이게 바로 정말 점검이 될 것이냐라는 건 쉽지 않다라는 거죠. 왜냐하면 이미 선거는 진행되고 선거가 진행된 후에 이런 것들을 후행적으로 할 수밖에 없는 게 지금의 상황이다라고 말씀드리겠습니다.]
[앵커]
어쨌든 실시간으로 대응할 수 있는 건 없다. 어쨌든 시청자, 이 영상을 보고 있는 사람이 개인적으로 판단을
해야 된다는 얘기이실까요?
[김덕진/IT 커뮤니케이션 연구소장 : 맞습니다. 그래서 이런 걸 많이 하는 이유가, 그만큼 우리가 보이스피싱도 마찬가지잖아요. 우리가 보이스피싱의 사례나 내용을 듣다 보면 이런 거 우리가 조심해야지라고 하지 않습니까? 결국에 이런 방송을 통해서 이 AI로 만드는 것이 얼마나 쉽고 이런 것들이 너무나도 익숙하게 들어갈 수 있다는 걸 시청하시는 분들이 꼭 아셨으면 좋겠고요. 그래서 어떤 영상이나 내용이 나오더라도 바로 믿기보다는 한 번 확인해보고 이것이 과연 정말 맞는 것인가를 냉정하게 살펴보시는 것들이 지금 중요하다. 이렇게 말씀드릴 수 있겠습니다.]
[앵커]
딥페이크 영상인지 아닌지를 시청자가 어쨌든 판단하고 의심하는 그런 태도가 필요하다라는 말씀 주셨습니다. 김덕진 IT커뮤니케이션 연구소 소장과 얘기 나눠봤습니다. 고맙습니다.