"옷을 벗길 사람이 있습니까?" "데이트로 시간을 낭비하지 마십시오."
이런 홍보 문구를 내세워 딥페이크 음란물 제작을 부추겨 온 AI 업체들이 수사를 받게 됐습니다.
미국 샌프란시스코 검찰청은 현지시간 지난 15일 범죄에 악용되는 대표적 업체 16곳에 민형사상 소송을 제기했다고 밝혔습니다.
[카룬 틸락/ 샌프란시스코시 검사]
"옷을 입은 여성이나 소녀의 사진을 업로드하기만 하면 몇 초 만에 매우 사실적인 나체 포르노 이미지로 바꿔주는 업체들입니다."
올해 상반기 6개월 동안만 16곳 업체의 방문자 수는 2억 명에 달합니다.
시 검찰청은 "기술 혁신이 아니라 성적 학대라는 것을 분명히 한다"면서 딥페이크·아동 성 착취물 등을 금지하는 주법과 연방법을 위반했다고 설명했습니다.
시 검찰청이 업체를 겨냥한 건, 단순히 개인의 문제로 맡겨두기에는 가해자 처벌에 한계가 있다고 판단했기 때문입니다.
피해자가 직접 어떤 사이트에서 불법 이미지가 생성돼 유통됐는지 경로를 하나하나 찾기란 거의 불가능하다는 겁니다.
물론 해당 업체들의 본사는 미국 외에도 영국, 에스토니아 등에 흩어져 있어 현실적으로 대표를 법정에 세우는 게 어려울 수 있습니다.
하지만 궐석으로 재판이 이뤄지더라도 혐의가 입증되면, 사이트 폐쇄 조치와 벌금 등을 끌어낼 수 있습니다.
딥페이크 음란물 업체를 상대로 정부 차원의 소송이 제기된 건 이번이 처음으로 알려졌습니다.
시 검찰청은 "급변하는 기술을 따라잡는 건 어려운 일이지만, 그렇다고 아무 시도조차 하지 않을 수는 없다"고 밝혔습니다.