서비스 메뉴 바로가기 본문 바로가기 아티클 바로가기 프로그램 목록 바로가기

아동 성착취물 90초 만에 찾아내 지우는 'AI 해결사' 떴다

입력 2024-05-22 19:42
크게 작게 프린트 메일
URL 줄이기 페이스북 X

[앵커]

최근 서울대에서도 디지털 성범죄가 발생했죠. 'N번방 사건' 이후에도 이런 식의 성범죄가 끊이지 않고 있고, 특히 아동 청소년을 대상으로 한 범죄도 많습니다. 이런 성착취물들을 최근엔 인공지능, AI가 바로바로 찾아내 삭제하고 있다고 합니다.

이은진 기자가 취재했습니다.

[기자]

6학년 여자아이가 성착취물 피해자가 된 건 우연이었습니다.

"11살 여자만 들어오라"는 오픈채팅방에 들어갔습니다.

노예 놀이를 하자고 했고 가벼운 벌칙이 오갔습니다.

친분이 쌓이면서 조금씩 요구가 노골적으로 변했습니다.

[이명진/변호사 (법률사무소 예송) : 자기가 주인이 됐을 때, 가슴 사진을 찍어서 보내라, 어디 사진을 찍어서 보내라…]

방을 만든 건 22살 남성이었습니다.

이른바 '그루밍'을 한 건데, 일단 사진 한 장을 받자 협박을 시작했습니다.

[이명진/변호사 (법률사무소 예송) : 나랑 뭘 해주면은 내가 이걸 더 이상 안 퍼뜨리겠다, 혹은 나랑 이거를 해주지 않으면 더 퍼뜨리겠다는 식으로…]

이런 상황이 벌어졌을 때 아이들은 어떻게 해야 할지 혼란에 빠집니다.

부모에게 혼날까 두려워 피해를 숨깁니다.

그러는 사이 성착취물이 얼마나 어디까지 퍼질지는 알 길이 없어집니다.

피해가 계속되면서 신고가 없어도 아동 성착취물을 찾아내는 기술이 개발됐습니다.

경찰이 아닌 서울시가 나섰습니다.

화면 속 얼굴과 주변 사물을 검색해 미성년자 단서가 나오면 즉시 삭제합니다.

인형과 학용품, 교복, 어린이나 학생 방에 흔히 있는 물건입니다.

얼굴이 안 나와도 이런 걸 인식해 '아동 청소년 성착취물'로 판단합니다.

여고생 등 특정 단어가 들어간 게시물도 찾아냅니다.

이런 영상을 찾는데 걸리는 시간은 단 90초입니다.

발견한 착취물은 바로 삭제하되 피해자들이 훗날 법적 대응을 할 수 있도록 따로 모아두기로 했습니다.
광고

JTBC 핫클릭