방심위, 9만4185건 시정조치
딥페이크 영상은 221% 급증
10대 가해자 전체 70% 차지
2차 피해 예방하기 위해선
플랫폼도 유통방지 노력해야

인공지능(AI) 기술의 발전에 따른 디지털 성범죄가 심각한 수준으로 치닫고 있는 것으로 나타났다.

방송통신심의위원회는 최근 발간한 '2025년 제1호 방송통신 심의동향' 보고서를 통해 지난 한 해 동안 인터넷 불법 및 유해 정보 34만6686건에 대해 '시정요구' 조치를 내렸다고 밝혔다. 특히 이 가운데 디지털 성범죄에 대해 내린 시정요구 조치는 9만4185건으로, 전체의 27.2%를 차지하며 가장 큰 비중을 기록했다. 이는 전체 불법·유해 정보 중에서 디지털 성범죄가 차지하는 비중이 갈수록 커지고 있음을 보여주는 수치로, 사회적 경각심을 더욱 높이고 있다.

최근 들어서는 AI 기술을 악용한 딥페이크 성범죄가 급증하면서 우려가 커지고 있다. 방심위 통계에 따르면 지난해 연예인과 일반인을 대상으로 한 딥페이크 성범죄 영상물 정보 2만3107건에 대해 시정요구 조치가 내려졌는데, 이는 전년 대비 221.5%나 급증한 수치다. 같은 기간 전체 디지털 성범죄 정보도 전년 대비 40.7% 늘었으며, 이와 관련해 방심위는 "딥페이크 성범죄 영상물 등 다양한 현안이 동시다발적으로 발생하며 시정요구가 급증한 결과"라고 설명했다. 딥페이크 성범죄가 급증하고 있는 현 상황은 기술 발전의 이면에 존재하는 어두운 현실을 단적으로 드러낸다는 지적도 이어지고 있다.

전문가들은 딥페이크 영상이 사실 여부를 가리기 어렵게 정교해지면서 피해자가 본인도 모르는 사이 2차, 3차 피해로 이어질 가능성이 크다고 지적한다. 방심위 관계자는 "피해자의 의사에 반해 촬영되거나 유포된 불법 촬영물이 여전히 전체의 약 75%로 대다수를 차지하고 있지만, 딥페이크 영상물이 빠르게 증가하는 것은 우려되는 현상"이라고 밝혔다. 딥페이크 영상의 경우 기술적으로 탐지와 차단이 쉽지 않아 규제당국의 대응에 상당한 한계가 있다는 점도 문제로 지적된다.

특히 딥페이크 성범죄의 상당수가 10대들에 의해 자행되고 있어 대책 마련을 요구하는 목소리가 높다. 경찰청 국가수사본부에 따르면 지난해 8월 28일부터 올해 3월 31일까지 딥페이크 영상물 범죄를 집중 단속한 결과, 모두 963명을 검거했는데 이 중 10대가 669명으로 전체의 69.5%를 차지했고, 20대도 228명(23.7%)에 달했다. 형사처벌 대상에서 제외되는 촉법소년도 72명에 이르러 단순히 법적 처벌만으로는 딥페이크 범죄의 확산을 막기 어렵다는 지적이 제기된다. 방송통신위원회 관계자는 "디지털 성범죄물 신고가 꾸준히 증가하고 있고, 인터넷 사업자들도 적극적으로 유통 방지 조치를 하고 있다"면서도 "가해자 중 상당수가 10·20대라는 점을 고려할 때 보다 실효성 있는 교육과 예방 정책이 시급하다"고 강조했다. 딥페이크 범죄가 단순히 성인 범죄의 영역에 머물지 않고 청소년층까지 빠르게 확산하고 있다는 점에서 우려의 목소리는 더욱 커지고 있다.

네이버, 카카오 등 국내 포털업체들도 불법 촬영물 삭제와 차단에 나서며 대응을 강화하고 있다. 방통위가 이날 공개한 '2024년도 불법 촬영물 등의 처리에 관한 투명성 보고서'에 따르면 지난해 불법 촬영물 삭제 및 차단 건수는 18만1204건으로 전년(8만1578건) 대비 두 배 이상 늘었다. 이진숙 방통위원장은 "AI 서비스의 급격한 발전으로 딥페이크 성범죄물 등 디지털 성범죄 피해가 급증하고 있어 2차 피해를 예방하기 위해서는 인터넷 사업자들의 유통 방지 노력이 한층 중요해질 것"이라고 말했다. 방통위는 향후 기술적 대응뿐 아니라 정책적 대안을 함께 마련해나가겠다는 방침이다.

[김규식 기자]

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지