JTBC 드라마 ‘힘쎈여자 강남순’에서 딥페이크 영상통화로 보이스피싱을 하는 장면. [JTBC 방송 화면 캡처]
[헤럴드경제=고재우 기자] #. “지금 당장 합의금으로 2000만원을 내야 해.”
딸에게 돈이 필요하다는 전화를 받은 아빠는 보이스피싱을 의심해 영상통화를 하자고 한다. 화면 속 다급한 딸의 표정을 본 아빠는 딸의 얼굴을 본 후 딸에게 2000만원을 즉시 입금한다.
한 드라마 속에 등장한 ‘딥페이크’ 보이스피싱 장면이다. 얼굴까지 정교하게 합성해 피해자를 속일만큼 보이스피싱 범죄 수법이 진화하고 있다. 이 같은 피해를 막기 위해 얼굴 합성까지 잡아내는 기술이 개발돼 눈길을 끈다.
기자가 체험 중인 LG유플러스 안티딥페이크 기술. 기자 얼굴에 다른 사람 얼굴이 덧씌워진 이미지에는 딥페이크라는 표시가 뜬다. 고재우 기자
26일 LG서울역빌딩 내부에 설치된 키오스크. 기자가 키오스크 내 화면 앞에 서자 인공지능(AI)일 얼굴 판독을 시작한다.
‘수 초’ 간 화면 속 기자 얼굴에 오색 가면이 뜬다 싶더니, 이윽고 ‘정상(왼쪽)’ ‘딥페이크(오른쪽)’ 문구가 뜬다. 왼쪽 화면은 진짜 기자 얼굴, 오른쪽 화면은 기자 얼굴에 잘생긴 얼굴 이미지를 덧씌운 딥페이크 이미지였다.
LG유플러스의 안티딥페이크 기술이 진화하고 있다. 안티딥페이크 기술은 AI를 통해 영상 및 이미지를 분석하고 합성 여부를 판별한다. 딥페이크 탐지 딥러닝 모델→ 픽셀 단위 이미지 비정상 패턴 분석→ 판독 결과→ 딥페이크 경고 알림 등 과정을 거치는 것이다.
특히 LG유플러스는 안티딥페이크 기술을 인터넷 연결 없이 기기 자체에서 실행할 수 있는 ‘온디바이스 AI’ 형태로 최적화 중이다.
LG유플러스만의 안티딥페이크 기술이 타사와 다른 점도 여기에 있다. 온디바이스 AI가 적용될 경우, 화상 여상이 통신사 서버로 전달되지 않는다. 통신사 서버에서 대용량 처리를 하다 보면 트래픽 저하가 따르기 마련인데, 온디바이스 AI의 경우 이럴 우려가 없다. 여기에 개인정보 유출 가능성도 마찬가지다.
이를 통해 이용자는 자신의 스마트폰을 볼 때 스스로 딥페이크 이미지 및 영상을 걸러낼 수 있다. 예를 들어 이용자가 딥페이크 영상을 볼 경우 ‘지금 보고 계신 이미지는 딥페이크 가능성이 70%입니다’ 등으로 이용자 지원하는 식이다.
현재 LG유플러스의 안티딥페이크 기술은 ‘90%’ 수준의 정확도를 자랑하고 있다. LG유플러스는 기술 정확도를 ‘95%’ 정도까지 높여, 내년 상반기 상용화를 목표로 경주 중이다.
이용자가 많은 플랫폼과 협업도 기대해 볼 수 있을 전망이다. 이를테면 현재 유튜브는 신뢰할 수 있는 의료정보를 제공한다는 취지로 ‘출처 대한민국 공인 의료 서비스 제공자’라는 배지 형태의 글귀를 의료기관 영상 하단에 배치하고 있다. 이처럼 플랫폼 내부에 유통 중인 영상 및 이미지에 안티딥페이크 기술을 활용한 경고 메시지를 던질 수 있다.
[123RF]
안티딥페이크 기술이 각광 받는 이유는 소셜네트워크서비스(SNS) 등에서 무분별하게 유통되는 성범죄물 때문이다.
방송통신심의위원회(방심위)가 지난해 1~9월까지 집계한 딥페이크 관련 심의 건수는 무려 1만305건이다. 2021년 1913건 대비 ‘5.3배’ 폭증했다.
얼마 전 치러진 민주주의 꽃 대선에서도 딥페이크는 문제였다. 중앙선거관리위원회에 따르면 지난 4월 4일부터 선거 전날인 6월 2일까지 한국인터넷자율정책기구(KISO) 등을 통해 삭제가 요청된 딥페이크 콘텐츠 누적 건수 1만448건이었다. 지난해 총선 당시 삭제 요청 건수 388건보다 ‘약 26배’ 증가한 수치다.
한영섭 LG유플러스 AI테크랩장은 “고객 스마트폰으로 전달되는 유해 콘텐츠를 방어할 수 있는 원천 기술을 확보한 것”이라며 “정보의 홍수 속에서 AI로 조작된 유해물이 많고, SNS, 문자, 채팅, 회의 등 피해를 볼 수 있는 사람이 있다. 이런 부분에서 활용도가 높을 것”이라고 강조했다.
Copyright © 헤럴드경제. 무단전재 및 재배포 금지.