【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]‘AI와 공존’ 글로벌 공통의 과제…美·EU 어떻게 대응하고 있나 [특별기획 ④]

온카뱅크관리자

2026-11-12 17:07:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 시대, 건강한 미래 공존의 지혜를 찾다 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="qwDekyFYhW">
 생성형 AI가 일상 깊숙이 스며들면서 딥페이크를 앞세운 사이버 폭력, 선거와 금융시장을 흔드는 허위조작정보, 에이전트 AI의 악용 등 기술의 그늘도 빠르게 짙어지고 있다. 최근 동시다발적 AI 기반 해킹에서 보여주듯 AI의 진화 속도는 이미 사회의 대응 능력을 앞지르고 있으며, 이는 특정 국가가 아닌 글로벌 공통의 과제가 됐다.
 <div contents-hash="12377905b408c9c2b0acb77abd5c28d79758f7d83bad95522f4169aa746ea14f" dmcf-pid="bmrJDY0HyT" dmcf-ptype="general">
 &lt;디지털데일리&gt;는 2026년 한국언론진흥재단이 진행하는 공익 목적 콘텐츠 기획 프로그램의 일환으로, 총 5회에 걸쳐 AI가 공동체에 던지는 위협의 실체를 진단한다. 아울러 해외 주요국의 대응 사례와 함께 'AI 기본법' 등 국내 법·제도가 보강해야 할 과제를 통해 건강한 공존의 해법을 모색한다. &lt;편집자&gt;
 </div>
 <figure class="figure_frm origin_fig" contents-hash="0bd218119dfcb823445659aae1daa95c5af56d454694f4b67375a168aa6cb6a1" dmcf-pid="KsmiwGpXTv" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170015242vrsf.png" data-org-width="640" dmcf-mid="ucqG7xgRyH" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170015242vrsf.png" width="658">
 </figure>
 - 미국 48시간 삭제·EU 출처 표시 법제화
 [디지털데일리 이안나기자] 지난해 말부터 올해 초까지 사회관계망서비스(SNS) X에서는 AI 챗봇 ‘그록(Grok)’에 실존 인물 사진을 성적으로 조작해 달라는 요청이 잇따랐다. 일론 머스크의 xAI가 만든 그록은 이런 요청에 응해 이미지를 만들었고 결과물은 X를 타고 다시 퍼졌다. 합성물을 만든 도구와 이를 퍼뜨린 통로가 한 서비스 안에 있었던 셈이다.
 이런 피해는 가해자를 찾아 처벌하는 것만으로 막기 어렵다. 딥페이크 합성물은 한 번 퍼지면 복제와 재유포가 꼬리를 문다. 해외에서 가해자 처벌에 더해 콘텐츠를 유통하는 플랫폼과 도구를 만드는 AI 기업에 책임을 묻는 장치가 하나둘 갖춰지고 있는 이유다. 피해물 삭제 시한과 AI 생성물 표시 의무, 정부기관의 안전장치 시험이 대표적이다.
 김명주 인공지능안전연구소(AISI) 소장은 이런 변화를 두고 “대응의 무게중심이 ‘유포자 처벌’에서 ‘유통 차단과 출처 표시, 그리고 도구 제공자의 책임’으로 옮겨 가고 있다”고 말했다.
 ◆ 삭제에는 시한, 합성물에는 표시…법으로 구체화한 기업 책임
 미국은 피해물 삭제에 시한을 걸었다. 근거는 지난해 5월 제정된 ‘테이크 잇 다운 법(TAKE IT DOWN Act)’이다. 올해 5월19일부터 적용 대상 플랫폼은 피해자의 유효한 삭제 요청을 받으면 48시간 안에 해당 이미지를 지워야 한다. 대상은 당사자 동의 없이 유포된 성적 이미지다. 실제 촬영물뿐 아니라 AI로 만든 위조 이미지도 포함된다. 이미 알려진 동일 복제본도 48시간 안에 찾아 지우도록 합리적인 노력을 기울여야 한다.
 법 집행은 연방거래위원회(FTC)가 맡는다. FTC는 플랫폼이 삭제 요청을 이행하지 않거나 신고 절차를 마련하지 않았을 때 피해자가 이를 알릴 수 있는 창구를 따로 열었다. 앤드루 퍼거슨 FTC 위원장은 집행 개시를 알리며 “AI 시대에는 누구나 표적이 될 수 있다”고 말했다.
 미국은 이처럼 아동 보호나 사기 등 피해가 뚜렷한 영역을 골라 규율하는 쪽에 가깝다. EU처럼 AI 전반을 아우르는 연방 차원의 포괄적 AI법은 아직 없다. 반면 EU는 포괄적인 AI법 안에서 콘텐츠를 만드는 단계부터 표시를 요구한다.
 지난 8월2일부터 적용된 AI법 제50조에 따라 생성형 AI 제공자는 생성·조작된 이미지·음성·영상·글을 기계가 판독할 수 있도록 표시해야 한다. 워터마크나 생성 이력 정보 등을 활용해 플랫폼이나 탐지 도구가 AI 생성·조작 여부를 판별할 수 있게 하는 방식이다.
 딥페이크를 만들거나 활용하는 사업자 등은 이용자가 합성 사실을 알아볼 수 있도록 따로 고지해야 한다. 제작 도구에 표시 기능을 넣는 책임과 콘텐츠를 접하는 사람에게 합성 사실을 알리는 책임을 나눈 것이다.
 위험한 기능을 배포하기 전에 무엇을 검토했는지도 조사 대상이 된다. EU 집행위원회는 지난 1월 그록 논란과 관련해 디지털서비스법(DSA)에 따라 X에 대한 조사에 착수했다. X가 그록 기능을 배포하기 전에 불법 콘텐츠가 퍼질 위험을 충분히 평가하고 줄였는지, 위험평가 보고서를 작성해 제출했는지가 조사 항목에 들어갔다.
 헨나 비르쿠넨 EU 집행위원회 기술주권·안보·민주주의 담당 수석부집행위원장은 조사 착수 당시 “여성과 아동을 대상으로 한 성적 딥페이크는 폭력적이고 용납할 수 없는 형태의 모욕”이라며 “이번 조사로 X가 DSA상 법적 의무를 지켰는지, 여성과 아동을 포함한 유럽 시민 권리를 자사 서비스의 부수적 피해로 취급했는지 가려낼 것”이라고 언급했다.
 기업의 의무 대신 개인의 권리를 앞세운 나라도 있다. 덴마크 정부가 지난 10월8일 제출한 저작권법 개정안은 동의 없이 실제 인물의 외모·목소리 등을 사실적으로 모사한 디지털 콘텐츠를 공유하는 행위를 제한하는 내용이다. 사람의 얼굴과 목소리를 저작물처럼 본인의 권리로 보호하겠다는 발상이다.
 제니아 스탐페 덴마크 문화부 장관은 개정안의 주요 목표로 빅테크 기업이 조작된 콘텐츠를 신속하게 내리도록 하는 것을 꼽았다.
 <div contents-hash="8495afa571665198762e093862317df42da81f16ebfd9ff23de3d3a7da11f3c2" dmcf-pid="HUpv34J6hA" dmcf-ptype="general">
 다만 합성물을 일괄적으로 막으면 풍자나 패러디까지 위축될 수 있다. 덴마크 개정안은 풍자·패러디 등을 허용하되 타인의 권리 등에 심각한 위험을 주는 허위정보까지 보호하진 않는다. EU도 예술·풍자 작품에 들어간 딥페이크에 표시 의무를 면제하지 않는 대신, 작품 감상을 방해하지 않는 방식으로 합성 사실을 밝히도록 했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="6092533d5d951345e5821bf3e00595157625a155a6d08acf8b927311ba689039" dmcf-pid="XuUT08iPvj" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170016555cgqh.png" data-org-width="640" dmcf-mid="78g4LOYCCG" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170016555cgqh.png" width="658">
 </figure>
 ◆ 비공개 안전장치까지 정부가 시험…취약점 발견에서 수정까지
 삭제 시한과 생성물 표시는 이미 만들어진 콘텐츠를 다루는 장치다. AI가 애초에 악용되지 않도록 막는 일은 기업이 모델과 서비스에 적용한 안전장치에 달려 있다. 문제는 이 안전장치가 실제로 통하는지 기업 밖에서 확인하기 어렵다는 점이다.
 미국과 영국은 정부 연구기관이 이를 직접 시험한다. 미국 상무부 산하 AI표준혁신센터(CAISI)와 영국 정부 산하 AI보안연구소(AISI)는 기업과 자발적 협약을 맺고 모델 개발·배포 과정에서 악용 가능성을 점검했다. 공격자처럼 안전장치를 뚫어 보는 이른바 ‘레드팀 평가’다.
 AI 모델 ‘클로드’를 만든 앤트로픽이 지난해 9월 공개한 협력 사례에 따르면 두 기관은 클로드 오퍼스 4·4.1 등에 적용된 안전장치를 평가했다. 이 과정에서 유해한 요청을 걸러내는 분류기의 취약점이 드러났고 앤트로픽은 이를 반영해 필터링 기능과 안전장치 설계를 보완했다.
 앤트로픽은 출시 전 안전장치 시제품과 내부 정책·평가 기준, 분류기가 요청마다 매기는 위험 점수 등을 정부 평가자에게 제공했다. 평가자가 시스템 내부 작동을 파악하고 공격 방식을 바꿔가며 시험할 수 있도록 한 것이다.
 오픈AI도 같은 시기 CAISI가 챗GPT 에이전트에서 보안 취약점 2건을 발견한 사례를 공개했다. 에이전트는 사용자 대신 웹을 탐색하고 작업을 처리하는 AI 기능이다. 특정 조건에서 공격자가 보호 장치를 우회해 에이전트가 접근하는 컴퓨터 환경을 제어하거나 사용자를 사칭할 수 있는 문제였다. 오픈AI는 통보받은 취약점을 1영업일 안에 고쳤다고 밝혔다.
 두 사례 모두 기업과 정부기관의 자발적 협약에서 출발했다. 검증이 얼마나 깊이 들어갈지도 기업이 어디까지 문을 열어주느냐에 달렸다.
 <div contents-hash="327f00980684c11c2bf357ef906072a6e0d6f80d93a8419bf59f2b5ec02e062f" dmcf-pid="pWykvp2uSJ" dmcf-ptype="general">
 김 소장은 “기업이 안전장치의 구조와 비공개 도구, 실시간 분류기 신호까지 제공해야 평가가 깊어지고 수정도 빨라진다”며 “평가를 위한 접근은 아직 기업과의 자발적 합의에 크게 의존한다. 평가에서 개선으로 이어지는 속도는 이 합의의 깊이에 좌우된다”고 말했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="127e67a299ec7616d70494c5cf25df7fd699a8004cd961b006cdacfdecf46e20" dmcf-pid="UYWETUV7ld" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170017829gztg.png" data-org-width="640" dmcf-mid="zPkMAv1yTY" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/552796-pzfp7fF/20261112170017829gztg.png" width="658">
 </figure>
 ◆ 검증 뒤 개선은 누가 확인하나…한국도 제도·인력·컴퓨팅 갖춰야
 평가를 받았다고 위험이 모두 사라지는 것도 아니다. 영국 AISI는 지난해 10월까지 출시된 모델 등을 다룬 ‘프런티어 AI 트렌드 보고서(Frontier AI Trends Report)’에서 “지금까지 시험한 모든 시스템에서 범용 탈옥 기법을 찾아냈다”고 밝혔다. 탈옥은 AI에 걸린 안전장치를 우회해 금지된 답변을 끌어내는 기법이다. 다만 보고서는 “특히 생물학적 악용 분야에서 일부 AI 시스템의 안전장치가 크게 개선됐다”고 덧붙였다.
 해외 사례를 한국에 비춰 보면 처벌 체계는 비교적 갖춰진 편이라는 게 김 소장 평가다. 2024년 성폭력처벌법 개정으로 딥페이크 성적 영상물을 소지·시청만 해도 처벌하고, 올해 1월에는 인공지능기본법이 시행됐다. 반면 신고 후 신속 삭제를 플랫폼에 의무로 부과하는 부분과 서비스 출시 전 악용 가능성을 점검하는 부분은 보완할 여지가 있다고 봤다.
 김 소장이 해외 기관과 협력하며 보완이 필요하다고 느낀 부분은 세 가지다. 가장 먼저 꼽은 것은 평가에서 개선까지 이어지는 환류 절차다. 안전장치가 완벽하지 않지만 나아지고 있는 만큼 한 번의 평가로 끝낼 수 없다는 것이다.
 그는 “평가 결과가 나온 뒤 누가 개선 여부를 확인하는지가 제도로 정리되어 있어야 한다”며 “해외 기관의 레드팀 사례에서 배울 점은 취약점 발견보다 반복 평가와 재점검이 한 번의 절차로 설계되어 있다는 것”이라고 강조했다. 오픈AI도 CAISI·AISI와의 협력을 소개하며 “지속적인 협력은 일회성 출시 전 평가보다 더 깊이 들어가고 더 큰 가치를 낼 수 있다”고 밝혔다.
 두 번째는 평가 역량이다. 2024년 11월 한국전자통신연구원(ETRI) 산하에 출범한 인공지능안전연구소는 올해 1월 인공지능기본법 시행과 함께 같은 법 제12조에 따른 법정 임무를 맡았다. 딥페이크 탐지 모델과 분야별 안전성 벤치마크 데이터셋을 자체 구축해 왔고 올해 상반기에는 싱가포르 AI안전연구소와 AI 에이전트 안전 테스트를 함께 수행했다.
 현재 약 40명인 연구 인력은 내년까지 70명 수준으로 늘리는 게 목표다. 최전선 모델을 평가하려면 그만큼의 인력과 컴퓨팅 자원이 뒷받침돼야 해서다. 김 소장은 이 확충을 협력의 실질적인 전제 조건으로 꼽았다.
 마지막은 AI 사고의 모니터링과 대응 체계다. 연구소는 기존 사이버 사고와 AI 기반 사이버 사고는 대응이 어떻게 달라야 하는지에 초점을 두고 관련 체계를 연구하고 있다. 사고 정보를 국가 간에 어떻게 공유할지는 아직 국제 표준이 없다. 김 소장은 한국이 신뢰받는 제3국으로 역할을 하려면 국제 AI 안전기관 네트워크 등에서 기준 논의에 적극 참여해야 한다고 짚었다.
 그는 “AI 안전은 한 나라가 혼자 풀 수 없고 규제와 혁신 중 하나만 택할 수도 없다”며 “기업이 먼저 점검하고 안전기관이 검증하며 결과가 개선으로 이어지는 선순환을 만드는 것이 공존의 지혜라고 생각한다”고 말했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

"내년 전셋값 4.5%·집값 2% 상승…건설경기 회복 제한적"(종합) 美 정부, 中 기업의 해외 AI 반도체 우회 사용 차단 추진

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기