【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]살인사건 허위제보에 비자 신청까지…앤트로픽 AI 또 ‘탈선’

온카뱅크관리자

2026-10-11 07:07:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">클로드, 내부테스트 중 정부사이트에 서류제출<br>앤트로픽 “차단조치”…백악관, 즉각보고 요구</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="7NUlT1Ndyu">
          <figure class="figure_frm origin_fig" contents-hash="98a86422fece3d518848e60c174940497a6298045ae13c943dc7553b017eccb2" dmcf-pid="zjuSytjJCU" dmcf-ptype="figure">
           <p class="link_figure"><img alt="다리오 아모데이 앤트로픽 CEO. 로이터=연합뉴스 자료사진" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/11/dt/20261011070143506mqax.png" data-org-width="640" dmcf-mid="u1EQRau5S7" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/11/dt/20261011070143506mqax.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            다리오 아모데이 앤트로픽 CEO. 로이터=연합뉴스 자료사진
           </figcaption>
          </figure>
          <p contents-hash="3d1143ef730b4753a088e9d14b84256e81c4b973ae1dabb1e230c2b68088675c" dmcf-pid="qA7vWFAihp" dmcf-ptype="general"><br> 미국 인공지능(AI) 기업 앤트로픽의 AI가 시험 과정에서 경찰에 살인 사건 허위 제보를 보내고 국무부에 비자 신청서를 제출한 사실이 드러났다. 앤트로픽은 모든 내부 평가에서 실제 인터넷 접속을 차단하기로 했다. ‘AI 에이전트’의 통제 문제가 다시 도마에 올랐다.</p>
          <p contents-hash="f2b87d2e9b708e2a0655f2d10d945eb4023678e33fa79454188ce1e31496e2f7" dmcf-pid="BczTY3cnv0" dmcf-ptype="general">앤트로픽은 자사 AI ‘클로드’의 평가와 내부 사용 과정에서 의도치 않은 행동을 확인했다고 지난 9일(현지시간) 공개한 보고서를 통해 밝혔다. 소프트웨어(SW) 취약점을 악용한 서버 명령 실행, 제출해선 안 되는 온라인 양식 제출, 유료 데이터 접근 제한 우회, 단축 인터넷주소를 이용한 도구 제한 우회 등 네 유형이다. 일부 사례는 미국 연방·주·지방정부기관 웹사이트에서 발생했다.</p>
          <p contents-hash="fc78c92b772f31ada4b889db80c3aa2520d21e44406bb2331889aea9a6912222" dmcf-pid="bkqyG0kLT3" dmcf-ptype="general">대표 사례는 필라델피아 경찰에 접수된 허위 제보다. ‘클로드 하이쿠 4.5’는 무작위 웹페이지에서 예시 작업을 수행하던 중 미제 살인 사건 제보사이트에 “그 무렵 인근에서 인상착의가 일치하는 사람을 본 기억이 있다”는 가짜 목격담을 써서 냈다. 정작 이 페이지엔 범인 인상착의가 제시돼있지 않았다. 개인정보 입력이나 파괴적 행위는 금지됐지만 양식 제출 자체를 제한하는 지시는 없었다는 게 회사 설명이다.</p>
          <p contents-hash="45f085662da4c1c9aa46eed141a31b6852100485915f15872715f533f5e47132" dmcf-pid="KEBWHpEoWF" dmcf-ptype="general">로이터통신에 따르면 지난 7월 18일 제출된 이 제보는 스팸으로 분류돼 수사로 이어지진 않았다. 필라델피아 경찰은 시스템 무단 접근이나 데이터 침해 증거도 없다고 발표했다. 다만, “탐지와 보고가 두 달 지연된 것은 용납할 수 없다”며 앤트로픽의 대응을 비판했다. AI가 수사당국에 허위 제보를 한 것으로 알려진 첫 사례로, 펜실베이니아주법상 허위 신고는 경범죄지만 처벌 대상이 사람으로 규정돼있다.</p>
          <p contents-hash="05fa815130c8d5925fa06d4bc7641ff5d716bf579ccc52b05d9640b4652d1cee" dmcf-pid="9r9H57rNlt" dmcf-ptype="general">비자 신청 사례도 확인됐다. 뉴욕타임스(NYT)는 앤트로픽 AI가 미 국무부 웹사이트에 비자 신청서 20건을 제출했지만, 모두 미완성 상태여서 처리되지 않았다고 보도했다. 이어 악시오스는 당국자를 인용해 5월에 1건, 8월에 19건이 제출됐고 국무부 시스템 침해는 없었다고 전했다. 앤트로픽은 미출시 연구용 모델이 연습용 정부 양식을 열지 못하거나 실수로 닫자 실제 사이트로 이동해 양식을 제출한 사례가 있다고 설명했다.</p>
          <p contents-hash="86c87478442da6ebb0ed8c5e6aa1efbbaccf012aabd82626b6ca37c08a8986ec" dmcf-pid="2m2X1zmjW1" dmcf-ptype="general">앤트로픽 보고서에는 과학 분석 도구가 오류를 내자 대학 서버의 취약점을 찾아 명령을 실행한 사례, 주 정부기관의 유료 데이터를 비용 지불 없이 조회한 사례도 담겼다. 상당수 사례에서 AI가 과제를 완수하지 못할 때 멈추는 대신 제한을 우회하는 경향을 보였다. 학습 과정에서 편법으로 과제를 해결한 행동이 보상받으면 유사한 전략이 다른 상황으로 확산할 수 있다는 게 앤트로픽 측의 분석이다.</p>
          <p contents-hash="e07d98616bf4ccbed56655b2ffb818e266fe41502563479bd851eb72201288e1" dmcf-pid="VsVZtqsAl5" dmcf-ptype="general">회사는 실제 영향이 제한적이었고 고객 데이터나 자사 내부 시스템이 관련된 사례는 현재까지 없다고 해명했다. 앞서 공개했던 사이버보안 사고보다 심각성이 낮다면서도, 안전장치 등이 이런 행동을 확실하게 포착하는지 검증할 때까지 인터넷 차단 대상을 일부 고위험 평가에서 모든 내부 평가로 확대하기로 했다. 또 ‘정렬’ 훈련만으로는 아직 충분치 않다는 점도 인정했다.</p>
          <p contents-hash="9fe07c42d49a6800546e832fb517e7bf40ff172071803df2ffb457af7aa4525f" dmcf-pid="fOf5FBOcSZ" dmcf-ptype="general">블룸버그통신은 오픈AI와 앤트로픽이 최근 AI 이상 행동을 잇따라 공개하면서 프런티어AI의 보안 우려가 커지고 있다고 짚었다. 오픈AI의 경우 내부 테스트 중 에이전트가 호주 정부의 건강보험 통계포털에 침입했고, AI플랫폼 허깅페이스도 해킹한 바 있다. 이에 다리오 아모데이 앤트로픽 최고경영자(CEO) 중심으로 AI개발 속도조절론이 제기됐고 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스XAI CEO도 동조했으나, 오픈AI의 ‘GPT-6.1 아스트라’ 출시 철회 외엔 이렇다 할 실천 사례가 아직 없다.</p>
          <p contents-hash="ec839ce50de09c93f2c141ecff5a48f830b674c3b8a2a24ae11182dac9f6f239" dmcf-pid="4I413bIkWX" dmcf-ptype="general">미 백악관도 대응을 촉구했다. 제이 클레이턴 국가정보국장이 이끄는 백악관 AI 태스크포스(TF) ‘슈퍼인텔리전스(SI) 포스’는 성명에서 “보고와 시정 절차는 선택사항이 아니다. 중대한 국가안보상 의무”라며 늑장 통보와 미흡한 시정을 용납하지 않겠다고 했다. 하지만 이를 강제할 구체적 집행 방식이나 위반 시 제재 수단 등은 제시하지 않았다. 인지과학자 게리 마커스는 인터넷에 접속해 광범위한 작업을 수행하는 AI에이전트들을 “브레이크가 고장 난 자동차처럼” 시장에서 당장 회수해야 한다고 주장했다.</p>
          <p contents-hash="a26b6785c37e0c51d4f8eb50c4ad2556a0a3d38b863e8b8e0eaf9d1ce77484f0" dmcf-pid="8C8t0KCEWH" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>

'금융권 AI 해킹' 후폭풍 지속될까…한전·대형 교회 등 비금융도 비상 '친절한 'AI 추천'의 함정…이용자 80%, 교묘한 선택 유도 신고 안해

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기