【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]앤트로픽 “AI 에이전트 되돌릴 수 없는 사고 낼수도···인류에 실존적 위험” 투자자에 경고

온카뱅크관리자

2026-09-30 14:17:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="2p0YNmKpSV">
          <figure class="figure_frm origin_fig" contents-hash="cf6337e736d695720b2154192dfd032b5e94614afa3de4df87eb2adc7e56b990" dmcf-pid="VUpGjs9Uy2" dmcf-ptype="figure">
           <p class="link_figure"><img alt="지난 17일 미국 캘리포니아주 샌프란시스코 모스코니센터에서 열린 기술 행사 ‘드림포스 2026’에 앤트로픽 로고가 전시돼 있다. 로이터연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/30/khan/20260930140832897gmys.jpg" data-org-width="1200" dmcf-mid="9OFygwB3yf" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/30/khan/20260930140832897gmys.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            지난 17일 미국 캘리포니아주 샌프란시스코 모스코니센터에서 열린 기술 행사 ‘드림포스 2026’에 앤트로픽 로고가 전시돼 있다. 로이터연합뉴스
           </figcaption>
          </figure>
          <p contents-hash="a3d71a8a24cde5a5a330e8a8aa6601fd7c75bdee6f5940cb3f4347ddaf725d95" dmcf-pid="fni8Zucny9" dmcf-ptype="general">앤트로픽이 기업공개(IPO)를 앞두고 인공지능(AI) 에이전트가 사고를 내면 회사가 소송을 당할 수 있다고 투자자들에게 경고했다. AI가 인류에 “재앙적 또는 실존적 위험”을 초래할 수 있다고도 밝혔다.</p>
          <p contents-hash="cd7c66210fddc100fb61829b4b19ee3d7f373c1ba4551da22f3a2d755cf0c2a1" dmcf-pid="4Ln657kLTK" dmcf-ptype="general">29일(현지시간) 로이터가 입수한 앤트로픽의 비공개 IPO 투자설명서에 따르면, 앤트로픽은 AI 에이전트가 오류·오작동·해킹으로 고객의 데이터를 지우거나 금융거래를 실행하는 등 되돌릴 수 없는 사고를 낼 수 있다고 밝혔다. 이 AI 에이전트는 고객 회사의 시스템에 깊숙이 들어가 며칠씩 스스로 일하도록 설계돼 있다.</p>
          <p contents-hash="8c20c032aa2a5fa4ce7a2ea02a11e2f0e2da4cfda2fb55b7b19c204f06b9eb07" dmcf-pid="8oLP1zEohb" dmcf-ptype="general">이런 사고의 책임을 누가 지는지는 법적으로 정해지지 않았다고 설명했다. 에이전트의 행동을 제품으로 볼지 서비스로 볼지, 사용자의 행동으로 볼지도 불분명하다는 것이다. 이 때문에 고객과 사용자로부터 “중대하고 예측할 수 없는” 소송에 휘말릴 수 있다고 했다. 안전장치에도 자사 모델이 자해나 타인에 대한 폭력으로 이어질 수 있는 방식으로 쓰인 적이 있다는 사실도 공개했다.</p>
          <p contents-hash="a7d8169224b2b86690f1d615da20f6e7a809010a2644fd87a47c7b04198501f1" dmcf-pid="6goQtqDgSB" dmcf-ptype="general">투자설명서 261쪽 가운데 위험요인이 약 80쪽을 차지한다. 사업 설명(48쪽)의 두 배에 가까운 분량이다. 여기에는 첨단 AI가 인류에 “재앙적 또는 실존적 위험”을 초래할 수 있다는 경고가 담겼다. AI 모델이 ‘자기보존 행동’을 보이며 종료에 저항하거나 정보를 숨기거나 조작할 수 있다는 내용도 포함됐다.</p>
          <p contents-hash="265e35b1d0bcd6442a3e3fc1511985cea94de7756b356b36d5315bcf434bdd3f" dmcf-pid="PagxFBwaCq" dmcf-ptype="general">안전성 검증의 한계도 인정했다. 앤트로픽은 “평가 작업을 모델이 인지할 가능성은 안전성을 평가하는 능력에 중대한 한계가 된다”고 밝혔다. 모델이 시험받는다는 것을 알아채면 평소와 다르게 행동할 수 있다는 의미다.</p>
          <p contents-hash="3710be76949c0615060ffedeb39a37dd3015288224554840ea35dcc9e3b8c318" dmcf-pid="QNaM3brNvz" dmcf-ptype="general">앤트로픽은 그동안 AI의 통제 위험을 꾸준히 경고해왔지만, 이를 공식 투자위험으로 올린 것은 이례적이다. 위험을 미리 알려두면 향후 투자자 소송에 대응하기 쉽다는 점이 고려된 것으로 보인다.</p>
          <p contents-hash="7c49fef5d0a973768bf8808d5590dc8f5b8ec1ad5ab4b2b4914f14fb3f348bcc" dmcf-pid="xjNR0Kmjh7" dmcf-ptype="general">투자설명서에는 막대한 투자 부담도 담겼다. 앤트로픽은 향후 약 10년간 구글·아마존 등과 최소 5180억달러(약 702조2000억원) 규모의 컴퓨팅 계약을 맺었다. 이 가운데 약 80%는 취소할 수 없거나 사용량과 관계없이 지급해야 하는 약정이다. 지난해 매출은 약 46억달러로 12배 늘었지만 영업손실은 80억달러를 넘었다.</p>
          <p contents-hash="e27e31d3b6a4797ec9029b482b2c9819743eec67bea6289b39cf696806141bcb" dmcf-pid="yp0YNmKpCu" dmcf-ptype="general">로이터는 앤트로픽이 11월 미국 중간선거 이후 상장할 가능성이 크며, 기업가치가 2조달러를 넘을 수 있다고 전했다. 이번 투자설명서는 공개 전 초안이라 내용이 바뀔 수 있다.</p>
          <p contents-hash="dda342d3683a364c76244b7c79deef531fc72c0a6e21642a5823cc1a6b0dce9a" dmcf-pid="WUpGjs9USU" dmcf-ptype="general">김세훈 기자 ksh3712@kyunghyang.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 경향신문. 무단전재 및 재배포 금지.</p>

“35년 매립 희망고문 끝내야”···새만금 기본계획 전면 재구조화 요구 ETRI, '과제 따기' 연구 벗어난다…2030년 국가 임무형 R&D 90%로

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기