【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]AI 위험 경고한 앤트로픽 CEO, “경쟁사 비난보다 안전 기준 높여야” [드림포스2026]

온카뱅크관리자

2026-09-16 05:17:25

<div id="layerTranslateNotice" style="display:none;"></div> “현재 기술의 잠재가치도 5~10%만 활용”…개발 속도 조절과 기업 확산 구분 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="tVr2GOcnS7">
 <figure class="figure_frm origin_fig" contents-hash="4bfbd59ab22273685e7ca318d0942791da21e38d5491d63f4f9661afd23c1fa0" dmcf-pid="FfmVHIkLCu" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/552796-pzfp7fF/20260916051013215cejx.jpg" data-org-width="640" dmcf-mid="5yitroMVCq" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/552796-pzfp7fF/20260916051013215cejx.jpg" width="658">
 </figure>
 [샌프란시스코=(미국) 디지털데일리 이상일기자] 인공지능(AI)의 통제 상실 가능성을 경고하며 최첨단 모델의 개발 속도 조절을 촉구한 다리오 아모데이 앤트로픽 최고경영자(CEO)가 업계 전체의 안전 기준을 높여야 한다고 거듭 강조했다. 경쟁사의 안전 문제를 공격하는 대신 자사의 관행을 먼저 점검하고, 투명성과 외부 검증을 강화해야 한다는 주장이다.
 그러나 AI 위험에 대한 경고가 기술 개발이나 기업의 활용을 중단하자는 의미는 아니라고 선을 그었다. 이미 확보한 기술의 잠재적 가치조차 일부만 활용되고 있는 만큼, 모델의 역량을 확대하는 속도와 그 역량을 실제 업무에 적용하는 과정을 구분해 접근해야 한다는 설명이다.
 아모데이 CEO는 15일(현지시간) 미국 샌프란시스코에서 열린 ‘드림포스2026’에서 마크 베니오프 세일즈포스 회장 겸 CEO와 대담하고 AI의 발전 속도와 안전, 기업 도입 방향에 대한 견해를 밝혔다. 두 사람은 이날 메인 기조연설에서 AI와 기업 데이터·업무 시스템의 결합을 논의했다.
 이번 대담은 아모데이가 최근 공개한 에세이로 AI 개발 속도 논쟁이 확산된 가운데 이뤄졌다. 그는 에세이에서 AI가 다음 세대 AI의 개발을 돕는 속도가 빨라지면서 인간의 이해와 통제가 뒤처질 수 있다고 우려했다. 모델 역량의 발전 속도를 조절해 안전 연구와 검증이 따라갈 시간을 확보해야 한다는 주장이다.
 앤트로픽이 10일 공개한 위협정보 보고서도 최근 위험론의 배경이다. 회사는 사이버 공격과 감시, 사기, 생물학적 오용 등 여러 영역에서 클로드를 악용하려는 활동을 적발·차단했다고 밝혔다. 이는 악의적 사용자의 오용에 관한 보고로, AI가 지시와 무관하게 행동하는 통제 문제와는 구분되지만 기술 확산에 안전장치가 병행돼야 한다는 과제를 보여준다.
 ◆ “경쟁사 사고에도 우리부터 점검”…안전을 공동의 과제로
 아모데이는 AI 업계의 대응 방향을 자동차 회사에 비유했다. 경쟁 자동차 업체에서 브레이크나 제조상의 안전사고가 발생했을 때, 자신이 업계 최고의 안전 기록을 가졌다고 믿더라도 상대를 공격하는 것이 가장 책임 있는 대응은 아니라는 것이다.
 그는 “먼저 우리의 기록을 살펴봐야 한다”며 “우리가 크게 주목받는 사고를 겪지 않았더라도 완벽하지는 않을 것”이라고 말했다. 자사의 관행을 개선하고 투명성에 다시 전념하며, 안전에 더 투자하는 것이 우선이라는 설명이다.
 이후 업계가 함께 모든 기업의 안전 수준을 높일 공통 기준을 만들고, 국제적인 대응으로 확장해야 한다고 강조했다. 특정 기업의 안전 우위를 주장하기보다 업계 전체의 기준을 끌어올리는 방향으로 경쟁해야 한다는 메시지다.
 아모데이가 제시한 대응은 세 단계다. 기업 스스로 검증과 안전 관행을 강화하고, 업계 차원의 공통 기준을 마련하며, 국가 간 협력으로 확대하는 것이다. 그는 첫 단계는 앤트로픽이 이행을 약속했지만 나머지는 업계와 대화해야 할 과제라고 설명했다.
 그가 별도로 공개한 에세이에는 첫 단계의 구체적인 방식도 담겼다. 외부 평가자에게 직원에 준하는 지속적인 접근 권한을 부여해 안전 약속의 이행과 사고를 확인하도록 하겠다는 것이다. 완성된 모델뿐 아니라 훈련 과정까지 평가하고, 회사에 불리하다는 이유만으로 핵심 결과의 공개를 막지 않겠다는 방향이다.
 <div contents-hash="6510ed9fd2d82cc98fa03239e084b45bf67dd5d6d36f5982c2f142d075bd1a88" dmcf-pid="9a5gKFYCTG" dmcf-ptype="general">
 이는 안전을 기업의 자체 선언에서 검증 가능한 운영 체계로 옮기려는 시도로 해석할 수 있다. 다만 외부 평가자가 실제로 얼마나 독립적으로 활동할 수 있고, 위험을 발견했을 때 어떤 조치로 이어지는지가 제도의 실효성을 결정할 것으로 보인다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="7dbd152894b2af69fee6827371665c6c7b413eaebd556ec10fe1c19137b53169" dmcf-pid="2N1a93GhhY" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/552796-pzfp7fF/20260916051014557bsnl.jpg" data-org-width="640" dmcf-mid="1XZobtWIhz" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/552796-pzfp7fF/20260916051014557bsnl.jpg" width="658">
 </figure>
 ◆ “잠재가치의 5~10%만 활용”…기술 발전과 확산의 속도는 다르다
 아모데이는 안전을 위한 속도 조절이 기술의 동결을 의미하지는 않는다고 강조했다. 그는 에세이에서도 모델 훈련과 기술 진보를 멈추자는 것이 아니라, 모델을 인간의 의도에 맞게 작동시키고 안전성을 확인하는 데 충분한 시간을 확보하자는 취지라고 설명했다.
 기업 고객에게 전한 메시지는 이러한 구분에서 출발했다. 베니오프가 현장과 온라인으로 참여한 고객들에게 어떤 행동을 권하겠느냐고 묻자, 아모데이는 현재 기술의 성능과 그 기술이 실제로 확산된 정도 사이의 간극을 지적했다.
 그는 “가령 기술을 지금 상태로 멈춰놓는다고 해도, 우리는 그 기술이 가진 잠재적 가치의 5~10% 정도만 활용하고 있을 수 있다”고 말했다. 이어 실제로 기술 개발을 동결하는 것은 아니며, AI는 계속 발전할 것이라고 덧붙였다.
 여기서 5~10%는 AI의 잠재적 가치가 얼마나 실현됐는지에 관한 아모데이의 평가다. 기업의 AI 도입률이나 생산성 증가율을 측정한 통계는 아니다. 
 그가 지난 10년간 가장 놀란 점으로 꼽은 것도 기술 성능만이 아니었다. 아모데이는 공동 창업자들과 스케일링 법칙을 연구하며 모델 역량의 발전은 어느 정도 예상했지만, 이것이 기업의 급성장과 새로운 제품의 확산으로 이어지는 속도는 충분히 예상하지 못했다고 밝혔다.
 모델컨텍스트프로토콜(MCP), 코워크, 클로드 스킬 등을 사례로 들며 사람들이 이제 막 사용하기 시작한 기술이 큰 경제적 가치 때문에 빠르게 채택되고 있다고 설명했다. 기술적 진보뿐 아니라 이를 사업으로 전환하는 속도 자체가 놀라웠다는 평가다.
 ◆ “여전히 세일즈포스 쓴다. 다만 클로드와 함께”…연결에서 찾은 가치
 아모데이는 앤트로픽 내부의 영업 운영을 기업 활용 사례로 소개했다. 자사의 영업 책임자가 세일즈포스에 저장된 정보를 클로드와 대화하며 살펴보고, 주요 거래와 놓칠 위험이 있는 거래를 검토한다는 설명이다.
 어떤 거래가 중요한지, 위험한 거래들의 공통점은 무엇인지, 수주 가능성을 높이려면 어떻게 해야 하는지를 AI와 함께 분석하는 방식이다. 정보를 다른 시스템으로 옮겨 새로 관리하는 것이 아니라 기존 CRM 데이터를 대화형 AI로 활용한다.
 아모데이는 “그는 여전히 세일즈포스를 사용하지만, 클로드와 함께 세일즈포스를 사용한다”고 말했다. 이어 이러한 활용이 가능하다는 것을 직접 본 사람은 혜택을 얻을 수 있는 전체 사용자에 비해 아직 적다며 확산의 여지가 크다고 강조했다.
 베니오프는 대담에서 데이터에 근거를 두는 그라운딩의 중요성을 재차 강조했다. 데이터 계층과 애플리케이션·시맨틱 계층, 에이전트 계층 위에 새로운 인터페이스를 결합해 기업 시스템 안에 갇혀 있던 가치를 활용하도록 하겠다는 설명이다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

[단독] 정부 첫 ‘고영향 AI’ 판정은 ‘범죄 수사용 얼굴인식’ 기술 김승원, 끝내 의혹 못 털었다… 개각 성패 달렸는데 고성만 오간 청문회

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기