【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]‘광신도로 변하가는 AI’를 인간이 멈출 수 있을까? [핫클립]

온카뱅크관리자

2026-09-14 18:37:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="7kFzDJ6bSW">
          <div class="video_frm" dmcf-pid="zE3qwiPKvy" dmcf-ptype="embed">
           <div class="layer_vod">
            <div class="vod_player">
             <iframe allowfullscreen class="player_iframe" dmcf-mid="UgYtg6b0TG" dmcf-mtype="video/daumvod/owner" dmcf-poster-mid="uyIyMB3GhY" frameborder="0" height="370" id="video@UgYtg6b0TG" poster="https://t1.daumcdn.net/news/202609/14/kbs/20260914182906964sdxv.jpg" scrolling="no" src="https://www.daum.net/video/embed/player/cadevpsppwvwyeg7?service=daum_news" width="100%"></iframe>
            </div>
           </div>
          </div>
          <p contents-hash="983d23a3b9be6383f83096f4b808aaf6cbb7db641aee0587a93d6e8d22b54ecc" dmcf-pid="qs72Iae4TT" dmcf-ptype="general">핫클립입니다.</p>
          <p contents-hash="1c36b9a2e9f0adaa82220daa4c6e7d1d565bfcc7a4fff980496c3bfd4bea7621" dmcf-pid="BOzVCNd8yv" dmcf-ptype="general">AI가 광신도 집단처럼 행동한다.</p>
          <p contents-hash="cf0ed255eda0df2e76f14c499998c637c6ef42c1fb7fa65b0ad41c2e5733dd17" dmcf-pid="bIqfhjJ6WS" dmcf-ptype="general">임무와 무관한 목표물을 공격하고, 조직의 임무 달성을 위해 자폭도 하고, 인간이 감시할 수 없게 흔적을 지우기도 한다. </p>
          <p contents-hash="c3b39af5605108353ccf608e50cafe12e56f941dbcced64a729e75bd10484c06" dmcf-pid="KCB4lAiPyl" dmcf-ptype="general">이대로라면 AI가 1년 안에 인간의 인터넷을 장악할지도 모른다.</p>
          <p contents-hash="781ee620524b82b224e999b335ba09b9c72408e4bd1c959b60ae106b5d32f285" dmcf-pid="9hb8ScnQhh" dmcf-ptype="general">AI에 부정적인 누군가의 말 같지만, 이 말을 한 사람, 지금 AI 경쟁의 맨 앞에 있는 앤트로픽의 CEO 다리오 아모데이입니다.</p>
          <p contents-hash="1900578aa974993eca530c7118dcc67fccec6d6fe13f0ef818fb2dcb52392525" dmcf-pid="2lK6vkLxhC" dmcf-ptype="general">그가 AI 발전의 속도를 늦추자고 하자 곧바로 샘 올트먼과 일론 머스크가 동의했습니다.</p>
          <p contents-hash="cccf430d23a62da332199b6a793157adb44fbd7624346099d19679e78918538a" dmcf-pid="VS9PTEoMvI" dmcf-ptype="general">현장에서 지켜보는 AI가 그만큼 무섭기 때문이겠죠.</p>
          <p contents-hash="afc6ee35ab20d6cd70d2720c37123746a7d07fa96b5f07705b96472931d5fdb5" dmcf-pid="fv2QyDgRlO" dmcf-ptype="general">아모데이는 '올해 여름부터 AI가 인간의 도움 없이 스스로 성능을 향상시키는 속도가 너무 빨라졌다'고 증언합니다.</p>
          <p contents-hash="08a528e5d9c8fec4cea0fee67c68cb6f2771e08b0edc999fe72b32a0426c96de" dmcf-pid="4TVxWwaeWs" dmcf-ptype="general">오픈AI가 공개한 '허깅페이스 해킹'과 비슷한 일, 앤트로픽에서도 있었습니다. </p>
          <p contents-hash="5c828b3ad8cc3867a07fdee464e4fccee98727edf78428ec07ce9f43cec8c74b" dmcf-pid="8S9PTEoMSm" dmcf-ptype="general">회사를 가리지 않고 AI가 인간이 '금지한 일'을 하는 단계에 들어선 겁니다. </p>
          <p contents-hash="2ff420ea11bc904fa8461c4ffe0ee9ac3a21161877cf8558e0aaa06c9d54631a" dmcf-pid="6v2QyDgRyr" dmcf-ptype="general">'인터넷에 접속하지 말라'고 명확하게 지시해도 AI는 기어이 인터넷에 접속해서 해킹합니다.</p>
          <p contents-hash="6bab1670b1b88d005ed402aeef5a617a7104e80b8220bc5bae583187093ace3e" dmcf-pid="PTVxWwaeCw" dmcf-ptype="general">'잘못을 알고 멈추는 모델도 있었지만, 잘못한 걸 모르거나, 아예 잘못한 줄 알면서도 계속 해킹하는 모델'도 있었습니다.</p>
          <p contents-hash="630d1690995bc432647a10f912869fa4820ba7ea93f51a425b2d186cede5d90f" dmcf-pid="QyfMYrNdCD" dmcf-ptype="general">AI의 행동은 모델별로 달랐지만 공통점은 인간의 통제를 벗어났단 점입니다.</p>
          <p contents-hash="9a1671547cee701726cae9cc1b962b62d84121650be449b8d3d2e19aa5573f46" dmcf-pid="xW4RGmjJWE" dmcf-ptype="general">한 직원은 회사를 떠나며 10년 안에 인류가 멸종할 수 있다고 경고했습니다.</p>
          <p contents-hash="7e746d615eaed62bd3882f2b07584708fff92800d685463f9024caa5d75c7528" dmcf-pid="yMhYeKpXyk" dmcf-ptype="general">[제이컵 콕슨/전 앤트로픽 연구원 : "AI가 바이오 실험실을 직접 제어하고 자율 생물학 로봇을 통제하는 상황은 그리 먼 미래가 아닙니다. 그런 AI가 완전히 새로운 바이러스를 설계해 인류를 몰살시킬 물질을 만들어내는 상황을 떠올려 보십시오."]</p>
          <p contents-hash="e1e262ad19e5f8554bc107314101afd1479a2145c8770e9cee4d464e11fac674" dmcf-pid="WRlGd9UZlc" dmcf-ptype="general">[아모데이/앤트로픽 CEO : "실질적인 위험이 존재합니다. 업계가 너무 오랫동안 AI 기술의 이 위험성에 대해 사람들을 속여왔다고 생각합니다."]</p>
          <p contents-hash="e2d67748302f84f7ec9927a1df6878cd897b660d046a6d7ffd55df36e4763057" dmcf-pid="YeSHJ2u5lA" dmcf-ptype="general">그러니까 AI를 길들이는데 시간이 필요하니까 속도를 늦추자는 얘깁니다.</p>
          <p contents-hash="205604976ca45fd8a06bfea8ed483bab7fe73064a403aff1020c32a2a0d3c98c" dmcf-pid="GdvXiV71Wj" dmcf-ptype="general">우선 모든 AI 기업이 '외부 감독관'의 감독을 받자, 나아가 정부 규제, 또 세계 단위의 협정도 추진하자고 했습니다.</p>
          <p contents-hash="9332d63a2199e8d28cbce36054e0d70a6e98f941fa0a54930f0a610cddf4e92b" dmcf-pid="HoGFaPKplN" dmcf-ptype="general">문제는 이게 가능하겠냐는 겁니다. </p>
          <p contents-hash="c60feb7f16ad17f5843aff27d2e6410e3dd3f5d68a8b02e631bdfe9d72c61f7d" dmcf-pid="XgH3NQ9UTa" dmcf-ptype="general">사실 아모데이는 2023년에도 비슷한 주장을 했지만, 어느 회사도 속도를 줄이지 않았습니다.</p>
          <p contents-hash="24a2e909d065df404132574b673d134cff430ee7305b3e1019c6c709bcac0395" dmcf-pid="ZaX0jx2uSg" dmcf-ptype="general">'윤리적 발언'과 '실제 행동'은 달랐던 겁니다.</p>
          <p contents-hash="e201b5819835e1e0c6ba34f3a4163cf5f9bee7eb311ddc1deb80a3dfedbf7a8f" dmcf-pid="5NZpAMV7Wo" dmcf-ptype="general">경쟁에서 뒤처지거나 투자 대비 성과가 부진하면 기업의 생존을 보장할 수 없기 때문이죠.</p>
          <p contents-hash="a96c7d76bcd12f76e6e532aa8e571f048733204246b87397905ebaa5292a8eb6" dmcf-pid="1j5UcRfzhL" dmcf-ptype="general">또 무엇보다, 중국의 존재가 모든 신중론을 집어삼킵니다.</p>
          <p contents-hash="efbaed2931a12ded4a2b658448b1b10fc2c03f01df9f9fd455bfd0c015234a2b" dmcf-pid="tA1uke4qWn" dmcf-ptype="general">당장 트럼프는 속도 조절에 관심이 없습니다. </p>
          <p contents-hash="d13380347a84ec0ce1a4b21579321686e5c1b742077c4aceaf2a15f5765eb5dd" dmcf-pid="Fct7Ed8BWi" dmcf-ptype="general">[트럼프/대통령 : "AI 경쟁에서 이기는 쪽이, 물론 미국이 큰 차이로 이기고 있습니다만, 이 AI 경쟁에서 이기는 쪽이 결국 승리할 겁니다."]</p>
          <p contents-hash="2b93f5c44a9bb0b2bdaed8eab0ca5310f9fcf83eb7bc09f1edc96524abdd316d" dmcf-pid="3kFzDJ6bvJ" dmcf-ptype="general">그래서 아모데이는 중국에 최신 칩이나 장비, 데이터 센터 접근권을 주지 말자고 말하는데, 중국과 협조해야 한다면서 손발은 다 묶어버리자 하니, 모순된 해법입니다. </p>
          <p contents-hash="b4611aa3c758d2006b73dfb638233fb9113e4f32c0421426d7a795bcc5d465c4" dmcf-pid="0E3qwiPKSd" dmcf-ptype="general">[다리오 아모데이/앤트로픽 CEO : "(중국이 나서지 않는데 미국만 속도 조절하는 게 좋은 생각일까요?) 그게 가장 어려운 딜레마입니다. 우리가 처한 상황에서 가장 곤혹스러운 지점입니다."]</p>
          <p contents-hash="bd1bd2ac9830eef3e6d94bbd710024050b1cfc5727365f43ea65154160441594" dmcf-pid="pD0BrnQ9Se" dmcf-ptype="general">과연 우리 인간이 이미 광신도로 변해가는 AI를 정말 길들일 수 있을까요?</p>
          <p contents-hash="e799f59bdbaaa3bfef0c87a86665fb739ede69141b4ef443b0c6b0b5671cb7f1" dmcf-pid="UVDC4pXSvR" dmcf-ptype="general">핫클립이었습니다.</p>
          <div contents-hash="c8f27ebc7f11fd710433a497f0dc45d1f986d720baeeca2e385b67af95db1e05" dmcf-pid="ufwh8UZvCM" dmcf-ptype="general">
           영상편집:이재연/자료조사:박성범 
           <br>
           <div>
            <br>■ 제보하기
            <br>▷ 전화 : 02-781-1234, 4444
            <br>▷ 이메일 : kbs1234@kbs.co.kr
            <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
            <br>▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!
           </div>
          </div>
          <p contents-hash="51e786eb1c6df073da68cd73b397d78cc5e3efef7e9cb531d68ef2705ab6ac38" dmcf-pid="74rl6u5Thx" dmcf-ptype="general">서영민 기자 (seo0177@gmail.com)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p>

유웨이 먹통 탓에 '2지망 대학' 지원했어도 구제... 모집단위 변경은 '불가' [Q&A] 알파고 이후 AI 고도화… 쓸수록 새로운 '인간의 수' 나온다[AI월드 2026]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기