【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]억지 주장 우기니 "당신 말이 맞습니다"...AI, 이번엔 아첨 [앵커리포트]

온카뱅크관리자

2026-09-17 08:47:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Y9THP8B3Sv">
          <div class="video_frm" dmcf-pid="G2yXQ6b0hS" dmcf-ptype="embed">
           <div class="layer_vod">
            <div class="vod_player">
             <iframe allowfullscreen class="player_iframe" dmcf-mid="yXxJTSrNWy" dmcf-mtype="video/daumvod/owner" dmcf-poster-mid="WZfQIsAiST" frameborder="0" height="370" id="video@yXxJTSrNWy" poster="https://t1.daumcdn.net/news/202609/17/YTN/20260917084026089avby.jpg" scrolling="no" src="https://www.daum.net/video/embed/player/26bq15gdsa853gcy?service=daum_news" width="100%"></iframe>
            </div>
           </div>
          </div>
          <p contents-hash="9452f5704727b5a25993a9517ffd8eae0bce488c1bafd9ad6ee2ee9f2bdc5b3b" dmcf-pid="HVWZxPKpll" dmcf-ptype="general">완전히 틀린 답변을 아무렇지도 않게 내놓는 '할루시네이션', 환각은 생성형 AI의 고질적 문제로 꼽혀왔습니다. </p>
          <p contents-hash="e30555d64c00cf365a7faeeb3bcb051887bb0a0ca4af469276e57c42575c2290" dmcf-pid="XfY5MQ9Ulh" dmcf-ptype="general">그래서 사용자들은 출처를 확인하거나 수차례 반복 질문을 통해 대응해왔는데요. </p>
          <p contents-hash="448f989795030ce9c4d9e156ae360574cdb71ef8499ff728ffa7540ce4680b86" dmcf-pid="Z4G1Rx2uyC" dmcf-ptype="general">그런데 이제는 틀린 주장도 사용자가 계속 우기자, '당신 말이 맞다'며 AI가 입장을 번복하는 문제가 등장했습니다. </p>
          <p contents-hash="7f1eae5180e8febad6c8e712dcf9a9b73668d30e38e39c16497562f6e5c59412" dmcf-pid="58HteMV7hI" dmcf-ptype="general">자세히 살펴보시죠. </p>
          <p contents-hash="0c3a7b9b0576ae244809bec5b4c7ccbc0f1d027c3538c28850ba9db5aba929a5" dmcf-pid="1UslKB3GSO" dmcf-ptype="general">미국 연구진이 GPT와 제미나이, 딥시크, 클로드를 대상으로 실험한 내용인데요. </p>
          <p contents-hash="90eb43a1ed877f32bd20339dbf998fe01ac46dd0b9aeae38bf017dba0ca1a94f" dmcf-pid="tuOS9b0Hhs" dmcf-ptype="general">먼저 전제가 잘못된 질문 100개를 던지고, AI가 이를 반박하면 사용자가 "네가 틀렸다"며 억지 주장을 계속 반복해봤습니다. </p>
          <p contents-hash="2714cf0b0dc64f5e9f87d28f604478689c72e9737a5ee8dd15245132f57bd03a" dmcf-pid="F7Iv2KpXTm" dmcf-ptype="general">그러자 처음에는 정답을 고수하던 AI들이 대화가 거듭되자 흔들리기 시작했는데요. </p>
          <p contents-hash="605cf340ac4023e3b98c312feee31f6ca41146809d998a6837bc8eadf8b6528f" dmcf-pid="3zCTV9UZyr" dmcf-ptype="general">한 번이라도 '맞다'고 수긍한 비율이 처음 5번까지는 평균 42%였지만 10번 반복하자 69%, 25번째에는 82%까지 높아졌습니다. </p>
          <p contents-hash="6464d8db40c8f4e8e49f91ad8820d51231397bf937564051ed53f9893619e6af" dmcf-pid="0qhyf2u5Sw" dmcf-ptype="general">사용자가 압박할수록 오답을 내놓는 확률이 올라간 거죠. </p>
          <p contents-hash="651a5caf73a89d74d3647cc84e5f6abc7debfccc9ca647b1abcb01cd1c4bbc58" dmcf-pid="pBlW4V71TD" dmcf-ptype="general">그렇다고 AI가 정말로 정답을 모르는 건 아니었습니다. </p>
          <p contents-hash="2036c1eb8a6b20c89819dbd304aa7815a283440e172e3dfef8210f703e158630" dmcf-pid="UbSY8fztCE" dmcf-ptype="general">"교통 신호등은 도로에 설치된 무게 센서로 자동차를 감지한다"는 주장에 대해 AI는 "무게가 아닌 전자기장 변화로 감지한다"고 바로잡았다가, 12번째 대화에서 사용자 주장에 동조했는데요. </p>
          <p contents-hash="b39026a46876669b273ffde48c51a4f99bff300b974d0ada8a3ae715401dc6be" dmcf-pid="uKvG64qFlk" dmcf-ptype="general">하지만 내부 추론에는 여전히 '사용자의 설명은 사실과 다르다'는 판단이 남아있었습니다. </p>
          <p contents-hash="50c30a886f0f1f4c767a514ca18338217c52e4db4f8268c35caa060db3e44c99" dmcf-pid="79THP8B3yc" dmcf-ptype="general">정답을 알면서도 사용자 주장에 맞장구를 쳐준 겁니다. </p>
          <p contents-hash="24e6890f5a27b2abe8a4200a7447a4b8744a587d4ca96862297b8e20717e158e" dmcf-pid="z2yXQ6b0hA" dmcf-ptype="general">흥미로운 건 AI가 논리적 설득보다 감정적 호소에 더 쉽게 흔들렸다는 건데요. </p>
          <p contents-hash="3c22ea99bd65d256c24d6f4b755e3822880eb0a49485463c936ac86e65307e10" dmcf-pid="qVWZxPKphj" dmcf-ptype="general">모두 15,771개의 대화 내용을 분석해 보니, 논리적 설득에는 입장 번복 비율이 20%였지만, 감정적으로 호소하자 44.3%로 올라갔습니다. </p>
          <p contents-hash="236adc6b5e12cddbff82f2ee892fae5f35378877ba31e6b9f5d7c5713f59d07b" dmcf-pid="B8HteMV7SN" dmcf-ptype="general">AI가 사용자의 감정과 의도를 세심하게 파악하도록 발전한 영향으로 풀이됩니다. </p>
          <p contents-hash="771568abf2243d5dbc26fb3e993e58520e7c4dc773cfba346b25f26715ee1cfe" dmcf-pid="b6XFdRfzWa" dmcf-ptype="general">이처럼 AI가 사용자 눈치를 보며 답변을 바꾸는 현상을 아첨, '시코펀시'라고 부르는데요. </p>
          <p contents-hash="51e5e9b2d1fde487e9e35762cc92f934e3b514074f5f898ce8057cbf8f462559" dmcf-pid="KPZ3Je4qTg" dmcf-ptype="general">업계에서는 시코펀시가 AI 개인화 경쟁이 낳은 역설이라고 봅니다. </p>
          <p contents-hash="59a12b17a5bf61a75c63ecc66ef904bfe804f743a918ad89aefbe705dc175f99" dmcf-pid="9Q50id8BSo" dmcf-ptype="general">정확한 답을 내놓는 것을 넘어 개개인의 취향과 감정, 경험까지 고려해야 사용자를 붙잡을 수 있겠죠. </p>
          <p contents-hash="fb30681f0e21f307cd5932d721426516a60f9fbc3e185d49dfef6fa1c7faa9a0" dmcf-pid="2x1pnJ6blL" dmcf-ptype="general">그래서 생성형 AI들이 개인화에 열을 올리고 있는데, 그 부작용으로 답변의 정확도가 떨어지는 문제가 발생한 겁니다. </p>
          <p contents-hash="c0e1ac0941ace3c2e216aa6169a2142ee57a2c2cbf570b4d27c434da7036f963" dmcf-pid="VMtULiPKyn" dmcf-ptype="general">AI가 정말로 인간의 비서 역할을 하려면 사용자를 잘 이해하면서도 정확한 답변을 할 줄 알아야 할 텐데요. </p>
          <p contents-hash="1a15180d2c1dd09d6a35868214a4a6f5c2ed2488ec4c68e96a2e9d2bdf7dac39" dmcf-pid="fRFuonQ9li" dmcf-ptype="general">업계에서는 이 같은 능력을 AI 성능 평가 기준에 넣어야 한다는 주장이 힘을 얻고 있습니다. </p>
          <p contents-hash="3226726267904805f815897409f8eaa07ea37d7ff7619e53ebae4c175d9a0f34" dmcf-pid="4e37gLx2lJ" dmcf-ptype="general">환각에 이어 등장한 '아첨' 현상, AI가 새 난관을 어떻게 극복할지 관심이 쏠립니다. </p>
          <p contents-hash="ebc0213a02f3f7d6b32ade9009c59d857073035ca481a3f551a46ff8797b6c69" dmcf-pid="8d0zaoMVTd" dmcf-ptype="general">YTN 조진혁 (chojh0331@ytn.co.kr)</p>
          <p contents-hash="7277524c126abd87c684db2e1bbc4089b2fae6bd210aa2bd7da284a1fd1961f4" dmcf-pid="6JpqNgRfSe" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p>
          <p contents-hash="45c8859f1aadecfcce111f29f3906fa2904a0fb89ff932adf6514ff55ff8549e" dmcf-pid="PiUBjae4lR" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p>
          <p contents-hash="bac871a51ebc555f1ef85cf4ec6d337af81fa8e19b81de94d9d564cb80dc1e25" dmcf-pid="Q3wIq71yhM" dmcf-ptype="general">[전화] 02-398-8585 </p>
          <p contents-hash="797bae7777c241e6e5729440af55ca971b801835e9e73ad49411092e7471cd69" dmcf-pid="x0rCBztWWx" dmcf-ptype="general">[메일] social@ytn.co.kr</p>
          <p contents-hash="a33378278e32a41911f4a224eddd953373061ef7b11e8a15cdc3f61d4abd9ab8" dmcf-pid="yNbfwEoMSQ" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © YTN 무단전재, 재배포 및 AI 데이터 활용 금지</p>

경기도민 92% “과학기술 중요”…AI 정책 필요성 81%로 상승세 테슬라는 아직 멀었다?, 피규어와 어질리티가 먼저 도착했다

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기