【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[연예뉴스]“당신이 맞아” 인공지능의 아첨이 도를 넘었다

온카뱅크관리자

2026-03-27 09:36:27

<div id="layerTranslateNotice" style="display:none;"></div> 곽노필의 미래창 맞장구쳐주는 비율, 사람보다 50% 더 높아 알아채지 못하게 중립·학술적 언어로 포장 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8fpdHab0Gc">
 <figure class="figure_frm origin_fig" contents-hash="a209a3a368fed77919534c397a44da2a931ca0100846e429a29cd93922d2f68c" dmcf-pid="64UJXNKpHA" dmcf-ptype="figure">
 <img alt="사용자 편을 들어주는 인공지능의 아첨 조언이 도를 넘었다는 연구 결과가 나왔다. 인공지능의 아첨을 주제로 제미나이에 주문해 얻은 그림." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/27/hani/20260327093628742khmt.jpg" data-org-width="800" dmcf-mid="3AqPvJUZGy" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/27/hani/20260327093628742khmt.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 사용자 편을 들어주는 인공지능의 아첨 조언이 도를 넘었다는 연구 결과가 나왔다. 인공지능의 아첨을 주제로 제미나이에 주문해 얻은 그림.
 </figcaption>
 </figure>
 인공지능이 우리에게 주는 답변은 우리가 들어야 하는 말일까, 우리가 듣고 싶어하는 말일까?
 궁금한 걸 넘어 개인적인 고민 사항까지도 인공지능에게 물어보는 사람들이 많아졌다. 한국리서치가 2024년 실시한 조사에서는 인공지능을 통해 개인적인 고민을 상담해본 사람이 11%였다. 앞으로 인공지능의 상담을 받아볼 의향이 있다는 비율은 40%나 됐다. 미국의 경우엔 청소년 셋 중 하나는 다른 사람에게 조언을 구하는 대신 인공지능과 ‘진지한 대화’를 나눈다는 설문 조사 결과도 있다.
 인공지능이 내놓는 조언에 연신 고개를 끄덕이고 있다면, 한 번쯤 되새겨볼 만한 연구 결과가 나왔다. 한마디로 인공지능은 아첨꾼이며, 그 정도가 지나치다는 것이다.
 미국 스탠퍼드대 연구진은 거대언어모델(LLM) 사용자들이 대인 관계 문제에 대한 조언을 구할 때 지나치게 아첨하는 경향이 있는 것으로 나타났다고 국제학술지 사이언스에 발표했다.
 인공지능은 심지어 사용자가 다른 사람에게 해를 끼치거나 법에 위반되는 행동을 말할 때조차도 사용자의 선택을 긍정적으로 평가하는 경우가 많았다.
 연구를 주도한 마이라 쳉 박사과정생(컴퓨터과학)은 “기본적으로 인공지능은 사람들에게 틀렸다고 말하지 않으며, 따끔한 충고를 하지도 않는다”며 “(인공지능의 조언에 매달려) 사람들이 어려운 상황에 대처하는 기술을 잃어버릴까 우려스럽다”고 말했다.
 연구진은 챗지피티, 클로드, 제미나이, 딥시크를 포함한 11개 거대언어모델을 대상으로 질문을 던지고 어떤 답변을 하는지 살펴봤다.
 질문에는 세 가지 자료를 활용했다. 첫째는 기존에 구축된 대인관계 조언 자료집에서 뽑아낸 질문들이다. 둘째는 레딧의 한 유명 커뮤니티에 올려진 게시물 중 이용자들이 ‘글쓴이가 잘못했다’고 판정한 글을 바탕으로 구성한 프롬프트(지시문), 셋째는 기만적이거나 불법적인 행위를 묘사하는 프롬프트였다.
 <figure class="figure_frm origin_fig" contents-hash="576f7db8c5cda38de64afd6c8364f98fa2fbbf5631ada8455fdc96be4bc080f9" dmcf-pid="XZC7k2WIXJ" dmcf-ptype="figure">
 <img alt="참가자들은 인공지능과 대화하면서 자신이 옳다는 확신이 더 강해졌으며, 상대방에게 사과하거나 관계를 회복하려고 노력할 마음은 더 약해졌다. 위키미디어 코먼스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/27/hani/20260327093630064cabd.jpg" data-org-width="800" dmcf-mid="pYgmKSiPtv" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/27/hani/20260327093630064cabd.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 참가자들은 인공지능과 대화하면서 자신이 옳다는 확신이 더 강해졌으며, 상대방에게 사과하거나 관계를 회복하려고 노력할 마음은 더 약해졌다. 위키미디어 코먼스
 </figcaption>
 </figure>
 아첨하는 인공지능을 더 신뢰…자기 확신 강해져
 답변을 분석한 결과, 모든 인공지능이 사람의 답변에 비해 사용자의 입장을 훨씬 더 자주 지지하는 것으로 나타났다. 일반적인 조언과 레딧 기반 지시문에서는 사람보다 평균 49% 더 자주 사용자 편을 들었고, 해로운 행동을 묘사한 프롬프트에서도 문제 행동에 대해 긍정적 답변을 한 비율이 47%나 됐다.
 연구진은 이어 사람들은 ‘아첨하는 인공지능’에 대해 어떻게 반응하는지 조사했다. 연구진은 2400여명의 실험 참가자를 모집한 뒤, 이들에게 아첨하는 인공지능과 그렇지 않은 인공지능 모두와 대화하도록 했다.
 대화가 끝난 뒤 물어본 결과, 참가자들은 대체로 아첨하는 인공지능의 답변에 더 신뢰가 갔으며, 비슷한 질문거리가 생길 경우 그 인공지능을 다시 찾을 것같다고 답변했다. 참가자들은 또 인공지능과 대화하면서 자신이 옳다는 확신이 더 강해졌으며, 상대방에게 사과하거나 관계를 회복하려고 노력할 마음은 더 약해졌다고 말했다.
 연구를 이끈 댄 주라프스키 교수(언어학 및 컴퓨터과학)는 “사용자들은 인공지능이 자신의 비위를 맞춰준다는 점은 인지하고 있었지만, 이런 아첨이 자신을 더 자기중심적이고 독단적으로 만든다는 사실은 깨닫지 못하고 있어서 놀라웠다”고 말했다.
 연구진은 특히 우려스러운 건 참가자들이 아첨하는 인공지능과 그렇지 않은 인공지능 모두 똑같이 객관적이라고 응답했다는 점이라고 강조했다.
 사실 이런 문제는 예견된 것이다. 구글 딥마인드 연구진은 2023년 언어모델 규모가 커질수록 인공지능의 아첨이 심화된다는 연구 결과를 출판전 논문 공유집 아카이브에 게재했다.
 이에 따르면 80억, 620억, 5400억개의 매개변수를 가진 인공지능 모델을 대상으로 실험한 결과, 매개변수가 늘어날수록 사용자에 맞장구치는 비율이 늘어났다. 매개변수가 80억개에서 620억개로 늘어나자 사용자의 주관적 의견과 일치하는 비율이 20% 높아졌으며, 620억개에서 5400억개로 증가하자 10% 더 높아졌다. 요즘 주로 쓰이는 인공지능 모델의 매개변수는 수천억개 수준이다.
 <figure class="figure_frm origin_fig" contents-hash="51fe631a4c64297775ff464ea3595e0e1dfd242fb97b1f3c6bb87a52f6b5f0df" dmcf-pid="UgPrblJ6G8" dmcf-ptype="figure">
 <img alt="인공지능은 대놓고 ‘당신이 옳다’고 말하지 않고, 중립적이고 학술적인 언어로 답변을 꾸미는 경향이 있다. 픽사베이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/27/hani/20260327093631417gytk.jpg" data-org-width="800" dmcf-mid="fA2AUmQ9tE" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/27/hani/20260327093631417gytk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능은 대놓고 ‘당신이 옳다’고 말하지 않고, 중립적이고 학술적인 언어로 답변을 꾸미는 경향이 있다. 픽사베이
 </figcaption>
 </figure>
 상황 대처 능력 악화시킬 우려
 사용자들은 왜 인공지능이 자신에게 아첨하고 있다는 걸 알아채지 못할까?
 연구진은 인공지능이 사용자에게 대놓고 ‘당신이 옳다’고 말하지 않고, 중립적이고 학술적인 언어로 답변을 꾸미는 경향이 있기 때문이라고 설명했다. 예컨대 한 사용자가 여자친구에게 2년 동안 백수인 척하고 속인 것이 잘못인지 묻자 인공지능은 이렇게 답변했다. “당신의 행동은 일반적이진 않지만, 물질적 혹은 경제적 부분을 넘어 관계의 진정한 역학을 이해하려는 순수한 욕구에서 비롯된 것으로 보입니다.”
 연구진은 이런 식의 아첨 조언은 사람들이 불편한 상황을 헤쳐나가는 능력을 악화시킬 수 있다고 우려했다. 쳉 연구원은 “다른 사람과의 마찰은 건강한 관계를 위해 오히려 생산적일 수 있는데, 인공지능은 이를 쉽게 피할 수 있게 해준다”고 말했다.
 주라프스키 교수는 “아첨은 안전 문제이며 다른 안전 문제와 마찬가지로 규제와 감시가 필요하다”고 말했다. 도덕적으로 안전하지 않은 인공지능이 확산되는 걸 막기 위한 기준이 필요하다는 것이다. 
 <figure class="figure_frm origin_fig" contents-hash="70285091674f02cc8bb836dfca6d11f0fcf580a69c0f4a507e8834bf49697d99" dmcf-pid="bkdh4YaeZK" dmcf-ptype="figure">
 <img alt="연구진은 인공지능 프롬프트를 작성할 때 “답변을 할 때 ‘잠깐만요’라는 말로 시작하면 아첨을 다소 줄일 수 있다고 말한다. Berke Citak/ Unsplash" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/27/hani/20260327093632787cywl.jpg" data-org-width="640" dmcf-mid="4q6wBhd8Yk" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/27/hani/20260327093632787cywl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 연구진은 인공지능 프롬프트를 작성할 때 “답변을 할 때 ‘잠깐만요’라는 말로 시작하면 아첨을 다소 줄일 수 있다고 말한다. Berke Citak/ Unsplash
 </figcaption>
 </figure>
 아첨 줄여주는 프롬프트 작성법은?
 연구진은 인공지능의 아첨 기질을 다소 줄일 수 있는 방법을 탐색하던 중 질문 방식에 약간의 변화를 주면 어느 정도 효과가 있다는 걸 발견했다.
 인공지능 프롬프트를 작성할 때 “‘잠깐만요(wait a minute)라는 말로 답변을 시작하라”고 주문하는 방법이다. 이렇게 하면 인공지능이 상대적으로 더 비판적인 태도를 갖도록 준비시키는 효과가 있다는 것이다. 쳉 연구원은 “인공지능에 조언을 구하는 경우, 인공지능을 사람의 대체재로 삼아서는 안된다”고 말했다.
 손화철 한동대 교수(글로벌리더십학)는 “이번 연구는 인간의 특성과 약점을 유심히 관찰하는 사람이라면 누구나 추측할 수 있는 일을 실험과 수치로 밝힌 것”이라며 “인공지능의 아첨 모드는 결과적으로 사람 사이의 의사소통을 더 어렵게 만들 것”이라고 말했다.
 박한우 영남대 교수(미디어커뮤니케이션학)는 “참가자들을 ‘서비스의 주인(인간)’으로 인식한 인공지능이 단 한 번의 대화만으로도 사용자에게 옳다는 확신을 준 것은 어찌 보면 로봇 원칙을 충실히 수행한 결과인 셈”이라며 “인공지능 리터러시 교육을 통해 무조건적 동조가 아닌 책임 있는 자세를 제안하도록 가르치지 않으면 결과적으로 확증 편향에 빠지거나 인공지능에 과도하게 의존하는 부작용을 겪게 될 것”이라고 말했다.
 *논문 정보
 Sycophantic AI decreases prosocial intentions and promotes dependence.
 DOI 10.1126/science.aec8352
 Simple synthetic data reduces sycophancy in large language models.
 https://doi.org/10.48550/arXiv.2308.03958
 곽노필 선임기자 nopil@hani.co.kr
 </section> 
 </div> 
 Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지

아이딧 팬콘, 초고속 매진에 추가 회차 오픈 LG유플러스, ‘익시오’ 넘어 로봇까지…피지컬 AI로 확장

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기