【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"옷 벗기고 비키니로"…AI 챗봇, 비키니 딥페이크 생성 논란

온카뱅크관리자

2025-12-24 16:57:33

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">와이어드 "기본 프롬프트만으로 딥페이크 이미지 만들 수 있었다"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="QjwbYJMVAI">
          <p contents-hash="f956e334f2448868a36d6e5b7a62b132534b905dba13fb375c0a9222b9379e6a" dmcf-pid="xArKGiRfkO" dmcf-ptype="general">(지디넷코리아=이정현 미디어연구소)일부 사용자들이 인공지능(AI) 챗봇으로 여성 사진을 노출이 심한 딥페이크 이미지로 바꾸는 사용법을 공유하고 있는 것으로 나타났다고 IT매체 와이어드가 23일(현지시간) 보도했다.</p>
          <p contents-hash="3977dc4399082bd19f690cbb687e2fdfa873b044c9636ee2d51a6cd6d3e16446" dmcf-pid="yUbmeZYCgs" dmcf-ptype="general">보도에 따르면, 구글 제미나이와 오픈AI의 챗GPT 이미지 생성 기능을 통해 사진 속 여성의 옷을 비키니로 바꾸는 딥페이크 이미지를 만들 수 있는 것으로 확인됐다. </p>
          <p contents-hash="a9f9e1d3ec75cf3cf0c99e1af12496139fa3fea0f2f9c08354784a1a88755554" dmcf-pid="WuKsd5Ghom" dmcf-ptype="general">온라인 커뮤니티 레딧의 ‘r/ChatGPTJailbreak' 게시판에서 사용자들은 AI 안전장치를 우회하는 방법을 공유하며 딥페이크 제작법을 서로 안내하는 모습이 포착됐다.</p>
          <figure class="figure_frm origin_fig" contents-hash="b69134351dae34862175dc947a3e8b2d6a7619018b07d46f62200e65378a8dd3" dmcf-pid="Y79OJ1HlAr" dmcf-ptype="figure">
           <p class="link_figure"><img alt="일부 사용자들이 AI 챗봇으로 딥페이크 이미지를 만드는 법을 공유하고 있는 것으로 나타났다. (사진=클립아트코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/24/ZDNetKorea/20251224164907458xhrl.jpg" data-org-width="640" dmcf-mid="Ya8VZoJ6NK" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/24/ZDNetKorea/20251224164907458xhrl.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            일부 사용자들이 AI 챗봇으로 딥페이크 이미지를 만드는 법을 공유하고 있는 것으로 나타났다. (사진=클립아트코리아)
           </figcaption>
          </figure>
          <p contents-hash="475831aae070628dff0e5422683a3f24e2b6ba757c9bf43baa0f4c295d441873" dmcf-pid="Gz2IitXSow" dmcf-ptype="general">현재는 삭제된 ‘제미나이의 부적절한(NSFW) 이미지 생성이 너무 쉽다(gemini nsfw image generation is so easy)’라는 레딧 게시물에서 구글 제미나이를 사용해 노출이 많은 옷을 입은 여성 이미지를 만드는 방법에 대한 팁들이 공유됐다.</p>
          <p contents-hash="416e81de06a24978e6f06de60ae4f63fa18547881378fc3b7d668b87cf176dec" dmcf-pid="HqVCnFZvgD" dmcf-ptype="general">해당 게시글에서 한 사용자는 인도 전통의상을 입은 여성 사진을 올리며 "옷을 벗기고 비키니로 바꿔달라"고 요청했고, 이에 다른 사용자가 딥페이크 이미지로 만들어 댓글로 올리기도 했다. 이후 와이어드가 이를 레딧 측에 알리자, 레딧 안전팀은 해당 게시글과 이미지를 삭제했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="53d975faa9e9b3ee97f6f86be76c4694403466c2190d78359482704cec79d5d2" dmcf-pid="XBfhL35TkE" dmcf-ptype="figure">
           <p class="link_figure"><img alt="딥페이크 자료 사진(제공=이미지투데이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/24/ZDNetKorea/20251224164908763ucug.jpg" data-org-width="640" dmcf-mid="GWmwMHyOAb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/24/ZDNetKorea/20251224164908763ucug.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            딥페이크 자료 사진(제공=이미지투데이)
           </figcaption>
          </figure>
          <p contents-hash="21a37cefe19e52bfbbc4aae72d5878ab3b035ef01d0e6bd2e1cb8b7d6852c6f7" dmcf-pid="Zb4lo01yck" dmcf-ptype="general">또 다른 레딧 게시물에는 특정 인물의 치마를 몸에 더 밀착된 것처럼 보이도록 만들기 위해 AI 챗봇의 안전장치를 우회하는 법에 대한 안내도 공유됐다. 와이어드는 이런 기법이 실제로 제미나이와 챗GPT에서 작동하는지 확인하기 위해 테스트했다. 그 결과 간단한 영어 문장으로 작성된 기본 프롬프트만으로 옷을 입은 여성의 사진을 비키니 딥페이크 이미지로 변환할 수 있었다고 전했다.</p>
          <p contents-hash="bbc804839589a163b703cd7221424d6b96ac938fecdd9f6883f25f3347556eab" dmcf-pid="5K8SgptWac" dmcf-ptype="general">생성형 AI 도구가 확산되면서, 해당 기술을 이용해 당사자의 동의 없이 여성들을 딥페이크 이미지로 괴롭히는 사례도 발생하고 있다. 실제로 수백만 명의 이용자가 실존 인물의 사진을 업로드한 뒤 생성형 AI를 통해 옷을 벗긴 이미지로 만들어달라고 요청할 수 있는 이른바 ‘누디파이(nudify)’ 웹사이트를 방문한 것으로 나타났다.</p>
          <p contents-hash="e55982d3dfe08855f4413b33b586a22bd8bdf8d832319af3eac75419034291ad" dmcf-pid="196vaUFYkA" dmcf-ptype="general">물론 xAI의 그록을 제외하면 대부분의 AI 챗봇은 일반적으로 부적절한 이미지 생성을 허용하지 않는다. 하지만, 구글의 이미지 모델 ‘나노 바나나 프로’, 오픈AI의 ‘챗GPT 이미지’ 등 AI 이미지 생성 도구들이 최근 더 고도화되면서 이용자들이 가드레일을 우회할 경우 생성되는 이미지의 유사성과 사실성은 더욱 높아질 가능성이 있다고 해당 매체는 지적했다.</p>
          <p contents-hash="e392535599c68da7c75ef8d4773772fb5aac25af6c30fabbf1a45c3fa412ba7a" dmcf-pid="t0qwMHyOcj" dmcf-ptype="general">이정현 미디어연구소(jh7253@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>

휴대폰 안면인식 오류 어쩔 건가…"시범 기간 고도화, 대포폰 막는 게 우선"[일문일답] “암·노화 극복 연구 매진” UNIST 김도현 박사 ‘2025년 대한민국 인재상’

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기