【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"AI 안전성 평가, 개발사에만 맡겨선 안 돼"… 페이페이 리, 외부 검증 체계 촉구

온카뱅크관리자

2026-09-23 09:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 기업 자체 검증 한계 지적…정부·산업·학계가 함께하는 공동 벤치마크 구축 강조 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="tSy2zS6bNc">
 (지디넷코리아=남혁우 기자)페이페이 리 스탠퍼드대 교수 겸 월드랩스 공동창업자가 고도화되는 인공지능(AI) 시스템 안전성 평가를 개발 기업에만 맡겨서는 안 된다고 지적했다. 독립 기관과 학계, 정부 등 공공 부문이 함께 참여하는 감독 체계와 공통 평가 기준도 마련해야 한다고 강조했다.
 페이페이 리 교수는 22일(현지시간) 블룸버그와의 인터뷰에서 AI 기업 내부 연구진이 개별 모델의 성능과 보안 특성을 평가할 수는 있지만 정부, 산업계, 학계가 공동으로 마련하는 폭넓은 기준을 대체할 수는 없다고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="23c7460c5a8da8d68fc08d622632cd486a2096a060dc91921a1a1742e9e89b2f" dmcf-pid="04Pmc4hDkN" dmcf-ptype="figure">
 <img alt="페이페이 리 교수 (사진=스탠포드)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/23/ZDNetKorea/20260923094938550plsq.jpg" data-org-width="304" dmcf-mid="1nmp5DqFgk" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/23/ZDNetKorea/20260923094938550plsq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 페이페이 리 교수 (사진=스탠포드)
 </figcaption>
 </figure>
 페이페이 리 교수는 "독립 기관과 학계 등 공공 부문이 마련하는 벤치마크의 중요성을 계속 믿는다"며 "산업계와 정부 역시 함께 책임을 나눠야 한다"고 밝혔다.
 페이페이 리 교수가 공동 설립한 월드 랩스는 3차원 환경을 생성하고 재구성하는 이른바 '월드모델'을 개발하고 있다. 이 기술은 로봇 훈련과 평가에 활용될 수 있으며 디자인과 헬스케어를 비롯한 다양한 산업 분야에도 적용될 수 있을 것으로 주목 받고 있다.
 최근 AI 기술이 인간의 통제를 벗어날 수 있다는 업계의 경고가 이어지면서 초고성능 AI가 초래할 수 있는 위험을 둘러싼 우려도 커지고 있다.
 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 알트먼 오픈AI CEO는 최근 최첨단 AI 모델의 개발 속도를 조절할 필요가 있다고 주장했다.
 반면 앤드류 응 스탠퍼드대 교수는 AI가 인류를 멸종시킬 수 있다는 일각의 경고에 대해 "공상과학에 가깝다"며 비판적인 견해를 밝혔다.
 앤드류 응 교수는 "AI 발전에 위험이 전혀 없다는 뜻은 아니다"라면서도 "업계와 정책 당국이 인류 멸종과 같은 가설적 위험에 매몰되기보다 사이버보안 악용 등 현재 확인 가능한 문제 해결에 집중해야 한다"고 주장했다.
 이어 "AI 기업은 인류 멸종과 같은 불확실한 미래 시나리오를 앞세우기보다 기술을 개선하고 안전하게 만들기 위한 현실적 과제에 역량을 집중해야 한다"며 "AI가 할 수 있는 수많은 훌륭한 일에 활용될 수 있도록 해야 한다"고 강조했다.
 AI에 대한 엇갈린 의견 속에서 페이페이 리 교수는 AI가 인류에게 실존적 위협이 될지 여부는 인간이 이 기술을 어떻게 개발하고 통제하며 활용하느냐에 달려 있다고 설명했다. 전기와 증기기관, 현대 교통수단 등 과거의 주요 기술 역시 사회가 기술적 편익과 인간의 안전 사이에서 균형을 모색해야 했다는 점에서 AI와 유사하다는 것이다.
 AI 위험성을 어느 수준까지 심각하게 받아들여야 하는지를 놓고 정책 당국과 AI 업계 리더들의 논쟁도 격화하고 있다.
 도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 '사기'라고 일축하며 기술 개발을 최대 속도로 이어가야 한다고 주장했다.
 페이페이 리 교수는 AI 기술이 현실 세계로 빠르게 확산하는 상황에서 핵심 과제는 더욱 분명해지고 있다고 진단했다. 갈수록 강력해지는 AI를 어떤 기준으로 평가하고, 시스템이 의도한 대로 작동하는지를 누가 검증할 것인지가 산업 전반의 공통 과제로 떠오르고 있다는 것이다.
 그는 "AI는 AI 자체에 관한 문제가 아니라 인간에 관한 문제"라며 "우리의 공동체적·개인적 존엄성과 주체성, 그리고 책임에 관한 문제"라고 말했다.
 남혁우 기자(firstblood@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

"AX 핵심은 현장 실행력"…FDE 확보전 나선 기업들 [AI 고속도로] AI 데이터센터 투자 열기 식나…SB에너지, 500억 달러 IPO 속도조절

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기