【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]“AI 판단부터 실행까지 방어”… UNIST, 에이전틱 AI 보안망 구축

온카뱅크관리자

2026-09-18 14:37:25

<div id="layerTranslateNotice" style="display:none;"></div> ‘AI 스타 펠로우십’ 과제에 선정돼 정부서 5년 6개월간 110억 지원받아 성균관대·보안 전문기업 3곳과 협력 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="2ONuAqFYhi">
 <figure class="figure_frm origin_fig" contents-hash="38582655cd2b2a4c8d3603caa632e4e111838c26a2211c790120f72725a20013" dmcf-pid="VIj7cB3GWJ" dmcf-ptype="figure">
 <img alt="AI 스타 펠로우십 과제에 참여하는 문현곤·위성일·박민경·박새롬·나형호 UNIST 교수[UNIST]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/18/mk/20260918143006123ipvs.jpg" data-org-width="700" dmcf-mid="96MHe5TsTn" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/18/mk/20260918143006123ipvs.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI 스타 펠로우십 과제에 참여하는 문현곤·위성일·박민경·박새롬·나형호 UNIST 교수[UNIST]
 </figcaption>
 </figure>
 <div contents-hash="234c026afdd58a0ed1c2663e74ec56635b5f890aab98f4eb270ac0d25f50d399" dmcf-pid="fCAzkb0HWd" dmcf-ptype="general">
 UNIST가 스스로 판단하고 일하는 ‘에이전틱 AI(Agentic AI)’를 안전하게 쓸 보안 원천기술을 개발한다.
 </div>
 외부 공격으로 AI가 정보를 유출하거나 허가받지 않은 작업을 수행하는 일을 막는 기술이다.
 AI의 판단부터 실행까지 단계별 방어 장치를 연계하는 것이 핵심이다.
 UNIST(총장 박종래)는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 ‘2026년도 AI최고급신진연구자지원 사업(AI 스타 펠로우십)’ 학제연계형 과제에 선정됐다고 18일 밝혔다.
 성균관대와 컨소시엄을 구성해 2031년 12월까지 5년 6개월간 연구를 수행하며, 총 110억 원의 정부지원금을 받는다.
 AI 스타 펠로우십은 세계 최고 수준의 AI 연구를 이끌 신진연구자를 키우기 위해 과기정통부가 지난해 시작한 사업이다. 신진연구자 주도로 여러 연구실과 기업이 공동연구를 수행한다.
 UNIST는 이번 선정으로 이 사업에서 총 2개 과제를 수행하게 됐다.
 연구책임자는 문현곤 컴퓨터공학과 교수가 맡는다. UNIST에서는 위성일·박민경·박새롬·나형호 교수가, 성균관대에서는 박은일·황성재·김형식 교수가 참여한다.
 AI·보안 전문기업인 시큐레이어, S2W, 라온데이터도 함께한다.
 에이전틱 AI는 거대언어모델(LLM)을 바탕으로 문서를 읽고 웹을 검색하며 도구를 사용해 업무를 처리한다.
 이 과정에서 외부의 악의적 입력이 모델의 판단을 왜곡하면 실제 실행 단계까지 피해가 번질 수 있다.
 위험한 입력을 탐지하거나 실행환경을 분리하는 등 각 계층에 따로 적용하는 방어 기법만으로는 여러 단계를 거치는 공격을 효과적으로 막아내기 어렵다.
 연구팀은 모델·인터페이스·실행환경의 안전장치를 함께 설계하는 ‘계층 간 안전 공동설계’로 이 문제를 해결할 계획이다.
 공통 안전 기준과 계층별 역할을 정해 한 계층이 뚫려도 다음 계층에서 공격을 막도록 한다. 각 계층의 핵심 난제를 해결할 세 개의 프로젝트를 추진하고, 개발한 기술은 협력기업의 실제 서비스에서 검증한다.
 문현곤 교수팀은 데이터와 연산을 보호하는 신뢰실행환경(TEE), 시스템의 안전성을 수학적으로 확인하는 형식 검증 등 시스템 보안 분야에서 연구 역량을 쌓아 왔다.
 유즈닉스 시큐리티(USENIX Security), IEEE 보안·프라이버시 심포지엄(S&amp;P) 등 세계적인 보안 학회에서 꾸준히 성과를 발표했다.
 AI 분야에서는 기존 모델의 지식을 다른 모델에 전달해 유사한 성능을 구현하는 증류 기술을 연구해 왔다.
 딥페이크 방어 기술의 성능과 한계를 검증하는 평가 기법도 연구했다. 이러한 보안·AI 분야의 전문성이 이번 연구의 토대다.
 연구팀은 보안 우려로 AI 에이전트 도입이 어려웠던 분야에서도 이를 안전하게 활용할 수 있도록 할 계획이다.
 AI와 보안 전문성을 함께 갖춘 신진연구자를 양성하고, 비수도권 AI 연구 기반을 넓히는 데도 힘쓸 예정이다.
 문현곤 교수는 “에이전틱 AI는 모델 하나만 안전해서는 안 되고, 입력이 들어오는 경로와 실행환경까지 함께 지켜야 한다”며 “이번 사업으로 세 계층을 아우르는 핵심 보안 기술을 개발하고, 에이전틱 AI를 안전하게 활용하는 데 기여할 인재를 양성하겠다”고 말했다.
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

韓 '빨리빨리'-日'완벽주의' 시너지…NHN '푸치포용' [TGS 2026] 윤승현 웅진씽크빅 대표 "독서교육, 맞게 읽는 게 중요"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기