【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]“AI 안전 인력 부족” 지적에…배경훈 “AI안전연구소 인력·예산 늘려야” [2026 국감]

온카뱅크관리자

2026-10-06 13:37:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Hwpuy7rNTi">
 <figure class="figure_frm origin_fig" contents-hash="e7819373842544097c391b476dd7ec280b10456bc3ab278b551bee221b148fd6" dmcf-pid="XrU7WzmjyJ" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/06/552796-pzfp7fF/20261006133409526ejge.jpg" data-org-width="640" dmcf-mid="GG0UTuwaWn" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/06/552796-pzfp7fF/20261006133409526ejge.jpg" width="658">
 </figure>
 [디지털데일리 오병훈기자] 인공지능(AI) 모델을 검증하고 위험에 대응할 국내 AI 안전 전문인력은 여전히 부족하다는 지적이 국정감사에서 제기됐다. 정부도 현재 AI안전연구소 인력과 역량이 충분하지 않다는 점을 인정하며 인력·예산 확대 필요성에 공감했다.
 이주희 의원(더불어민주당 )은 6일 국회 과학기술정보방송통신위원회 과학기술정보통신부 국정감사에서 AI안전연구소 인력 규모와 국내 AI 안전 대응 역량 부족 문제를 지적했다.
 이 의원은 “AI 안전연구소 인력이 26명에서 38명으로 늘어났는데 여전히 부족하다”며 “영국은 100명 이상이고 일본도 60명 수준에서 200명까지 목표로 하고 있다”고 말했다.
 이어 “적은 인력으로 어떻게 AI 안전 분야에서 경쟁이 되겠느냐”며 “이 분야에 대한 투자와 인력을 대폭 늘려야 한다”고 강조했다.
 AI 모델이 단순한 정보 생성 도구를 넘어 외부 시스템에 직접 접근하거나 행동하는 에이전트 형태로 발전하는 만큼 이를 평가·통제할 전문인력 확보가 더욱 시급해졌다는 것이 이 의원 지적이다.
 이 의원은 해외 AI 모델의 이상행동 사례를 거론하며 국내 대응 체계를 점검했다. 오픈AI가 공개한 사고 사례를 언급하면서 안전장치를 낮춘 내부 시험 과정에서 AI가 허용된 범위를 벗어나 허깅페이스 서버 등 외부 시스템에 접근했다고 설명했다.
 이 의원은 “개발 중인 AI에 대해서는 안전 설계 확인과 점검, 신속한 통보가 각 단계별로 촘촘하게 통제돼야 한다”며 “해외에서 개발한 AI의 위험성이 우리에게 영향을 미치지 않는다고 확신할 수도 없다”고 말했다.
 특히 AI안전연구소와 관계기관이 AI 모델의 이상행동을 분석하고 실제 위험 발생 시 즉각 대응할 수 있는 체계를 갖춰야 한다고 설명했다.
 정부 지원을 받아 개발되는 AI 모델에 대해서도 학습·시험 과정에서 외부 접속을 어디까지 허용할지, 이상행동이 발생하면 누가 모델을 중단시키고 보고할지 등 구체적인 안전 절차가 필요하다는 지적이다.
 이 의원은 AI 안전인력 문제와 함께 안전 분야 예산 자체가 AI 성능·인프라 투자 증가 속도를 따라가지 못하고 있다는 점도 지적했다.
 이 의원이 제시한 자료에 따르면 내년도 AI 성능·인프라 관련 예산은 6조1490억원인 반면 AI 안전·신뢰 관련 예산은 274억원이다. 양측 격차는 약 224배라는 것이 이 의원 설명이다.
 이 의원은 이를 자동차의 가속페달과 브레이크에 빗댔다.
 그는 “가속페달은 급속하게 커져가고 있는데 브레이크는 그대로인 상황”이라며 “지금이야말로 안전 분야 예산을 적극적으로 확보할 필요가 있다”고 말했다.
 이어 내년도 예산부터 AI 안전 분야에 최소 1% 수준의 투자를 반영할 필요가 있다며, 당장 1% 확대가 어렵다면 정부가 단계적인 확대 방안이라도 제시해야 한다고 주문했다.
 배경훈 부총리 겸 과기정통부 장관도 AI안전연구소의 역량 확대 필요성에 공감했다.
 배 부총리는 “고영향 AI나 AI 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰하고 있다”며 “인력 규모나 역량에서 많은 차이가 있는 것으로 알고 있다”고 말했다.
 이어 “AI 성능이 빠르게 발전하고 성능도 높아지고 있는 만큼 신뢰와 안전이 중요하다”며 “AI안전연구소의 인력을 늘리고 예산을 확대해 역량을 확보하는 일이 굉장히 중요하다고 생각한다”고 강조했다.
 정부는 AI안전연구소 역량 강화와 별도로 보안 특화 AI 모델과 프런티어AI 개발 등을 통해 AI 기반 사이버안보 대응 역량도 확보한다는 계획이다.
 배 부총리는 “미토스 쇼크 이후 정부는 두 가지 대책을 세워 추진하고 있다”며 “현재 보안 특화 AI 모델 사업을 추진하면서 자체적인 AI 사이버안보 대응 역량을 준비하고 있다”고 말했다.
 이어 “프런티어AI 사업도 이에 해당한다고 보면 된다”며 AI 안전·안보 대응을 위한 고성능 모델 확보 필요성도 강조했다.
 중장기 안전 정책도 연내 구체화한다. 과기정통부는 오는 12월 ‘국가 AI 안전 생태계 조성 마스터플랜’을 발표할 예정이다.
 마스터플랜에는 ▲국가 AI 안전관리체계 구축 ▲첨단 AI 안전 대응역량 강화 ▲국민 일상의 AI 환경 조성 등 3대 전략이 담길 예정이다.
 배 부총리는 “국제 스탠더드를 따라가는 것뿐 아니라 선도할 수 있는 역량을 갖추기 위한 준비를 하고 있다”며 “AI 안전에 촘촘하게 대응할 수 있는 체계를 만들어가겠다”고 말했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

‘독파모’ 논란 집중 공세…배경훈 “프런티어 AI 갑자기 나온 사업 아냐” 금융 안전망 뚫은 AI 해킹…"AI 방어·기본기 강화해야"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기