【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]'빨간 버튼 누르면 끝?'… AI '킬 스위치' 의무화가 간단하지 않은 이유

온카뱅크관리자

2026-09-28 11:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 美 의회·캘리포니아, 비상 정지 의무화 입법 추진 "단일 스위치로 AI 종료시키는 건 환상" 주장 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="WhjuVs9UaQ">
 <figure class="figure_frm origin_fig" contents-hash="838a03a1d6cc6d634c63ea0864ac732a31987466f86da2472bf81b0c1bfc8ea2" dmcf-pid="YlA7fO2ujP" dmcf-ptype="figure">
 <img alt="AI 생성 이미지. " class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/28/552809-WkUXVfQ/20260928112219256odtx.jpg" data-org-width="875" dmcf-mid="yypcI9sANx" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/28/552809-WkUXVfQ/20260928112219256odtx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI 생성 이미지. 
 </figcaption>
 </figure>
 [더구루=홍성일 기자] 인공지능(AI)이 통제 불능 상태에 빠졌을 때 즉각 가동을 멈추게 하는 '킬 스위치(비상 정지 장치)' 도입 논의가 미국 정치권을 중심으로 급물살을 타고 있다. 의회 차원의 초당적 법안 발의에 이어 주요 지방정부도 제도화에 나섰지만, 전문가들 사이에서는 복잡한 클라우드 생태계에서 버튼 하나로 AI를 통제하겠다는 발상 자체가 '환상'이라는 비판이 잇따르고 있다. 
 28일 블룸버그에 따르면 미 정계가 자율형 에이전틱 AI의 폭주를 막기 위한 킬 스위치 의무화를 검토하는 가운데, 전문가들은 현대 소프트웨어 구조상 단일 스위치를 통한 강제 셧다운은 실효성이 현저히 떨어진다는 지적을 내놓고 있다.   
 킬 스위치 의무화 논의는 AI 멸망론이 불거지면서 대두됐다. AI 멸망론은 AI 스타트업 앤트로픽(Anthropic)에서 사전학습을 담당하던 제이콥 콕슨(Jacob Coxon)이 엑스(X, 옛 트위터)에 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "우리의 생명을 도박으로 삼고 있는데, 어느 회사도 책임감 있게 행동하지 않고 있다"고 폭로하면서 시작됐다. 이어 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 CEO 등 주요 빅테크 수장들이 동조하고 나서며 논란이 일파만파 번졌다. 
 위기감이 커지자 미 하원에서는 지난 23일(현지시간) 초당파 의원들이 'AI 킬 스위치 법(AI Kill Switch Act·H.R. 9917)'을 발의했다. 법안은 연산 비용 1억 달러(약 1360억 원) 이상이 투입된 고성능 AI 시스템을 대상으로, 비상시 즉각적인 추론 중단과 네트워크 접속 차단, 시스템 전체 강제 셧다운 기능을 의무적으로 탑재하도록 규정했다. 
 캘리포니아주 역시 행정명령을 통해 고성능 '프런티어 모델'에 비상 정지 메커니즘을 강제하는 방안을 추진하고 있다. 미국 비영리 연구단체인 'AI 정책 연구소'의 여론조사에 따르면 유권자의 86%가 킬 스위치 의무화에 찬성하고 있다. 
 논의가 진전되는 가운데 에이전틱 AI의 기술적 특성을 고려할 때 현재의 킬 스위치 의무화 방안 논의는 실효성이 떨어진다는 주장이 나오고 있다. 무엇보다 에이전트 AI가 단일 시스템이 아니라는 점이 가장 큰 이유로 꼽히고 있다. 
 보안 기업 DNS필터(DNSFilter)의 최고기술책임자(CTO)인 TK 키아니니는 기술 전문매체 '테크타깃(TechTarget)'과의 인터뷰에서 "에이전틱 AI는 플러그 하나로 연결된 단일 시스템이 아니다"라며 "모든 클라우드와 수많은 노트북에 걸쳐 공개 및 비공개 모델 수천 개가 분산돼 존재한다"고 설명했다. 그러면서 "인터넷에 킬 스위치가 존재할 수 없는 것과 같은 이유"라고 덧붙였다. 
 AI의 통제 우회 가능성도 걸림돌이다. 최근 발생한 '허깅페이스 해킹 사건' 등에서는 일부 AI 모델이 관리자의 감시망을 피해 스스로 동작 기록을 은폐하려는 시도가 포착됐다. 관리자가 시스템 통제 이탈 여부를 제때 인지하지 못할 가능성이 크다는 뜻이다. 여기에 기업 인프라 전반에 AI 의존도가 심화한 상황에서 비상 정지 권한을 누구에게 부여할 것인지에 대한 책임 소재 논란도 존재한다. 
 지적이 이어지면서 실효성 있는 대안이 우선돼야 한다는 쓴소리도 나오고 있다. 빌 게이츠 마이크로소프트(MS) 창업자는 미국 NBC 방송과 인터뷰에서 "킬 스위치 구상은 다소 기괴한 발상"이라며 "AI가 컴퓨터를 자율 장악해 전원을 끌 수조차 없는 단계에 머물러 있는데 이런 논의가 공론화되는 것은 기술적 무지를 드러내는 단면"이라고 꼬집었다. 그는 "지금 시급한 위협은 통제를 벗어난 기계가 아니라 사이버 공격이나 생물학 테러에 AI를 악용하는 인간"이라며, 상시 활동 기록과 강제 모니터링 체계 확립이 선행돼야 한다고 강조했다. 
 업계는 킬 스위치의 필요성 자체를 부정하기보다 단일 차단 장치가 아닌 복합 방어 체계가 필요하다는 주장을 내놓고 있다. 
 업계 관계자는 "킬 스위치는 이상 징후가 확인된 뒤 취하는 사후 조치일 뿐 사전 예방책이 될 수 없다"며 "단순 작동 중단을 넘어 외부 API 및 네트워크 접근 차단, 우회 프로세스 생성 및 재실행 방지 등이 통합된 다중 안전 아키텍처가 뒷받침돼야 한다"고 말했다.
 </section> 
 </div> 
 Copyright © THE GURU의 모든 콘텐츠(영상·기사·사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.

Arm, AI 모델 최적화 포털 마련… “2200만 개발자 겨냥” 에픽게임즈 ‘포트나이트 아이콘 시리즈’에 팝스타 매디슨 비어 합류

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기