[IT뉴스]치솟는 토큰 비용에...서비스 모델 새판 짜는 AI 기업들

AI에이전트시대토큰사용량과이용료가급등하자이제는한정된토큰안에서가장효율적인결과를내도록유도하는‘토큰다이어트’가대세가됐다.관련AI기업들역시신규수요를잡기위한새로운서비스모델을강구하고있다.<출처=미드저니생성이미지>인공지능(AI)에이전트를가동하는기업들이토큰종량제(사용한만큼비용을내는방식)아래에서요금부담에시달리자,AI기업들이이부담을상쇄하는서비스모델을잇달아내놓고있다.비용효율이높은모델로갈아타거나사용한도를두는기업이늘어난상황을새로운사업기회로삼는모습이다.5일정보통신기술(ICT)업계에따르면최근AI기업들은고객사의비용부담을덜어주는서비스와솔루션을앞다퉈선보이고있다.과금방식을바꾸거나값싼모델을내놓거나토근소비자체를줄이는기술로접근법도갈린다.과금구조에손댄곳은세일즈포스다.세일즈포스는최근고객서비스용AI에이전트구축·운영을지원하는‘에이전트포스헬프에이전트’를공개하며‘문제해결기반과금’을새롭게도입했다.기업은에이전트가고객문제를처음부터끝까지자율적으로해결한경우에만비용을내고,고객이상담원연결을요청하거나결과에불만을표시하면과금되지않는다.세일즈포스관계자는“기업은에이전트의단순응대건수나사용량이아닌실제로고객의문제를해결한업무와성과를기준으로고객서비스부문에서의AI투자효율성을제고할수있다”고설명했다.최근신규모델로가격경쟁력을내건곳은앤트로픽이다.앤트로픽은지난달30일‘클로드소네트5’를출시하며“상위모델인‘클로드오퍼스4.8’에근접한성능을더낮은가격으로제공한다”고밝혔다.실제로앤트로픽자체벤치마크에서소네트5는지식업무등일부항목에서오퍼스4.8에근접하거나앞섰다.프로모션가격(8월31일까지)기준비용은입력토큰100만개당2달러,출력10달러로오퍼스4.8(5달러·25달러)의40%수준이며,표준가(3달러·15달러)는오퍼스4.8의60%수준이다.토큰소비자체를줄이는기술로접근한곳은마이크로소프트(MS)다.MS리서치는지난달29일AI에이전트의장기기억을개선하는메모리구조‘메모라’를공개했다.현재AI에이전트는세션마다긴대화이력을매번다시읽어야해토큰사용량이불어나는데,메모라는정보를저장하는방식과검색하는방식을분리해필요한기억만골라불러온다.MS는벤치마크에서전체이력을통째로입력하는방식과견줘토큰을최대98%까지줄이면서정확도는더높았다고밝혔다.다만이는상용제품이아닌연구성과로,일부전문가는벤치마크기준절감폭이실제청구액감소를보장하지는않는다고지적했다.토큰비용을체계적으로관리하는‘AI핀옵스’솔루션도대안으로주목받는다.핀옵스는재무(Finance)와개발·운영(DevOps)을합친말로,원래클라우드사용량을파악하고유휴리소스와할인약정으로비용을최적화하는방법론이다.최근에는그래픽처리장치(GPU)사용량과거대언어모델(LLM)호출료,토큰사용량까지포괄하는AI지출관리로확장됐다.글로벌시장에선클라우드제로,밴티지,파이나웃등이기업의AI모델이용료를클라우드지출과함께추적한다.오픈AI·앤트로픽등여러공급사의사용비용을한데모아보여주는방식이다.국내에선베스핀글로벌의관계사옵스나우가AI핀옵스로영역을넓히고있다.옵스나우가개발한‘옵스나우핀옵스’는변동성이큰AI지출을보다예측가능한운영비용으로전환하도록지원한다.Copyright©매일경제&mk.co.kr.무단전재,재배포및AI학습이용금지

26-07-05 15:37
0 79
[IT뉴스]메모리 품귀에 하반기 폰 가격 더 뛴다…갤Z폴드8 300만원 육박할 듯

지난달26일서울의한대형마트내애플제품취급매장인에이스토어에가격인상안내문이붙어있다.뉴스1[파이낸셜뉴스]메모리반도체품귀현상이장기화되면서올해하반기출시를앞둔스마트폰가격이줄줄이오를전망이다.애플·샤오미등주요제조사들이원가부담을견디지못하고제품가격을앞다퉈인상한가운데삼성전자의차세대폴더블폰가격도올라국내출고가기준300만원에달할것이란관측이나온다.5일해외정보기술(IT)전문매체윈퓨처등외신에따르면오는22일(현지시간)영국런던에서열리는'갤럭시언팩'에서공개될삼성전자의차세대폴더블폰유럽출고가는전작대비최소100유로(약17만원)이상오를것으로예상됐다.더많은부품이들어가는고용량제품에서가격인상폭이더가파를것으로예측됐다.갤럭시Z플립8512기가바이트(GB)모델은전작보다180유로오른1499유로,갤럭시Z폴드8울트라는1테라바이트(TB)기준2799유로로,280유로상승할것으로분석됐다.이에기존갤럭시Z폴드7후속작인갤럭시Z폴드8울트라의한국출고가는512GB기준전작(263만2300원)을크게웃도는300만원에육박할것이란전망이나온다.메모리가주도하는핵심부품가격급등세로제조원가부담이급격히커지면서판매가인상이불가피해진상황이다.시장조사기관카운터포인트리서치는800달러(약122만원)급스마트폰제조원가내메모리비중이지난해1·4분기14%수준에서최근40%까지확대됐다고분석했다.삼성전자는올해갤럭시S시리즈의출고가를4년만에인상한데이어지난4월갤럭시Z폴드7·플립7의512GB모델가격을각각9만4600원씩올린바있다.삼성전자가출시1년내제품가격을상향조정한것은2022년갤럭시탭S8시리즈이후약4년만이다.최근글로벌시장조사기관들이발표한메모리가격추이전망치를분석한결과메모리가격상승세는2027년까지지속될것으로예상된다.카운터포인트리서치는올해1·4분기메모리가격이전분기대비40~50%오른이후2·4분기20%가량더오를것으로내다봤다.트렌드포스는올3·4분기범용D램계약가격이전분기대비13~18%,낸드플래시는10~15%추가상승할것으로예측했다.IDC는올해글로벌스마트폰평균판매가격(ASP)이전년동기와비교해14%상승한523달러로역대최고치를기록할것으로전망했다.샤오미,오포등중국제조사뿐아니라안정적공급망에기반해버티던애플마저부품값급등에백기를들었다.애플은지난6월25일맥북과아이패드가격을모델에따라최소100달러에서최대300달러까지인상했다.하반기출시될아이폰18시리즈역시출고가상향이유력하다.업계관계자는"메모리가격상승분을판매가에모두반영할경우수요자체가위축될가능성이크기때문에스마트폰제조사들이손해를감수하고제품가격을책정하고있다"면서"갤럭시Z폴드8울트라기본모델의미국출시가는전작과같은1999달러(약295만원)수준이유지될것으로전망되지만,고용량옵션에서는인상이불가피할것"이라고말했다[email protected]장민권기자Copyright©파이낸셜뉴스.무단전재및재배포금지.

26-07-05 15:37
0 116
[IT뉴스]AI 비서에게 일 맡겼더니 챗봇보다 전기 137배 썼다

KAIST,AI에이전트전력비용분석사람처럼스스로계획을세우고일을처리하는AI에이전트(인공지능비서)가기존AI챗봇보다질문한건당최대137배많은전기를쓴다는연구결과가나왔다.사진은연구진모습.왼쪽부터KAIST신병준석사과정,정진하석박통합과정,김지인박사과정,유민수교수./KAIST사람처럼스스로계획을세우고일을처리하는AI에이전트(인공지능비서)가기존AI챗봇보다질문한건당최대137배많은전기를쓴다는연구결과가나왔다.AI가검색,계산,코드실행까지스스로수행하면서데이터센터전력부담을크게늘릴수있다는것이다.KAIST는전기및전자공학부유민수석좌교수연구팀이AI에이전트의계산비용과응답시간,에너지소비,데이터센터전력수요를정량분석했다고5일밝혔다.연구결과는지난2월컴퓨터시스템설계분야국제학회‘국제고성능컴퓨터구조심포지엄(IEEEHPCA)’에서발표됐다.AI에이전트는거대언어모델(LLM)을기반으로작동하지만,단순챗봇과는다르다.사용자질문에한번답하고끝나는것이아니라,스스로계획을세운뒤검색,계산기,코드실행같은외부도구를불러복잡한작업을수행한다.이런기능때문에소프트웨어개발,연구보조,업무자동화분야에서활용이빠르게늘고있다.연구진은AI에이전트를데이터센터가처리해야하는새로운작업으로보고,실제실행과정에서발생하는계산량과전력소비를분석했다.그결과AI에이전트는기존단계별추론방식보다평균9.2배더많이LLM을호출했다.질문하나를처리하는동안AI가여러번다시생각하고,도구를쓰고,결과를받아또판단하기때문이다./KAIST응답시간도크게늘었다.AI에이전트의답변시간은최대154배증가했다.외부도구가작업하는동안그래픽처리장치(GPU)는전체실행시간의최대55%를아무계산도하지못한채기다리는것으로분석됐다.복잡한일을시킬수록GPU를충분히쓰지못하는비효율이생긴다는것이다.전력소비차이도컸다.700억개매개변수를가진LLM을기준으로했을때AI에이전트는질문한건에평균348와트시(Wh)의전기를썼다.기존AI챗봇의단순질의응답방식보다137배많은수준이다.연구팀은하루137억건의AI에이전트요청이발생할경우데이터센터전력수요가약199기가와트(GW)에이를수있다고추정했다.미국전체평균전력소비량의절반수준이다.유민수석좌교수는“AI가더똑똑해지는것을넘어그지능을구현하고유지하는데얼마나많은전력과비용이필요한지를정량적으로제시한사례”라며“AI모델과데이터센터,전력인프라를함께최적화하는공동설계가중요해질것”이라고했다.Copyright©조선일보.무단전재및재배포금지.

26-07-05 15:27
0 81
[IT뉴스]오픈AI·SAP·MS도 뛰어든 FDE…기업 AI 도입 공식 바뀐다

김영욱SAP프랑스매니저분석MS·오픈AI·SAP등FDE조직확대데모넘어실제업무성과입증경쟁“한국SI,30년구축경험살릴기회”[이데일리신영빈기자]글로벌기업의인공지능(AI)도입방식이현장형엔지니어링중심으로빠르게재편되고있다.모델성능보다실제업무시스템에AI를안착시키는역량이중요해지면서전방배치엔지니어링(FDE)모델이새표준으로떠오르고있다.김영욱SAP프랑스시니어프로그램매니저는최근삼성SDS(삼성에스디에스(018260))인사이트기고문에서“올해3월부터6월까지단4개월사이에AI모델기업,서비스형소프트웨어(SaaS)기업,컨설팅기업들이모두FDE라는같은깃발아래모였다”며“엔터프라이즈소프트웨어산업전체의영업·구현모델이재편되고있다고봐야할단계”라고분석했다.팔란티어의FDE동작모델(사진=삼성SDS)FDE는엔지니어가고객사내부에들어가실제업무흐름과데이터환경을파악하고,그자리에서AI기반시스템을설계·구현하는방식이다.팔란티어가정보기관고객을대상으로발전시킨모델이원형으로꼽힌다.고객이업무방식을외부에명확히설명하기어렵고,데이터를외부로반출하기어려운상황에서엔지니어가현장에들어가문제를함께정의하고해결하는구조다.김매니저는현재기업들이마주한AI도입환경도이와유사하다고봤다.기업들은AI를어떻게업무에녹여야할지명확히정의하지못하고,개인정보·보안·컴플라이언스문제로데이터를자유롭게외부에제공하기도어렵다.이때문에AI모델자체보다이를실제운영환경에안착시키는능력이중요해졌다는설명이다.그는MIT난다이니셔티브분석을인용해최근3년간전세계기업이생성형AI에막대한비용을투자했음에도엔터프라이즈AI파일럿의95%가측정가능한손익효과를만들지못했다고지적했다.실패원인은모델성능부족이아니라기업의업무흐름,데이터거버넌스,레거시시스템,규제환경안에서AI를작동하는시스템으로전환하지못한데있다는것이다.실제글로벌기업들도FDE모델을빠르게도입하고있다.오픈AI·앤스로픽·구글등대형언어모델(LLM)기업뿐아니라마이크로소프트,SAP,세일즈포스등SaaS기업,액센추어·EY등글로벌컨설팅사도FDE조직이나파트너십을확대하고있다.김매니저는“모델회사들이컨설팅회사가되고있다는진단을넘어,SaaS본진까지FDE모델이확산되고있다”고봤다.다만같은FDE라도기업별역할은다르다.팔란티어형FDE는고객현장에서얻은문제해결경험을플랫폼기능으로다시흡수하는구조다.오픈AI등LLM기업은모델진화속도에맞춰고객업무에직접적용하는방식이고,세일즈포스·SAP·마이크로소프트는기존SaaS플랫폼위에AI구현역량을결합하는형태다.컨설팅사는기존산업별업무지식과고객관계를기반으로FDE형조직을재편하고있다.이변화는한국IT서비스·SI산업에도시사점이크다.국내SI기업들은30년이상전사적자원관리(ERP),금융코어뱅킹,통신빌링,공공행정시스템등복잡한구축경험을축적해왔다.글로벌AI모델만으로는한국기업과공공·금융권의의사결정구조,규제환경,레거시시스템을단기간에이해하기어렵다.이지점에서국내SI업계의도메인지식이FDE모델과결합할여지가있다는분석이다.AI도입을발주하는기업의평가기준도달라질전망이다.FDE방식은외부엔지니어가기업내부시스템과데이터에접근하는구조인만큼,앞으로는성능과가격뿐아니라데이터접근권한,보안통제,사고대응,책임소재,성과기반계약조건등을제안요청서(RFP)단계에서함께따져야한다는지적이다.김매니저는“향후한국엔터프라이즈IT의사결정자의역할은글로벌솔루션을어떻게도입할것인가에서글로벌모델과한국도메인자산을어떻게결합할것인가로확장되고있다”며“30년에걸쳐축적된한국엔터프라이즈IT생태계의자산을어떻게활용하느냐가AI경쟁력을결정하게될것”이라고강조했다.신영빈([email protected])Copyright©이데일리.무단전재및재배포금지.

26-07-05 15:17
0 63
[IT뉴스]쇳물 대신 ‘지능’을 찍어낸다… 왜 지금 ‘AI 팩토리’인가 [김현아의 IT세상읽기]

자동차·반도체넘어지능수출국으로AI인프라와소프트웨어의결합이50년미래결정한다[이데일리김현아기자]1970년대대한민국경제를움직인엔진은중화학공업이었다.철강을만들고,선박을건조하고,자동차를생산하는거대한공장이국가성장을이끌었다.당시국가경쟁력은얼마나많은공장을짓고,얼마나많은제품을만들어세계시장에수출하느냐에달려있었다.50여년이흐른지금,세계는또한번거대한산업전환기를맞고있다.이번에는철강도,자동차도아니다.‘AI팩토리(AIFactory)’,지능을생산하는공장이새로운국가경쟁력의원천으로떠오르고있다.최근정부의‘대한민국대도약3대메가프로젝트’발표와관련해최태원SK(034730)그룹회장과하정우전AI미래기획수석이공통적으로던진메시지도여기에있다.AI데이터센터(AIDC)는더이상데이터를저장하는서버실이아니라지능을생산하는공장이라는것이다.최태원SK그룹회장이지난달29일청와대영빈관에서열린대한민국대도약3대메가프로젝트국민보고회에서투자계획를발표하고있다.사진=뉴스1물건을만들던시대에서지능서비스를만드는시대로중화학공업시대공장의구조는단순했다.철광석과석유라는원료를투입하면용광로와생산설비를거쳐자동차와선박같은제품이만들어졌다.그리고그제품을해외에수출해경제를성장시켰다.AI팩토리역시원리는크게다르지않다.원료는데이터이고,에너지는전력이다.이를가공하는핵심생산설비가GPU와HBM같은AI반도체다.AI모델은이설비위에서학습과추론을수행하며번역·설계·코딩·신약후보물질탐색·로봇제어같은AI서비스를만들어낸다.이과정에서AI가만들어내는결과물은토큰(Token)단위로처리되고,사용량에따라거래되고과금된다.오늘날글로벌AI기업들이토큰사용량을기준으로AI서비스를판매하는이유다.과거공장이자동차를생산했다면,AI팩토리는토큰단위로지능서비스를생산하고공급하는공장인셈이다.AI팩토리는세상모든공장의‘공장’이다중화학공업이철강과조선,자동차라는특정산업을성장시켰다면AI팩토리의영향력은훨씬넓다.AI는제조업과금융,바이오,국방,의료,콘텐츠등모든산업의생산성을높이는범용인프라다.이를두고이광형전KAIST총장은AI를“불의발견에가깝다”고표현했다.조선소에서는용접로봇을제어하고,반도체공장에서는설계를최적화하며,제약회사에서는신약후보물질탐색속도를높인다.금융에서는리스크분석을수행하고,병원에서는의료진의진단을지원한다.과거공장이물건을만들었다면,AI팩토리는세상모든공장의생산성을높이는‘공장의공장’이라고할수있다.GPU만많다고AI강국은아니다그렇다면GPU만많이확보하면AI강국이될수있을까.물론정부가2030년까지GPU26만장을확보하기로한것은생산설비확보측면에서중요한의미가있다.하지만하전수석은“GPU만가득한데이터센터는해외빅테크의연산을대신수행하는AI하청기지로전락할수있다”고경고한다.전기와부지만제공하고정작부가가치는해외기업이가져가는구조가될수있다는것이다.중요한점은어떤AI서비스를생산하느냐다.일상적인챗봇과조선소용접로봇을제어하거나반도체를설계하는AI는같은GPU를사용하더라도창출하는가치가전혀다르다.어떤산업데이터를학습시키고어떤모델을운영하느냐에따라경제적가치는수십배,수백배까지벌어진다.그래서중요한것이AI수율이다.같은전력과같은GPU를사용하면서도더적은비용으로더정확하고가치있는AI서비스를만들어내는능력이AI경쟁력을결정한다.하정우전AI미래기획수석.사진=뉴스1인프라와소프트웨어가함께돌아갈때경쟁력이생긴다이지점에서최태원회장과하전수석의메시지는하나로연결된다.최회장은AI팩토리를위한산업인프라를강조한다.대규모전력망을구축하고AI데이터센터를세우며,HBM을비롯한AI반도체공급망을확보해야한다는것이다.반면하전수석은그공장안에서돌아갈생산공정을강조한다.한국제조업이축적한산업데이터를AI에학습시키고,독자적인AI모델과AI운영기술(AIOps)을결합해같은비용으로더높은가치를만들어내야한다는전략이다.AI경쟁력은공장의규모만으로결정되지않는다.인프라라는하드웨어와AI모델,산업데이터,AIOps라는소프트웨어가결합할때비로소AI팩토리는세계시장에서경쟁력을갖는다.출처=하정우전AI미래기획수석철강생산량대신‘지능생산력’을경쟁하는시대1970년대국가들은철강생산량과자동차수출량을경쟁했다.그것이국력이었다.앞으로국가경쟁력은무엇이결정할까.얼마나많은GPU를보유했는지가아니라,그GPU로얼마나높은부가가치의AI서비스를만들고이를세계시장에얼마나많이판매할수있는지가국가경쟁력을좌우할것이다.이것이최태원회장이AI데이터센터를‘AI팩토리’,‘토큰팩토리’라고부르는이유이며,하전수석이GPU숫자보다AI수율과독자모델을강조하는이유다.50년전대한민국을산업국가로만든것이중화학공업이었다면,앞으로50년대한민국을지능수출국으로이끌엔진은AI팩토리가될가능성이크다.이제세계시장에수출해야할최고의상품은자동차와반도체를넘어,산업과산업을움직이는‘지능’그자체다.그것이AI시대대한민국의새로운성장엔진이다.김현아([email protected])Copyright©이데일리.무단전재및재배포금지.

26-07-05 15:07
0 72
[IT뉴스]우주항공산업 무게중심 남하…대전 역할 재정립 시급

정부,영남권보고회서'남해안우주항공산업벨트'전면내세워우주항공산업진흥원유치전도경남공세…방산등생태계육성필요이재명대통령이3일경남진주시에서열린영남권첨단산업발전비전국민보고회에서투자협약식이끝난뒤참석자들과기념촬영을마치고김동관한화그룹부회장과악수하고있다.연합뉴스국내우주항공산업개척자역할을해온대전이정부의'남해안우주항공산업벨트'추진속에자칫변방으로밀릴수있다는우려가커지고있다.산업·행정기능이영·호남권을중심으로재편되는반면,우주산업클러스터3각체제에서연구·인재개발특화지구를맡아온대전의후속역할은뚜렷하게제시되지않고있어서다.연구개발(R&D)을뛰어넘는전략을마련하지못할경우기업과투자유치기반등전반적인경쟁력이약화할수있다는비판이나온다.5일정부에따르면우주항공청은지난3일경상국립대에서열린'영남권첨단산업발전비전국민보고회'에서우주항공산업육성전략을발표하고,경남창원·사천·진주와전남순천·고흥을잇는'남해안우주항공산업벨트'조성계획을공개했다.위성과발사체,미래항공산업을연계한기업·연구기관·실증인프라를집적해세계적인우주항공클러스터를구축하겠다는구상이다.이번보고회에서는민간기업투자계획도함께제시됐다.한화는55조원규모의우주·국방·인공지능(AI)분야중장기투자전략을발표했으며,정부는우주항공을영남권의핵심성장동력으로육성하겠다는방향을재확인했다.'대한민국대도약3대메가프로젝트'권역별발전전략이구체적인윤곽을드러내면서대전의핵심성장축으로꼽혀온우주항공산업의무게중심도남해안으로이동하는양상이한층뚜렷해진셈이다.이같은흐름은전정부에서부터이어져왔다.윤석열정부는2023년우주산업클러스터를지정하는과정에서경남과전남을각각위성·발사체특화지구후보지로선정해'대전패싱'논란을빚었다.이후지역사회의반발을반영해대전을연구·인재개발특화지구로추가지정하면서논란은일단락됐지만,2024년우주항공청이경남사천에출범한데이어경남정치권의한국항공우주연구원(항우연)과한국천문연구원(천문연)'입지흔들기'로지역간신경전도벌어진바있다.대전에는항우연·천문연을비롯해한국과학기술원(KAIST),한국전자통신연구원(ETRI)등이집적돼있다.이들기관을중심으로국내우주산업의원천기술개발과전문인력양성이이뤄져왔으나최근에는기업유치와생산시설,실증인프라등산업기능은경남과전남을중심으로확대되고있다.아직입지가확정되지않은우주항공산업진흥원도관심사다.우주항공산업육성전담기관인우주항공산업진흥원은정책개발과기업지원,기술사업화,산업육성,전문인력양성기능을담당할예정이다.지난해까지만해도대전시와지역정치권은연구기관과인프라집적을강점으로내세워유치필요성을적극제기했지만,최근에는경남이우주항공청을내세워유치전에적극뛰어들고있다.정부가'남해안우주항공산업벨트'를국가전략으로공식화함에따라산업지원기능까지영남권에집중되는것아니냐는우려다.대전은여전히국내최고수준의우주연구개발역량을보유하고있음에도이를기업창업과투자,생산으로연결하는산업화전략은상대적으로미흡하다는분석도제기된다.기술개발에머무를경우지역경제로이어지는파급효과도제한될수밖에없다.아에국방과학연구소(ADD)와방위사업청까지집적된강점을활용해우주와방산을하나의산업가치사슬로연결하는전략이요구된다.우주산업이제조와방산,인공지능(AI)까지결합하는융합산업으로빠르게진화하는만큼대전역시R&D를넘어우주·방산·AI융합산업생태계를구축해야한다는것이다.지역경제계관계자는"이미정부의메가프로젝트에서대전은직접적인수혜에서한발비켜선상황"이라며"차별화된우주항공산업전략을마련하지못하면기업과투자,인재까지다른지역으로쏠리면서지역산업경쟁력이점차떨어질수밖에없다"고말했다.Copyright©대전일보.무단전재및재배포금지.

26-07-05 14:47
0 85
[IT뉴스]AI 에이전트, 질문 한 번에 생성형AI보다 전력 136배 더 써

KAIST연구팀,AI에이전트숨은에너지소모비용규명“AI에이전트보편화되면데이터센터전력수요더폭증”인공지능(AI)이스스로생각하고행동하는'AI에이전트'는기존생성형AI보다질문한건당최대136.5배많은에너지를사용하는것으로나타났다.생성형AI로만든이미지인공지능(AI)이스스로생각하고행동하는‘AI에이전트’가기존생성형AI보다질문한건을처리하는데최대136배많은전력을소비한다는연구결과가나왔다.AI에이전트가보편화되면데이터센터전력수요가지금보다크게늘어날수있다는분석이다.한국과학기술원(KAIST)은전기및전자공학부유민수석좌교수연구팀이AI에이전트의실제서비스환경에서얼마나많은계산자원과전력을사용하는지를체계적으로분석해이같은결과를확인했다고5일밝혔다.최근오픈AI와구글,앤트로픽등글로벌빅테크가AI에이전트경쟁을본격화하는가운데전력과데이터센터효율문제가새로운산업과제로떠오르고있다.연구팀은AI에이전트를데이터센터서버와그래픽처리장치(GPU)가지속적으로계산자원을사용하는새로운작업형태로보고계산량과전력소비를분석했다.분석결과,AI에이전트는기존의단계별추론(CoT·AI가사람처럼생각과정을하나씩전개하며답을찾는방식)과달리여러차례대형언어모델(LLM)을반복호출하면서계산을수행하는것으로나타났다.AI에이전트의답변시간은최대153.7배늘어났으며,외부도구가작업을수행하는동안GPU는전체실행시간의최대54.5%를아무계산도하지못한채대기하는것으로분석됐다.AI에이전트의주요특성과인프라시사점.한국과학기술원(KAIST)AI가복잡한작업을수행할수록고가의GPU활용효율은오히려떨어졌다.또AI에이전트의전력소비도크게늘었다.현재상용AI서비스에쓰이는700억개의매개변수(파라미터·AI가학습한지식과능력을저장하는값)를가진대형언어모델을사용하는AI에이전트는질문한건을처리하는데평균348.41Wh(와트시)의전력을소비했다.이는기존생성형AI의단순질의응답방식보다136.5배높은수준이다.하루137억건의AI에이전트요청이발생하는미래환경을가정해분석한결과,데이터센터전력수요는약198.9GW(기가와트)에이를것으로추정됐다.이에대해연구팀은현재세계각국이추진중인수GW규모의AI데이터센터를뛰어넘는수준이며,미국전체평균전력소비량의약절반에해당하는규모라고설명했다.연구팀은이번연구가AI시대의경쟁력이‘더똑똑한AI’에서‘더효율적인AI’로이동하고있음을보여준다고설명했다.그러면서앞으로는AI모델만발전시키는것이아니라AI반도체,데이터센터,전력인프라를함께최적화하는‘공동설계’가필수전략이될것이라고덧붙였다.유민수석좌교수는“이번연구는단순히AI가더똑똑해지는것을넘어,그지능을구현하고유지하기위해얼마나많은전력과비용이필요한지를정량적으로제시한사례”라고밝혔다.이어“AI에이전트시대에는AI모델뿐아니라데이터센터와전력인프라를함께최적화하는공동설계가더욱중요해질것”이라고덧붙였다.이승구온라인뉴스기자[email protected]©세계일보.무단전재및재배포금지.

26-07-05 14:47
0 80
[IT뉴스]AI가 신입 일자리부터 흔드나… 법률·번역·디자인·회계, 채용 감소세

30세미만고용보험6만5000명감소…정보통신업9.3%↓[디지털데일리구아현기자]인공지능(AI)확산이가뜩이나어려운청년세대의고용문을좁히고있는것으로나타났다.특히AI의의존도가커진통번역,디자인,회계,법률보조등신입·주니어업무에서감소세가두드러진것이눈에띈다.5일국가데이터처국가통계포털(KOSIS)에공개된고용행정통계에따르면올해5월고용보험에가입한30세미만은223만3000명으로집계됐다.1년전보다6만5000명줄었다.감소율은2.8%다.이는전체고용보험가입자흐름과는다르다.5월전체가입자는1584만8000명으로전년동월보다26만8000명늘었다.60대이상가입자는20만7000명증가했다.증가율은7.5%로모든연령대중가장높았다.반면30세미만은줄었다.40대도5000명감소했지만감소율은0.1%에그쳤다.고용보험가입자기준으로보면청년층의부진이더뚜렷했다.특히AI활용이빠르게확산된업종에서감소세가컸다.30세미만고용보험가입자는정보통신업에서1년전보다9.3%줄었다.전문,과학,기술서비스업에서도4.1%감소했다.정보통신업에는출판,영상·오디오제작,방송,통신,컴퓨터프로그래밍,시스템통합·관리,정보서비스업이포함된다.생성형AI가문서작성,번역,이미지제작,코딩보조에넓게쓰이는분야다.전문,과학,기술서비스업도비슷하다.연구개발,법무,회계,광고,시장조사,경영컨설팅,건축설계,엔지니어링,디자인등이포함된다.보고서작성,자료조사,기초분석등AI가대체하거나보조할수있는업무가많다.경제활동인구조사에서도같은흐름이나타났다.전문,과학,기술서비스업취업자는지난해12월부터6개월연속줄었다.5월에는1년전보다8만9000명감소했다.감소율은5.9%였다.직종별로보면주니어업무위축가능성이더선명하다.5월20대고용보험피보험자중법률사무원은7175명으로집계됐다.1년전보다468명줄었다.감소율은6.1%다.법률사무원은지난해5월부터13개월연속감소했다.작가·통번역가감소폭은더컸다.20대작가·통번역가고용보험피보험자는1년전보다20.6%줄었다.회계·경리사무원은11.5%,소프트웨어개발자는10.1%,디자이너는7.6%감소했다.반도체호황도청년고용으로이어지지않았다.AI반도체수요확대의수혜업종인전자부품,컴퓨터,영상,음향,통신장비제조업에서도30세미만고용보험가입자는1년전보다약4000명줄었다.감소율은4.6%였다.이는고용보험가입자기준이다.전체취업자변화를그대로보여주는지표는아니다.프리랜서,플랫폼노동자,미가입자는빠질수있다.AI가직접고용감소를일으켰다고단정하기도어렵다.다만감소업종과직무가AI확산분야와겹친다는점은주목된다.기업이생성형AI를도입하면서반복문서작성,번역,디자인시안제작,기초코딩,법률·회계보조업무를자동화하고있기때문이다.이들업무는신입이경험을쌓던영역과도맞닿아있다.사업체인력동향에서도유사한흐름이보인다.지난해하반기전국사업체에종사한컴퓨터하드웨어·통신공학기술자는3만3350명으로1년전보다3313명줄었다.구인인원도523명감소했다.컴퓨터시스템전문가현원은1만6246명으로3114명줄었다.디자이너현원은14만1177명으로9776명감소했다.작가·통번역가구인인원도32.7%줄었다.정부는신중한입장이다.AI가특정직무의고용을위축시키고있는지에대해서는다양한견해가있다는이유에서다.아직직접적인인과관계를단정하기어렵다는설명이다.다만대응필요성은커지고있다.인공지능전환(AX)이산업구조를바꾸면서청년층의첫일자리에도영향을줄수있어서다.정부는직무전환이필요한구직자와재직자에게역량강화,이직,전직지원을확대할방침이다.Copyright©디지털데일리.Allrightsreserved.무단전재및재배포금지.

26-07-05 14:47
0 77
[IT뉴스]더 똑똑해진 AI의 청구서…에이전트 전력 소비, 챗봇의 136배

LLM호출9.2배·응답시간153.7배↑…GPU는절반가까이'유휴대기'전문가들"AIDC규모경쟁경종…모델·인프라공동설계필요"데이터센터[사진=게티이미지뱅크]인공지능(AI)에이전트가기존생성형AI의단순질의응답보다최대136.5배많은전력을소비하는것으로나타났다.이에따라AI에이전트발전에따른AI데이터센터(DC)확대보다는인프라효율을개선하는설계가필요하다는지적이나온다.5일카이스트(KAIST)에따르면유민수전기및전자공학부석좌교수연구팀은AI에이전트를데이터센터의서버와그래픽처리장치(GPU)가지속적으로처리해야하는새로운형태의워크로드로정의하고,실제실행과정에서발생하는계산량과에너지소비를분석했다.AI에이전트는단순히질문에답하는수준을넘어스스로계획을세우고계산기·코드실행등다양한외부도구를활용해복잡한문제를해결하는인공지능이다.AI에이전트의계산비용과에너지소비경향을정량적으로분석한것은이번이세계최초다.분석결과AI에이전트는기존단계별추론방식보다평균9.2배많은대형언어모델(LLM)호출을수행하는것으로나타났다.언어모델을반복호출하면서응답시간은최대153.7배늘었고,외부도구가작업을수행하는동안GPU는전체실행시간의최대54.5%를아무계산도하지못한채대기했다.전력소비증가는더두드러졌다.상용AI서비스수준인700억개매개변수LLM을사용하는AI에이전트는질문한건을처리하는데평균348.41와트시(Wh)의전력을소비했다.하루137억건의AI에이전트요청이발생하는미래를가정하면데이터센터전력수요는약198.9기가와트(GW)에이른다.미국전체평균전력소비량의절반에해당하는규모다.연구팀은"단순히AI가더똑똑해지는것을넘어그지능을구현하고유지하기위해얼마나많은전력과비용이필요한지를정량적으로제시한첫사례"라며"AI에이전트모델과전력인프라까지통합적으로공동설계해최적화하는접근이더욱중요해질것"이라고밝혔다.전문가들은이번연구가AI인프라를무한정키우는현재흐름에경종을울렸다고평가했다.최기영전서울대전기정보공학부교수(전과학기술정보통신부장관)은"현재사용되고있는AI에이전트들이요구하는대로무작정AI데이터센터의규모와비용을키우는것은지속가능하지않을수있다는경종을울린다는면에서이논문은큰의미를가진다"고말했다.다만그는136.5배라는수치의해석에는신중할필요가있다고짚었다.최전장관은"어려운질문에답을잘하기위해어쩔수없이AI에이전트를사용하는면도있어단발성대화와의적절한비교라고하기는어렵다"면서도"그럼에도단순한채팅에비해복잡한문제를풀기위해서는현재의기술로는훨씬더큰에너지를써야한다는것을잘보여준다"고평가했다.대안으로는하드웨어와알고리즘양쪽의최적화를제시했다.최전장관은"GPU대신효율이좋은신경망처리장치(NPU)로대체해공급망·비용·에너지소비문제를해소하려는것도그런노력의일환"이라며"AI에이전트와그운용방법을다양한각도에서최적화하는노력도병행할필요가있고,이논문의분석결과가그시작점이될수있다"고덧붙였다.기술철학관점의문제제기도나왔다.손화철한동대글로벌리더십학부교수는"AI의소비전력문제는이미많이제기됐지만AI의발전과정에서곧해소될사소한문제인것처럼다뤄지는경우가많다"며"AI가모두가사용해야하는에너지의가격을올리는결과를초래한다면,AI사용으로생기는유익이무엇이고누구의유익을위한것인지좀더면밀하게따져봐야한다"고지적했다.

26-07-05 14:27
0 88
[IT뉴스]캐릭터와 가위바위보…LA 애니메 엑스포서 눈에 띈 K게임 부스

넥슨,전시장메인부스서디제잉공연…스마일게이트도미공개게임20분체험(로스앤젤레스=연합뉴스)김경윤특파원="장켄-퐁(가위바위보)"대형스크린속게임캐릭터가주먹을쥐고고심하며이렇게외친다.타이밍에맞춰마이크에대고가위,바위,보가운데하나를외치면이에따라승부가난다.캐릭터가이기면"좋은시도였어,디렉터!다이길수는없지"하고위로를건네고,플레이어가이기면"패배를인정할게"라는답변이돌아온다.4일(현지시간)미국캘리포니아주(州)로스앤젤레스(LA)애니메엑스포전시장에설치된넥슨의신작게임'프로젝트RX'(가제)부스의인터랙티브체험이다.스크린속캐릭터들과음성으로소통이가능하다는점이가장눈에띈다.마이크앞에서서4명의캐릭터가운데한명을호명하면해당인물이나와가위바위보게임을진행한다.아직구체적인게임명이나내용도공개되지않았지만,이번LA애니메엑스포에서인터랙션(상호작용)체험부스를통해신작게임을엿볼수있도록했다.북미서브컬처행사'아니메엑스포'내넥슨부스[넥슨제공.재판매및DB금지]애니메엑스포는애니메이션부터만화,게임,라이트노벨등다양한서브컬쳐를모두아우르는북미최대행사다.일본식애니메이션을뜻하는'애니메'(Anime)를전면에내걸고있는만큼일본애니메이션·게임지식재산(IP)이주를이루는행사지만,한국게임의존재감이예상외로컸다.넥슨은사우스홀중앙에대형메인부스를꾸렸다.인파가몰리면서3일차에굿즈25종가운데12종이매진됐다고넥슨관계자는설명했다.바로옆에서는인기게임'블루아카이브'DJ공연이진행됐다.게임속노래에맞춰팬들이부채를흔들고"헤이헤이"하고구호를외치는모습이눈에띄었다.친구와함께엑스포를찾은스티븐은"망가(일본만화)와한국게임을특별히구분하지않는다"며"그냥캐릭터가마음에들면즐기게되는것"이라고말했다.스마일게이트'미래시'시연공간[김경윤촬영.재판매및DB금지]올해처음으로또다른한국게임회사인스마일게이트도애니메엑스포에참여했다.로비에는'카오스제로나이트메어'부스가설치됐다.트레이딩카드게임에들어온것처럼랜덤카드를받고,주사위를굴리면서보상을얻는체험형공간이다.이와별도로웨스트홀에세운신작게임'미래시'부스에서는미공개게임을직접해볼수있도록시연공간도마련했다.PC여러대가나란히놓여있고,1인당20∼30분정도게임을즐길수있다.스마일게이트관계자는"평균2시간정도대기해야할수있지만반응이좋은편"이라고설명했다[email protected]▶제보는카톡okjeboCopyright©연합뉴스.무단전재-재배포,AI학습및활용금지

26-07-05 14:17
0 67
[IT뉴스]비싸진 스마트폰, 인도선 10대 중 4대 ‘할부 구매’…삼성이 1위

카운터포인트“올해금융구매비중42%전망”가격상승에일시불부담커져…NBFC·카드할부확산삼성,금융판매량선두…비보·애플뒤이어장기EMI·교환프로그램이구매부담완화핵심[이데일리신영빈기자]인도스마트폰시장에서할부·금융구매비중이빠르게커지고있다.메모리등부품가격상승으로단말가격부담이커지면서소비자들이현금일시불대신비은행금융회사(NBFC)대출이나카드할부를선택하는흐름이확산되고있다.5일시장조사업체카운터포인트리서치에따르면인도스마트폰판매에서금융구매가차지하는비중은지난해35%에서올해42%로확대될전망이다.금융구매에는NBFC금융,신용카드EMI,체크카드EMI등이포함된다.인도스마트폰시장은올해상반기메모리가격상승영향으로압박을받아왔다.카운터포인트는이같은가격상승흐름이더강해질것으로보고있다.이에따라스마트폰금융구매가주요구매방식으로자리잡고있다는분석이다.인도스마트폰할부판매점유율,2026년vs2025년(사진=카운터포인트리서치)인도에서금융으로판매된스마트폰가운데약67%는NBFC를통해구매된것으로나타났다.중소도시에서는은행신용카드기반할부프로그램이용이제한적인경우가많아,신규신용고객을중심으로NBFC금융수요가커지고있다는설명이다.타룬파탁카운터포인트리서치리서치디렉터는“인도스마트폰시장은메모리가격상승으로올해상반기압박을받아왔고,이추세는더심화될것으로예상된다”며“이런상황에서스마트폰금융구매는주요구매방식으로자리잡고있다”고말했다.브랜드별로는삼성전자(005930)가금융구매를통한스마트폰판매량에서1위를차지했다.비보와애플이뒤를이었다.삼성전자는자체금융서비스인‘삼성파이낸스플러스’와다양한금융옵션을활용하고있으며,가격대별로긴할부기간을제공하는점이강점으로꼽혔다.오프라인유통망이강한브랜드일수록금융구매확대에유리한것으로분석됐다.삼성전자,비보,오포등메인라인리테일중심브랜드는매장에서소비자에게직접할부조건을설명할수있기때문이다.카운터포인트는소비자들이금융구매를꺼리는주요이유로숨겨진수수료와불명확한약관을꼽았다.프라치르싱카운터포인트리서치선임연구원은“삼성전자는금융구매스마트폰판매량기준시장을주도하고있다”며“삼성파이낸스플러스와기타금융옵션을활용하는전략이효과를내고있다”고설명했다.NBFC중에서는바자즈파이낸스가스마트폰금융시장을이끌고있으며,TVS크레딧이뒤를잇고있다.카운터포인트는향후브랜드와유통채널이장기할부,교환프로그램,선할인등구매부담완화전략을통해수요확보에나설것으로전망했다.스마트폰가격상승이이어지면서인도시장의프리미엄화흐름도금융상품을통해더빨라질가능성이있다.장기할부가고가제품접근성을높이면서중고가·프리미엄스마트폰구매를뒷받침할수있기때문이다.신영빈([email protected])Copyright©이데일리.무단전재및재배포금지.

26-07-05 14:17
0 72
[IT뉴스]다음도 ‘AI 요약’ 참전…네이버·구글과 AI 검색 맞대결

각기다른강점으로승부수…AI검색경쟁판확대(지디넷코리아=박서린기자)네이버와구글에이어다음도‘인공지능(AI)요약’서비스를내놓으며,AI검색경쟁에서맞붙게됐다.이들은모두자체초거대언어모델(LLM)을서비스에적용했으며,각각양질의답변,사용성,정확성을강점으로시장경쟁력을확보한다.5일IT업계에따르면,다음은지난1일검색결과를자동으로요약해주는‘AI요약’베타서비스를공개한바있다.해당서비스는검색창에키워드를입력하면LLM이웹문서를직접분석해검색결과에대한종합적답변을제공한다.앞서네이버와구글도유사서비스를내놓은바있다.네이버와구글은‘AI브리핑’,‘AI오버뷰’를선보였으며각각웹사이트검색시요약된답변옆에원본콘텐츠를표시해준다.(왼쪽위쪽부터시계방향으로)네이버AI브리핑,구글AI오버뷰,다음AI요약.(사진=각사,구글캡처)네이버·다음·구글,자체LLM활용…서비스자율성↑세서비스모두자체LLM을사용한것이특징이다.네이버AI브리핑은하이퍼클로바X를,구글AI오버뷰는제미나이를,다음은업스테이지의‘솔라’를기반으로개발됐다.자체LLM을보유할경우워크플로우(작업흐름)에대한통제권을가져,보다자유롭게활용가능하다.솔라는업스테이지가주관사로참여하는정부의‘독자AI파운데이션모델’프로젝트를통해고도화되고있다.하이퍼클로바X는다량의한국어데이터를학습해한국어에특화됐다.제미나이는멀티모달기술력과구글생태계안의자료를바탕으로방대한지식을학습했다.답변의질·사용성·정확성이무기…AI검색경쟁본격화그중에서도네이버는블로그,카페,지식인,플레이스등실생활에밀접한서비스를30년가까이운영하며쌓아온데이터뿐만아니라자체생태계내의최신자료를기반으로잘요약된답변을내놓는다는것을AI브리핑의특장점으로꼽았다.다음은AI요약의‘사용성’을강점으로내세웠다.다음운영사AXZ관계자는“솔라모델도입으로보다정확하고빠른AI검색을제공할수있고,추후실제생활에서활용성높은버티컬특화영역도구상하고있다.다음의AI검색경쟁력을높이기위해단계적으로준비하고있다”고설명했다.구글은정확성을AI오버뷰의특징으로언급했다.최상위웹결과로뒷받침할수있는정보만표시하도록설계됐으며,타LLM처럼환각(할루시네이션)을일으키거나없는사실을지어내지않는다는것이다.챗GPT가요약한네이버AI브리핑,다음AI요약,구글AI오버뷰차이점.여기에구글은앞뒤가맞지않는쿼리를보다잘감지하는매커니즘을구축하고,풍자·유머콘텐츠를답변에포함하지않도록서비스를개선했다.아울러,콘텐츠정책을위반하는개요에대해서도조치를취했다고덧붙였다.박서린기자([email protected])Copyright©지디넷코리아.무단전재및재배포금지.

26-07-05 14:17
0 63
채팅하기