【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]`AI 멀티엔진` 시동거는 SKT…韓 `텔코 LLM` 6월 내놓는다

온카뱅크관리자

2024-04-30 16:08:10

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="zMBNF5CnvU">
          <figure class="figure_frm origin_fig" dmcf-pid="qRbj31hLCp" dmcf-ptype="figure">
           <p class="link_figure"><img alt="에릭 데이비스(왼쪽) SKT AI 테크 콜라보레이션 담당과 정민영 SKT AI플랫폼 담당이 30일 열린 텔코 LLM 기자설명회에서 질문에 답하고 있다. SKT 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/30/dt/20240430160812629xuyz.jpg" data-org-width="540" dmcf-mid="U7vkU3vaSz" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/30/dt/20240430160812629xuyz.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            에릭 데이비스(왼쪽) SKT AI 테크 콜라보레이션 담당과 정민영 SKT AI플랫폼 담당이 30일 열린 텔코 LLM 기자설명회에서 질문에 답하고 있다. SKT 제공
           </figcaption>
          </figure>
          <figure class="figure_frm origin_fig" dmcf-pid="BAMC2b5rC0" dmcf-ptype="figure">
           <p class="link_figure"><img alt="텔코 LLM 구축 과정. SKT 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/30/dt/20240430160813886ogwh.jpg" data-org-width="540" dmcf-mid="ucOg1XOJh7" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/30/dt/20240430160813886ogwh.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            텔코 LLM 구축 과정. SKT 제공
           </figcaption>
          </figure>
          <figure class="figure_frm origin_fig" dmcf-pid="bcRhVK1mW3" dmcf-ptype="figure">
           <p class="link_figure"><img alt="에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 기자설명회에서 텔코 LLM 관련 발표를 하고 있다. SKT 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/30/dt/20240430160815107qdqv.jpg" data-org-width="540" dmcf-mid="7PaHRQzTlu" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/30/dt/20240430160815107qdqv.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 기자설명회에서 텔코 LLM 관련 발표를 하고 있다. SKT 제공
           </figcaption>
          </figure>
          <p dmcf-pid="Kkelf9tsCF" dmcf-ptype="general">"얼마 전에 개명해서 이름을 변경하고 싶은데, 절차를 알려주세요"라고 고객센터에 문의가 들어오니 텔코 LLM(거대언어모델)을 활용한 AI(인공지능)가 상담사가 전화하는 동안 해결책을 제공하고, 상담 내용을 요약해준다. 싱가포르에 출장을 간 SKT 이용자가 로밍 요금제를 상담하면, AI가 가입자의 그간 통신 활용 이력과 출장 목적 등 맥락을 파악해 맞춤형 상품을 추천해준다.</p>
          <p dmcf-pid="9aPsbzHEht" dmcf-ptype="general">SK텔레콤이 5G 요금제, T멤버십 등 통신 서비스에 특화된 '텔코 LLM'을 이르면 오는 6월 선보인다. 연내 고객센터 등 실제 서비스에서 활용한다. 한국어향 텔코 LLM을 우선 상용화한 이후 향후 글로벌 'GTAA(글로벌 텔코 AI 얼라이언스)' 협력 논의가 본격화되면, 해외 진출을 위해 글로벌향 텔코 LLM도 본격 집중할 계획이다. </p>
          <p dmcf-pid="2NQOKqXDv1" dmcf-ptype="general">에릭 데이비스 SK텔레콤 AI 테크 콜라보레이션 담당은 30일 서울 을지로 T타워에서 기자들을 대상으로 열린 설명회에서 "한개의 범용 LLM으로 통신사들이 요구하는 서비스 문제를 해결하기에는 어렵다"며 "SKT는 통신 데이터와 도메인 노하우에 맞춰서 조정하는 파인튜닝(미세조정)과 벤치마킹(모델평가)을 거쳐 다양한 텔코LLM을 만들고 상황에 맞게 골라 쓸 수 있도록 하는 멀티 LLM 전략을 가동하고 있다"고 밝혔다. </p>
          <p dmcf-pid="VjxI9BZwh5" dmcf-ptype="general">텔코 LLM은 SK텔레콤의 '에이닷엑스(A.X)'와 오픈AI의 GPT, 앤트로픽의 클로드 등의 범용모델을 기반으로 튜닝했다. 이들과의 협력으로 통신사에 특화된 데이터를 수집하고 정형·비정형 데이터를 선별해 학습시켜 약 8개월에 걸쳐 통신사 특화 LLM을 만들었다. 특히 오픈AI와 협력시에는 3개월로 학습 기간이 줄었다. </p>
          <p dmcf-pid="fxqatZIilZ" dmcf-ptype="general">SKT의 텔코 LLM은 파인튜닝, 휴먼 피드백 기반 강화학습(RLHF)을 거치고 최종 벤치마킹을 하는 사이클을 여러번 가동해 정확도를 높이는 것이 특징이다. 파인튜닝된 텔코 LLM이 답변한 내용에 대해 상담사들이 직접 품질, 만족도 등을 평가하는 과정을 거치고, 언어능력과 추론능력 등에 대한 모델평가를 한다. 가령 요금제를 문의하거나 부가서비스를 변경을 요청해 높은 점수를 받으면 관련 데이터를 더 구축하는 식이다. 이 과정을 거치면 텔코 LLM이 더 '똑똑해진다'는 설명이다. SKT는 범용 LLM 대비 텔코 LLM이 30~35% 가량 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있다고 밝혔다. </p>
          <p dmcf-pid="4MBNF5CnvX" dmcf-ptype="general">'AI 컴퍼니'를 내세우고 있는 SKT는 네트워크 운용 등 인프라를 포함해 고객서비스, 유통망, 사내 업무 등으로 파고들기 위해 특정 업무에 최적화된 LLM을 쓸 수 있도록 멀티 LLM 전략을 택했다. 가령 산업 특성별로 파인튜닝과 벤치마킹을 거치면, 오프라인 상담에서도 대리점 내 '화상상담 부스'에서 AI 상담사와 상담을 할 수 있고, PR(홍보) 업무에도 보도자료 초안 작성을 도울 수 있다. 법무팀에서는 계약서 체크리스트를 검토하고 유사사례를 검색해 활용할 수 있다. 인프라 운용시에도 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 답변을 빠르게 제공해 해결방안을 쉽게 찾을 수 있다. </p>
          <p dmcf-pid="8Rbj31hLhH" dmcf-ptype="general">이날 SKT는 통신사들이 생성형 AI 애플리케이션을 구축, 개발할 수 있는 '인텔리전스 플랫폼'도 공개해 엔터프라이즈 등 B2B(기업간거래) 영역에서도 활용 가능성을 열었다. 범용 LLM을 활용한 일종의 '기업용 AI 개발·운용 패키지'로, 서비스 범위를 넓혀 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트, 인프라 어시스턴트, 사내 업무 혁신 등 플랫폼 개발에 드는 시간과 비용을 절감할 수 있을 것으로 기대했다. 가령 금융 분야에서는 대출약관 질의와 대출 상품 추천에 활용하는 등 기업 관리자가 다양한 분야의 생성형 AI 앱(챗봇) 제작이 가능하도록 하는 서비스를 제공할 수 있다. </p>
          <p dmcf-pid="6J2kU3vaWG" dmcf-ptype="general">당장은 한국향 텔코 LLM으로 출시되지만, 글로벌 협력이 구체화하면 글로벌 텔코 LLM도 본격 출시한다. SKT는 지난 2월 스페인 바르셀로나에서 열린 'MWC(모바일월드콩그레스) 2024'에서 도이치텔레콤, 이앤그룹, 싱텔그룹, 소프트뱅크와 'GTAA(글로벌 텔코 AI 얼라이언스)' 창립 총회를 열고 텔코 LLM 사업 수행 합작법인을 연내 출범키로 했다고 밝힌 바 있다. 지난해 설립한 '글로벌 AI 플랫폼 코퍼레이션 코리아' CTO를 겸하고 있는 정민영 SKT AI플랫폼 담당은 "한국에서도 개발 관련 별도 지사를 세워 '퍼스널AI 어시스턴트'를 포함해 글로벌 서비스 신규 개발을 위해 노력하고 있다"며 "글로벌 텔코 LLM은 전세계 통신사가 표준과 업무가 비슷해 모든 데이터가 다 필요하지 않아 적용이 까다롭지 않을 것"이라고 말했다. 김나인기자 silkni@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>

더킹덤 "THE킹덤으로 팀명 변경… 유일무이한 존재될 것" '컴백' 문준영 "앞으로는 실수하지 않는 사람으로 살아갈 것"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기