[기사 스크랩] 자체 개발 거대언어모델로 ‘AI 고객센터’ 여는 SKT

AI 뉴스

 

• 기사 제목 : 자체 개발 거대언어모델로 ‘AI 고객센터’ 여는 SKT
• 기사 링크 : https://n.news.naver.com/mnews/hotissue/article/032/0003333070?type=series&cid=2002206

자체 개발 거대언어모델로 ‘AI 고객센터’ 여는 SKT

 

---

본문 및 헤드라인

 

 SK텔레콤이 자체 개발한 텔코 거대언어모델(LLM) 등을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템의 시범 서비스를 지난달부터 한 달여간 성공적으로 운영했다고 18일 밝혔다.

 SK텔레콤은 앤스로픽 등과 협력해 다양한 통신 전문 지식을 학습한 통신업 특화 텔코 LLM을 개발해왔다. 고객센터 상담 전문가 수십명이 참여해 유용한 답변을 하는지 등을 평가하고, 부족하다는 평가를 받은 부분과 관련된 데이터를 추가 학습시키는 과정을 반복하며 성능을 고도화했다.

 고객에게 다양한 답변을 빠르게 전하는 것이 목표다. 대표적인 기능은 상담사가 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있는 AI 지식 검색 도우미 서비스다. 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이, 챗GPT처럼 상담사가 자연어로 질문을 입력하면 AI가 정보를 검색해 정리해준다. 내년부터 모든 고객 상담 업무에 전면 적용할 예정이다.

 AI 서류 자동 처리 시스템도 구축했다. 문자, e메일 등으로 보낸 사진·스캔 문서 등 다양한 형태의 서류를 AI가 자동으로 분류하고 처리해줌으로써 증빙 서류 확인에 걸리는 시간을 크게 단축할 수 있을 것으로 기대된다. 향후 서류 내용까지 자동으로 판독할 수 있도록 서비스를 고도화할 예정이다.

 다음달부터는 텔코 LLM으로 상담 결과를 분류·요약하는 상담 후속 업무 자동화 시스템을 오픈한다. 현재 상담 종료 후 결과 정리에 평균 30초 정도 걸리지만, 이러한 업무를 줄이면 다른 고객과의 상담을 더 늘릴 수 있을 것으로 보인다.

 국내 주요 고객센터 중 LLM을 적용한 AI 상담 업무 지원 시스템은 처음이라고 SK텔레콤은 전했다. 지난 시범운영 기간 동안 상담사들의 업무 효율이 높아지고, 경력이 짧은 상담사들의 고객 응대 부담을 덜 수 있었다고 한다. 홍승태 SK텔레콤 고객가치혁신 담당은 “SK텔레콤은 텔코 LLM 기반 상담 업무 지원 시스템을 발판으로 다양한 AI 기술을 고객 상담 업무에 활용해 고객센터 상담 서비스에서 한 단계 더 도약하겠다”고 밝혔다.

---

추가 조사할 내용 및 요약

 

1. 자체 LLM 개발하는 국내 기업들...NC도 6번째로 합류

링크 : https://www.sisaprime.co.kr/news/articleView.html?idxno=19230

자체 LLM 개발하는 국내 기업들...NC도 6번째로 합류 - 시사프라임

 

 국내 기업에서 '대규모 언어 모델(LLM, Large Language Models)' 개발에 열을 올리고 있다. 특히 오픈AI(OpenAI)의 챗GPT처럼 공개된 API를 자사 서비스에 적용하는 것뿐 아니라 네이버, 카카오 등 각 기업에서 자체 LLM을 개발 중이다.

 대규모 언어 모델의 대표가 된 챗GPT의 대흥행으로, 생각한 대로(글을 적은 대로) 새로운 그림을 그리고 글을 써 주는 생성AI 시장이 주목받기 시작했다.

 특히 네이버와 카카오에서 LLM 개발에 연구개발비를 역대 최대 규모로 투자하고 있는 것에 주목할 만하다. 네이버는 자체 개발 LLM '하이퍼클로바(HyperCLOVA X)', 카카오는 '코GPT(koGPT) 2.0'을 공개할 예정이다. 둘 다 연내 공개 예정이다.

 여기에 지난 16일에는 엔씨소프트(NC)도 자체 AI 언어모델 '바르코(VARCO)'를 공개했다. 국내 게임사 중에서는 최초이며 이달 안에 한국어와 영어 모두 사용할 수 있는 이중언어(bilingual) 모델도 공개할 예정이다.

 더불어 NC는 'VARCO Studio'라는 이름의 생성 AI 플랫폼 3종 ▲이미지 생성툴(VARCO Art) ▲텍스트 생성 및 관리툴(VARCO Text) ▲디지털휴먼 생성 및 편집, 운영툴(VARCO Human)을 운영한다.

 LG는 지난 7월 LLM '엑사원(EXAONE)'의 2.0 버전을 공개했다. 엑사원은 LG AI연구원에서 개발한 세계 첫 양방향 멀티모달 AI로, 계속해서 고도화 작업 중에 있다.

 KT는 오는 10월 초거대 AI '믿음(MI:DEUM)'을 공개하고 상용화 계획에 있다. SKT의 자체 개발 LLM은 '에이닷(A.)'에 적용되어 상용화 중이다. 이와 별개로 '챗T'에는 오픈AI GPT 모델을 적용하여 서비스하고 있다.

 이로써 국내 총 6개의 기업에서 자체 개발 LLM을 공개했다. 국내 개발 LLM의 경우 대체로 한국어 특화 전략을 취하고 있다. 특히 하이퍼클로바 X는 한국어를 가장 잘 이해하는 AI를 표방한다.

 하지만 내년 구글 바드가 한국어를 정식 서비스하게 되었을 때 해외 기업들과 비견되는 실질적인 경쟁력을 입증해야만 할 것이고, 주력 서비스에 적용하여 콘텐츠를 제공하는 등 국내 상용화에서도 경쟁해야 할 것이다. 각 기업 LLM 개발 및 고도화에 귀추가 주목된다.

 

2. 한국 인공지능 모델 11개…미국·중국 이어 3위

링크 : https://www.etnews.com/20240830000199

한국 인공지능 모델 11개…미국·중국 이어 3위

 

 한국이 '챗GPT' 수준의 거대언어모델(LLM)을 총 11개 개발하며 글로벌 AI 시장에서 선두권의 개발력을 보유한 것으로 나타났다.

 미국 민간연구단체 에포크AI(EPOCH AI)가 파악한 한국의 초거대 인공지능(AI) 모델 숫자는 총 11개로 미국(64개), 중국(42개)에 이어 3위를 차지했다. 4위는 프랑스(6개), 5위는 영국(5개)이 뒤를 이었다.

 이는 에포크AI가 2020년에서 2023년까지 출시된 '챗GPT-3' 수준 AI 모델을 대상으로 자체 조사한 것을 최근 업데이트한 자료다. 2020년에서 2023년까지 4년간 총 144개가 출시된 것으로 파악됐다.

 이중 한국에서 개발된 11개 모델은 KT(믿음), LG(엑사원1.0, 2.0) 네이버(하이퍼클로바 시리즈 3종), 엔씨소프트(바르코)와 삼성전자(삼성 가우스 3종), 코난테크놀로지(코난 LLM)로 파악됐다.

 에포크AI는 스탠포드대 인간중심AI연구소(HAI)에서 발간하는 'AI 인덱스'의 머신러닝 모델 현황 원자료 제공기관으로 공신력을 인정받고 있다.

 미국 스탠포드대 기초모델연구센터(CRFM) 발표에서도 총 359개 AI 모델 데이터 중 한국은 미국(233개), 중국(55개)에 이어 10개로 이스라엘과 공동 3위에 올랐다. 5위는 캐나다(9개)와 영국(9개)이다.

 한국 AI 모델의 경우 올해 출시된 SK텔레콤의 LLM '에이닷엑스(A.X)' 트웰브랩스의 '페가수스' '마렝고' 등도 추가로 목록에 이름을 올렸다.

 올해 상반기 스탠포드대 'AI 인덱스'에 한국 AI 모델 누락된 이후 주요 글로벌 연구기관 데이터에 한국 데이터가 속속 수정 반영되면서 한국 AI 모델 개발력이 인정받고 있다.

 한국은 AI 모델 출시에서만 이미 두자리 숫자를 넘기며 주요 AI 개발 국가로 부상했다.

 정부는 이달 윤석열 대통령을 위원장으로 하는 국가인공지능위원회 출범을 계기로 AI 분야 세계 3대 강국을 목표로 하고 있다. AI 분야 산업진흥과 규제대응 등 범부처 차원의 정책 대응을 준비 중이다.

 

3. 엔씨소프트, 자체 AI 언어모델 ‘바르코’ 공개··· 게임 개발 플랫폼에 AI 확대

링크 : https://www.cio.com/article/3510714/%EC%97%94%EC%94%A8%EC%86%8C%ED%94%84%ED%8A%B8-%EC%9E%90%EC%B2%B4-ai-%EC%96%B8%EC%96%B4%EB%AA%A8%EB%8D%B8-%EB%B0%94%EB%A5%B4%EC%BD%94-%EA%B3%B5%EA%B0%9C%C2%B7%C2%B7%C2%B7-%EA%B2%8C.html

엔씨소프트, 자체 AI 언어모델 ‘바르코’ 공개··· 게임 개발 플랫폼에 AI 확대

 

 바르코 브랜드로 운영되는 자체 언어모델(LLM)의 종류는 크게 ▲기초 모델(Foundation) ▲인스트럭션 모델(Instruction) ▲대화형 모델(Dialogue) ▲생성형 모델(Generative)로 나뉜다. 각 LLM은 매개변수(Parameter)의 규모에 따라 성능이 구분된다.

 엔씨는 개인과 기업이 쉽게 활용할 수 있는 소형-중형 규모의 한국어 전용 ‘바르코 LLM’을 우선 공개했다. 해당 모델은 개발 초기 단계부터 엔씨(NC)가 직접 선별한 고품질 데이터를 위주로 학습해 사용자가 쉽고 편리하게 비즈니스에 활용할 수 있다는 점이 특징이다.

 엔씨에서 서비스하는 모델들은 아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)를 통해서 배포된다. 아마존 세이지메이커 점프스타트는 기초 모델, 기본 제공 알고리즘과 사전 구축된 머신러닝 솔루션이 포함된 머신러닝 허브다. 아마존과 협업을 통해 이용자들은 전세계에서 어디서든 한달 간 무료로 바르코 LLM을 사용할 수 있다.

 엔씨는 한국어와 영어 모두 사용할 수 있는 이중언어(bilingual) 모델도 이달 안에 선보일 예정이며, 이후 순차적으로 규모 별 언어모델을 종류에 맞춰 공개할 계획이다.

 이날 엔씨(NC)는 바르코 LLM 기반 생성 AI 플랫폼 3종도 추가로 공개했다. 여기에는 ▲이미지 생성툴(VARCO Art) ▲텍스트 생성 및 관리툴(VARCO Text) ▲디지털휴먼 생성 및 편집, 운영툴(VARCO Human)가 있다. 생성 AI 플랫폼 3종은 ‘바르코 스튜디오(VARCO Studio)’라는 명칭으로 서비스된다. 바르코스튜디오는 게임 개발에 필요한 기획과 아트 등의 분야에서 효율성을 끌어올리는 것이 목표다.

 엔씨는 바르코 LLM을 기반으로 디지털 휴먼, 생성형 AI 플랫폼, 대화형 언어모델 등 다양한 AI 연구와 사업에 본격 나선다. 이외에도 교육, 금융, 바이오 분야 등의 파트너들과 협업을 통해 전문지식을 결합한 도메인 전용 모델도 선보일 계획이다.

 엔씨소프트 이제희 CRO(최고연구책임자, Chief Research Officer)는 “VARCO는 현재까지 공개된 유사한 크기의 한국어 언어모델 대비 최고의 성능을 보여주고 있다”며 “앞으로 VARCO를 통해서 게임 콘텐츠 개발은 물론 다양한 도메인에서 새로운 가치와 경험을 제공하겠다”라고 밝혔다.

 바르코 LLM에 대한 상세 설명은 테크 블로그 ‘NC 리서치’에서 확인할 수 있다.

---

마무리

 여기까지 오늘의 기사 스크랩이었습니다. 오늘 자체 LLM 모델을 보유하고 있는 SKT 사의 AI 사담 업무 지원 서비스 성공에 대한 기사를 살펴보았습니다. 해당 기사를 통해서 해당 서비스에 대한 내용과 목표 그리고 업무에 도입된 AI 기술에 대해서 알 수 있었고 시범 운영 기간 동안의 업무 효율과 성과에 대해서 확인할 수 있었습니다. 이와 더불어 국내 기업들이 보유하고 있는 LLM 모델에 대해서 살펴보고 NC 사의 LLM 모델과 향후 방향에 대해서 알아보았습니다.