[기사 스크랩] SKT 에이닷, '멀티 LLM 에이전트' PC 버전 출시

AI 뉴스

 

기사 제목 : SKT 에이닷, '멀티 LLM 에이전트' PC 버전 출시

기사 링크 : https://zdnet.co.kr/view/?no=20241022094250

SKT 에이닷, '멀티 LLM 에이전트' PC 버전 출시

---

본문 및 헤드라인

 

 

 SK텔레콤의 AI 개인비서 서비스인 ‘에이닷’이 PC 버전 ‘멀티 LLM 에이전트’를 22일 공개했다.

 PC 버전 출시는 모바일 중심으로 성장해 온 에이닷의 첫 번째 웹 서비스로, 크롬이나 사파리 등 다양한 브라우저를 통해 PC나 태블릿에서도 손쉽게 접근할 수 있게 됐다는 점에서 의미가 있다.

 멀티 LLM 에이전트에서는 챗GPT 3종과 앤스로픽의 클로드 3종, 퍼플렉시티, 그리고  자체 모델인 A.X까지 총 8종의 LLM모델을 무료로 사용할 수 있다. 특히 서비스 오픈 후 별도의 이용료 없이 베타 서비스를 운영하며, GPT 4o나 클로드 opus처럼 타 서비스 유료 구독 기반의 모델도 베타 서비스 기간 동안 무상으로 제공된다.

 모바일에서와 마찬가지로 모델에 동일한 질문을 하고 싶을 경우 일일이 복사해서 붙여 넣는 번거로움 없이 ‘다른 AI 비교하기’ 기능을 통해 한 번에 비교할 수 있다. 후속 대화를 진행할 때도 모델을 변경하면 이전 대화 맥락을 반영해 자연스럽게 이어지는 교차 대화가 가능하다는 점도 큰 장점이다.

 사용자는 ‘맞춤 답변’ 설정을 통해 본인의 정보를 참고한 답변을 받거나, 3줄 요약 등 형식을 자유롭게 지정할 수 있다. 또한 '추가 설정’ 메뉴에서 개인이 자주 사용하는 요청사항을 저장해 놓으면, AI가 개인 선호에 맞는 답변을 제공해 편의성을 더욱 향상시켰다.

 현재 제공되는 8종의 모델 외에도 구글 제미나이와 GPT o1-프리뷰, GPT o1-미니 등 최신 LLM을 추가하는 것을 검토하고 있다.

 멀티 LLM 에이전트 PC 버전 출시를 기념한 AI 활용 사례 공모전도 진행될 예정이다. 우수 프롬프트 및 홍보 콘텐츠를 모집하여 1등에게 1천만원의 상금을 수여하는 등 총 2천만원 규모의 시상을 진행할 예정이며, 상세 내용은 11월 초 에이닷 앱 내 이벤트에서 확인할 수 있다.

 장성운 SK텔레콤 AI서비스사업부 운영기획 담당은 “이번 PC 버전 출시로 누구나 다양한 LLM을 보다 쉽고 간편하게 이용할 수 있게 됐다”며 “앞으로도 에이닷을 통해 글로벌 최첨단 AI 사용 경험을 지속적으로 제공해 나갈 것”이라고 강조했다.

 

---

추가 조사할 내용 및 요약

 

1. 멀티 LLM

링크 : https://www.digitaltoday.co.kr/news/articleView.html?idxno=492292

오픈AI 비용 부담 속 대안 모색 활발...멀티 LLM 전략 확산 - 디지털투데이 (DigitalToday)

 

 [디지털투데이 황치규 기자] 다양한 분야 소프트웨어 및 인터넷 서비스들이 거대언어모델(LLM) 기반 생성 AI 기술을 기존 서비스에 접목하고 있는 가운데, 특정 LLM에 의존하지 않고  여러 LLM을 버무려 쓰려는 흐름이 확산하고 있다.

 특히 오픈AI 같은 상용 LLM 활용에 따른 비용 부담 속에 기업들이 오픈소스 LLM을 포함해 보다 저렴한 기술을 주목하면서 멀티 LLM 트렌드가 더욱 탄력을 받는 양상이다. 중요한 작업에는 오픈AI를 쓰고 상대적으로 간단한 것들은 비용이 덜 들어가는 LLM을 활용하는 식이다.

 디인포메이션 최근 보도를 보면 세일즈포스, 윅스 등 초기부터 오픈AI LLM을 활용해온 기업들이 비용 측면에서 좀더 저렴한 대안을 찾는데 적극 나섰다.

 세일즈포스는 올 초만 해도 이메일 초안이나 미팅 요약을 자동으로 만들어주는 생성 AI 기능을 활용하기 위해 오픈AI GPT-4만 활용했지만 지금은 오픈소스 및 자체 개발한 LLM도 자사 AI 서비스들에 투입하려는 모습이다.

 일찌감치 오픈AI를 활용해왔던 일부 회사들도 최근 비용 절감 일환으로 대안들을 테스트하기 시작했다는 소식이다.  웹 디자인 회사 윅스(Wix)는 지난해 자동으로 웹사이트용 텍스트, 이미지 레이아웃을 자동으로 생성하는 서비스를 위해 오픈AI 소프트웨어를 사용해왔다. 처음에는 오픈AI에서 LLM 서비스를 구입했짐난 지금은 오픈소스 모델들 및 구글 버텍스 AI 모델도 비용 절감 측면에서 테스트하고 있다고 디인포메이션은 전했다.

 월스트리트저널(WSJ)에 따르면 클라우드 기반 화상회의 서비스인 줌의 경우 자체 개발한 보다 단순한 AI를 중간중간에 섞어 쓰는 방식으로 비용을 낮추려 하고 있다. 줌은 오픈AI, 메타 LLM들을 포함해 여러 LLM들에 기반하는 보다 작고 저렴한 AI 비서를 개발했다. 어려운 작업에만 고가 LLM을 활용하는 구조다.

 다그스터(Dagster) 공동 창업자 겸 CEO인 피터 헌트는 최근 영상 및 오디오 콘텐츠를 자동으로 요약해주는 서머라이즈테크(Summarize.tech)를 시작했다.

 오픈AI GPT3.5를 사용해왔지만 최근 오픈소스 모델인 미스트럴-7B-인스트럭트로 바꿨다. 이를 기반으로 서머라이즈테크는 한 달에 약 2000달러에 달하던 오픈AI 비용을 1000달러 미만으로 낮췄고 사용자들도 품질에 크게 불만을 제기하지 않았다고 회사 측은 전했다.

 마이크로소프트의 경우 오픈AI와 동맹에 기반한 생성AI 전략을 강조해왔다. 간판 서비스들에 오픈AI 기술을 활용한 AI 비서인 코파일럿을 탑재했고 애저 클라우드를 통해 오픈AI LLM들도 판매하고 있다. 회사 측에 따르면 현재 1만8000개 가량 고객사들이 오픈AI 소프트웨어를 애저를 통해 사용하고 있다. 8월 1만1000개 수준에서 크게 늘었다.

 하지만 생성AI를 활용하는 것과 관련해선  마이크로소프트도 원가 부담에서 자유롭지 않아 보인다.

 마이크로소프트의 경우 오픈AI와 협력해 프로그래머들이 코드를 생성 및 수정할 수 있는  깃허브 코파일럿을 정액제 유료 서비스로 제공하고 있다. 깃허브 코파일럿 사용자는 150만명이 넘었지만 손익 분기점에는 이르지 못했다는 예기도 나오고 있다.

ㆍ아직은 팔수록 손해?...빅테크, 돈 버는 생성AI 전략 찾아라

 WSJ이 인용한 한 소식통에 따르면 올해 상반기 기준 월 10달러를 내고 깃허브 코파일럿을 쓰는 개인 개발자들에 대해 마이크로소프트는 사용자당 평균 월 20달러를 손해보고 있는 것으로 나타났다. 이에 마이크로소프트도 저렴한 LLM 개발에 착수했다는 보도도 나왔다.

ㆍAI 비용 급증..."마이크로소프트, 오픈AI보다 훨씬 저렴한 플랜B 개발 착수"

 

2. KT 멀티 LLM 전략

링크 : https://www.khan.co.kr/economy/economy-general/article/202406041412001

KT, MS와 ‘AI 맞손’…멀티 LLM 전략으로 간다

 

 KT가 마이크로소프트(MS)와 인공지능(AI)·클라우드 분야에서 대규모 협력에 나선다. 거대언어모델(LLM) ‘믿음’을 보유한 KT는 챗GPT 개발사 오픈AI에 투자해온 MS와의 협력을 통해 ‘멀티 LLM’ 전략으로 방향을 선회하게 됐다.

 KT는 3일(현지시간) 미국 워싱턴주 레드먼드 MS 본사에서 AI·클라우드·정보기술(IT) 분야의 긴밀한 협력을 위해 전략적 파트너십을 맺었다고 4일 밝혔다. 협약식에는 김영섭 KT 대표와 사티아 나델라 MS 최고경영자(CEO)가 참석했다.

 이 협약으로 KT와 MS는 AI·클라우드 연구·개발 공동 프로젝트, 한국형 AI·클라우드·IT 서비스 개발, AI·클라우드 이노베이션 센터 구축, AI·클라우드 인재 양성을 함께한다. AI GPU팜(대규모 데이터를 처리하는 컴퓨팅 시스템)과 이를 위한 데이터센터 구축에도 나선다.

 KT는 구체적 투자 협력 규모를 밝히지 않았지만, 수조원대에 이를 것으로 예측되고 있다. 양사는 오는 9월까지 협력 영역을 구체화할 계획이다. KT 측은 “단순 기술 협력을 넘어 MS와 전략적 파트너가 된 것”이라고 했다.

 KT는 2022년 자체 개발한 AI 모델 ‘믿음’의 상용화를 발표하고 기업간거래(B2B) 시장 공략에 나섰다. 클라우드 등 AI 인프라부터 고객이 사용하는 AI 응용 서비스까지 패키지로 제공하는 것이다. KT는 이번 협력으로 오픈AI의 GPT 등도 활용할 수 있게 됐다. MS는 클라우드 컴퓨팅 플랫폼 ‘애저’도 보유하고 있다. 고객사에 제공할 수 있는 옵션을 늘리고, 자체 기술도 협력을 통해 강화하게 된 셈이다. 구글, 메타 등 빅테크가 생성형 AI 기술을 빠르게 선도하면서 글로벌 합종연횡이 이어지자 KT 역시 MS와 ‘맞손’ 전략으로 선회한 것으로 보인다.

 두 회사는 이번 협력에서 ‘소버린 AI·클라우드’ 공동 개발도 강조했다. 정보 주권을 강조하는 ‘소버린(sovereign)’은 자국 문화와 언어에 최적화된 AI 모델과 서비스를 만드는 개념이다. 각종 규제·보안 이슈가 있는 금융과 공공 분야는 해외 기업의 진입이 쉽지 않은 영역이라 MS에서도 국내 파트너를 찾던 것으로 전해졌다.

 김 대표는 “KT가 쌓아온 국내 사업 경험과 마이크로소프트의 기술력이 결합해 경쟁력 있는 AI 혁신 파트너로 거듭날 수 있게 됐다”며 “MS와 전방위적 협력으로 시장의 변화에 신속히 대응하고, 한국의 디지털 혁신에 이정표가 되겠다”고 말했다.

---

마무리

 여기까지 오늘의 기사스크랩이었습니다. LLM 모델이 점점 진화하고 있는 가운데, 기업들은 하나의 LLM 모델을 사용하는 것이 아닌, 비용 절감을 위해서 상황에 맞는 LLM 모델을 사용할 수 있도록 고급 모델부터 저가용 모델에 사용에 이르기까지 다양한 LLM 모델을 사용하는 흐름을 살펴보았습니다. LLM, 멀티 LLM 그리고 LMM에 이르기까지 계속해서 변해가는 과정 속에서 흐름을 잘 살피는 것이 중요한 것 같습니다.