[기사 스크랩] 클라우드 시대에서 온프레미스로 회귀하는 이유

AI 뉴스

 

• 기사 제목 : 클라우드 시대에서 온프레미스로 회귀하는 이유
• 기사 링크 : https://zdnet.co.kr/view/?no=20240927110953

[기고] 클라우드 시대에서 온프레미스로 회귀하는 이유

 

---

본 문

 

 지난 몇 년간 클라우드에 '올인' 하던 많은 기업들이 온프레미스 인프라로 데이터를 다시 옮기고 있다. 클라우드는 유연성과 민첩성을 향상시키는 해결책으로 환영 받았지만, 많은 데이터 리더들은 서서히 클라우드에도 상당한 단점이 있다는 것을 인지하게 됐다.

 온프레미스를 다시 선택하는 가장 큰 이유는 규제와 비용 때문이다. 기업은 거버넌스나 데이터 주권이 잘못될 경우 발생할 수 있는 비지니스 손실에 대해 경계한다. 또 기업의 클라우드 사용량 확장은 곧 클라우드 비용의 대폭적인 증가로 이어지기 때문에 클라우드 사용량 증가에 대한 비용도 고려해야 한다.

 기업은 클라우드를 고려할때 결정을 내리기 전에 데이터와 워크로드를 더 잘 이해할 필요가 있다. 이에 따라 클라우드 마이그레이션에 대한 결정은 데이터 기반 접근 방식을 적극 권장한다. 많은 기업들은 클라우드에서 특정 워크로드를 실행하는 것이 처음 예상했던 것보다 훨씬 높은 비용이 요구된다는 사실을 인식하고 있기 때문에 워크로드가 운영되는 위치를 재평가하게 됐다.

 데이터 리더가 데이터를 클라우드로 이전할 때 가장 먼저 해야 할 질문은 '왜'다. 클라우드의 가장 주요한 이점은 유연성이고 '비용을 절감하기 위해서'라면 온프레미스를 유지하는 것이 더 나을 수 있다. 

 그렇다고 온프레미스 환경에서 클라우드의 이점을 누릴 수 없다는 말은 아니다. 기업들은 프라이빗 클라우드에서 컨테이너화, 가상화와 같은 접근 방식을 통해 탄력성, 워크로드 격리, 온프레미스 스토리지 밀도 향상과 같이 품질을 향상할 수 있는 방법을 제공받고 있다. 산업이 클라우드 우선주의를 넘어 워크로드 우선주의 시대로 나아가고 있는 것이다.

 워크로드가 퍼블릭 클라우드의 클라우드 네이티브 배포에 더 적합한지 아니면 온프레미스 환경에 더 적합한지에 대한 결정은 양질의 평가지표를 기반으로 이뤄져야 한다. 워크로드 분석을 통해 기업은 어느 쪽이든 결정을 내리기 전에 워크로드의 성능을 관찰할 수 있다. 예측이 가능하고 비교적 안정적인 수준의 리소스를 소비하는 워크로드는 온프레미스에서 실행하는 것이 더 저렴한 경우가 많다. 반면 변동성이 큰 고객 대면 서비스는 탄력성 때문에 클라우드가 더 좋을 수 있다.

 데이터 규정 준수와 거버넌스가 많은 기업, 특히 규제가 엄격한 분야의 기업에게 가장 중요한 문제라는 사실은 부인할 수 없다. 거버넌스 환경은 날이 갈수록 더욱 복잡해지고 있다. 슈렘스 II와 같은 규정의 경우 고객 데이터와 개인정보 보호에 관한 요구사항이 변경돼 더 엄격한 통제와 더 급격한 재정적 결과를 초래한다.

 이러한 배경에서 많은 기업은 데이터에 대한 통제권을 갖고 관할을 벗어나지 않도록 데이터를 안전하게 온프레미스로 마이그레이션하는 방법을 선택하고 있다. 주권에 대한 문제는 주요 클라우드 제공업체가 미국에 기반을 두고 있기 때문에 미국 내 기업에게는 큰 문제가 아니다. 하지만 한국을 포함한 아시아, 유럽, 아프리카 등 다른 지역에 기반을 둔 기업에게는 점점 더 큰 문제가 되고 있다.

 데이터에 대한 통제력을 높이려면 기업이 모든 환경에 걸쳐 일관된 보안 정책을 마련하는 것이 중요하다. 거버넌스가 '언제 어디서나' 일관되게 적용되도록 하면 기업이 규정을 훨씬 쉽게 준수할 수 있다. 전 세계적으로 정의된 하나의 정책을 마련하면 기업은 모든 클라우드 및 온프레미스 환경에 걸쳐 통일된 보안 표준을 따를 수 있다. 이를 통해 위험을 줄이고 시간을 절약하고 인간이 일으키는 오류의 위험을 완화할 수 있다.

 클라우드와 온프레미스 모두 각자의 장점과 단점이 존재하기 때문에 기업은 클라우드에서 클라우드로, 온프레미스에서 클라우드로, 클라우드에서 온프레미스로 데이터를 안전하게 이동할 수 있는 능력이 필요하다. 이는 굉장히 어려운 과제였지만, 최신 데이터 아키텍처가 등장하면서 기업은 데이터에서 더 많은 가치를 창출하는 동시에 클라우드 비용을 최적화할 수 있게 됐다.

 끊임없이 변화하는 비즈니스 환경에서 효율성을 높이고자 하는 기업은 최신 데이터 아키텍처를 채택해 데이터 위치와 관계없이 데이터를 활용하고 비즈니스 인사이트를 도출할 수 있다. 이 때문에 산업 특성에 맞도록 하이브리드 데이터 아키텍처를 구축한 기업은 일관된 거버넌스와 유연성, 민첩성을 동시에 확보할 수 있다. 클라우드와 온프레미스의 장점을 온전히 활용할 수 있는 능력은 기업이 자신의 산업에서 선두주자가 될 수 있는 든든한 원동력이 된다.

---

추가 조사 내용

 

1. 온프레미스와 클라우드의 차이

링크 : https://boardmix.com/kr/reviews/on-premises-vs-cloud/

온프레미스 VS 클라우드 차이점과 미래 발전방향은?

 

 (자세한 사항은 링크 참조)

 

2. 국내 사례

링크 : 

네이버클라우드, 미래에셋증권 온프레미스 환경에 금융 특화 sLLM 구축

 

 네이버클라우드는 금융 환경에 특화된 sLLM(소형언어모델)을 미래에셋증권의 온프레미스 환경에 구축하는 작업을 완료했다고 19일 밝혔다. 해당 sLLM은 네이버클라우드의 '하이퍼클로바X 대시(이하 HCX-DASH)’를 기반으로 한다.

 

 네이버클라우드는 보안 이슈로 클라우드 기반의 생성형 AI 도입을 부담스러워하는 공공과 금융 분야 기업들이 온프레미스 환경에서 생성형 AI를 활용할 수 있도록 주요 파트너사들과 함께 LLM 구축형 비즈니스를 추진했다. 이번 미래에셋증권이 그 첫 사례다.

 ‘구축형 LLM’은 퍼블릭 클라우드가 아닌, 기업이 자체적으로 보유한 IT 인프라 내에서 구현되는 모델이다. 네이버클라우드는 HCX-DASH 모델과 함께 미래에셋증권이 보유한 데이터를 학습시킬 수 있는 클래스 코드 및 기술 지원을 제공하고, 미래에셋증권은 이를 기반으로 사내 데이터를 학습시켜 금융 업무에 최적화된 sLLM을 구축했다.

 미래에셋증권은 현재의 금융 규제 준수와 AI 활용을 통한 비즈니스 혁신이라는 두 가지 목표를 달성하기 위해서는 ‘구축형 LLM’이 최선의 선택이었다며, 사내 AI 적용을 위해서는 업무별로 특화된 소형언어모델 구축이 효율적이라고 판단해 HCX-DASH을 도입해 사내 시스템에 활용하게 됐다고 전했다.

 네이버클라우드 임태건 전무는 “네이버클라우드는 이로써 기업 인프라에 설치해 사용할 수 있는 ‘구축형’까지 갖추며, 고객사가 생성형AI 사용 목적과 환경에 따라 원하는 형태로 선택해 사용할 수 있는 라인업을 한층 더 강화하게 됐다”라며, “특히 ‘구축형 LLM’은 보안의 이유로 클라우드 형태의 LLM 사용이 어려웠던 공공과 금융 기업들이 생성형 AI를 활용할 수 있는 기회가 될 것으로 기대한다”라고 말했다.

 

링크 : 

https://www.apple-economy.com/news/articleView.html?idxno=74578

클라우드 철회, ‘온프레미스 회귀’ 늘어나? - 애플경제

 

 아직 일부이긴 하지만, 클라우드에서 온프레미스로 회귀하는 사례가 차츰 늘어나고 있다. 이는 당초 기대했던 것보다 클라우드 유지비가 사내 시스템에 의존할 때보다 엄청나게 많이 들기 때문이다. 실제로 글로벌 시장분석기관 IDC의 최근 조사에서도 이런 현상이 드러났다

물론 아직은 그런 추세가 대세는 아니다. IDC에 의하면 10개 회사 중 1개도 채 안 되는 회사만이 사내로 다시 이전하고 있다. 그러나 “비용절감 효과는 놀라울 정도”라는 분석이다.

IDC “전체 기업의 8% 가량이 온프레미스 회귀”

IDC는 “온프레미스 회귀 추세는 당초 클라우드 이전에 대한 기대치에 못 미치는 데서 비롯되고 있다”며 “주로 클라우드에서 워크로드를 실행하는 데 드는 비용이 증가하기 때문”이라고 지적했다. 그러면서 미국 시카고의 SaaS 회사인 ‘37 Signals’의 사례를 들었다. 이 회사는 클라우드를 포기하고 자체 하드웨어에 투자함으로써 5년간 무려 1,000만 달러를 절감했다는 얘기다. 이런 사례에서 보듯, 점차 클라우드를 철회하고 온프레미스로 되돌아오는 업체들이 늘어날 전망이다.

다만 IDC는 “온프레미스로의 재이전이 증가하는 추세이지만 ‘대량 회귀 현상’은 아니디”고 밝혔다. 실제로 자체 조사에 따르면 온프레미스로의 워크로드 재이전을 계획하는 회사는 전체의 불과 8-9%에 불과했다. 또한 그 중 대부분은 전체가 아닌 특정 워크로드만 사내로 이전한 경우다.

그럼에도 불구하고 이런 현상은 앞으로 확대될 수도 있다는 전망이어서 눈길을 끈다. 흔히 클라우드 컴퓨팅은 그 동안 확장성이나, 유연성이 뛰어나고, 비용 절감을 기대할 만한 ‘현대 IT 프로젝트의 만병통치약’으로 칭송받고 있다. 그러나 클라우드 환경이 날로 복잡해짐에 따라 애초 도입할 때 기대했던 만큼의 효과가 없다는 실망감도 커지고 있다.

비용 절감 효과, 당초 기대에 못미쳐

무엇보다 비용 절감효과가 예상보다 못미친다는 점이 가장 큰 이유다. 이는 온프레미스 회귀를 부추기는 가장 큰 이유다. 즉 IDC가 조사한 기업의 절반이 “당초 예상보다 클라우드에 더 많은 비용을 지출했다”고 밝혔으며, 59%는 “올해에도 비슷한 액수의 비용이 더 들것”이라고 예상했다.

더욱이 클라우드 환경이 날로 복잡해지고, 예상치 못한 변수가 발생하면서 비용을 정확하게 예측하기 어렵다는 점도 문제다. 타사 SW 비용 증가나, 에너지 비용, 각종 생성AI 솔루션과 같은 신기술의 재정적 영향 등의 요인이 이러한 예산 폭증에 기여하고 있다.

퍼블릭 클라우드, 성능 지연과 병목 특히 심각

또한 비용만이 온프레미스 회귀를 부르는 요인이 아니다. 비용 증가 뿐만 아니라 성능 저하나 보안 문제도 있다. 특히 클라우드가 모든 워크로드에 적합한 것은 아니다보니, 오히려 성능이나 처리 시간의 지연 등의 부작용도 지적되고 있다. 예를 들어, 기술이나 AI 관련 워크로드는 퍼블릭 클라우드 환경에서 성능 병목 현상을 겪는 경우가 많다. 그 때문에 기업들이 온프레미스 회귀를 고려하곤 한다.

특히 보안문제가 심각하다. 일단 클라우드 제공업체가 고급 수준의 보안 조치를 제공하지만 금융 및 의료와 같은 민감한 산업 분야에선 그런 정도의 보안 시스템으론 미흡한 경우가 많다는 지적이다. 그 때문에 많은 기업들은 전체 아키텍처의 온프레미스 회귀에 앞서 가장 먼저 프로덕션 데이터와 백업 시스템, 재해 복구 프로세스 등을 서둘러 환수하는 경우가 늘어나고 있다.

이 외에도 관리 문제가 날로 심각해진다. 멀티 클라우드 또는 하이브리드 클라우드 설정을 관리하는 것이 날이 갈수록 복잡해지고 있다. 여러 클라우드 플랫폼에서 데이터를 관리하는게 쉽지않고, 비용도 많이 들기 때문이다.

IDC는 “그런 측면에서 대기업이 중소기업보다 재이전할 가능성이 더 높다”면서 “이는 더 많은 리소스, 더 큰 작업 부하, 더 복잡한 IT 환경 때문”이라고 했다. 또한 “경제적 요인과 함께 포괄적인 작업 부하의 증가와 관리의 어려움 등이 대기업의 온프레이스 재이전을 가속화하는 역할을 하고 있다”는 것이다.

“장단점 따져가며 각자 상황에 맞는 선택 필요”

그 때문에 실제로 온프레미스 회귀를 단행한 기업들은 대체로 “클라우드를 버리는 것이 더 합리적”이라는 의견을 보이고 있다. 즉 “클라우드 청구서에 쏟아붓는 돈을 자체 하드웨어 구축과 개선에 투자하는게 백번 낫다”는 얘기다.

물론 온프레미스 이전에는 적어도 수년이 걸린다. 클라우드 제공업체와의 계약 기간 때문이다. 많은 경우 최대 4년까지 연장되므로 처음부터 한꺼번에 모든 설정을 사내로 옮기기보단, 점진적인 이전 방식을 택하는 경우가 대부분이다.

그렇다고 온프레미스 회귀가 무조건 바람직한 것은 아니란 지적도 있다. “클라우드와 온프레미스는 각기 그 장단점이 있다”는 얘기다. 그러나 전적으로 클라우드에만 의존하는 기업들은 일부 시스템이든, 전체이든 간에 온프레미스 회귀를 고민해볼 필요가 있다는 조언이다. 만약 자체 데이터 센터 랙이 없다면, 온프레미스 회귀를 위해 해당 랙을 새로 구축해야 한다. 그럼에도 불구하고, 클라우드와 비교하면 엄청나게 저렴하다는게 많은 전문가들의 공통된 견해다.

한편 IDC가 앞서 소개한 ‘37 시그널즈’는 온프레미스 회귀를 통해 지난 5년 동안 1,000만 달러를 절감할 것으로 기대했다. 정작 회귀 후엔 애초 예상했던 것보다 300만 달러나 더 절약할 수 있었다. 또한 “상당한 하드웨어 투자가 필요했지만 온프레미스 회귀 첫해에 회수한 것으로 밝혀졌다”고 IDC는 전했다.

---

마무리

 여기까지 오늘의 기사 스크랩이었습니다. 이번에는 우연히 듣게된 AI 강의에서 '온프레미스'라는 용어를 듣게되어 이와 관련한 기사들을 스크랩해보았습니다. 최근 클라우드라는 것이 굉장히 핫하게 들려왔는 데, 기업 입장에서 보안 이슈로 인해 굉장히 많은 부분에서 온프레미스 방식으로 AI를 운영하게 될 것이라는 기사와 의견들이 많은 것 같습니다. 최근에 기사 스크랩을 잠시 쉬고 있었는 데, 역시 해야되는 것이 트랜드에 대한 꾸준한 흐름을 계속 지켜보아야 되는 것 같습니다. 이렇게 개인적으로 깨달음을 얻으면서 기사스크랩을 꾸준히해야겠다는 생각을 끝으로 이번 기사 스크랩을 마치도록 하겠습니다.