최근 기업들의 생성형 인공지능(AI) 활용이 본격화되면서, 이들의 클라우드 인프라 전략에도 심상치 않은 변화의 조짐이 나타나고 있습니다. 초기에는 퍼블릭 클라우드를 중심으로 AI 도입이 활발하게 이루어졌지만, AI 활용이 점차 고도화됨에 따라 온프레미스 또는 프라이빗 클라우드 환경으로 다시 눈을 돌리는 기업들이 늘고 있다는 분석입니다.
🤔 왜 기업들은 퍼블릭 클라우드에서 온프레미스/프라이빗 클라우드로 회귀할까?
그 이유는 기업들이 AI를 단순 활용하는 수준을 넘어, 핵심 역량으로 ‘내재화’하는 과정에서 퍼블릭 클라우드만으로는 충족하기 어려운 다양한 요구사항들이 발생하기 때문입니다.
🔒 데이터 프라이버시 및 보안 문제
글로벌 IT인프라 솔루션 기업의 한 임원은 다음과 같이 지적합니다.
“처음에는 퍼블릭 클라우드 환경에서 챗GPT를 위주로 PoC를 진행했다가, 프라이버시 문제에 직면하면서 온프레미스나 프라이빗 클라우드에 대한 니즈를 느끼는 고객사들이 많다. AI가 고도화될수록 그것을 잘 활용하려면 결국 기업 내부 데이터를 넣어야 고품질의 결과를 얻을 수 있는 건데, 범용 퍼블릭 클라우드로는 리스크가 크기 때문이다.”
⚙️ 본격적인 AI 내재화의 한계
초기에는 퍼블릭 클라우드 환경에서 외부 생성형 AI 서비스를 단순하게 테스트하는 것이 가능했지만, 특정 산업 분야에 특화된 파인튜닝(미세조정), 사내 시스템과의 통합, 그리고 업무 워크플로 연동 등 본격적인 AI 내재화 단계에 접어들면 퍼블릭 클라우드의 한계가 명확해집니다. 특히 업무용 문서, 고객 정보, 계약서 등 민감한 데이터를 퍼블릭 클라우드에 올리는 것은 규제 및 보안 이슈와 직접적으로 연결될 수밖에 없습니다. 실제로 많은 기업들이 내부 보안 정책에 따라 외부 생성형 AI 호출 자체를 제한하거나 데이터 이전을 원천적으로 차단하고 있는 실정입니다.
🏢 통제 가능한 환경에서 AI 구축 수요 증가
이러한 배경 하에 기업들은 보다 통제 가능한 인프라 환경에서 AI를 구축하고자 하는 강력한 수요를 보이고 있으며, 자연스럽게 프라이빗 클라우드 또는 온프레미스 기반 전략에 대한 관심이 높아지고 있습니다. 특히 금융, 공공, 제조 등 엄격한 규제를 받는 산업군에서 이러한 흐름은 더욱 뚜렷하게 나타나고 있습니다.
🛡️ 주요 인프라 기업들의 발 빠른 대응
주요 IT 인프라 기업들은 이러한 시장의 변화에 발맞춰 온프레미스 또는 프라이빗 클라우드 기반의 AI 구축 전략을 적극적으로 강조하고 있습니다.
- 델 테크놀로지스: ‘델 AI 팩토리’를 통해 기업이 자체 데이터센터나 프라이빗 클라우드 환경에서 생성형 AI 모델을 구축하고 운영할 수 있도록 지원합니다.
- HPE: ‘HPE 프라이빗 클라우드 AI’를 통해 AI 학습 및 추론에 필요한 고성능 인프라를 서비스형으로 제공하며, 프라이빗 클라우드 환경에서의 AI 구축을 용이하게 합니다.
- IBM: ‘왓슨 엑스(watsonx)’ 플랫폼을 설치형으로 제공하여 기업들이 자체 환경에서 프라이빗 AI를 운영할 수 있도록 지원합니다.
☁️ 퍼블릭 클라우드 기업들의 프라이빗 클라우드 전략 강화
흥미로운 점은 퍼블릭 클라우드를 주축으로 성장해 온 클라우드 서비스 제공사(CSP)들 역시 최근 프라이빗 클라우드 전략을 강화하는 추세를 보인다는 것입니다. 이들은 대체로 퍼블릭 클라우드의 편리성과 확장성을 유지하면서도 프라이빗 클라우드 형태로 구축하여 데이터 보안 및 규제 준수 요구를 충족시키는 하이브리드 방식에 집중하는 경향을 보입니다.
국내 CSP들의 움직임
- 네이버클라우드: ‘뉴로클라우드’는 고객의 데이터센터 내에 클라우드 인프라를 설치하여 생성형 AI를 학습시키는 프라이빗 환경을 구현하는 동시에, 네이버의 자체 생성형 AI 서비스인 ‘하이퍼클로바X’를 연동하는 형태로 완전관리형 하이브리드 클라우드를 제공합니다. 이는 최근 한국수력원자력, 한국은행 등 주요 공공 및 금융 고객을 확보하며 네이버클라우드의 새로운 성장 동력으로 주목받고 있습니다.
- NHN클라우드: 고객의 데이터센터에 NHN클라우드의 인프라와 서비스를 직접 구현할 수 있도록 지원하는 완전관리형 프라이빗 클라우드 서비스인 ‘NHN 클라우드 스테이션’을 새롭게 출시하며 시장 경쟁에 뛰어들었습니다.
💡 결론: 복잡하고 다각화되는 기업의 AI 클라우드 전략
업계 관계자는 이러한 흐름에 대해 다음과 같이 분석합니다.
“이 같은 흐름은 기업들이 단순히 레거시로 회귀하고 있다는 의미로 해석하기보다는, AI가 고도화되면서 기업들의 클라우드 전략이 점점 복잡해지고 다각화되고 있는 것으로 봐야 한다. 온프레미스부터 퍼블릭, 프라이빗 등 다양한 환경을 조합해서 AI 워크로드에 어떻게 최적화할지 고민이 필요한 것이다.”
결국 생성형 AI 시대에 기업들은 데이터 보안, 규제 준수, 그리고 AI 내재화라는 다양한 요구사항을 충족시키기 위해 기존의 단일화된 클라우드 전략에서 벗어나, 각 환경의 장점을 활용하는 복합적인 전략을 모색해야 할 것으로 보입니다.