SKT, AI 기반 B2B 솔루션 ‘AI 클라우드 매니저’ 출시

[하비엔뉴스 = 이지희 기자] SK텔레콤은 AI 기반 B2B 솔루션 ‘SKT 엔터프라이즈 AI 클라우드 매니저’(이하 AI 클라우드 매니저)를 출시했다고 8일 밝혔다.

‘AI 클라우드 매니저’는 SK텔레콤이 보유한 대규모 GPU 자원에 대한 관리·운영 노하우를 상용화한 제품으로, GPU 자원을 효율적으로 활용할 수 있는 AI Job 스케줄러 기반의 GPU 클러스터 특화 솔루션이다.

SK텔레콤이 AI 인프라 자원 최적화와 개발 환경을 통합 관리할 수 있는 ‘AI 클라우드 매니저’를 출시했다. [사진=SK텔레콤]

이를 통해 기업고객은 수 많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다.

통상 AI 서비스 개발은 데이터 전처리 및 저장·관리와 모델 개발·학습, 모델 배포, 모델 추론 등 많은 단계를 거치는데, AI 클라우드 매니저는 각 개발 과정에서 고객이 활용하기 쉬운 기능과 각 과정이 유기적으로 연계될 수 있도록 하는 MLOps(기계학습 운영) 환경을 제공한다.

또 AI 모델 학습 과정에서 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 대규모 병렬 학습 환경을 제공해 학습 속도를 높이고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 등 협업 환경을 구축할 수 있다.

특히 모델 추론 과정에서 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 고객이 선택할 수 있고, 최고 성능·최저 비용·최소 GPU 사용 등 다양한 조합을 지원한다. 이외 RAG(검색 증강 생성) 기술을 도입해 과거 자료를 최신 정보처럼 인식해 제공하는 환각현상(할루시네이션)도 최소화할 수 있다.

김명국 SKT Cloud CO 담당은 “AI 클라우드 매니저를 통해 AI 서비스 도입을 준비하는 기업들은 GPU 자원의 성능을 극대화하고, AI 서비스를 효과적으로 개발할 수 있다”며 “향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고, 이를 관리하는 필수 솔루션들도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도해 나가겠다”라고 말했다.

한편 SK텔레콤은 지난 9월 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축했고, 이번 AI 클라우드 매니저 활용으로 하나금융그룹은 효율적인 GPU 자원 운영과 학습·작업시간 단축 등이 가능해졌다.