[HBN뉴스 = 이동훈 기자] SK텔레콤(대표이사 CEO 정재헌)은 지난 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 밝혔다.
이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 같이 탑재하여 AI 추론 성능을 높일 수 있는 설루션을 공동 개발한다. 이는 SKT의 AI데이터센터에서 실증할 예정이다.
 |
| 인포그래픽=SKT |
이번 협력의 배경에는 AI 산업이 AI 모델을 만드는 ‘학습(Training)’에서 실제 서비스를 제공하는 ‘추론(Inference)’으로의 패러다임 변화가 있다. 이에 따라 AI 인프라의 핵심과제도 ‘학습’을 위한 막대한 연산 능력보다는 얼마나 적은 전력으로 얼마나 빠르고 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다. 추론은 365일 쉬지 않고 작동해야 되기 때문에 전력 효율이 곧 비용 경쟁력과 직결된다.
하지만 AI 추론은 마치 대형 트럭으로 택배를 배달하는 것처럼 과도한 전력을 소모하고 비용이 높다. 이에 업계에서는 추론에 특화된 전용 칩, 즉 NPU(Neural Processing Unit, 신경망처리장치)가 새로운 대안으로 부상하고 있다.
NPU가 AI 추론 연산을 전담하는 '이종 컴퓨팅(Heterogeneous Computing)' 구조는 시스템의 성능과 효율을 높일 수 있다.
‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서로, AI 추론 서비스에 최적화된 것이 특징이다. 리벨리온의 ‘리벨카드(RebelCard™)’도 대규모 AI 추론에 특화된 NPU다.
SKT는 해당 설루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이며, 해당 서버로 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다.
이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
[저작권자ⓒ HBN뉴스. 무단전재-재배포 금지]
