• List

• Facebook
• X

KT클라우드, AI 서비스를 위한 슬라이싱 기술을 적용한 AI SERV 출시

KT클라우드는 16일 슬라이싱 기술을 GPU에 적용한 AI 추론 전용 인프라 서비스 AI SERV를 출시했다고 밝혔다. AI SERV는 AI 개발 및 학습을 마치고 AI 서비스를 제공하는 기업들이 필요한 고성능 GPU 인프라를 필요한 만큼만 분할하여 최적의 양을 사용할 수 있는 특징을 가지고 있다. 이로써 비용 효율성뿐 아니라 성능과 호환성 등 추론 영역에서 중요한 조건을 충족시키며, 추론형 AI 인프라 시장의 혁신을 이끌 것으로 기대된다.

KT클라우드의 AI SERV에서는 슬라이싱 기술이 적용되어 기존에 한 장으로 제공되던 GPU 서비스를 0.2장 단위로 5분할하여 제공한다. 이를 통해 최소 사용 가능한 GPU 단위가 작아져서 필요한 때에 필요한 만큼의 인프라를 사용할 수 있게 되었으며, 이는 가격 부담을 줄여주고 다양한 상황에 맞춰 탄력적이고 가변적인 활용이 가능하게 해준다.

또한, 기존의 슬라이싱 기술은 분할된 단위의 GPU에서 성능 열화가 발생할 수 있는 단점이 있었지만, AI SERV는 슬라이싱 분할에도 성능 열화 없이 인프라를 100% 활용할 수 있는 강점을 가지고 있다.

AI SERV는 다른 유사 서비스와 비교했을 때 성능과 호환성 측면에서도 강점을 보인다. 엔비디아 A100 칩을 활용함으로써 경쟁사의 최신 추론형 인프라 서비스와 비교해도 최소 두 배 빠른 연산 속도를 자랑한다. 또한, 엔비디아 쿠다(CUDA) 아키텍처 기반의 높은 호환성과 확장성 역시 AI SERV의 강점 중 하나이다.

KT클라우드는 향후 AI SERV에 사용자의 손쉬운 인프라 확장을 지원하기 위해 모니터링 및 컨테이너 이미지 클로닝 기능을 추가할 예정이며, 부하 발생 시 자동으로 인프라를 확장시키는 오토 스케일링 기능도 제공할 계획이다. 이를 통해 사용자들은 더욱 편리하게 인프라를 확장하고 활용할 수 있을 것으로 기대된다.

Like

0

Upvote

0