NO.1: 경기도 이천시 마장면 이치리 312-1
KT클라우드는 오는 27일 인공지능(AI) 트레인(Train)과 AI SERV 신경망처리장치(NPU) 출시 기념 웨비나를 개최한다고 25일 밝혔다.
AI 활용에 필요한 방대한 양의 데이터를 저장하고 관리하기 위해서는 적시에 그래픽처리장치(GPU) 물량을 확보하는 것은 물론,고가의 인프라 비용에 대한 대비가 무엇보다 중요하다.
이에 KT클라우드는 지난 5월 AI 기술 개발에 필요한 AI 인프라를 경제적으로 활용 가능한 학습과 추론 전용 상품으로 AI Train과 AI SERV NPU를 각각 출시한 바 있다.
AI Train은 대규모 GPU 클러스터링을 제공하는 엔비디아 GPU 기반 학습 전용 인프라로 H100,A100,V100 등 고객 니즈에 따라 맞춤형 서비스를 제공한다.AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라로,기존 GPU 기반 추론용 인프라 대비 가성비를 높이고,자동화 유지보수 및 스케일링 기능을 갖췄다.
이번 웨비나는‘AI 인프라 소개‘AI Train,AI SERV NPU를 활용한 sLLM(소형언어모델) 데모 시연’2개의 세션으로 진행된다.첫번째 세션인‘AI 인프라 소개’에서는 부대권 AI기술팀 매니저가 연사로 나서 KT클라우드 AI 상품 라인업에 대해 소개하고,신규 출시된 AI Train과 AI SERV NPU의 차별점과 실증 사례 등을 소개한다.두번째 세션인‘AI Train,경기도 이천시 마장면 이치리AI SERV NPU를 활용한 sLLM 데모 시연’에서는 AI Train과 AI SERV NPU를 활용해 sLLM을 시연할 예정이다.
남충범 KT클라우드 본부장은 “생성형 AI,딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다”며 “kt cloud는 엔비디아 및 비(Non) 엔비디아,학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼,고객 니즈에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다”고 밝혔다.