Menu
NO.1: 엑셀 룰렛
엔비디아는 AI 학습용
레빌리온은 추론용
AI 인프라를 통한 sLLM 모델 시연 예정
웨비나 참석 무료[이데일리 김현아 기자] kt cloud(대표이사 최지웅)는 AI Train과 AI SERV NPU 출시 기념 웨비나를 27일 개최한다고 밝혔다.
AI 활용에 필요한 방대한 양의 데이터를 저장하고 관리하기 위해서는 적시에 GPU 물량을 확보하는 것은 물론,고가의 인프라 비용에 대한 대비가 무엇보다 중요하다.
이에 kt cloud는 지난 5월 AI 기술 개발에 필요한 AI 인프라를 경제적으로 활용 가능한 학습과 추론 전용 상품으로 AI Train과 AI SERV NPU를 각각 출시한 바 있다.
AI Train은 대규모 GPU 클러스터링을 제공하는 엔비디아 GPU 기반 학습 전용 인프라로 H100,A100,V100 등 고객 니즈에 따라 맞춤형 서비스를 제공한다. 
AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라로,기존 GPU 기반 추론용 인프라 대비 가성비를 높이고,자동화 유지보수 및 스케일링 기능을 갖췄다.
이번 웨비나는 ▲’kt cloud AI 인프라 소개,엑셀 룰렛▲’AI Train,엑셀 룰렛AI SERV NPU를 활용한 sLLM(소형언어모델,엑셀 룰렛Small Large Language Model) 데모 시연’2개의 세션으로 진행된다.
첫번째 세션인‘kt cloud AI 인프라 소개’에서는 kt cloud 부대권 AI기술팀 매니저가 연사로 나서 kt cloud AI 상품 라인업에 대해 소개하고,신규 출시된 AI Train과 AI SERV NPU의 차별점과 실증 사례 등을 소개한다.
두번째 세션인‘AI Train,AI SERV NPU를 활용한 sLLM 데모 시연’에서는 AI Train과 AI SERV NPU를 활용해 sLLM을 시연할 예정이다.
이번 웨비나는 kt cloud 포털에서 누구나 무료로 신청할 수 있다.신청자들에게는 웨비나 당일 이메일과 휴대폰으로 접속 링크가 전달된다.또한 사전등록 이벤트에 참여하는 신청자들에게는 추첨을 통해 소정의 상품도 제공한다.
kt cloud 남충범 본부장은 “생성형 AI,딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다”며 “kt cloud는 엔비디아 및 비(Non) 엔비디아,엑셀 룰렛학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼,엑셀 룰렛고객 니즈에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다”고 밝혔다.
