Menu
view - 2024년 실시간 업데이트
경량화 버전 'DASH'로 진행…"고비용·환각 극복"포티투마루가 네이버클라우드의 거대언어모델(LLM) '하이퍼클로바X' 경량화 버전을 설치형으로 만들기 위한 준비에 들어간 것으로 전해졌다.
2일 업계 관계자는 포티투마루가 네이버클라우드와 이런 작업을 위해 최종 논의에 들어갔다고 본지에 알렸다.
앞서 네이버클라우드는 올해 4월 하이퍼클로바X 소형모델 'HCX-DASH'를 공개한 바 있다.HCX-DASH는 하이퍼클로바X의 기존 모델(HCX-003)의 5분의1 가격으로 이용 가능한 게 특징이다. 김동환 포티투마루 대표가 발표를 하고 있다.(사진=포티투마루) 
업계 관계자는 "한국어 소형 모델을 설치형으로 진행하는 것"이라며 "설치형 버전의 걸림돌인 고비용을 낮췄다"고 귀띔했다.보통 설치형 모델은 클라우드 버전보다 보안이 두텁지만 그만큼 비용이 더 든다.기업이 AI 모델을 설치형으로 이용하기 주저했던 이유다.
설치형 모델이 한국어 작업에도 능할 것으로 전망했다.그는 "한국어 데이터를 가장 많이 학습한 하이퍼클로바X를 경량화로 만든 모델이 HCX-DASH다"며 "메타의 라마3 등 오픈소스로 만든 LLM보다 한국어를 잘 알 것"이라고 덧붙였다.기업이 한국어 데이터를 주로 학습한 모델을 목적에 맞게 설치형·경량화 버전으로 이용할 수 있는 셈이다.
환각 현상 예방에 신경 쓴 것으로 알려졌다.포티투마루가 자사 검색증강기술(RAG) 제품인 'RAG42'와 딥러닝기계독해 제품 'MRC42'을 DASH 설치형에 탑재해서다.관계자는 "두 제품을 결합함으로써 모델 환각현상을 최대한 줄였다"고 설명했다.
관계자는 "이번 사업 목적은 생성형 AI 맹점인 환각을 비롯해 보안,view고비용을 줄이는 것"이라며 "기업은 도메인 특화용으로 이를 안전히 이용할 수 있을 것"이라고 강조했다.
