Menu
NO.1: gm역배팅
NO.2: 스코어 역배팅
NO.3: 스포츠 토토 역배
NO.4: 역배 배당
NO.5: 정배 역배
NO.6: 토토 사이트 역배 비 타임
NO.7: 토토 역배
NO.8: 토토 역배 디시
NO.9: 토토 역배 레전드
NO.10: 토토 역배 레전드 디시
NO.11: 토토 역배 보는 법
NO.12: 토토 역배당
NO.13: 토토 역배팅
NO.14: 토토 역배팅 후기
플래시 어텐션·쿠다 그래프 최적화…로컬 LLM 사용성·처리량 대폭 강화엔비디아가 지포스 그래픽처리장치(GPU)와 쿠다를 기반으로 자체 로컬 거대언어모델(LLM) 실행 도구의 성능을 대폭 강화했다.로딩·응답 속도 향상과 더불어 개발자 제어 기능을 확장해 로컬 AI 활용 생태계를 본격적으로 견인하는 전략이다.
엔비디아는 최근 'LM 스튜디오' 0.3.15 버전을 발표했다고 12일 밝혔다.이번 버전은 지포스 '레이 트레이싱 익스피리언스(RTX)' GPU 환경에서 성능을 최대 27%까지 끌어올릴 수 있게 '쿠다' 그래프와 플래시 어텐션 최적화를 적용했다.지포스 'RTX 20' 시리즈부터 최신 블랙웰 GPU까지 폭넓은 하드웨어 호환성도 확보했다.
'LM 스튜디오'는 고성능 추론과 데이터 보안을 동시에 확보할 수 있는 로컬 LLM 실행 도구다.'라마.cpp(llama.cpp)' 기반 런타임을 바탕으로 오프라인에서도 모델 실행이 가능하고 오픈AI 응용 프로그램 인터페이스(API) 호환 엔드포인트로도 작동해 맞춤형 워크플로우에 쉽게 통합된다. 엔비디아가 지포스 그래픽처리장치(GPU)와 쿠다를 기반으로 자체 로컬 거대언어모델(LLM) 실행 도구의 성능을 대폭 강화했다.(사진=엔비디아) 
새 버전은 '툴_초이스(tool_choice)' 패러미터를 도입해 도구 호출 방식에 대한 세밀한 제어를 제공한다.외부 도구 연동 여부를 개발자가 지정하거나 모델이 동적으로 결정하게 할 수 있어 검색 증강 생성(RAG),에이전트 파이프라인 등에 최적화된 구조를 제공한다.
시스템 프롬프트 편집기도 새롭게 설계돼 복잡하거나 장문 프롬프트에 대한 대응력이 향상됐다.프리셋 기반의 다양한 모델과 양자화 방식도 지원되며 '젬마',한게임 포커 하이 로우'라마3','미스트랄','오르카' 등 주요 오픈소스 모델이 모두 포함됐다.
이같은 구조는 '옵시디언'과 같은 노트 기반 앱에 플러그인 형태로 연결돼 텍스트 생성,연구 요약,룰렛 스핀노트 검색을 클라우드 없이 수행할 수 있게 한다.이 모든 과정은 'LM 스튜디오' 내의 로컬 서버를 통해 이뤄져 빠르고 프라이버시 중심의 상호작용이 가능하다.
성능 개선의 핵심은 '라마.cpp' 백엔드에 적용된 쿠다 그래프와 플래시 어텐션이다.쿠다 그래프는 컴퓨팅처리장치(CPU) 호출 횟수를 줄여 모델 처리량을 최대 35%까지 높였다.플래시 어텐션은 메모리 부담 없이 긴 컨텍스트 대응 능력을 강화하며 최대 15% 속도 향상을 이끌었다.
RTX GPU 사용자라면 별도 설정 없이도 '쿠다 12.8' 기반의 성능 향상을 경험할 수 있다.드라이버 호환 시 자동 업그레이드가 적용되며 얇은 노트북부터 고성능 워크스테이션까지 전 범위 RTX 인공지능(AI) PC에서 효율적인 추론이 가능하다.
'LM 스튜디오'는 윈도우,맥OS,슈팅게임 만들기리눅스에서 모두 실행 가능하며 무료로 다운로드해 사용할 수 있다.데스크톱 채팅,마작 입문 가이드오픈AI API 개발자 모드 등 다양한 인터페이스도 제공된다.
엔비디아 측은 "'LM 스튜디오' 최신 업데이트는 RTX AI PC에서 최고의 성능과 유연성을 제공한다"며 "로컬 LLM 도입 장벽을 낮추고 사용자의 AI 실험과 배포를 적극 지원할 것"이라고 밝혔다.
