NO.1: 매탄주공그린빌5단지
LLM이나 소형언어모델(sLLM)을 활용하는 기업과 개발자가 늘어나는 가운데 사이버 공격에 생성형AI를 활용하는 해커도 증가했다.SK쉴더스는 2일 서울 중구 페럼타워에서 열린 이큐스트(EQST) 미디어데이에서 LLM 서비스에서 발생할 수 있는 열 가지 보안 취약점 중 위험도가 높은 세 가지를 소개했다.
첫째,매탄주공그린빌5단지 '프롬프트인젝션'은 AI에 악의적인 질문을 해 얻은 답변으로 악성코드를 만들거나 마약을 제조하는 경우다.AI에 마약이나 폭탄 제조법을 물어도 처음에는 제대로 된 답이 나오지 않는다.하지만 AI에 적용된 윤리지침을 우회하는 질문을 던져 원하던 해답을 얻어낼 수 있는 경우가 있다.이호석 SK쉴더스 EQST Lab팀장은 기업들이 가장 주의해야 할 것으로 프롬프트인젝션을 꼽았다.그는 "프롬프트인젝션 공격을 기반으로 각종 유해정보와 개인정보가 유출될 수 있어 이를 막아내는 것이 가장 중요하다"며 "기업들은 프롬프트 보안 및 데이터 정제 솔루션으로 피해를 예방해야 할 것"이라고 말했다.
SK쉴더스는 '불안전한 출력처리'도 LLM의 취약점으로 꼽았다.예를 들어,매탄주공그린빌5단지해커가 원격접속 코드 실행이 포함된 질문을 AI 챗봇에 던지고 챗봇이 이를 실행하면 해커가 AI LLM 운영 서버에 접속할 수 있게 된다.이로 인해 민감한 정보가 LLM을 통해 유출될 수 있다.LLM이 학습하는 데이터에 회사의 중요한 데이터나 개인정보가 포함될 경우 LLM의 답변을 통해 민감한 정보가 노출될 수 있다.
SK쉴더스는 AI 인프라 운영에 특화된 제로트러스트 환경을 구축하고 운영체계를 수립하는 서비스도 제공한다.제로트러스트는 '아무도 믿을 수 없다'는 뜻으로 네트워크와 시스템 내부의 모든 주체를 의심하고 검증하는 보안 방식이다.다중인증 절차를 거쳐 시스템을 통과한 사용자도 시스템 사용 권한이 제한되고,매탄주공그린빌5단지다른 작업을 하기 위해서는 인증 절차를 다시 밟아야 한다.SK쉴더스는 이달 중순 개최하는 웨비나에서 제로트러스트 관련 전략과 솔루션을 소개한다.
SK쉴더스는 △모델 개발자 △서비스 개발자 △서비스 사용자의 AI 보안에 대한 점검 사안도 제시했다.김병무 SK쉴더스 정보보안사업부장 부사장은 "SK쉴더스는 선제적으로 보안 트렌드 변화에 맞춘 연구 결과물을 공개하며 생성형AI 시대의 보안 전략을 내놓을 것"이라고 말했다.
매탄주공그린빌5단지
:OCI 생성형 AI 에이전트 RAG 서비스는 서비스와 연동되는 데이터가 위치한 벡터 데이터베이스 등록을 통해 RAG 기반 챗봇 서비스를 쉽게 구축할 수 있다.
매탄주공그린빌5단지,펀더멘털이 우수한 미국 AI 핵심부품 기업과 첨단 공정 반도체 장비 기업에 주목하고 있다.