하고하우스 - 2024년 실시간 업데이트
LLM이나 소형언어모델(sLLM)을 활용하는 기업과 개발자가 늘어나는 가운데 사이버 공격에 생성형AI를 활용하는 해커도 증가했다.SK쉴더스는 2일 서울 중구 페럼타워에서 열린 이큐스트(EQST) 미디어데이에서 LLM 서비스에서 발생할 수 있는 열 가지 보안 취약점 중 위험도가 높은 세 가지를 소개했다.
첫째,하고하우스 '프롬프트인젝션'은 AI에 악의적인 질문을 해 얻은 답변으로 악성코드를 만들거나 마약을 제조하는 경우다.AI에 마약이나 폭탄 제조법을 물어도 처음에는 제대로 된 답이 나오지 않는다.하지만 AI에 적용된 윤리지침을 우회하는 질문을 던져 원하던 해답을 얻어낼 수 있는 경우가 있다.이호석 SK쉴더스 EQST Lab팀장은 기업들이 가장 주의해야 할 것으로 프롬프트인젝션을 꼽았다.그는 "프롬프트인젝션 공격을 기반으로 각종 유해정보와 개인정보가 유출될 수 있어 이를 막아내는 것이 가장 중요하다"며 "기업들은 프롬프트 보안 및 데이터 정제 솔루션으로 피해를 예방해야 할 것"이라고 말했다.
SK쉴더스는 '불안전한 출력처리'도 LLM의 취약점으로 꼽았다.예를 들어,하고하우스해커가 원격접속 코드 실행이 포함된 질문을 AI 챗봇에 던지고 챗봇이 이를 실행하면 해커가 AI LLM 운영 서버에 접속할 수 있게 된다.이로 인해 민감한 정보가 LLM을 통해 유출될 수 있다.LLM이 학습하는 데이터에 회사의 중요한 데이터나 개인정보가 포함될 경우 LLM의 답변을 통해 민감한 정보가 노출될 수 있다.
SK쉴더스는 AI 인프라 운영에 특화된 제로트러스트 환경을 구축하고 운영체계를 수립하는 서비스도 제공한다.제로트러스트는 '아무도 믿을 수 없다'는 뜻으로 네트워크와 시스템 내부의 모든 주체를 의심하고 검증하는 보안 방식이다.다중인증 절차를 거쳐 시스템을 통과한 사용자도 시스템 사용 권한이 제한되고,하고하우스다른 작업을 하기 위해서는 인증 절차를 다시 밟아야 한다.SK쉴더스는 이달 중순 개최하는 웨비나에서 제로트러스트 관련 전략과 솔루션을 소개한다.
SK쉴더스는 △모델 개발자 △서비스 개발자 △서비스 사용자의 AI 보안에 대한 점검 사안도 제시했다.김병무 SK쉴더스 정보보안사업부장 부사장은 "SK쉴더스는 선제적으로 보안 트렌드 변화에 맞춘 연구 결과물을 공개하며 생성형AI 시대의 보안 전략을 내놓을 것"이라고 말했다.
하고하우스 - 2024년 실시간 업데이트
하고하우스 - 최고의 온라인 슬롯사이트：숨진 훈련병은 지난 23일 오후 5시 20분께 군기훈련을 받다 쓰려졌고 이후 민간병원으로 응급 후송돼 치료를 받았지만 25일 오후 끝내 숨졌다.
하고하우스,국제사회가 유엔총회 차원에서 AI 관련 결의안을 공식 채택한 것은 이번이 처음이다.