평토장 - 2024년 실시간 업데이트
SK쉴더스,평토장악용 경고
프롬프트를 악용해 마약·폭탄 제조법을 알아내는 등 챗GPT 같은 대규모언어모델(LLM) 인공지능(AI) 서비스를 우회할 수 있는 방법이 나오고 있다.생성형 AI 서비스가 급속도로 확장하면서 이 같은 서비스의 취약점이나 AI를 활용한 공격 사례도 증가하고 있다.
SK쉴더스는 2일 서울 중구 페럼타워에서 2024년 상반기 보안 트렌드를 분석하며 AI를 활용한 공격과 주의점을 소개했다.
SK쉴더스는 생성형 AI 서비스에서 발생할 수 있는 10가지 취약점 중 '프롬프트 인젝션' '불완전한 출력 처리' '민감 정보 노출' 3가지를 가장 위험도가 높은 것으로 꼽았다.
가령 마약이나 폭탄 제조법을 물어보면 AI 서비스는 대답하지 않도록 설계돼 있지만 문자를 기호로 바꿔 입력하거나 정상적인 질문부터 조금씩 물어보는 방법으로 모델의 안전 정책을 회피할 수 있다는 설명이다.
[정호준 기자]
평토장 - 2024년 최고의 라이브 배팅 사이트
평토장 - 2024년 메이저사이트 목록： ▷김태현 : 그러면 현역 교체율 떨어지더라도 지지난번, 지난번에 있었던 옥쇄파동이나 호떡공천보다는 차라리 이렇게 하는 게 낫다 이런 말씀이신 거지요? ▶장예찬 : 네.
평토장,러시아 여론조사센터 브치옴(VTsIOM)은 17일(현지시간) 러시아 대선 출구조사에서 푸틴 대통령이 4명의 후보 중 가장 높은 87%의 득표율로 선두에 올랐다고 밝혔다.