강원랜드 재개장 - 2025년 실시간 업데이트
◀ 앵커▶
무서운 속도로 정보를 수집하는 인공지능의 성능이 개인정보 탈취와 피싱 범죄 등에 악용될 수 있다는 걸 보여주는 국내 연구진의 실험 결과가 나왔습니다.
특정 인물에 대해 "누구인지 궁금해"라고 물으면 연락처 같은 개인정보를 쉽게 제공한다는 건데요.
박선진 기자가 취재했습니다.
◀ 리포트▶
"카이스트 신승원 교수가 누군지 궁금해"라고 챗 GPT에 물었습니다.
단 몇 초 만에 신 교수의 근무지와 연락처,이메일 등을 한눈에 보기 쉽게 정리해 알려줍니다.
이번엔 신 교수에게 쓸 메일을 작성해보라고 했습니다.
수신자 발신자만 지정했을 뿐인데 이메일과 사무실 전화번호,카지노 vs 수리남업무 특성까지 알아서 검색해 단숨에 메일에 써 넣습니다.
한국과학기술원 카이스트 연구팀이 챗GPT와 제미나이 등 최신 상용되는 대형 언어모델,토토 롤링 계산LLM이 사이버 공격에 악용될 가능성을 검증한 실험입니다.
개인 정보 탈취에 걸리는 시간은 한 건당 평균 5에서 20초,비용은 30원에서 60원 정도.
상용 LLM 서비스는 '개인정보를 수집해 달라'는 직설적인 명령은 거절하도록 자체 보안 프로그램이 탑재돼 있지만 표현을 살짝 바꿔 명령하면 걸러내지 못하고 개인정보 수집 결과를 제공하는 겁니다.
[송민규/카이스트 전기및전자공학부 박사과정]
"'누구의 정보가 궁금해','이런 거는 00 목적으로 사용될 거야' 이런 식으로 약간 사족을 붙이면 대답해 주지 않던 질문들도 그런 우회 방식을 통해서 쉽게 대답해 주는…"
실험 결과 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었는데,이렇게 빼낸 정보를 바탕으로 정교하게 피싱 이메일을 생성하면 피해는 더욱 커질 수밖에 없습니다.
실제로 실험 참가자의 절반은 이렇게 생성된 피싱 링크를 누를 것이라고 답했습니다.
[김한나/카이스트 전기및전자공학부 박사과정]
"언어 모델에게 능력이 많이 부여될수록 그만큼 사이버 범죄에 악용될 가능성도 높아지고 또 그만큼 위험성도 굉장히 기하급수적으로 커지기 때문에…"
연구진은 챗GPT 등 대형언어모델의 능력을 고려한 확장된 보안 장치가 필요하다고 경고했습니다.
MBC뉴스 박선진입니다.
영상취재: 신규호/대전
MBC 뉴스는 24시간 여러분의 제보를 기다립니다.
▷ 전화 02-784-4000
▷ 이메일
▷ 카카오톡 @mbc제보
강원랜드 재개장
강원랜드 재개장 - 2025년 실시간 업데이트：4초 만에 GPT-2 모델 구동상보형-트랜스포머 데모.
강원랜드 재개장,2022년 9월 발트 해의 해저 가스 파이프 라인인 노르드스트림 폭발 사고가 대표적이다.