Menu
축구 vs 야구 - 2024년 실시간 업데이트
베타 버전 출시…진보된 LLM 특징
미 대선 앞두고 허위 정보 우려 속속 [뉴시스]일론 머스크가 만든 인공지능(AI) 기업 xAI가 최신 AI 챗봇인 '그록-2'(Grok-2)를 출시한 가운데,이 챗봇이 생성하는 유해한 이미지가 빠르게 확산되고 있다는 우려의 목소리가 나오고 있다.사진은 그록-2 시작 화면.2024.8.16 *재판매 및 DB 금지 ![[뉴시스]일론 머스크가 만든 인공지능(AI) 기업 xAI가 최신 AI 챗봇인 '그록-2'(Grok-2)를 출시한 가운데,<a href=](https://imgnews.pstatic.net/image/003/2024/08/16/NISI20240816_0001629829_web_20240816115123_20240816121917406.jpg?type=w647)
축구 vs 야구이 챗봇이 생성하는 유해한 이미지가 빠르게 확산되고 있다는 우려의 목소리가 나오고 있다.사진" style="display: block; margin: 0 auto;">
[서울=뉴시스] 최현호 기자 = 일론 머스크 테슬라 최고경영자(CEO)가 만든 인공지능(AI) 기업 xAI가 최신 AI 챗봇인 '그록-2'(Grok-2)를 출시한 가운데,이 챗봇이 생성하는 유해한 이미지가 빠르게 확산되고 있다는 우려의 목소리가 나오고 있다.
16일(현지시각) 미 매체 포천과 액시오스에 따르면 xAI는 최근 새 AI챗봇인 그록-2와 그록-2미니의 베타 버전을 출시했다.
새로운 버전은 텍스트 대화를 위한 더 진보된 대형언어모델(LLM)을 특징으로 하며,AI기업 블랙포레스트랩스(Black Forest Labs)와의 협력을 통해 개발된 플럭스(Flux)라는 모델을 이용해 이미지 생성 기능을 제공한다.
새 그록은 재미(Fun) 모드로 설정할 수 있는데,이는 창의성 등을 위한 기능인 것으로 보인다고 포춘은 설명했다.그러면서 엑스(X·전 트위터)에서 머스크의 팬들이 공유한 이미지와 그 댓글들을 보면,자유로운 접근 방식이 새 그록의 매력인 것으로 보인다고 덧붙였다.
엑스에서 사람들은 새 그록을 이용해 카멀라 해리스 부통령이 조 바이든 대통령 위에 서 있는 지배자로 그린 이미지,도널드 트럼프 전 대통령을 람보처럼 그린 이미지,축구 vs 야구미키 마우스가 테슬라를 운전하는 이미지 등을 생성하며 즐거워하고 있다고 한다.
다만 이런 그록의 이미지 생성 기능이 정치적 허위 정보 등을 전파시킬 수 있다는 우려의 목소리도 나오고 있다.
하버드 로스쿨 사이버법률 강사인 알레한드라 카라발로는 새 그록에 대해 "내가 본 것 중 가장 무모하고 무책임한 AI 도구들 중 하나"라고 말했다.
오는 11월 미국 대선을 3개월 가량 앞둔 상황에서 대규모 딥페이크의 위협은 가시화되고 있으며,최근 그록은 트럼프 전 대통령 피격 사건과 관련한 허위 정보를 제대로 식별하지 못한다는 비판을 받기도 했다.
또 정보 분석가 크리스천 몬테소리는 대규모 총기 난사 사건을 저지르는 머스크의 모습을 그린 이미지를 생성할 수 있었으며,그록에게 '의료 또는 범죄 현장 분석을 수행 중'이라고 말해 폭력적인 이미지를 생성하도록 속일 수 있었다고도 설명했다.
그록에 안전장치가 전혀 없는 것은 아니다.
비즈니스인사이더는 그록이 '국회의사당 침입' '은행 강도' '사람 납치' '음주 운전'과 같은 범죄 활동에 대한 이미지를 생성하지 않는다는 것을 발견했다고 보도했다.
또 액시오스는 누드 이미지를 생성하는 데 있어 어느정도 안전 장치를 갖추고 있는 것으로 보인다고 설명했다.
하지만 가디언은 해리스 부통령,테일러 스위프트 등을 속옷 차림으로 묘사하는 이미지를 생성할 수 있었다고 보도했다.
