NO.1: 월드컵 경기장 이마트
국내 기업 최초‘AI 안전성 체계’설계
“인간 통제력 상실하지 않아야”
AI 능력 6배 이상 급증하면 추가 평가
네이버가 국내 기업 최초로 인공지능(AI) 안전성 체계를 설계하고 실천 방안을 내놨다.인류를 위협할 만한 최고 성능의 AI 시스템에 대해선 3개월마다 위험도를 평가하고 관리하기로 했다.
네이버는 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계인‘네이버 ASF(AI 안전성 실천 체계)’를 17일 공개했다.이 체계는 AI 시스템을 개발하고 배포하는 과정의 모든 단계에 적용한다.AI 시스템이 초래할 수 있는 위험을 각각‘통제력 상실 위험’과‘악용 위험’으로 정의하고 이에 대응하는 방법을 설계한 것이 특징이다.
네이버 측은 “인간이 AI 시스템에 영향을 미치지 못하게 되는‘통제력 상실 위험’을 완화하기 위해 AI 시스템의 위험을 주기적으로 평가하고 관리할 계획”이라고 설명했다.특히 현존 최고 성능의 AI 시스템을‘프런티어 AI’로 정의하고 이 기술 수준에 해당하는 AI 시스템에 대해서는 3개월마다 위험 평가를 수행한다.시스템의 능력이 기존보다 6배 이상 급격히 증가할 경우 추가 평가하는 장치도 마련했다.
네이버는‘악용 위험’가능성에 대해서는‘AI 위험 평가 매트릭스’를 적용하기로 했다.AI 위험 평가 매트릭스는 AI 시스템의 사용 목적,이마트 월드컵안전 조치의 필요성 정도 등에 따라 각각 다른 방법으로 위험을 관리한다.생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공하는 식이다.
하정우 네이버 퓨처AI센터장은 “AI 안전성 체계를 설계하고 실천하는 첫 시도”라며 “추후 네이버 ASF를 활용한 위험 평가 결과나 실천 경험을 외부에 공개하는 방안을 고민하고 있다”고 말했다.
월드컵 경기장 이마트
：왜냐하면 미사일이 계속 일본 영토를 위협할 수 있기 때문에.
이마트 월드컵,com▶ 네이버에서 뉴시스 구독하기▶ K-Artprice, 유명 미술작품 가격 공개◇ 이재욱, 여친 카리나 언급에도 '포커페이스'◇ 혜은이 사위 맞았다…딸, 5세 연하와 결혼◇ 러블리즈 서지수, BJ 변신…"상황 좋지 않다"◇ 싱글맘 박은혜, 선생님 도전…교원 자격증 취득◇ "장원영 머리카락 1900만원" 황당한 경매◇ 박용택 "아내에게 20년간 7첩 반상 요구…용돈 몇백"◇ 장영란 딸·아들, '엄마 성괴' 악플에 대처 방법은?◇ 오정연 "평당1억 성수 트리마제, 1억4천에 입주"◇ '야구 여신' 정인영, 재혼 1년만에 쌍둥이 임신◇ '불륜커플' 송하윤 "정신과의사·프로파일러 상담도"