Menu
넨마 룰렛 - 2024년 실시간 업데이트
AWS,넨마 룰렛베드록에 '문맥 그라운딩 체크' 기능 추가…질문·답변·출처 연계분석"전 세계가 생성형 인공지능(AI) 보안과 안전에 주목하고 있습니다.생성형 AI를 이용하는 개인·기업이 늘면서 AI 취약점인 환각현상 해결책 마련이 시급해졌습니다.이에 발맞춰 아마존웹서비스(AWS)는 아마존베드록이 안전하고 책임감 있는 AI 서비스를 제공할 수 있는 기능을 추가했습니다."
AWS코리아 김선수 AI·ML사업개발 매니저는 13일 서울 샌터필드에서 열린 'AWS 2024 생성형 AI 미디어 브리핑'에서 아마존베드록의 새 보안 기능 특장점을 소개하면서 이같이 밝혔다.
김 매니저는 최근 아마존베드록에 추가된 '문맥 그라운딩 체크' 기능을 공개했다.지난달 미국 뉴욕서 열린 AWS 행사에서 처음 발표된 기능이다.문맥 그라운딩 체크는 아마존베드록 보안 기능을 담당하는 가드레일에 신규 탑재됐다.생성형 AI 답변 신뢰성과 정확성 향상을 목표로 뒀다. AWS코리아 김선수 AI·ML사업개발 매니저. 
김 매니저는 문맥 그라운딩 체크 기능 특장점으로 객관적 수치를 통한 답변 필터링으로 꼽았다.아마존베드록이 생성물에 신뢰성·정확성 점수를 자체적으로 매김으로써 답변 품질을 평가하는 식이다.
점수 매기는 기준은 문맥에 따라 다르다.다만 공통으로 답변에 핵심 참조 내용이 포함됐는지,질의 내용과 답변이 통일성 있는지,넨마 룰렛답변과 질문 관련성이 얼마나 높은지를 측정한다.
김 매니저는 구체적인 평가 기준이나 점수 커트라인에 대한 설명을 밝히진 않았다.다만 그는 "점수 매기는 작업은 AWS 노하우를 통해 이뤄진다"고 설명했다.이어 "답변에 AWS가 지정한 필수 출처 내용이 답변에 없으면 이를 사용자에게 제공하지 않는다"며 "답변 품질 점수가 평균보다 낮을 때도 이를 내놓지 않는다"고 강조했다.
