네이버, AI 안전성 체계 설계로 위험 대비에 나선다
인공지능(AI) 안전성 체계: 네이버의 대응 전략
네이버(035420)가 국내 최초로 인공지능(AI) 안전성 체계를 설계하고 실천 방안을 내놓았다. 네이버 ASF(AI Safety Framework)는 AI 시스템이 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 정의하고, 이에 대한 대응 체계를 갖추고 있다.
통제력 상실 위험 완화를 위한 평가와 관리
네이버는 AI 시스템의 '통제력 상실 위험'을 완화하기 위해 현존 최고 성능의 AI 시스템을 '프런티어(frontier) AI'로 정의하고, 3개월마다 위험 평가를 수행한다. 능력이 급격히 증가할 경우 추가 평가가 이뤄지며, 이를 통해 인간이 AI 시스템에 영향을 미치지 못하게 하고 있다.
악용 위험 대응: AI 위험 평가 매트릭스(matrix)의 적용
네이버는 AI 시스템의 '악용 위험'에 대해 'AI 위험 평가 매트릭스(matrix)'를 적용하여 해당 목적과 안전 조치의 필요성에 따라 각각 다른 방법으로 위험을 관리하고 있다. 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공되며, 안전 조치의 필요성이 높을 경우 추가 기술적·정책적 안전 조치를 통해 위험을 완화할 때까지는 배포하지 않는다.
문화적 다양성을 반영한 AI 안전성 체계
네이버는 AI 시스템의 안전성을 확보하기 위해 문화적 다양성을 반영한 체계를 발전시키고 있으며, 한국 외 다른 지역의 정부·기업과 소버린(Sovereign) AI를 공동 개발하여 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고 측정하는 벤치마크(benchmark)를 고도화할 예정이다.
네이버의 AI 안전성 체계의 특징
| 고려 사항 | 내용 | 방식 |
| 평가 구조 | '매트릭스' 형태의 위험 평가 구조 | 고려한 특징 |
| 협력 | 다른 지역의 정부·기업과의 공동 개발 | 대응 방안 |
AI 안전성 확보를 위해 네이버는 내부적으로 다양한 평가 방식을 수립해오며, 실제 위험이 상당하다고 판단되면 안전조치를 통해 위험을 완화할 때까지 모델 또는 서비스의 배포를 중단해 위험을 관리할 것이다.
