네이버, AI 안전성 점검 범위를 모델서 서비스·이용자까지 넓힌 ‘ASF 2.0’ 공개
AI 안전 문제의 무게중심이 ‘모델 하나를 안전하게 만드는 일’에서 ‘여러 모델을 엮은 서비스를 안전하게 운영하는 일’로 옮겨 가고 있다. 이용자가 실제로 겪는 서비스 단계의 안전을 겨냥한 개편이다.
AI 모델 성능·위험 중심이던 안전성 관리를, 이용자가 실제 경험하는 서비스 단계까지 넓힌 체계가 나왔다. 네이버는 이용자들의 안전한 AI 서비스 경험까지 관리 범위를 확장한 AI 안전성 체계 ‘ASF(AI Safety Framework) 2.0’을 8일 공개했다.
ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF를 최신화해 이용자 보호 측면까지 확장한 관리 체계다. AI 기술 모델의 성능과 위험 수준을 중점 관리하던 기존 ASF의 범위를 넓혀, 사용자들이 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 점이 핵심이다. 네이버는 이날 서울 강남구에서 열린 인공지능안전 서울 포럼(SFASS)에서 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계, 향후 활동 계획을 공유했다.
왜 ‘모델’에서 ‘서비스’로 넓혔나
이번 개편의 출발점은 AI를 둘러싼 환경 변화다. 과거에는 AI 모델 하나의 성능과 위험을 관리하는 것이 안전성의 초점이었다. 그러나 여러 AI 모델을 결합해 수천만 명이 사용하는 서비스가 등장하면서, 안전 문제의 성격 자체가 달라졌다.
발표에 나선 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하며, 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 제정 배경을 밝혔다.
ASF 2.0에는 이런 변화가 다각적으로 반영됐다. 네이버는 AI탭, 쇼핑 AI 에이전트 등 고도화 중인 ‘온서비스 AI(On-service AI)’ 전략과, 여러 AI 모델을 함께 쓰는 멀티 모델 환경의 확산, 그리고 AI기본법 제정 같은 정책·제도 환경의 변화 등을 반영했다고 설명했다. 기술 변화만이 아니라 법·제도 흐름까지 함께 담은 것이다.
위험 분류하고 영향 평가하고…세분화된 관리 체계
ASF 2.0의 목표는 AI를 이용자와 서비스 관점에서 안전하게 관리하는 것이다. 이를 위해 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리한다. 특정 시점의 검사에 그치지 않고 서비스 생애 전 주기를 점검 대상으로 삼는다는 뜻이다.
관리 범위와 기준도 넓히고 잘게 나눴다. 기존에 AI 기술 모델을 중심으로 삼던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장했고, 성능 중심의 단일 평가 기준을 맥락(context), 활용사례(use-case), 영향(impact)으로 세분화했다. 같은 AI라도 어떤 상황에서 어떻게 쓰이는지에 따라 위험이 달라진다는 점을 반영한 것이다.
실행은 세 단계로 이뤄진다. 먼저 ‘AI 위험 분류 체계(AI Risk Taxonomy)’에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고, ‘AI 영향 평가 매트릭스(AI Impact Assessment Matrix)’로 활용 영역과 범위에 따른 예상 영향을 평가한다. 이후 이 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백을 통해, 이용자들이 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리한다.
‘AI탭’에 먼저 적용…전사 실행 체계 ‘CHEC 2.0’
체계를 실제 서비스에 적용하는 장치도 마련됐다. 네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용되도록 돕는 전사적 실행 체계 ‘CHEC 2.0’을 마련했다. 안전성 원칙을 문서에 그치지 않고 실제 출시 절차에 녹이기 위한 장치다.
첫 적용 사례는 AI탭이다. 지난 6월 선보인 대화형 AI 검색 ‘AI탭’은 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검받았다. 네이버는 AI탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다.
네이버는 이런 안전성 체계를 단계적으로 구체화해 왔다고 설명한다. 송대섭 리더는 “네이버는 2021년 ‘네이버 AI 윤리 준칙’, 2024년 ‘NAVER ASF Beta’를 공개하며 AI 윤리 글로벌 흐름과 국내 정책 환경에 맞춰 AI 안전성 체계를 지속적으로 구체화해 나가고 있다”며 “앞으로도 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 경험과 노하우를 공유하고 발전시켜 나갈 것”이라고 말했다.
