네이버, AI 검색 3대 핵심 기술 공개…속도 2배·환각 30%p 줄인 전용 모델

AI 검색의 승부처가 ‘얼마나 큰 모델을 쓰느냐’에서 ‘실제 서비스에서 얼마나 빠르고 정확하게, 저렴하게 굴리느냐’로 옮겨 가고 있다. 네이버가 자사 검색에 맞춰 다듬은 기술 묶음을 꺼내 든 배경이다.

범용 대형 모델을 그대로 쓰는 대신, 자사 검색 서비스에 맞춰 설계·운영하는 AI 기술을 차세대 검색의 축으로 삼겠다는 청사진이 나왔다. 네이버는 지난 2일 네이버 D2SF 강남에서 ‘테크 딥톡’ 세션을 열고, 대화형 AI 검색 ‘AI탭’에 최적화된 전용 모델과 AI를 안전·효율적으로 운영하는 ‘하네스 엔지니어링’, 이미지까지 이해하는 멀티모달 기술 등 3대 핵심 기술을 공개했다고 5일 밝혔다. 핵심은 거대 모델 하나에 기대는 대신, 서비스 상황에 맞춰 모델을 설계하고 여러 모델을 분업시켜 속도와 비용, 정확성을 함께 잡았다는 데 있다. 실제로 AI탭 전용 모델은 기존 하이퍼클로바X(HCX) 대비 응답 속도를 높이고 환각 현상을 크게 줄인 것으로 나타났다.

서비스에 맞춘 ‘전용 모델’과 소형 모델 분업

첫 번째 축은 AI탭에 탑재된 전용 모델이다. 이 모델은 기존 하이퍼클로바X(HCX, 네이버의 대규모 언어모델)를 기반으로 AI 검색을 위해 개발된 경량 모델로, 네이버의 데이터와 서비스 시나리오, 사용자 피드백을 설계 전반에 반영한 ‘프로덕트 네이티브 LLM’이다. 범용 모델을 가져다 쓰는 것이 아니라, 검색·쇼핑·예약 같은 실제 서비스에 맞춰 처음부터 다듬었다는 뜻이다.

기술적으로는 세 가지 개선이 두드러진다. 우선 구조 면에서 대규모 서비스에 최적화된 MoE(Mixture of Experts, 입력에 따라 필요한 전문가 모듈만 골라 쓰는 구조)를 도입했다. 기존 트랜스포머 모델은 입력이 길어질수록 연산량이 제곱으로 늘어 응답이 급격히 느려지는데, 이 모델은 연산량을 입력 길이에 비례하는 수준으로 개선해 긴 대화에서도 안정적인 속도를 유지한다. 긴 맥락을 이어가며 여러 작업을 처리해야 하는 AI 에이전트 환경에서 강점이 되는 특성이다.

학습 방식도 손봤다. 강화학습(reinforcement learning, AI가 시행착오와 보상을 통해 더 나은 행동을 익히는 학습)에 투입한 컴퓨팅 자원을 기존 HCX 대비 2배 이상 확대했고, 실제 검색·예약 서비스를 연계한 환경에서 모델이 여러 도구를 써 사용자의 과업을 끝까지 수행하도록 학습시켰다. 특히 모호한 요청을 임의로 해석하지 않고 되물어 의도를 확인하도록 보상을 주는 ‘명료성 강화학습(Clarify RL)’으로 환각을 줄였다. 그 결과 외부 평가기관 아티피셜 애널리시스의 벤치마크(AA-Omniscience) 기준, 전용 모델의 환각 비율이 기존 HCX 대비 최대 30%p 감소한 것으로 나타났다.

두 번째 축인 ‘하네스 엔지니어링’은 이 모델을 실제 서비스에서 잘 굴리는 운영 기술이다. AI 검색이 에이전트로 확장될수록 답변 품질뿐 아니라 속도·비용·안정성을 함께 관리하는 것이 중요해지기 때문이다. 네이버는 거대 모델 하나가 모든 일을 처리하는 대신, 역할별로 특화된 소형 언어모델(SLM)을 조합하는 분업형 구조를 구축했다. 이를 통해 일부 구성 요소의 장비 운영 비용을 최대 3배 절감하고 응답 속도를 2배 이상 개선했으며, 새 소형 모델이 나오면 해당 부분만 부품 갈아 끼우듯 교체해 서비스 중단 없이 성능을 높일 수 있다. 네이버 AI 검색 서비스 한승균 리더는 이 기술을 AI의 ‘일머리’에 비유하며 “잘 작동하는 AI 에이전트를 만들려면 비용 효율성과 안정성을 동시에 설계하는 하네스 엔지니어링이 필수”라고 말했다.

AI 에이전트의 ‘눈’…스마트렌즈 중심 멀티모달

세 번째 축은 멀티모달 기술이다. 멀티모달(multimodal)은 이미지를 AI가 이해할 수 있는 표현(임베딩)으로 바꿔, 텍스트뿐 아니라 이미지와 영상 등 다양한 형태의 정보를 함께 이해하고 활용하는 기술이다. 네이버는 검색창 전면에 배치된 ‘스마트렌즈’를 중심으로 이 기술을 고도화하는 전략을 공개했다.

네이버는 2017년 스마트렌즈로 이미지 검색을 선보인 이후 멀티모달 검색 역량을 쌓아 왔다. 그동안은 스마트렌즈로 다양한 상품을 정확히 인식하고 구매까지 이어지는 경험에 집중했다면, 앞으로는 상품 검색을 넘어 여러 영역에서 ‘실행형’ 멀티모달 검색 경험을 제공하도록 기술을 고도화할 계획이다. 이미지를 알아보는 데 그치지 않고, 그 이미지를 실제 행동으로 연결하겠다는 것이다.

이를 뒷받침하는 기술로는 ‘MuCo(Multi-turn Contrastive Learning)’가 소개됐다. MuCo는 하나의 이미지와 실제 대화 패턴을 함께 학습해 문맥까지 이해하는 멀티모달 임베딩 기술로, 여러 차례 오가는 대화(멀티턴)에서도 같은 이미지를 반복 처리하지 않아 효율이 높고, 이미지와 텍스트 사이의 의미 관계를 정교하게 연결하는 것이 특징이다. 사용자가 이미지를 한 번만 입력해도 탐색·질의·예약 같은 실행까지 이어지는 연속적인 검색 경험의 기반이 될 것으로 기대된다.

성능 근거도 함께 제시됐다. 네이버는 이를 위해 3500만 규모의 멀티모달 데이터셋을 구축했으며, 주요 멀티모달 검색 벤치마크(MMEB·M-BEIR)에서 경쟁 모델 대비 최고 수준의 성능을 기록했다고 밝혔다. 네이버 Future AI Center 윤상두 리더는 “네이버가 10년 가까이 스마트렌즈를 통해 축적한 시각 검색 기술은 AI 에이전트가 세상을 바라보는 ‘눈’을 만드는 핵심 기술”이라며 “향후 네이버의 AI 에이전트 서비스는 텍스트뿐 아니라 이미지를 통해서도 사용자의 의도를 이해하고 실제 행동까지 연결하는 방향으로 진화할 것”이라고 말했다.