포털 다음 ‘AI 요약’ 서비스, 업스테이지・퓨리오사AI 국산 기술로 구동

[한국금융신문 정채윤 기자] “해외 빅테크 모델에 맞설 수 있는 국산 거대언어모델(LLM) 성능을 더욱 고도화해 나가겠다.”

김성훈 업스테이지 대표는 15일 포털 ‘다음’ 운영사 AXZ, 인공지능(AI) 반도체 기업 퓨리오사AI와 협력해 다음의 ‘AI 요약’ 서비스를 국산 AI 기술로 구동한다며 이같이 밝혔다.

이 서비스에는 퓨리오사AI의 신경망처리장치(NPU) ‘레니게이드(RNGD)’와 업스테이지 LLM ‘솔라’가 적용된다. 다음 검색 결과를 요약하는 과정에서 인프라부터 모델, 이용자 서비스가 모두 국내 기업 기술로 구성된 점에서 의미가 크다는 게 회사 측 설명이다.
3사는 이를 국내 첫 풀스택 소버린 AI 상용화 사례로 소개했다. 이날 김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표는 경기 성남시 판교 AXZ 사옥에서 만나 각사의 기술 적용 현황과 향후 협력 방안을 공개했다.

이건수 대표는 “다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해주는 기능”이라며 “다음 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며, 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다”고 설명했다.

이 대표는 AI 요약을 개발하면서 “LLM의 고질적인 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”며 “키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다”고 말했다.

AI 추론은 퓨리오사AI가 담당한다. 퓨리오사AI는 최적화 된 설계를 통해 엔비디아 H200과 대등한 성능을 내면서도 50% 이상의 추론 비용절감 효과를 낼 수 있다고 설명했다.

백준호 대표는 “AI 요약 처리를 위해 3개 노드로 하루 5억 개의 토큰을 처리하고 있다”며 “국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고, 그래픽처리장치(GPU)보다 전성비(전력 대비 성능)와 가성비가 높다”고 말했다.
3사는 향후 AI 에이전트 서비스까지 협력을 확대한다는 계획이다.

이건수 대표는 “현재 베타 서비스 중인 AI 요약은 전체 질의 규모의 20% 정도를 처리하고 있지만 점진적으로 늘려갈 계획”이라며 “단순 요약을 넘어 쇼핑과 맛집 검색 등 버티컬로 확장하고, 다음을 통해 사용자에게 특화된 ‘1인 1에이전트’를 보급할 준비도 하고 있다”고 밝혔다.

백준호 대표는 “고도화된 에이전틱 AI 서비스를 좋은 토큰 가격에 지원할 수 있도록 제품을 확장하고 있다”며 “퓨리오사AI 칩도 세대를 거듭하며 성능과 가성비를 계속 높여, 글로벌 반도체 대비 우월한 경쟁력을 확보하겠다”고 말했다.

김성훈 대표는 솔라의 경쟁력으로 자체적인 소형 모델 설계로 확보한 글로벌 수준의 성능과 한국어 특화 역량을 꼽았다.

이날 대담 중 김성훈 대표가 “임베딩 모델도 올리고 싶은데 칩 확보가 어렵다”고 언급하자 백준호 대표는 “이미 양산에 성공적으로 돌입한 레니게이드는 연내 1만 장까지 충분히 공급 가능하다”고 답하기도 했다.

끝으로 김성훈 업스테이지 대표는 “독자 AI 파운데이션 모델 프로젝트 등을 통해 곧 공개될 업스테이지 차세대 모델에도 많은 관심을 부탁드린다”고 밝혔다.

백준호 대표도 “국제정세를 고려한 전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다”면서 “기업들의 AX 과정에서 국산 NPU 사용을 적극 고려해달라”고 말했다.

한편, 업스테이지는 이번 다음 포털의 AI 요약 서비스 실증을 발판 삼아 엔비디아 GPU 중심의 고비용 AI 인프라 환경에서 벗어나 국산 NPU 최적화를 통한 강력한 가격 경쟁력을 자본시장에 증명했다는 평가를 받는다. 아울러 회사는 대형 포털 검색 서비스 구동으로 검증된 솔라의 한국어 특화 역량과 독자 AI 파운데이션 모델 설계 기술을 바탕으로, 독자 AI 파운데이션 모델 프로젝트를 거쳐 글로벌 소버린 AI 영토 확장에 속도를 낼 방침이다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com