SK하이닉스 신화는 계속된다 “이번엔 낸드”

[한국금융신문 곽호룡 기자] SK하이닉스가 고대역폭메모리(HBM)로 쏘아 올린 AI 반도체 기술 경쟁력을 낸드플래시 시장으로 확대한다. 낸드플래시는 생성형 AI 서비스 고질적 단점인 ‘환각’을 해결할 핵심 열쇠로 급부상하면서 새로운 전성기가 열리는 모습이다.

SK하이닉스는 올해 1분기 영업이익이 37조6103억 원으로 창사 이래 최대 실적을 기록했다. 지난해 4분기 기존 최대치(19조1696억 원)에 비해 2배에 육박하는 수치다.

호실적 중심에는 인공지능(AI) 확산으로 초호황이 지속되고 있는 범용 D램이 있다. 전체 영업이익 가운데 80%가 넘는 31조 원을 D램 사업에서 벌어들인 것으로 추정된다.
여기에 낸드플래시 사업 수익성이 눈에 띄게 확대됐다. 증권사들이 추정하는 SK하이닉스 낸드플래시 1분기 영업이익은 6300억 원 수준으로, 영업이익률은 52~53%다. D램에 비해 이익 규모나 수익성은 크지 않지만, 낸드플래시가 지난해 3분기까지 적자를 기록했던 점을 고려하면 극적인 변신에 성공한 것이다.

낸드플래시는 2분기 이후부터 매 분기 12조 원에서 20조 원을 벌어들일 것이라는 전망이 나온다. SK하이닉스는 지난 1분기 낸드플래시 평균판매단가(ASP)가 직전 분기 대비 74%나 증가했지만, 비트로 환산한 출하량은 11% 줄었다고 밝혔다.

이는 계절적 비수기와 고부가가치 중심 사업 전환을 위한 일시적 감소세로, 회사는 2분기부터 출하량도 두 자릿수 이상 증가할 것으로 자신했다.

앞서 SK하이닉스는 D램에 편중된 사업 구조에서 탈피하고자 지난 2021년 10조 원을 주고 인텔 낸드플래시 사업부를 인수했다. 덕분에 5~6위권에 머물던 글로벌 낸드플래시 매출 순위에서 삼성전자에 이은 2위로 뛰어올랐다.

그러나 엔데믹 이후 재고가 급증하는 '메모리 다운턴'에 들어가며 낸드플래시 사업부는 골칫덩이로 전락했다. 특히 SK하이닉스가 7조7000억 원 영업손실을 낸 2023년에는 낸드플래시에서만 8조 원 이상 적자를 기록했다.
미운오리의 변신은 지난해 하반기부터다. 낸드플래시 가격이 치솟기 시작했다. 이는 역시 AI 영향이다.

챗GPT와 같은 AI 서비스는 그동안 방대한 데이터 속에서 정답을 찾아내는 연산 속도에 강점이 있는 D램, 특히 이를 수직으로 쌓아 올린 고대역폭메모리(HBM)를 중심으로 발전했다.

하지만 기존 거대언어모델(LLM)은 학습된 데이터의 통계적 확률에만 의존해 답변을 생성한다는 한계가 있다. 이 과정에서 정보가 부족하거나 모델 내 데이터가 꼬일 경우, 사실이 아닌 내용을 마치 진실인 양 그럴듯하게 답하는 ‘할루시네이션(환각)’ 현상이 발생한다.

이 같은 단점을 극복하기 위해 주목되는 기술이 ‘검색 증강 생성(RAG)’이다. 답변을 내놓기 전에 외부 데이터베이스에서 팩트를 실시간으로 검증하는 과정을 거치는 방식이다. 문제는 AI 환각을 방지하기 위해 외부 데이터베이스에서 수만 페이지 문서를 검색해 가져오면, AI가 실시간으로 기억해야 할 문맥 정보인 ‘KV캐시’ 양이 기하급수적으로 늘어난다는 점이다.

이전에는 단 몇 문장만 기억하면 됐지만, 이제는 백과사전 한 권 분량을 답변 내내 머릿속에 띄워 놓아야 하는 셈이다.

결국 이처럼 폭증하는 데이터를 감당하기 위해, 방대한 양의 정보를 안정적으로 저장하고 필요한 순간 빠르게 인출할 수 있는 비휘발성 저장 매체인 낸드플래시 기반 기업용 SSD(eSSD)가 AI 인프라의 새로운 주인공으로 주목받고 있다.

송창석 낸드플래시 마케팅 담당(부사장)은 지난 1분기 SK하이닉스 실적발표 설명회에서 “AI 모델이 고도화할수록 중간 데이터 처리가 폭발적으로 증가해 고객들이 고성능·고용량 SSD를 대거 도입하고 있다”며 “낸드플래시는 이제 단순 저장장치를 넘어 연산 속도와 효율을 결정하는 핵심 부품으로 장기 성장할 것”이라고 말했다.

이에 SK하이닉스는 낸드플래시 시장의 고용량·고성능 기술력을 선점해 ‘AI 메모리 강자’ 입지를 굳힌다는 구상이다. 그 신호탄으로 지난달 세계 최초인 321단 QLC 낸드 기반 소비자용 SSD를 출시하며 독보적인 적층 기술력을 입증했다.

회사는 PC 시장에서 검증된 이 기술력을 발판 삼아 앞으로 고성능 솔루션 수요가 빗발칠 데이터센터 시장까지 공략 범위를 본격적으로 넓힐 계획이다. 이를 위해 올해 말까지 국내 낸드 생산량의 50% 이상을 321단으로 전환하며 AI 인프라 시장 주도권을 확실히 틀어쥐겠다는 전략이다.

나아가 완전히 새로운 형태의 차세대 낸드플래시 ‘고대역폭플래시(HBF)’ 개발에도 나섰다. SK하이닉스는 지난 2월 샌디스크와 HBF 표준화를 위한 양해각서(MOU)를 체결하며 시장 선점에 속도를 내고 있다.

HBF는 이미 수백 단이 쌓인 개별 낸드플래시 칩을 다시 수직으로 적층하는 구조다. 여러 개 D램을 쌓아 데이터 전송 속도를 극대화한 HBM과 비슷한 컨셉이다. 낸드 특유의 고용량에 HBM 고대역폭 장점을 접목해, AI 연산 과정에서 발생하는 방대한 데이터를 효율적으로 처리하는 차세대 ‘확장 메모리’ 역할을 할 것으로 기대된다.

곽호룡 한국금융신문 기자 horr@fntimes.com