삼성SDS, 국내 첫 엔비디아 최신 B300 GPU 서비스 출시

[한국금융신문 정채윤 기자] 삼성SDS(대표이사 이준희)가 엔비디아의 최신 그래픽처리장치(GPU) ‘B300’을 기반으로 한 클라우드 서비스를 국내 최초로 선보이며 기업용 AI(인공지능) 인프라 시장 공략에 나섰다.

삼성SDS는 자사 클라우드 ‘SCP(삼성 클라우드 플랫폼)’을 B300 기반 GPUaaS(GPU 구독형 서비스)를 출시했다고 23일 밝혔다.

이번 출시는 최근 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략이다.
B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB 메모리와 초당 8TB의 대역폭을 제공한다. 이는 기존 H100과 비교해 메모리 용량은 3.6배, 대역폭은 2.4배 향상된 수준이다.

이를 통해 거대언어모델(LLM) 실행 시 연산 속도에 비해 메모리 전송 속도가 느려 발생하는 '데이터 병목 현상'이 크게 개선됐다고 회사 측은 설명했다.

삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS를 선제적으로 도입한 데 이어 이번 B300 서비스까지 확대하며 GPU 중심 AI 인프라 생태계를 구축해 왔다.

기업 고객은 고용량 메모리를 기반으로 거대 AI 모델을 효율적으로 처리할 수 있으며 AI 에이전트와 이미지·영상·코드 생성 등 고성능 AI 서비스에서 지연 시간을 단축할 수 있다.

또한 구독형 방식으로 필요한 만큼만 사용하고 비용을 지불할 수 있다. GPU 수급이 어려운 상황에서도 최신 아키텍처를 신속하게 도입할 수 있는 점 역시 장점으로 꼽힌다. 삼성SDS는 보안 역량을 결합한 클라우드 환경을 통해 기업의 민감한 데이터를 처리할 수 있다고 강조했다.
삼성SDS는 올해 3분기에 별도 인프라 비용 없이 사용한 만큼만 비용을 지불하는 ‘서버리스(Serverless) 추론 서비스’와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 ‘AI 학습 서비스’ 등을 출시할 계획이다.

이호준 삼성SDS 클라우드서비스사업부장(부사장)은 “SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견/중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초  B300  GPU 서비스를 제공해 AX 전환을 적극 지원하겠다”고 말했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com