엔비디아, NVLink Fusion에 맞춤형 고대역폭 메모리 NVHBM 추가

엔비디아가 26일(현지시간) AI 인프라용 연결 기술인 NVLink Fusion에 맞춤형 고대역폭 메모리 ‘NVHBM’을 추가했다고 밝혔다. 엔비디아는 하이퍼스케일러와 AI 기업들이 반맞춤형 AI 인프라를 구축할 수 있도록 NVLink Fusion을 확장하고, 이를 통해 XPUs의 메모리 성능과 효율을 높이겠다고 설명했다.

NVHBM은 엔비디아가 미래 GPU에 사용할 기술을 기반으로 하며, 기존처럼 XPU 다이에 메모리 컨트롤러를 두는 대신 HBM 베이스 다이에 엔비디아의 맞춤형 메모리 컨트롤러를 통합한 것이 특징이다. 엔비디아는 이 방식이 표준 HBM4E 대비 최대 30% 높은 메모리 대역폭과 15% 낮은 HBM 전력 소비를 제공하고, XPU 컴퓨트 다이 면적도 최대 25% 더 확보할 수 있다고 밝혔다.

엔비디아는 NVHBM을 여러 메모리 공급업체가 제공할 수 있는 표준 구현 형태로 마련해, 고객사가 여러 공급사 메모리를 통합하고 검증하는 데 드는 공정을 줄이겠다고 했다. 이를 통해 NVLink Fusion 고객은 맞춤형 AI 칩을 더 빠르게 시장에 내놓을 수 있다고 설명했다.

아마존의 애너푸르나 랩스는 NVLink Fusion과 관련한 엔비디아와의 협력의 일환으로 NVHBM 기술을 가장 먼저 검토하게 된다. 애너푸르나 랩스는 차세대 Trainium 칩, 특히 Trainium4부터 NVLink Fusion을 지원할 예정이며, 이를 통해 아마존 칩과 엔비디아 GPU가 공통 랙 규모 아키텍처에서 함께 작동할 수 있게 된다.

엔비디아는 NVLink Fusion이 맞춤형 XPU와 CPU를 자사 랙 규모 플랫폼에 연결할 수 있도록 하는 개방형 구조라고 설명했다. 파트너들은 NVLink 칩렛, NVLink-C2C, NVLink 스위치, MGX 시스템과 랙, 그리고 CPU·ASIC·시스템 제조사·기술 제공업체 생태계를 활용할 수 있다.