삼성전자가 이제 HBM을 한 단계 더 끌어올리는 그림을 내놨음.

미국 AI 인프라 서밋에서 공개한 게 바로 ‘zHBM’인데, 기존처럼 AI 가속기와 메모리를 옆에 배치하는 게 아니라 가속기 위에 메모리를 3차원으로 직접 쌓는 방식임.

핵심은 결국 데이터 이동거리 줄이는 거.

삼성전자는 이 방식으로 향후 HBM5 대비 최대 8배 성능, 3배 전력 효율을 목표로 하고 있음.

현재 대화형 AI가 초당 100토큰 정도 응답하는 수준이라면 이를 초당 1000토큰까지 끌어올리겠다는 목표도 제시했음.

다만 이 기술에서 제일 골치 아픈 게 발열임.

칩을 위로 계속 쌓으면 당연히 열 문제가 커질 수밖에 없어서, 삼성전자는 가속기 업체들과 초기 설계 단계부터 공동 설계하는 방식으로 해결한다는 계획.

그리고 하나 더 공개함.

낸드 기반 3차원 저장장치인 ‘z낸드-O’도 공개했는데, 온디바이스 AI 시장을 겨냥한 기술임.

2028년 샘플 공급을 시작하고 2030년에는 워크스테이션에서도 1조 개 매개변수급 AI를 D램 대비 6분의 1 비용으로 돌리는 것을 목표로 하고 있음.

주식분석가 소견

이건 단순히 HBM 신제품 하나 공개했다 정도로 볼 내용은 아닌 듯.

AI가 커질수록 결국 연산 성능 + 메모리 대역폭 + 전력효율 싸움인데, 삼성전자가 아예 메모리를 가속기에 붙여버리는 방향으로 가고 있는 거라 상당히 공격적인 그림임.

특히 HBM5 대비 8배 성능 / 3배 전력효율이라는 목표가 실제 제품으로 얼마나 구현되느냐가 중요함.

물론 아직은 비전과 로드맵 성격이 강해서 당장 실적에 꽂히는 재료는 아님.

그래도 삼성전자가 HBM에서 추격하는 것만 바라보는 게 아니라 HBM 이후의 패키징·메모리 구조 자체를 바꾸려는 움직임을 보여줬다는 점은 꽤 볼 만함.

결국 앞으로 AI 반도체가 커질수록 메모리도 그냥 많이 만드는 게 아니라 얼마나 가속기와 가깝게, 효율적으로 붙이느냐가 중요해질 가능성이 높음.

삼성전자가 이쪽에서 실제 양산까지 얼마나 빠르게 가져가느냐가 핵심임.