"비싼 AI 칩 안 써도 된다면"…반도체 업계에 부는 탈 HBM 바람

인공지능(AI) 시대에 주목받고 있는 고대역폭메모리(HBM) 성장에 이상기류가 감지되고 있다. HBM이 들어간 AI 가속기가 아닌 다른 AI 가속기로 AI 모델을 학습시킬 수 있는 기술 개발에 대한 시장 수요가 커지고 있기 때문이다. AI 가속기는 대량의 데이터를 빠르게 처리할 수 있게 개발된 하드웨어를 말한다.

AI 가속기는 ‘학습용’과 ‘추론용’으로 나뉘는데, HBM을 쓰는 엔비디아의 AI 가속기가 학습용 시장의 90%를 장악하고 있다. 다른 빅테크와 주요 국가들이 엔비디아 AI 가속기를 대체할 수 있는 제품 개발에 집중하고 있는 이유이기도 하다.

최근 들어 HBM 없이 AI 가속기를 만들기 위한 노력이 속도를 내면서 탈(脫) HBM 움직임도 본격화하는 모양새다. 이르면 올해 연말부터 변화의 바람은 시작될 것이란 관측이 나오고 있다.

19일 반도체 업계에 따르면 HBM을 쓰지 않는 AI 가속기 신제품들이 이르면 올해 연말과 내년 상반기 사이에 국내외에서 잇달아 출시된다. 우리나라에선 삼성전자와 네이버가 손잡고 개발 중인 AI 가속기 ‘마하-1’이 이르면 올해 안에 성능 테스트에 들어간다. 개발이 순조롭게 이뤄지면 출시와 본격적인 상용화는 내년 초가 유력하다.

마하-1은 네이버가 핵심 소프트웨어(SW)를 설계하고 삼성전자가 칩의 디자인과 생산을 맡고 있다. 마하-1에는 HBM이 아닌 저전력 D램(LPDDR)이 들어간다. LPDDR은 HBM보다 전력 소모량이 적고 가격도 싸다.

해외에선 캐나다 반도체 스타트업 텐스토렌트가 올해 연말 AI 가속기 ‘블랙홀’을 상용화한다. 최근 텐스토렌트는 블랙홀 개발에 성공하고 현재 대만의 TSMC를 통해 생산하는 것으로 전해졌다. 블랙홀은 이전 버전인 ‘웜홀’이 성능에서 HBM이 들어간 엔비디아 제품을 30%밖에 따라가지 못했던 한계를 극복하고 전력 소비도 줄였다는 평가를 받고 있다. 짐 켈러 텐스토렌트 최고경영자(CEO)는 HBM이 고가라는 점을 지적하며 비효율적이라고 평가하는 대표적인 인물로 꼽힌다.

텐스토렌트는 자사 AI 가속기에 HBM 대신 그래픽용 D램(GDDR6)을 사용했다. 다른 스타트업 도전도 활발하다. 국내 반도체 팹리스인 퓨리오사AI는 오는 4분기에 LPDDR이 탑재된 엣지디바이스용 AI 가속기 ‘레니게이드S’를 출시할 예정이다.

마하-1 등 기업들이 현재 개발 중인 AI 가속기들은 대부분 추론용이다. 텐스토렌트의 제품만 학습과 추론이 모두 가능한 모델로 개발되고 있다. 이는 엔비디아를 위협할 신제품으로 주목받고 있는 이유이기도 하다.

추론용 AI 가속기에서 HBM 사용을 줄이는 움직임이 시장 전체에 미치는 영향력은 아직까진 작다. 하지만 시장 판도를 바꾸는 첫 단추를 끼운다는 점에서 의미가 있다는 평가가 나오고 있다.

최근 HBM을 대체하려는 움직임이 두드러지고 있는 것은 비싼 가격 때문이다. HBM 가격은 최선단인 5세대의 경우 CPU에 투입되는 DDR5의 7~8배에 달한다. HBM이 비싸더라도 기업들이 쓰는 이유는 지금 이를 대체할 만한 제품이 없기 때문이다. 가격이 더 싸고 HBM 이상의 성능을 자랑하는 제품이 나온다면 기업들의 선택은 달라질 여지가 크다.