AI 뉴스에 자꾸 나오던 HBM을 찾아봤다

 

요즘 AI 관련 글이나 반도체 뉴스를 보다 보면 눈에 계속 보이는 단어가 있었어요.

 

HBM.

 

어려운 반도체 용어 중 하나겠다 생각했어요.

그런데 엔비디아 이야기하다가 어느 순간부터 하이닉스가 같이 나오고 기사마다 HBM이 반복되니까 궁금해졌어요.

 

AI 이야기인데 왜 메모리가 중요해진 걸까?

 

이번에는 그래서 HBM만 따로 조금 찾아봤어요.

 

AI가 빨라질수록 같이 바빠지는게 있었다

지난번 GPU 글 쓰면서 알게 된 건 AI가 생각보다 엄청 많은 계산을 반복한다는 거였어요.

 

그래서 GPU가 중요하다고 했죠.

 

그러다보니 다른 궁금증이 생겼어요.

 

계산을 그렇게 빨리 하는데 필요한 데이터는 누가 계속 가져다주는거지???

 

아무리 일을 잘해도 필요한 자료가 늦게 오면 기다려야 하잖아요?

 

그때 처음 HBM이라는 역할이 연결됐어요.

 

HBM은 생각보다 어려운 개념은 아니었다.

HBM은 High Bandwidth Memory의 약자예요.

 

이름은 어렵지만 제가 이해한 방식은 이랬어요.

 

기존 메모리가 넓은 길이라면

 

HBM은 위로 층층이 쌓아서 훨씬 많은 데이터를 한 번에 움직이게 만든 구조.

 

AI가 빨라질수록 데이터를 빠르게 공급해야 하는데 그 역할을 하는 쪽에 가까웠어요.

 

그래서 AI이야기를 하다 보면 엔비디아, 하이닉스 이야기가 같이 나오는 거였더라구요.

 

제가 이해한 느낌은

 

GPU = 계산하는 사람

HBM = 필요한 자료를 계속 가져다주는 사람

 

비교해 보니까 왜 관심받는지 이해가 조금 됐다

구분	일반 메모리(DRAM)	HBM
구조	평면 중심	여러 층 적층
목적	일반 데이터 처리	초고속 데이터 공급
사용처	PC,서버	AI,고성능 연산
특징	범용	속도와 대역폭 중심

 

그래서 하이닉스가 같이 보였던 것

공부하면서 재미있었던 건 AI가 생각보다 한 회사 이야기만이 아니라는 점이었어요.

 

AI 서비스가 있고

 

GPU가 있고

 

그 옆에 HBM이 있고

 

그다음에는 데이터센터와 전력까지 연결되더라구요.

 

예전에는 엔비디아만 보였는데 이번에는 처음으로 그 뒤에 있는 산업이 조금 보인 느낌이었어요.

 

아직 완벽히 이해가 가지는 않았지만?ㅋㅋㅋㅋ

 

다음에 뉴스에서 HBM이 나오면 예전처럼 그냥 넘기진 않을 것 같아요.

 

그리고 신기하게도 이번엔 반도체를 외운 느낌보다 왜 같이 움직이는지를 조금 알게 된 것 같아요.

 

오늘의 돈공부 끝!!^^