Samsung은 중요한 이정표를 찍어냄으로써 혁신적인 HBM3e 메모리 모듈을 공개하였다. 이 회사는 용량과 성능 측면에서 새로운 기준을 세우는 새로운 12-Hi 36GB HBM3e 메모리 스택을 개발하는 데에 성공하였다. 이와 같은 급진적인 성과로 인해, Samsung은 AI 시대에서 고용량 HBM 기술 시장을 주도할 예정이다.
Shinebolt라는 코드명의 Samsung의 메모리 제품 라인업에 이번에 새롭게 추가된 12 x 24Gb 메모리 장치가 탑재되었다. 이 36GB HBM3e 메모리 모듈은 1024비트 메모리 인터페이스를 갖춘 로직 다이 위에 12개의 메모리 스택이 있는 구성이다. 이렇게 구성된 메모리 모듈은 놀라운 10GT/s의 전송 속도로 작동하여, 스택 당 최대 1.28TB/초의 막대한 메모리 대역폭을 제공한다. 이는 산업에서 한 장치 당 메모리 대역폭의 새로운 기준을 세운다.
Samsung Electronics의 메모리 제품 기획 부사장인 Bae Yongcheol은 이 혁신의 중요성을 다음과 같이 표현하였다: “AI 서비스 제공업체들은 점차적으로 더 높은 용량의 HBM을 요구하고 있으며, 우리의 새로운 HBM3e 12H 제품은 이러한 요구를 충족시키기 위해 설계되었습니다. 우리는 높은 스택 HBM을 위한 최첨단 기술 개발에 대한 헌신을 일관되게 수행하고, AI 시대의 고용량 HBM 시장을 주도할 것입니다.”
Samsung은 Shinebolt 12-Hi 36GB HBM3e 메모리 모듈에 여러 가지 고급 기술을 적용하였다. 이 메모리 제품은 Samsung의 최첨단 4세대 10nm 클래스(14nm) 제조 기술인 극자외선 (EUV) 리소그래피를 활용하였다. 또한 Samsung은 열 압축 비전도성 필름(TC NCF) 기술을 적용하여 메모리 장치 사이의 간격을 단 7 마이크로미터 (7 µm)로 줄였다. DRAM 간의 갭을 축소함으로써 Samsung은 수직 밀도를 높이고 칩 다이 굴곡을 최소화하였다.
12-Hi 36GB HBM3e 메모리 모듈의 도입은 AI 훈련 과정을 혁신시킬 것으로 기대되며, 이를 통해 평균 속도가 최대 34% 향상될 것으로 예상된다. 또한, 해당 메모리 모듈은 추론 서비스에 대한 동시 사용자 수를 놀라운 11.5배 증가시킬 수 있다. 그러나 회사에서는 LLM의 크기에 관한 추가 세부 정보는 제공하지 않았다.
Samsung은 이미 새로운 12-Hi 36GB HBM3e 메모리 모듈을 고객들에게 샘플링을 시작하였으며, 2024년 상반기에 대규모 생산을 시작할 계획이다. 이 혁신적인 기술은 고용량 HBM 시장을 바꾸고 Samsung이 혁신적인 메모리 솔루션의 선두주자로 자리잡게 될 것이다.
자주 물어보는 질문:
1. HBM3e 메모리란 무엇인가요?
HBM3e 메모리는 Samsung이 개발한 고대역폭 메모리 기술로, 고용량과 고성능을 제공하여 AI(인공지능) 시대에 적합한 유형의 메모리 모듈입니다.
2. Samsung의 새로운 HBM3e 메모리 모듈은 얼마나의 용량을 갖고 있나요?
Samsung의 새로운 HBM3e 메모리 모듈은 스택 당 36GB의 용량을 가지고 있습니다.
3. Samsung의 HBM3e 메모리 모듈의 전송 속도는 어떻게 되나요?
HBM3e 메모리 모듈의 전송 속도는 놀라운 10GT/s입니다.
4. Samsung의 HBM3e 메모리 모듈의 메모리 대역폭은 어떻게 되나요?
HBM3e 메모리 모듈은 스택 당 최대 1.28TB/초의 막대한 메모리 대역폭을 제공합니다.
5. Samsung의 HBM3e 메모리 모듈에 어떤 기술이 적용되었나요?
Samsung의 HBM3e 메모리 모듈은 회사의 4세대 10nm 클래스 제조 기술과 극자외선 (EUV) 리소그래피를 활용하고 있습니다. 또한, 열 압축 비전도성 필름(TC NCF) 기술을 이용하여 메모리 장치 사이의 간격을 최소화합니다.
6. HBM3e 메모리 모듈의 도입은 AI 훈련 과정을 어떻게 혁신시킬 것인가요?
HBM3e 메모리 모듈은 AI 훈련 프로세스의 평균 속도를 최대 34% 향상시킬 것으로 예상됩니다. 이 모듈은 推論 서비스의 동시 사용자 수를 크게 늘릴 수 있습니다.
7. Samsung은 HBM3e 메모리 모듈의 대규모 생산을 언제 시작할 예정인가요?
Samsung은 2024년 상반기에 HBM3e 메모리 모듈의 대규모 생산을 시작할 계획입니다.
용어 설명:
– HBM: High-Bandwidth Memory의 약어로써 고대역폭 메모리라는 의미입니다. 주로 AI 및 그래픽 처리와 같이 높은 데이터 처리량이 필요한 응용 프로그램에서 사용되는 고대역폭과 성능을 제공하는 메모리 기술입니다.
– AI: Artificial Intelligence의 약어로써 인간의 지능을 기계적으로 시뮬레이션한 것을 말합니다.
권장 관련 링크:
– Samsung Semiconductor – DRAM (https://www.samsung.com/semiconductor/dram/)
– Samsung Semiconductor (https://www.samsung.com/semiconductor/)
The source of the article is from the blog trebujena.net