英伟达已签订HBM3内存供货协议，预订金额约在700亿至1万亿韩元之间，以确保2024年的HBM内存供应稳定。
三星电子、SK海力士与美光等三大存储厂商的HBM产能在明年已全部售罄，HBM市场预计在未来两年内将迎来快速增长。
英伟达正筹备推出两款搭载HBM3E内存的产品，分别是配备141GB HBM3E的H200 GPU与GH200超级芯片。
H200将成为全球首款采用HBM3e的GPU，基于NVIDIA Hopper架构打造，数据传输速率可达到4.8 TB/s。
英伟达还表示，搭载HGX H200的系统在LLaMA 2（700亿参数的LLM）上的推理速度比H100快了一倍。HGX H200将提供4路和8路两种配置，与H100系统的软件和硬件生态兼容，适用于各类数据中心，并将由多家云服务商部署，计划于2024年第二季度推出。
