NVIDIA斥巨资 向SK海力士、美光预购大量HBM3E内存
韩国ChosunBiz近日报道,NVIDIA已经向SK海力士、镁光,交付了700亿至1万亿韩元的预付款,业内预计了这笔款项在10.8亿美元到15.4亿美元之间。虽然没有说明具体用途,但业界普遍认为,NVIDIA是为了确保2024年HBM供应稳定,避免新一代AI、HPCGPU因为发布后库存不足掉链子。毕竟在NVIDIA在AI、HPC领域遥遥领先,这也是为什么需要大量HBM内存,来确保H200GPU、以及GH200超级芯片的产品供应。
OnnxStream:内存友好的机器学习推理引擎 可在树莓派Zero 2上运行Stable Diffusion 1.5
OnnxStream是一款专注于减少内存占用、提高推理效率的机器学习推理引擎。它的设计目标是在资源受限的环境中运行深度学习模型,如树莓派Zero2,该设备只有512MB的RAM。它的跨平台性使得用户可以在不同的设备上灵活使用。
24GB HBM3E内存明年初交付:NVIDIA疯狂堆料282GB!
将在明年初大批量出货交付HBM3E高带宽内存,首要客户就是NVIDIA。NVIDIAA100/H100计算卡热卖,对于HBM的需求也空前高涨,动辄单卡几十GB,最近宣布的GraceHopper超级芯片,双路系统就需要282GBHBM3E。美光还将在明年初出货32GBDDR5颗粒,可以轻松做成单条桌面32GB、服务器128GB,甚至能达成单条1TB。