功耗高达1000W!NVIDIA B200 GPU加速器明年到来
根据各方信息和路线图,NVIDIA预计会在今年第二季度发布Blackwell架构的新一代GPU加速器B100”,官方称可轻松搞定1730亿参数大语言模型,是现在H200的两倍甚至更多。B100之后有更强大的升级版B200,一如现在H100、H200的关系。NVIDIAGTC2024图形技术大会将于3月18-21日举行,必然会披露新一代GPU加速器的情况,甚至有可能正式宣布。
英特尔正打造价值数十亿美元的人工智能加速器业务
英特尔的人工智能加速器业务正迎来高涨的兴趣。根据MotleyFool的报道,英特尔的AI加速器业务在2023年中旬达到10亿美元后,如今已经超过20亿美元。自2002年以来,StockAdvisor服务的回报已经是S&P500指数的四倍以上。
研究称:英特尔Gaudi2技术在大语言模型推理方面媲美英伟达AI加速器
根据Databricks的最新研究,英特尔的Gaudi2技术在大规模语言模型推理方面与业界领先的英伟达AI加速器相媲美。该研究发现,Gaudi2在解码方面的延迟与英伟达H100系统相当,并且优于英伟达A100。我们的总体策略是提供一系列解决方案。
英特尔发布 AI 加速器 Gaudi 3 :预计明年推出 对标英伟达H200
在今日“让AI无处不在”的活动上,英特尔CEO帕特・基辛格还首次向公众揭示了英特尔Gaudi3系列AI加速器,这是一款专为深度学习和大规模生成人工智能模型设计的工具,计划明年推出。新一代的Gaudi3AI加速器凭借出色的性能优势和极具竞争力的总体拥有成本及定价,有望在2024年占据更大的市场份额。它还将配备最高达128GB的HBM3e内存,这将大幅提升AI的学习和训练性能,直接与英伟达的H200加速卡竞争。