谷歌更新Transformer架构,更节省计算资源!50%性能提升
谷歌终于更新了Transformer架构。最新发布的Mixture-of-Depths,改变了以往Transformer计算模式。这篇论文目前被引次数超过3500次,论文核心定义了Inductivebias概念。
微软正式宣布其首款人工智能芯片 Maia 100 及基于 Arm 的通用计算芯片 Cobalt 100
微软确认了此前的传闻:该公司已自主开发了AI芯片,旨在训练大型语言模型,减少对Nvidia的依赖。微软还研制了自家的基于Arm架构的CPU,专为云计算工作负载设计。随着微软本周继续推出更多Copilot功能和BingChat改版计划,Maia可能很快就能帮助平衡支持这些新体验所需求的AI芯片需求量。