谷歌AI芯片TPU v5p在训练LLM方面比其前一代快2.8倍
谷歌正迅速成为其最好的朋友英伟达的强大对手——其超级计算机所使用的TPUv5p人工智能芯片比以往任何时候都更快、更大、更宽,甚至超过了强大的H100。谷歌在最近推出其Gemini人工智能模型的同时,也发布了其最新版本的旗舰张量处理单元,用于人工智能的训练和推理,这似乎是一种挑战英伟达自己的市场领先的图形处理器的尝试。粗略的计算表明,TPUv5p大约比A100快3.4到4.8倍,这使得它与H100相当或者更优秀,尽管在得出任何结论之前,需要更详细的基准测试。