五倍吞吐量,性能全面包围Transformer:新架构Mamba引爆AI圈
在别的领域,如果你想形容一个东西非常重要,你可能将其形容为「撑起了某领域的半壁江山」。但在AI大模型领域,Transformer架构不能这么形容,因为它几乎撑起了「整个江山」。与类似规模的Transformer相比,Mamba具有5倍的生成吞吐量Mamba-3B的质量与两倍于其规模的Transformer相当。
利好国产显卡!Imagination宣布全新GPU架构 仅支持DX11
国产CPU处理器、GPU显卡蓬勃发展,但是除了龙芯完全自研指令集之外,都是购买外部IP,从根本上依然受到局限。GPU显卡的IP大多来自Imagination,移动端大名鼎鼎的PowerVR就来自他家,其已经被中资收购,国产化的障碍基本被扫除。Imagination宣称,DXDGPU架构单核性能比上代提升2.25倍,双核设计可提供4.6TFlops的浮点性能、144GT/s的纹理性能。