损失数十亿!南亚内存20nm技术被内鬼偷走:源自美光
中国台湾内存大厂南亚发生了一起内部窃密案,涉及到20nm工艺技术,造成严重损失。2015-2016年间,南亚从美光引入了20nmDRAM内存芯片制造工艺,曾向相关业务部门的员工开设了线上培训课程。南亚计划今年投产基于第二代10nm工艺的8GbDDR4、16GbDDR5内存芯片,年资本支出预计约200亿台币。
RingAttention:一种降低Transformer内存需求的新AI技术
UC伯克利的研究人员提出了一项名为RingAttention的新方法,以解决深度学习模型中内存需求的挑战。在最新的研究中,研究人员探讨了Transformer模型在处理长序列时面临的问题,特别是由于自注意力机制引发的内存需求。研究人员表示,他们将来计划在最大序列长度和最大计算性能方面进行更多研究,这将为大型视频-音频-语言模型、利用扩展反馈和试验错误学习、代码生成和理解科学数据等领域提供激动人心的机会。