热搜话题榜单

腾讯混元、英伟达都发混合架构模型，Mamba-Transformer要崛起吗？

在过去的一两年中，Transformer架构不断面临来自新兴架构的挑战。在众多非Transformer架构中，Mamba无疑是声量较大且后续发展较好的一个。通过合理的设计，Transformer强大的性能可以与Mamba在长上下文和效率上的优势整合到一起，为大型语言模型和大型多模态模型带来新的可能性。

激进架构，400万上下文，彻底开源：MiniMax-01有点“Transformer时刻”的味道了

“MoE”加上“前所未有大规模投入生产环境的LightningAttention”，再加上“从框架到CUDA层面的如软件和工程重构”，会得到什么？一个追平了顶级模型能力、且把上下文长度提升到400万token级别的新模型。这显然是巨大的野心，但在如今人们都在关注大模型接下来往哪儿走的时候，非常需要这样的野心，非常需要一个或者更多个“Transformer时刻”——在一个自己相信的路线上做到极致，把看似所有人都知道的配方，最终兑现出来，展示给技术社区里的人们，让它变成某个决定性的时刻，给AI的前进再添把火。

突破算力限制！Meta开源“记忆层”，重塑Transformer架构大模型

今天凌晨3点，全球社交巨头Meta分享了一个创新研究——Memorylayers。Transformer架构的预训练大模型在存储、查询数据时，随着参数的变大对算力的需求呈指数级增长。这样的设计既简化了维护流程，又提高了系统的灵活性和适应性。

1/8成本比肩Claude 3.7，Mistral Medium 3来了

欧洲AI公司Mistral发布多模态新模型Mistral Medium 3，主打编程和多模态理解能力，性能达Claude 3.7的90%但成本仅1/8（输入0.4美元/百万token）。该模型在编程和STEM任务表现突出，支持企业级定制部署，已上线多个云平台。同时推出企业聊天机器人服务Le Chat Enterprise，集成第三方工具。尽管因未开源权重引发争议，其高性价比仍获业界关注。公司透露正在开发更大规模模型。

联发科发布Kompanio Ultra 910芯片：台积电3nm工艺制造 专为Chromebook Plus打造

今天，联发科发布一款旗舰芯片KompanioUltra910，专为ChromebookPlus笔记本电脑打造，是迄今为止性能最高的Chromebook芯片。KompanioUltra910基于台积电3nm工艺制程制造，采用了134”三丛全大核心设计，共计8个核心。联发科表示，无论是多任务处理、创建内容、玩光线追踪游戏和流媒体是享受身临其境的多媒体，KompanioUltra910都能承担最具挑战性的任务，确保无与伦比的结果，为ChromeOS用户提供优秀的使用体验。

字节豆包团队推出稀疏模型架构UltraMem：推理成本可降83%

据报道，字节跳动豆包大模型Foundation团队近日宣布了一项重要创新成果UltraMem稀疏模型架构。这一架构通过将计算和参数解耦，在保证模型效果的同时，有效解决了推理过程中的访存问题，为人工智能领域带来了新的突破。这一突破为构建规模达到数十亿value或expert的模型铺平了道路，预示着人工智能领域将迎来更加高效、经济的新发展模式。

系列首款！华为nova 12 Ultra开启HarmonyOS NEXT公测

华为官方宣布，nova12Ultra2款设备开启HarmonyOSNEXT公测版尝鲜升级。值得注意的是，这也是nova系列首款开启HarmonyOSNEXT公测的机型。在HarmonyOSNEXT升级期间，备份记录在原有可保存30天的基础上再增加30天，共计60天。

免费测试1％低帧：CapFrameX升级支持锐龙9000、酷睿Ultra 200S

越来越多的玩家意识到了1％低帧对游戏流畅性的重要性，但现有测试软件一般无法方便地考察这一目标，有些甚至是收费的，CapFrameX就是一款免费好用的工具，现在发布了最新的1.7.4版本。CapFrameX1.7.4最大的变化，就是正式支持AMDZen5架构的锐龙9000系列，以及IntelArrowLake即酷睿Ultra200S系列。最关键的是，它免费开源，官网提供源代码。