热搜话题榜单

前OpenAI研究员：有时，ChatGPT为了“自救”，会选择牺牲用户

他对OpenAI最新GPT-4o模型进行的一系列实验。这些实验旨在测试AI是否会偏向“自我保护”，甚至可能以牺牲用户利益为代价……

末日时间表来了！前OpenAI研究员76页硬核推演：2027年ASI接管世界，人类成NPC

【新智元导读】前OpenAI研究员DanielKokotajlo团队发布了「AI2027」预测报告，描绘了一个超人AI崛起的未来:从2025年最贵AI诞生，到2027年自我进化的Agent-5渗透政府决策，人类可能在不知不觉中交出主导权。2027年，AI究竟会如何接管人类?今天，前OpenAI研究员和同事们发出一篇「AI2027」报告，长达76页，做出了种种硬核预测。如果强大的AI真的即将来临，我们都需要开始想象一些很奇怪�

斯坦福研究员进驻白宫，特朗普AI班底集结！

【新智元导读】斯坦福HAI的研究员MichaelKratsios，被任命为白宫科技政策办公室主任，及特朗普政府的总统科技助理。从马斯克、AI沙皇到HAI研究员，这几轮任命彰显出:美国开始在国家层面推动科技政策发展，大力发展AI。值得一提的是，他出生于南 卡罗来纳州，并获得了普林斯顿大学文学学士学位曾是清华大学的访问者学者。

川普赢了，AI圈炸了！英伟达市值突破3.6万亿， OpenAI研究员：他或将见证AGI诞生

科技行业的游戏规则，正悄然改写。川普政府即将上台，整个科技圈酝酿着一场重大的变革。大规模AI竞赛对芯片狂热需求，让英伟达股价直冲云霄，创史上首个3.6万亿美金市值最高纪录。史上首个市值超3.6万亿美金的巨头诞生了!果不其然，美国大选后，世界最大的赢家当属英伟达。GPU霸主的股价在当地时间周四，飙涨2.2%创下新高。

Post-Training有多重要？AI2研究员长文详解前沿模型的后训练秘籍

越来越多研究发现，后训练对模型性能同样重要。AllenAI的机器学习研究员NathanLambert最近发表了一篇技术博文，总结了科技巨头们所使用的模型后训练配方。到了一定的时间节点，这些细节都会变得微不足道。

GPT-4o模仿人类声音，诡异尖叫引OpenAI研究员恐慌！32页技术报告出炉

【新智元导读】五颗草莓到底指什么?盼了一天一夜，OpenAI只发来一份32页安全报告。报告揭露:在少数情况下，GPT-4o会模仿你的声音说话，或者忽然大叫起来……事情变得有趣了。GPT-3.5Turbo在ARC-Easy的英语和豪萨语之间表现出大约54个百分点的差距GPT-4o将这一差距缩小到不到20个百分点。

OpenAI 研究员因安全问题辞职后加入 Anthropic

OpenAI的关键研究员JanLeike本月早些时候因“安全问题”辞职，最近他宣布加入竞争对手Anthropic，从事“可扩展的监督、从弱到强的泛化和自动对齐研究”。Anthropic是一家公益公司，致力于谨慎推进人工智能技术发展，其创始人是一些离开OpenAI的前员工，他们认为OpenAI在与微软签订了10亿美元交易后，偏离了其开发更安全、更符合伦理要求的人工智能的使命，过于关注商业利益。尽管Sutskever已经辞职并且尚未表明他的下一步行动，但他的价值观与Anthropic一致，这使得Anthropic成为他的可能去向之一。

OpenAI 重要研究员接连离职 安全问题让位于新产品

OpenAI联合创始人IlyaSutskever宣布离职后，该公司另一位重要研究员JanLeike也透露即将离开。这引发外界关注，OpenAI是否正在向新产品发展的同时，忽视了人工智能安全问题。在追求新产品发展的同时，OpenAI是否应该更加重视人工智能安全，这已成为外界关注的焦点。

MIT研究员推新AI图片生成框架DMD：AI 单步生成高质量图像 速度快30倍

在当今人工智能时代，计算机可以通过扩散模型生成自己的“艺术”，逐步向嘈杂的初始状态添加结构，直到清晰的图像或视频出现。扩散模型突然变得异常受欢迎:输入几个词，即可体验现实与幻想交汇的梦幻景象。当前版本使用StableDiffusionv1.5作为教师模型，学生继承了一些限制，如渲染文本和小脸部的细节描绘，这表明更先进的教师模型可能进一步提升DMD生成的图像。

中国如何复刻Sora，华人团队长文解构！996 OpenAI研究员：Sora是视频GPT-2时刻

自曝996作息的OpenAI研究员JasonWei表示，Sora代表着视频生成的GPT-2时刻。竞争的关键，就是算力和数据了。从申请表中可以看出，OpenAI正在寻找以下认知科学、化学、生物、物理、计算机、经济学等领域的专家。

AGI将至？研究员称：人类只有5年时间了

AI技术的迅猛发展使人类重新审视技术保守主义的观点。OpenAI推出的Sora引起轰动，使大家重新思考对大模型的看法。他们关注AI技术对就业和社会公平性的影响，警示人们应当审慎对待技术发展可能带来的负面影响。

考古了！苹果给安全研究员的iPhone 14 Pro送礼

2月2日，安全研究员GergelyKalman在社交平台上分享了一张照片，展示了他收到的苹果公司的安全研究设备以及附带的赠品。这些赠品包括一个特殊的iPhone14Pro手机和一些说明文档。”另外，苹果公司在去年开始销售这种特别版iPhone，并表示这些设备被设计为禁用了一些安全功能，以使研究人员更容易寻找iOS中的错误。

AI人才供不应求 ChatGPT研究员平均月薪6.7万元

脉脉发布的《2023年度人才迁徙报告》显示，ChatGPT研究员以平均月薪6.7万元位列高薪榜榜首。AI相关岗位人才供不应求，在高薪岗位TOP20中，以ChatGPT研究员、算法、深度学习为代表的AI岗位拥有10席，占了半壁江山。不过报告也指出，2023年，新经济人才持续饱和，人才供需比从2021年的0.32上升至2023年的2.04，平均2个人争夺1个岗位。

牛津大学AI研究员发出警告:大语言模型对科学真相构成风险

在最新的一篇研究中，牛津大学互联网研究所的人工智能研究员发出了对大语言模型对科学真相构成威胁的警告。由BrentMittelstadt、ChrisRussell和SandraWachter等研究员在《自然人类行为》期刊上发表的论文中，他们指出，基于GPT-3.5架构等LLMs并非绝对的真实信息来源，可能产生他们所称的“幻觉”——即不真实的回应。Russell教授强调了对LLMs提供的机会进行谨慎考虑，并促使反思这项技术是否应该因为它能够提供某些机会被授予这些机会。

人才争夺战！OpenAI百亿美元挖角谷歌AI研究员

OpenAI正通过数百万美元的股权激励计划，试图将Google的顶尖AI研究员纳入麾下。这一招聘活动发生在OpenAI的员工股权销售接近完成之际，预计公司估值将在未来翻番，超过800亿美元。自2018年以来，TPU已通过Google的CloudTPU服务向第三方开放。

微软研究员发布EmotionPrompt方法:增强多语言模型的情感智能

微软研究员最近发布了名为“EmotionPrompt”的研究成果，旨在增强多语言模型的情感智能。情感智能被认为是人类素质的一个关键组成部分，它涵盖了情感理解、情感处理以及如何利用情感数据来指导逻辑和分析过程，如问题解决和行为管理。这项研究为多语言模型的情感智能潜力提供了初步的研究，有望在各种应用领域取得进展。

微软研究员推LoRAShear技术：高效对大语言模型结构化剪枝

微软的研究人员近日推出了一项名为LoRAShear的创新技术，旨在剪枝大型语言模型并实现知识的高效恢复。LLMs在处理文本数据和迅速检索相关信息方面表现出色，广泛应用于搜索引擎和问答系统。未来的工作将集中在解决这些挑战，为人工智能领域的发展提供更多的支持。

探索人类未达之境！46位新一期“新基石研究员”获资助

来自13个城市28家机构的46位杰出科学家，成为新一期“新基石研究员”，在他们当中，有10位“80后”，最年轻的仅有38岁。作为目前国内社会力量资助基础研究力度最大的公益项目之一，“新基石研究员项目”今日（10月30日）揭晓第二期获资助名单，支持最有潜力、最有胆量、最有抱负的科学家“从0到1”，探索人类未达之境。“新基石研究员项目”是一项聚焦原始创新、鼓�

Meta首席AI研究员指出OpenAI和DeepMind对AI看法过于乐观

Meta的AI首席研究员YannLeCun近日警告称，对AI的过早监管可能会加强科技巨头的主导地位，抑制创新竞争。AI研究和开发的监管可能会适得其反，因为在AI安全的幌子下，可能导致“监管被掌握”。他认为当前的AI被高估了，但也相信未来更强大的AI系统将有助于解决气候变化和疾病控制等重大挑战。

OpenAI、Google和Meta 的当红华人研究员们在想些什么｜对话实录

甚至你会以为这是一场明星见面会。当我从博士毕业时候，我的导师给了一个建议——AI研究者要拉长到未来很多年的时间维度来思考研究，也就是不只是考虑对现在的一些东西的改进是未来可能带来彻底改变的技术理念。