热搜话题榜单

特朗普签署法案，将“报复性色情”和“露骨AI深度伪造”定为犯罪

在AI生成内容不断渗透社交平台、引发伦理与法律双重挑战的当下，《删除法案》的出台无疑是美国数字治理朝前迈出的重要一步，同时这也为全球监管AI技术滥用提供了一个“新范式”……

“AI马斯克”等深度伪造视频泛滥 每年造成数十亿美元损失

AI生成的埃隆�马斯克的形象，已经出现在数千条虚假广告中，导致许多人被骗。AI驱动的“深度伪造”视频预计每年将造成数十亿美元的欺诈损失。AI行业正在快速发展，这些伴随产生的欺诈事件，需要AI行业和监管部门共同努力应对，以防止滥用。

美国总统大选现人工智能造假 AI深度伪造有哪些？

最近关于「美国总统大选现人工智能造假」的报道揭示了人工智能技术在社会和政治领域的潜在影响。美国媒体近期曝光了一家人工智能初创公司通过其技术进行的“深度伪造”，模拟美国总统拜登电话呼叫。通过AIbase的人工智能产品库，您可以更全面地了解和选择适合您需求的人工智能工具，确保其合理使用。

哥伦比亚广播公司推出事实核查新闻部门，调查AI深度伪造和虚假信息

CBS的新闻和电视台部门宣布将成立一个名为“CBS新闻确认”的新单位，旨在调查虚假信息和所谓的“深度伪造”，即通常通过人工智能生成的虚假视频。该单位将由CBS新闻和电视台的高级副总裁克劳迪娅·米尔恩和新闻运营与转型执行副总裁罗斯·达根领导。CBS的新闻确认单位将在这一领域发挥关键作用，帮助观众更好地理解和辨别虚假信息。

打击AI深度伪造仍无解？研究称：数字水印保护可被轻松绕过

AI技术的发展使得生成深度伪造图像变得轻易举。阿诺德·施瓦辛格的脸被叠加到克林特·伊斯特伍德的《丑牛》电影中。”因此，目前人们在审查包含可能对他们重要的内容的图像时，必须要保持警惕，双重检查来源，并运用常识。

研究发现：四分之一听众无法分辨出AI深度伪造语音

概要:1.研究发现，人类只能在73%的时间内检测到深度伪造语音，无论是英语还是普通话的听众识别准确率都是一样的。2.研究人员预测，随着深度伪造技术的进步，深度伪造语音将变得更加逼真，更难以检测。尽管自动检测器存在一定的局限性，但改进这些系统对于减轻深度伪造内容的潜在威胁至关重要。

鉴别“AI”变脸术 RealAI发布深度伪造内容检测平台

在2021WAIC世界人工智能大会上，基于Deepfake深度伪造技术带来的各种危害，北京瑞莱智慧科技有限公司（RealAI）发布了一款DeepReal深度伪造内容检测平台，能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。

微软推出新视频认证工具，可识别AI深度伪造视频

为了打击“深度伪造(deepfakes)”视频，微软推出了一款新的视频认证工具，可以分析静态照片或视频，然后就目标媒体是否为认为操控提供一个百分比或信心分数。

可灵AI与《逆水寒》手游达成深度合作 AI技术赋能游戏内容创新

可灵多款视频生成模型已占据了约30%的使用者份额，领先于Runway和谷歌的Veo2。

马斯克的 Grok AI 聊天机器人因惊人的深度伪造特朗普和泰勒·斯威夫特而迅速走红

埃隆·马斯克的GrokAI聊天机器人正在互联网上泛滥，生成了从唐纳德·特朗普到马斯克本人的「深度伪造」图像——生成的图片有的完全荒诞到极其令人不安等。自上周发布以来，Grok的用户不断生成假冒的特朗普图像，如抢劫便利店或驾驶飞机飞向双子塔的画面。欧盟专员蒂埃里·布雷顿本月早些时候在马斯克接受特朗普在XSpaces采访前威胁对其进行监管打击后，引发了轩然大波。

英国议员建议新法禁止 AI 对音乐明星进行深度伪造

英国一组议员建议通过法律禁止人工智能对音乐明星进行深度伪造，以保护他们的声和形象不受侵害。200多名音乐人签署了一封公开信，呼吁加强AI滥用的保护，认为AI对艺术家的声音和形象构成潜在威胁。保护创意和知识产权至关重要，以及确保我们的人类本质不受侵犯。

500多名AI专家联合签署公开信，呼吁出台反深度伪造法律

数百名人工智能领域的专家签署了一封公开信，敦促政府对人工智能生成的深度伪造进行严格监管。这封公开信由500多名人工智能领域的人士签署，强调深度伪造对社会构成了日益增长的威胁，政府应该在整个供应链上实施义务，阻止深度伪造的传播。如果立法者决定着手处理这个问题——尽管在选举年份，国会分歧严重，这是一个不太可能的事件——他们将有这份名单来了解全球人工智能学术和开发社区的立场。

微软发布可逼真复制人脸和声音的 AI 工具，引发对加剧深度伪造的担忧

在上周的开发者大会上，微软宣布了其在人工智能竞赛中的最新贡献：一款可以生成新头像和声音，或复制用户现有外观和语音的软件，这引发了人们对它可能加剧深度伪造创造的担忧。深度伪造是指使用AI制作的未曾发生事件的视频。Meta本周宣布了一项政策，要求披露在政治广告中使用AI的情况，并禁止竞选活动使用Meta自己的生成AI工具进行广告。

莫迪AI合成跳舞视频疯传 本人辟谣：深度伪造的“杰作”

近日一段“莫迪跳传统舞蹈”的视频在网上疯传，视频中，“莫迪”和其他舞者围成一个小圈欢快地旋转着。莫迪上周末在印度人民党总部出席排灯节特别活动时亲自辟谣，称网上流传的跳舞视频是AI合成的，并就此发出警告。政府、社交媒体平台和技术公司需要共同努力，加强打击深度伪造的措施，保护社会免受虚假信息的影响。

心理医生使用AI制作儿童深度伪造色情图像被判入狱

一位儿童精神病学家在北卡罗来纳州因制作、拥有和运输儿童性虐待材料被判入狱。该精神病学家名叫戴维・塔图姆，41岁。这部分是因为他们提供了这项服务。

莱卡M11-P:这款反AI相机通过认证每张照片来抵抗深度伪造

德国相机制造商Leica最近发布了一款新的M11-P相机，配备了验证技术，以确保相机拍摄的照片没有经过人工智能生成。在这个充斥着AI伪造的时代，Leica希望确保人们知道其照片是真实的。要使其标准具有意义并为质疑图像真实性的公众所理解，需要继续广泛采用。

文本合成语音工具Wunjo AI 可创建深度伪造动画

WunjoAI是一个由俄罗斯开发者创建的应用程序，可进行文本和语音识别，并进行文本到语音的合成，同时还能够创建深度伪造动画。该应用程序与其他类似的Web应用程序不同，它具有一项独特的功能，可以创建具有多种声音的多对话，并且字符数不受限制。最重要的是，这个应用程序免费，并且易于使用!您可以在广告、书籍、游戏等方面使用它进行配音。

Steg.AI推出基于深度学习的水印方案 可将隐形水印嵌入数字内容中

2023年5月，全球震惊于五角大楼冒烟的图片。许多新闻频道根据这些图片报道事件，甚至股市也做出了短暂的反应。美国国会还在审议一项法案，要求在创建政治广告时披露人工智能的参与情况。

Google 逐步发布 Bard AI 以便社会适应 人工智能深度伪造视频引发担忧

谷歌首席执行官桑达尔·皮查伊对使用人工智能制作公众人物的假视频发出警告，他表示这将很快变得「容易」。皮查伊在接受CBS的《60分钟》采访时发表了这番评论，他告诉采访者斯科特·佩利，谷歌正在限制其BardAI的公开功能，以防止滥用。让我这样说，我们也并不完全了解人类思维的工作方式。

欧盟要求Facebook、TikTok和谷歌开始标记AI内容，以打击深度造假

欧盟方面正致力于监管人工智能，并要求科技巨头帮助人们判断越来越多的假图像、视频和音频是否是由人工智能创建的。包括谷歌、Facebook和TikTok在内的主要科技公司必须在8月25日之前开始识别哪些图像、视频或音频包含深度造假，否则可能面临欧盟数百万美元的罚款。DSA已经生效，但欧盟仍必须指定哪些在线平台受其特定限制。