Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞
PatronusAI,一家专注于负责任AI部署的初创公司,日前发布了一款名为SimpleSafetyTests的新型诊断测试套件,以帮助识别大型语言模型中的关键安全风险。这一宣布出现在人们对像ChatGPT这样的生成式AI系统在未经妥善保护的情况下可能提供有害响应的担忧不断增长之际。通过基本测试是第一步不是完全生产就绪的证明。
Google 扩展其漏洞奖励计划以增强生成式人工智能系统的安全性
Google宣布,将扩展其漏洞奖励计划,以奖励研究人员寻找针对生成式人工智能系统的攻击方案,以增强AI的安全性和安全性。Google的LaurieRichardson和RoyalHansen表示:「生成式AI带来了与传统数字安全不同的新问题,例如可能存在的不公平偏见、模型操作或数据误解。连同Anthropic和微软宣布了创建一个1000万美元的AI安全基金,专注于推动AI安全领域的研究。
谷歌称黑客利用零日漏洞攻击 iPhone 用户
在谷歌的最新报告中,揭示了政府黑客去年利用苹果iPhone操作系统中的三个未知漏洞,以及一家欧洲初创公司Variston开发的间谍软件,对受害者进行定向监控的情况。谷歌的威胁分析小组发布了一份报告,详细分析了政府利用多家间谍软件和漏洞利用卖家的活动,其中包括巴塞罗那初创公司Variston。谷歌在报告中写道,商业监控供应商正在导致危险的黑客工具激增,并表示这种针对性的监视威胁了言论自由、新闻自由和选举的公正性。
iPhone遭遇史上最复杂攻击 iOS16.2以前系统受影响
卡巴斯基在今年6月份的报告中透露,他们发现了一个极其高级和复杂的iMessage漏洞,称之为“OperationTriangulation”。这个漏洞能让iPhone被植入恶意软件,从窃取麦克风、相机、定位等数据。OpenAI的科学家AndrejKarpathy说:这毫无疑问是我们目前见过的最复杂的攻击链之一。
滴滴再次就系统故障致歉:软件故障是事故起因 非攻击造成
11月29日,滴滴出行就近日系统故障再次向用户致歉。初步调查发现,此次事故的起因是底层系统软件故障,并非外界传闻的遭到网络攻击。今天的滴滴还有很多不足,我们将以此为戒,在全公司范围内深刻反思,全力改正,继续努力做好服务保障。
iPhone遭遇史上最复杂攻击 iMessage漏洞被发现
在今年6月,网络安全公司卡巴斯基发布了一份报告,披露了一个名为“OperationTriangulation”的高端iMessage漏洞。这个漏洞极为复杂,能够向iPhone植入恶意程序,并收集包括麦克风录音、照片、地理位置等在内的敏感数据。虽然重启手机可以关闭漏洞,但攻击者只需发送一段恶意iMessage文本就能重新激活它,无需用户进行任何操作。
ChatGPT泄露私人信息漏洞曝光,攻击方法轻松且成本极低
一组由GoogleDeepMind科学家领导的研究人员成功利用巧妙方法,让OpenAI的ChatGPT揭示个人电话号码和电子邮件地址。这一攻击的成功表明ChatGPT的训练数据中可能包含大量私人信息,有可能不可预测地泄露出来。研究人员警告称,这只是对潜在漏洞的一个临时措施,无法解决其根本性的安全问题。
AI插件诱导注入数据外泄漏洞曝光 攻击者可以将恶意指令注入Google Bard
GoogleBard推出了强大的扩展功能,使其能够访问YouTube、搜索航班和酒店,以及用户的个人文档和电子邮件。这也为潜在的安全漏洞敞开了大门。但漏洞的具体修复方式尚不明确。
AI技术漏洞!OpenAI的DALL-E 3易受越狱攻击 生成儿童吸烟照片
OpenAI的DALL-E3是一种强大的图像生成AI技术,但最新的事件表明,它并非没有漏洞。一位名为PeterGostev的LinkedIn用户发现了一种越狱技巧,成功生成了一组令人震惊的图像,显示儿童正在吸烟。在这个不断演进的领域,我们必须追求平衡,以确保技术的益处不会被滥用。