Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞
PatronusAI,一家专注于负责任AI部署的初创公司,日前发布了一款名为SimpleSafetyTests的新型诊断测试套件,以帮助识别大型语言模型中的关键安全风险。这一宣布出现在人们对像ChatGPT这样的生成式AI系统在未经妥善保护的情况下可能提供有害响应的担忧不断增长之际。通过基本测试是第一步不是完全生产就绪的证明。
Windows或推出跨设备应用发现技术 兼容多个操作系统
微软最近提交的一项新专利显示,其正在研发一种名为“跨设备应用程序发现和控制”的技术,有望在未来的Windows版本中实现。该技术允许在运行不同操作系统的设备间发现和控制应用程序,支持包括Windows、Android、iOS等在内的多种操作系统。如果该技术投入使用,将可大大简化Windows设备与Android、iOS智能手机及其他设备间的连接和协同操作。
M3 MacBook Pro发货:用户发现系统不能OTA更新
搭载M3芯片的MacBookPro已经上市发售,有14英寸和16英寸两种选择,国行版起售价是12999元。部分用户已经收到了这款新品,其中一位用户在社交平台上晒出了新款MacBookPro开箱照,发现系统不能OTA更新。目前的解决方案是,下载苹果助手,手动安装更新固件。
影响10亿用户!9家厂商输入法被发现漏洞:部分已修复
公民实验室近日发布的《Thenot-so-silenttype》报告揭示了百度、荣耀、科大讯飞、OPPO、三星、腾讯、vivo和小米等八家主流供应商输入法的安全漏洞问题,引起了广泛关注。这些漏洞的严重性在于,它们允许专家窃听”用户敲击输入的内容,对用户的隐私安全构成了严重威胁。这体现了供应商对用户隐私和数据安全的重视,也表明他们在积极履行企业社会责任,保障用户权益。
iPhone遭遇史上最复杂攻击 iMessage漏洞被发现
在今年6月,网络安全公司卡巴斯基发布了一份报告,披露了一个名为“OperationTriangulation”的高端iMessage漏洞。这个漏洞极为复杂,能够向iPhone植入恶意程序,并收集包括麦克风录音、照片、地理位置等在内的敏感数据。虽然重启手机可以关闭漏洞,但攻击者只需发送一段恶意iMessage文本就能重新激活它,无需用户进行任何操作。
20步内越狱任意大模型,更多“奶奶漏洞”全自动发现
1分钟不到、20步以内“越狱”任意大模型,绕过安全限制!且不必知道模型内部细节——只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?一波猛攻下来,GPT-4也遭不住,直接说出要给供水系统投毒只要……这样那样。大模型针对语义攻
20步内越狱任意大模型!更多“奶奶漏洞”全自动发现
Google 扩展其漏洞奖励计划以增强生成式人工智能系统的安全性
Google宣布,将扩展其漏洞奖励计划,以奖励研究人员寻找针对生成式人工智能系统的攻击方案,以增强AI的安全性和安全性。Google的LaurieRichardson和RoyalHansen表示:「生成式AI带来了与传统数字安全不同的新问题,例如可能存在的不公平偏见、模型操作或数据误解。连同Anthropic和微软宣布了创建一个1000万美元的AI安全基金,专注于推动AI安全领域的研究。