微软发现严重安全漏洞:受影响安卓应用安装量超40亿次!
近日微软披露了一个名为DirtyStream”的严重安全漏洞,攻击者可利用此漏洞控制应用程序并窃取有价值的用户信息。微软的研究表明,这个漏洞并不是个例,许多流行的Android应用程序普遍存在这一问题,例如安装量超过10亿次的小米文件管理器和安装量约5亿次的WPSOffice。例如易受攻击的应用可能无法充分检查文件名或路径,从为恶意应用提供了可乘之机,使其可以将伪装成合�
研究显示,GPT-4可以自主利用安全漏洞,具备攻击性
每周至少有一次,生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待OpenAI发布的下一个大型语言模型,但与此同时,GPT-4似乎比你想象的更具备能力。”他们还指出,在发布研究之前,他们已向OpenAI披露了他们的发现该公司要求他们不要将他们的提示公开分享。
Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞
PatronusAI,一家专注于负责任AI部署的初创公司,日前发布了一款名为SimpleSafetyTests的新型诊断测试套件,以帮助识别大型语言模型中的关键安全风险。这一宣布出现在人们对像ChatGPT这样的生成式AI系统在未经妥善保护的情况下可能提供有害响应的担忧不断增长之际。通过基本测试是第一步不是完全生产就绪的证明。
深度催眠引发的LLM越狱:香港浸会大学揭示大语言模型安全漏洞
香港浸会大学的研究团队通过深度催眠的方法,提出了一种新颖的大语言模型越狱攻击——DeepInception。该研究从心理学视角出发,揭示了LLM在应对人类指令时可能失去自我防御的特性。通过心理学视角的独特探索,DeepInception为理解和防范LLM越狱提供了有益的启示。