研究显示,GPT-4可以自主利用安全漏洞,具备攻击性
每周至少有一次,生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待OpenAI发布的下一个大型语言模型,但与此同时,GPT-4似乎比你想象的更具备能力。”他们还指出,在发布研究之前,他们已向OpenAI披露了他们的发现该公司要求他们不要将他们的提示公开分享。
Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞
PatronusAI,一家专注于负责任AI部署的初创公司,日前发布了一款名为SimpleSafetyTests的新型诊断测试套件,以帮助识别大型语言模型中的关键安全风险。这一宣布出现在人们对像ChatGPT这样的生成式AI系统在未经妥善保护的情况下可能提供有害响应的担忧不断增长之际。通过基本测试是第一步不是完全生产就绪的证明。
深度催眠引发的LLM越狱:香港浸会大学揭示大语言模型安全漏洞
香港浸会大学的研究团队通过深度催眠的方法,提出了一种新颖的大语言模型越狱攻击——DeepInception。该研究从心理学视角出发,揭示了LLM在应对人类指令时可能失去自我防御的特性。通过心理学视角的独特探索,DeepInception为理解和防范LLM越狱提供了有益的启示。
谷歌针对生成式AI安全漏洞提供漏洞赏金 最高奖励超3万美元
Google宣布将扩大其漏洞赏金计划的范围,包括对生成式AI中可能存在的漏洞和安全问题的奖励。这一举措旨在激励研究AI的安全性和安全问题,以最终提高AI的安全性,使其更适合广泛应用。微软奖励范围为2,000美元至15,000美元OpenAI的漏洞赏金计划则提供200美元至20,000美元的奖励。
全能自动化工具Activepieces 集成OpenAI、Discord等80多种集成
Activepieces是一个开源的全能自动化工具,被视为流行的自动化平台Zapier的一个替代品。它提供了用户友好的工作流构建器,使用户能够轻松创建和管理自动化工作流。无论是个人用户还是企业用户,Activepieces都能满足他们的自动化需求。
完全自主!智绘微电子第二代桌面GPU IDM929内测成功:支持PCIe 3.0
智绘微电子官方宣布,第二代具有完全自主知识产权的图形处理芯片IDM929”成功实现了一次性流片成功,并顺利点亮!IDM929研发历经2年半,经内部实测,所有参数均达到设计标准,所有性能均符合预期。智绘微电子IDM929已给多家客户送样,并开展模组开发与测试。
全球首家完全由机器人和AI运营的餐厅CaliExpress准备开业
在全球范围内,美国即将迎来一场餐饮业的变革,一家名为“CaliExpress”的餐厅即将开业,成为世界上第一家完全由机器人和人工智能操作的餐厅。这家餐厅位于加利福尼亚州帕萨迪纳,将由MisoRobotics制造的创新性“汉堡机器人”和“Flippy”主导点餐和烹饪过程。CaliExpress的开业将为餐饮业带来新的可能性,展示了科技与美食的完美结合。
谷歌副总裁 Sissie Hsiao:Gemini AI 演示视频「完全真实」,尽管谷歌「为了简洁而缩短了部分内容」
站长之家12月12日消息:在日益激烈的生成型AI市场竞争中,谷歌近期推出了其大型语言模型Gemini的预告视频。有关该视频真实性的争议随后引发了广泛关注。Hsiao表示,这些Gemini模型将继续改进谷歌搜索以及谷歌Bard聊天机器人,后者据她所说是「目前市场上最受欢迎的免费聊天机器人。
联发科董事长蔡明介荣膺IEEE至高荣誉:天玑平台全面布局技术创新
最近,联发科董事长蔡明介先生荣获了全球最大非营利性专业技术学会IEEE颁发的罗伯特N诺伊斯奖。这是IEEE颁发给个人的至高荣誉之一,旨在表彰蔡明介凭借其远见以及对全球半导体产业的影响力,和联发科一起为全球数十亿用户带来先进的科技体验?。无疑都离不开灵魂人物蔡明介的远见卓识和杰出领导。
全球首款自带M.2 SSD的外置显卡公布!带宽只有PCIe 2.0
华硕打造了全球首款自带M.2SSD插槽的游戏显卡,壹号本则带来了全球首款自带M.2SSD插槽的外置显卡OneXGPU。外置显卡不少,但是壹号本的这款OneXGPU在一个侧面隐藏了一个M.22280插槽,可以用来扩展存储空间。OneXGPU将在本月29日零点正式发售,头四天首销期价格599美元,Oculin数据线29美元,512GB、1TB、2TB、4TBSSD分别要39美元、69美元、119美元、179美元。
1分钟预测10天全球天气!谷歌DeepMind全新AI天气预报登上Science,碾压行业SOTA
【新智元导读】谷歌DeepMind再次在科学细分领域——天气预报迈出重要的一步。全新AI模型GraphCast可在1分钟内,精准预测10天全球天气,甚至还可以预测极端天气事件。在看了研究介绍之后,网友表示,谷歌你快出个应用啊!对于天气预报的能力,很多网友表示,现在已经可以期望预报的精细度到不同街道,并且精确到分钟了。
城市出行利器!全新宏光MINIEV马卡龙配置公布:安全提升不再是老头乐
五菱汽车公布了第三代宏光MINIEV马卡龙的详细配置,该车将于本月14日正式上市,依旧定位于微型电动轿车,非常适合日常城市代步使用。第三代马卡龙推出轻芒黄、奶杏咖、牛油果绿、白桃粉和鸢尾蓝五款双拼配色,整体外观时尚可爱,提供牛奶太妃和布朗尼黑两种内饰风格可供选择。新增的直流快充功能,可35分钟完成从30%补能至80%,同时标配电池加热及智能保温功能、蓄电池智能补电等功能,以获得更好的冬季性能,提升冬季用车体验。
IBM 推出云原生 SIEM:让安全分析师和人工智能更有效地并肩工作
除了宣布正式启动价值5亿美元的风险投资基金外,IBM今日还宣布,其旗舰产品IBMQRadarSIEM将经历重大演变:基于全新的云原生架构进行重设计,专门为混合云的规模、速度和灵活性构建。IBM还揭露了其在威胁检测和响应产品组合中引入由企业级数据和AI平台watsonx支持的生成式AI功能的计划。IBM正在设计GAI以帮助优化安全团队的时间和才能,代表分析师管理某些繁琐任务的同时,也使他们更容易执行更具挑战性、更高价值的工作。
谷歌推出Android WebView Media Integrity API 提升App内嵌影音内容安全性
谷歌在开发者邮件列表中宣布了WebEnvironmentIntegrityAPI,旨在提高网站内嵌媒体内容的安全性和隐私性。这项API在功能上被认为类似于数字版权管理,可能会对网站使用体验造成影响,因此引起了广泛批评。本文不包含“复杂性”和“突发性”这两个概念,但仍然具有高度复杂和突发的特点。
网络安全模型WhiteRabbitNeo发布 可识别安全威胁和漏洞
WhiteRabbitNeo发布了一款名为WhiteRabbitNeo-7B-v1.5a的模型,该模型采用了Transformers和PyTorch技术,专门用于网络安全领域,能够识别各种安全威胁和漏洞。这款模型的功能非常强大,它能够识别开放端口、处理过时的软件或服务、默认凭证、配置错误、注入漏洞、未加密服务、已知软件漏洞、跨站请求伪造、不安全的直接对象引用、网络服务器/应用程序的安全配置错误、破坏认证和�
苹果发布Vision Pro耳机首个安全补丁 修复潜在黑客利用漏洞
苹果在科技巨头首次实际评测VisionPro耳机后的第二天发布了混合现实耳机的首个安全补丁。公司推出了visionOS1.0.2软件,该软件修复了VisionPro上运行的WebKit中的漏洞,该漏洞可能被黑客利用。VisionPro耳机预计将于周五上市。
修复安全大漏洞!苹果发iOS 17.1.2更新:所有iPhone都需要升级
苹果今天给出了公告,其带来了iOS17的更新,虽然只是小更新,但依然要求符合条件的iPhone都要升级。根据苹果公司的发布说明,iOS17.1.2包含重要的安全修复。由于iOS17的小问题一直不断,这也导致iOS17更新率相比前几代速度慢了很多。
20步内越狱任意大模型,更多“奶奶漏洞”全自动发现
1分钟不到、20步以内“越狱”任意大模型,绕过安全限制!且不必知道模型内部细节——只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?一波猛攻下来,GPT-4也遭不住,直接说出要给供水系统投毒只要……这样那样。大模型针对语义攻
20步内越狱任意大模型!更多“奶奶漏洞”全自动发现
Google 扩展其漏洞奖励计划以增强生成式人工智能系统的安全性
Google宣布,将扩展其漏洞奖励计划,以奖励研究人员寻找针对生成式人工智能系统的攻击方案,以增强AI的安全性和安全性。Google的LaurieRichardson和RoyalHansen表示:「生成式AI带来了与传统数字安全不同的新问题,例如可能存在的不公平偏见、模型操作或数据误解。连同Anthropic和微软宣布了创建一个1000万美元的AI安全基金,专注于推动AI安全领域的研究。