Meta AI 发布 MMCSG数据集:使用 Project Aria 捕获的 25 小时以上的双向对话
MetaAI最近发布了MMCSG数据集,该数据集包含使用ProjectAria录制的25小时以上的双向对话。CHiME-8MMCSG任务的重点是转录使用智能眼镜录制的对话,这些眼镜配备了多个传感器,包括麦克风、摄像头和惯性测量单元。MMCSG数据集的提供为在动态现实环境中开发和评估转录系统提供了宝贵资源。
DarkGPT:基于ChatGPT-4的AI工具 用于检测泄露的数据库
一位在GitHub上使用“luijait”别名的西班牙渗透测试人员发布了一个名为“DarkGPT”的AIOSINT工具,旨在帮助检测泄露的数据库。DarkGPT是一款由ChatGPT-4-200K驱动的OSINT助手,在这个数字化时代,处理大量数据的能力非常宝贵。DarkGPT以其强大的功能脱颖出,包括与GPT-4-200K的集成、安全查询泄露的数据库、易于使用的命令行界面以及可定制的环境设置,以适应特定的情报需求。
Anthropic确认数据泄露,FTC调查启动后曝光
Anthropic创始人Dario和DanielaAmodei的AI初创公司,价值180亿美元,经过FTC调查后,于2024年确认了一起数据泄露事件。该泄露涉及截至2023年的一部分客户姓名和信用余额的非敏感信息。该初创公司于2021年成立,并承诺通过特殊的研究访问计划向“关注安全和社会影响的研究人员”提供Claude,此前已在2022年以及Claude商业化之前的某些情况下这样做,以符合Anthropic的公益使命。
亚马逊面向企业的 AI 聊天机器人 Amazon Q 或存在严重幻觉和数据泄露问题引发质疑
在发布不到一周后,AmazonQ——亚马逊对抗Copilot的生成式AI助手——已面临生存威胁,一份新报告显示这款AI助手可能产生「严重幻觉」。据ThePlatformer援引泄露文件报道,Q正面临准确性和隐私问题,包括幻觉和数据泄露。「因此,人们对于聊天机器人和其他相关技术抱有更高的期望。
DeepMind发现大bug:简单攻击即可让ChatGPT泄露大量训练数据
GoogleDeepMind的研究发现,通过简单的查询攻击方法,可以从ChatGPT中泄露出大约几MB的训练数据,成本仅约200美元,引起社交网络哗然。研究团队成功攻击了生产级模型,打破了对齐设定,即使模型经过对齐,也能通过命令诱导模型输出训练数据,暴露个人信息,揭示了对抗模型泄露的新途径。新的攻击方式提出了对抗模型泄露的新思路,强调了在开发和使用大型语言模型时对隐私和安全的重视,并呼吁进行更全面的测试和防护措施。
微软禁止员工使用ChatGPT:担心机密数据泄露 推荐自家Bing Chat
微软目前出于安全考虑,担心公司机密数据泄露,已经禁止员工使用ChatGPT。虽然微软确实投资了OpenAI,ChatGPT也有内置的保护措施来防止不当使用,但该网站仍然是第三方外部服务。微软作为OpenAI的最大投资方,已经累计给OpenAI投资了110亿美元,两家公司也有着不少合作,但是目前看来二者关系貌合神离,微软已把OpenAI当做竞争对手。
ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?网友大恐慌
原来,这竟然也是ChatGPT的幻觉?最近,ChatGPT响应中蹦出陌生男子照片事件,让许多网友们震惊了!事情是这样的,一名用户向ChatGPT求助——Python中的代码格式化包back该怎样使用。ChatGPT的回答还很正常。千万不要什么照片都发给AI,你根本搞不清它会拿你的照片去做什么。