Anthropic确认数据泄露,FTC调查启动后曝光
Anthropic创始人Dario和DanielaAmodei的AI初创公司,价值180亿美元,经过FTC调查后,于2024年确认了一起数据泄露事件。该泄露涉及截至2023年的一部分客户姓名和信用余额的非敏感信息。该初创公司于2021年成立,并承诺通过特殊的研究访问计划向“关注安全和社会影响的研究人员”提供Claude,此前已在2022年以及Claude商业化之前的某些情况下这样做,以符合Anthropic的公益使命。
亚马逊面向企业的 AI 聊天机器人 Amazon Q 或存在严重幻觉和数据泄露问题引发质疑
在发布不到一周后,AmazonQ——亚马逊对抗Copilot的生成式AI助手——已面临生存威胁,一份新报告显示这款AI助手可能产生「严重幻觉」。据ThePlatformer援引泄露文件报道,Q正面临准确性和隐私问题,包括幻觉和数据泄露。「因此,人们对于聊天机器人和其他相关技术抱有更高的期望。
微软禁止员工使用ChatGPT:担心机密数据泄露 推荐自家Bing Chat
微软目前出于安全考虑,担心公司机密数据泄露,已经禁止员工使用ChatGPT。虽然微软确实投资了OpenAI,ChatGPT也有内置的保护措施来防止不当使用,但该网站仍然是第三方外部服务。微软作为OpenAI的最大投资方,已经累计给OpenAI投资了110亿美元,两家公司也有着不少合作,但是目前看来二者关系貌合神离,微软已把OpenAI当做竞争对手。
DarkGPT:基于ChatGPT-4的AI工具 用于检测泄露的数据库
一位在GitHub上使用“luijait”别名的西班牙渗透测试人员发布了一个名为“DarkGPT”的AIOSINT工具,旨在帮助检测泄露的数据库。DarkGPT是一款由ChatGPT-4-200K驱动的OSINT助手,在这个数字化时代,处理大量数据的能力非常宝贵。DarkGPT以其强大的功能脱颖出,包括与GPT-4-200K的集成、安全查询泄露的数据库、易于使用的命令行界面以及可定制的环境设置,以适应特定的情报需求。
AI视野:通义千问上线通义舞王;斯坦福炒虾机器人爆火;Midjourney艺术家数据库泄露;Meta发布AI调试工具HawkEye;小冰大模型获备案
阿里云通义千问APP近日上线了一项名为“通义舞王”的免费功能,用户只需在APP内输入相应口令并上传照片,系统即可生成个性化的舞蹈视频。Meta发布生成式AI调试工具HawkEyeMeta发布了一款名为HawkEye的生成式AI调试工具,旨在解决机器学习模型在生产中面临的挑战。它能够帮助模型更好地理解和分析图像内容。
Midjourney训练AI使用的艺术家数据库名单泄露引发争议
用于训练Midjourney的生成式人工智能程序的艺术家数据库已泄露,引起社交媒体和艺术界的广泛争议。泄露的名单中包括一些知名艺术家,如Banksy、DavidHockney等。Midjourney尚未回复Hyperallergic的评论请求这一事件也进一步引发了对未受监管的生成式人工智能发展的担忧,包括未来就业和版权侵犯的指控,促使了更多的诉讼和国会听证会。
卖旧手机小心隐私泄露!微信官方发布旧机数据处理攻略:安卓、苹果用户必看
当你购买新手机后,淘汰的旧手机会怎么处理?是留在家里收藏是卖给第三方平台回血”?如果设置了密码,系统会提示输入密码,系统会在输入密码后再向用户确认一遍,点击抹掉”。
DeepMind发现大bug:简单攻击即可让ChatGPT泄露大量训练数据
GoogleDeepMind的研究发现,通过简单的查询攻击方法,可以从ChatGPT中泄露出大约几MB的训练数据,成本仅约200美元,引起社交网络哗然。研究团队成功攻击了生产级模型,打破了对齐设定,即使模型经过对齐,也能通过命令诱导模型输出训练数据,暴露个人信息,揭示了对抗模型泄露的新途径。新的攻击方式提出了对抗模型泄露的新思路,强调了在开发和使用大型语言模型时对隐私和安全的重视,并呼吁进行更全面的测试和防护措施。
ChatGPT泄露陌生男子自拍照!隐私数据被模型偷了?网友大恐慌
原来,这竟然也是ChatGPT的幻觉?最近,ChatGPT响应中蹦出陌生男子照片事件,让许多网友们震惊了!事情是这样的,一名用户向ChatGPT求助——Python中的代码格式化包back该怎样使用。ChatGPT的回答还很正常。千万不要什么照片都发给AI,你根本搞不清它会拿你的照片去做什么。