Hugging Face AI 平台中发现100个恶意代码执行模型
研究人员发现,大约有100个机器学习模型被上传到HuggingFace人工智能平台,可能使攻击者能够在用户机器上注入恶意代码。这一发现进一步强调了当攻击者操纵公开可用的AI模型用于恶意活动时所带来的不断增长的威胁。这种集体努力对于加固HuggingFace存储库、保护依赖这些资源的AI/ML工程师和组织的隐私和完整性至关重要。
研究显示:ChatGPT可能会被诱骗生成恶意代码
英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能工具,如ChatGPT,可以被操纵,用于生成恶意代码,从可能用于发动网络攻击。该研究是由谢菲尔德大学计算机科学系的学者进行的,首次证明了Text-to-SQL系统的潜在危险,这种AI系统可以让人们用普通语言提出问题,以搜索数据库,广泛应用于各行各业。研究人员强调,需要建立一个新的社区来对抗未来可能出现的高级攻击策略,以确保网络安全策略能够跟上不断发展的威胁。