Hugging Face AI 平台中发现100个恶意代码执行模型
研究人员发现,大约有100个机器学习模型被上传到HuggingFace人工智能平台,可能使攻击者能够在用户机器上注入恶意代码。这一发现进一步强调了当攻击者操纵公开可用的AI模型用于恶意活动时所带来的不断增长的威胁。这种集体努力对于加固HuggingFace存储库、保护依赖这些资源的AI/ML工程师和组织的隐私和完整性至关重要。
研究显示:ChatGPT可能会被诱骗生成恶意代码
英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能工具,如ChatGPT,可以被操纵,用于生成恶意代码,从可能用于发动网络攻击。该研究是由谢菲尔德大学计算机科学系的学者进行的,首次证明了Text-to-SQL系统的潜在危险,这种AI系统可以让人们用普通语言提出问题,以搜索数据库,广泛应用于各行各业。研究人员强调,需要建立一个新的社区来对抗未来可能出现的高级攻击策略,以确保网络安全策略能够跟上不断发展的威胁。
正面硬刚OpenAI!智谱AI推出第三代基座模型,功能对标GPT-4V,代码解释器随便玩
国产大模型估值最高创企,为何是智谱AI?仅用4个月时间,这家公司就甩出最新成绩证明了自己——自研大模型ChatGLM3,不止是底层架构,就连模型功能都进行了全方位大升级。最直观的表现就是“疯狂屠榜”,所有50个大模型公开性能测评数据集中,拿下44个全国第一;产品上,率先搞定了用户关注度MAX的代码解释器功能,能生成甚至直接跑通代码!现在这个新功能已经人人可玩�
智谱AI推出第三代基座大模型ChatGLM3 智谱清言具备代码交互能力
智谱AI在2023中国计算机大会上发布了第三代基座大模型ChatGLM3及相关系列产品。ChatGLM3经过深度优化,在中英文公开数据集测试中表现优秀,其中MML提升36、CEval提%、GSM8K提升179%、BBH提升126%。智谱AI一直致力于创新,目前已支持多种国产硬件生态,期待国产原生大模型与国产芯片能够在国际舞台上脱颖出。