阵容庞大!谷歌OpenAI等14家公司成立安全AI联盟
全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业,于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟。该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办,作为一项前瞻性的开源计划,CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台,通过提供详尽的指导手册与高效工具,助力他们设计出更加安全可靠的人工智能系统。尤为重要的是,联盟将重点聚焦于降低一系列潜在风险,包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等,这些威胁不仅威胁着AI系统的稳定与安全,更可能对社会经济造成不可估量的损失。