微软Azure AI平台增加新安全功能 可捕获客户AI应用中的幻觉
微软的AzureAI平台最近添加了一系列新的安全功能,旨在帮助捕捉客户AI应用中的幻觉、提示攻击和其他安全漏洞。这些功能由微软的首席负责人SarahBird介绍,并表示将易于使用,无需雇佣红队来测试他们构建的AI服务。该公司还努力扩展其提供的强大AI模型数量,最近与法国AI公司Mistral达成独家协议,以在Azure上提供MistralLarge模型。