使用 AI 越狱 AI 模型:新方法可系统地探测 GPT-4 等大型语言模型的弱点,从而使其行为异常
OpenAI董事会突然解雇了该公司的首席执行官,这引发了人们的猜测:董事会成员对人工智能突飞猛进的发展速度以及过快寻求技术商业化可能带来的风险感到震惊。RobustIntelligence是一家成立于2020年的初创公司,与耶鲁大学的研究者合作,开发了一种探测大型语言模型的系统性方法,包括OpenAI的GPT-4。他说:「我们需要确保设计使用LLMs的系统时,越狱不能让恶意用户访问他们不应该访问的内容。