OpenAI预警系统探索 GPT-4 在制造生物武器方面的优势
OpenAI最近着手研发GPT-4的早期预警系统,以探讨大型语言模型是否能够提高获取关于生物威胁信息的效率,相较于互联网。该系统旨在作为一种“触发器”,提示潜在存在生物武器的可能性,需要进一步调查,同时纳入OpenAI的预防框架。所使用的GPT-4模型缺乏互联网研究和高级数据分析工具,因此结果只能被视为初步的。
潜在危险!AI聊天机器人或协助策划生物武器袭击
根据美国智库兰德公司发布的最新研究报告,大型语言模型所支持的聊天机器人可能有潜力协助策划生物武器袭击。这份报告在2023年10月16日发布,引发了对人工智能潜在威胁的深切担忧。兰德研究人员强调了对这些模型的严格测试的必要性,并建议AI公司限制LLMs在类似其报告中所涉及话题的开放性。