联合国科技大会关注大模型安全,蚂蚁集团深度参编的两项国际标准发布
4月15日-19日,第27届联合国科技大会在瑞士日内瓦召开。16日,在以“塑造AI的未来”为主题的AI边会上,世界数字技术院发布了一系列突破性成果,包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。蚂蚁集团在公司内成立了科技伦理委员会和专门团队来评估和管理生成式AI的风险,公司所有AI产品均需通过科技伦理评测机制,确保AI安全可
联合国最新研究:ChatGPT等大模型对女性存在明显偏见!
在三八国际妇女节前夕,联合国教科文组织发布的研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。大语言模型是一种用于支持生成式人工智能的自然语言处理工具,OpenAI的GPT-3.5、GPT-2,脸书母公司Meta的Llama2等都属于此类。联合国教科文组织总干事阿祖莱表示:越来越多的人开始使用大语言模型,这些工具有着在不知不觉中改变人们认知的力量,因此即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
联合国秘书长呼吁全球风险管理人工智能,警告 “严重的意外后果”
联合国秘书长安东尼奥・古特雷斯周三在瑞士达沃斯的世界经济论坛上呼吁政治和商业领袖优先考虑处理人工智能和气候危机的全球战略。古特雷斯警告称,人工智能的快速发展可能导致“严重的意外后果”。原因很简单,地缘政治的分歧正在阻碍我们就全球挑战寻求全球解决方案。