联合国科技大会关注大模型安全,蚂蚁集团深度参编的两项国际标准发布
4月15日-19日,第27届联合国科技大会在瑞士日内瓦召开。16日,在以“塑造AI的未来”为主题的AI边会上,世界数字技术院发布了一系列突破性成果,包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。蚂蚁集团在公司内成立了科技伦理委员会和专门团队来评估和管理生成式AI的风险,公司所有AI产品均需通过科技伦理评测机制,确保AI安全可
联合国最新研究:ChatGPT等大模型对女性存在明显偏见!
在三八国际妇女节前夕,联合国教科文组织发布的研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。大语言模型是一种用于支持生成式人工智能的自然语言处理工具,OpenAI的GPT-3.5、GPT-2,脸书母公司Meta的Llama2等都属于此类。联合国教科文组织总干事阿祖莱表示:越来越多的人开始使用大语言模型,这些工具有着在不知不觉中改变人们认知的力量,因此即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。
联合国秘书长呼吁全球风险管理人工智能,警告 “严重的意外后果”
联合国秘书长安东尼奥・古特雷斯周三在瑞士达沃斯的世界经济论坛上呼吁政治和商业领袖优先考虑处理人工智能和气候危机的全球战略。古特雷斯警告称,人工智能的快速发展可能导致“严重的意外后果”。原因很简单,地缘政治的分歧正在阻碍我们就全球挑战寻求全球解决方案。
联合国秘书长在英国人工智能峰会上表示:没有全球监督,风险大于回报
在上周四,联合国秘书长古特雷斯强调,新兴人工智能技术的全球监管应基于联合国宪章的核心原则,并确保充分尊重人权。联合国秘书长日前在由英国召集的人工智能安全峰会上发表讲话,该峰会在著名的布莱切利公园庄园举行——在那里,盟军密码破译者为战争努力破解纳粹密码做出了巨大贡献。古特雷斯说:「换句话说——它的工作将把AI治理纳入政府间流程和已建立的
联合国邀请Google、微软等公司合作探讨人工智能风险
联合国秘书长安东尼奥·古特雷斯于周四宣布成立一个由39名成员组成的咨询机构,旨在引导全球解决人工智能治理问题。史蒂夫·沃兹尼亚克、埃隆·马斯克和全球500名顶尖技术专家在今年三月呼吁暂停先进的AI系统,以制定足够的安全措施,敲响了监管机构采取行动的警钟。监管机构已经在全球范围内争相了解这一AI能够做什么,以及应该采取什么安全措施。
联合国秘书长宣布成立 39 人咨询顾问团队 以解决人工智能国际治理问题
联合国秘书长安东尼奥·古特雷斯于周四宣布,已成立一个由39名成员组成的顾问机构,以解决人工智能国际治理方面的问题。这个顾问团队包括来自技术公司的高管、来自西班牙到沙特阿拉伯的政府官员,以及来自美国、俄罗斯和日本等国家的学者。该顾问团队的首次会议将于10月27日举行。