蚂蚁集团、百度和腾讯控股与OpenAI、微软和英伟达等全球领先科技公司联手发布了生成人工智能(GenAI)和大语言模型(LLM)两项国际标准。
据会议声明称，周二，两家公司在瑞士日内瓦举行的联合国科学技术会议的一场边会上发布了“生成式人工智能应用安全测试和验证标准”和“大语言模型安全测试方法”组织者是非营利性的世界数字技术学院 (WDTA)。
它们是第一个专门涵盖 GenAI 和 LLM 的全球标准，这些技术是日益流行的人工智能服务背后的技术，例如由 OpenAI 技术支持的 OpenAI 的 ChatGPT 和微软的 Copilot。中国搜索引擎运营商百度也推出了自己的人工智能聊天机器人 Ernie Bot，而腾讯和蚂蚁金服也推出了各自的法学硕士。
新的 GenAI 标准由 Nvidia、Facebook 所有者 Meta Platforms 等公司的研究人员编写，并由亚马逊、谷歌、微软、蚂蚁金服、百度和腾讯等公司审核。
根据 WDTA 网站上发布的文档副本，它提供了一个用于测试和验证 GenAI 应用程序安全性的框架。
根据官方副本，LLM 指南由 17 名 Ant 员工撰写，并由 Nvidia、微软、Meta 等公司审核，概述了测试 LLM 抵御黑客攻击的多种攻击方法
WDTA于去年4月在联合国框架下成立，旨在“加快建立数字领域的规范和标准”。
随着 GenAI 的快速发展并越来越多地被企业和个人用户使用，科技公司呼吁努力确保技术安全。OpenAI 首席执行官 Sam Altman 在短暂罢免后于 11 月恢复职务后表示，“投资于全栈安全工作”将是公司的优先事项之一。
今年7月，中国成为第一个规范GenAI及相关服务的国家，发布了规定服务提供商应秉持“社会主义核心价值观”等要求。此后，北京已批准蚂蚁金服、百度和腾讯等多家科技公司将其法学硕士开放用于商业用途。
在 GenAI 流行之前，人工智能的国际标准和法规就已经存在。
2021年，联合国遗产机构联合国教科文组织推出了《人工智能伦理建议书》，已被193个成员国采纳。
2022年至2023年间，国际标准化组织(一家总部位于日内瓦的非政府组织，制定涵盖从工作场所安全到IT安全等广泛领域的标准)发布了与人工智能相关的系统管理、风险管理和使用机器的系统指南学习。
