我们正在组建一个新的行业组织，以促进前沿人工智能系统的安全和负责任的发展：推进人工智能安全研究，确定最佳实践和标准，并在政策制定者和行业之间促进信息共享。
以下是与Anthropic、Google和Microsoft共同宣布和努力的联合声明。
- Anthropic、Google、Microsoft和OpenAI共同启动了前沿模型论坛，一个专注于确保前沿人工智能模型安全和负责任发展的行业机构。
- 该论坛旨在帮助（i）推进人工智能安全研究，促进前沿模型的负责任发展，最大限度地减少潜在风险，（ii）确定边缘模型的安全最佳实践，（iii）与政策制定者、学术界、公民社会等分享知识，推进负责任的人工智能发展；和（iv）支持利用人工智能解决社会最大挑战的努力。
- 边缘模型论坛将成立一个顾问委员会，以帮助指导其战略和优先事项。
- 该论坛欢迎其他开发前沿人工智能模型的组织加入，合作促进这些模型的安全发展。
今天，Anthropic、Google、Microsoft和OpenAI宣布成立前沿模型论坛，这是一个新的行业机构，专注于确保前沿人工智能模型的安全和负责任发展。前沿模型论坛将利用其成员公司的技术和运营专业知识，惠及整个人工智能生态系统，例如通过推进技术评估和基准测试，以及开发一个公共解决方案库，以支持行业最佳实践和标准。
该论坛的核心目标是：
- 推进人工智能安全研究，促进前沿模型的负责任发展，最小化风险，并实现能力和安全的独立标准化评估。
- 确定负责任发展和部署前沿模型的最佳实践，帮助公众了解技术的性质、能力、局限性和影响。
- 与政策制定者、学术界、公民社会和公司合作，分享有关信任和安全风险的知识。
- 支持开发能够帮助解决社会最大挑战的应用程序，如应对气候变化、早期癌症检测和预防以及打击网络威胁。
成员资格标准
该论坛将前沿模型定义为超出当前最先进的现有模型能力的大规模机器学习模型，并能执行各种各样的任务。
- 成员资格对开发和部署前沿模型（由论坛定义）的组织开放。
- 展现出对前沿模型安全的强烈承诺，包括通过技术和机构方法。
- 愿意为推进论坛努力作出贡献，包括参与联合倡议和支持倡议的发展和运行。
该论坛欢迎符合这些标准的组织加入该努力，并共同合作确保前沿人工智能模型的安全和负责任发展。
前沿模型论坛将做什么
政府和行业都同意，尽管人工智能提供了巨大的潜力来造福世界，但需要适当的防护措施来降低风险。美国和英国政府、欧盟、经济合作与发展组织（OECD）、G7（广岛人工智能进程论坛）等已经为这些努力作出了重要贡献。
为了巩固推进以上努力，需要进一步制定安全标准和评估，以确保前沿人工智能模型得到负责任的开发和部署。该论坛将成为就人工智能安全和责任议题跨组织讨论和行动的一个平台。
在未来一年里，论坛将专注于以下三个关键领域，支持前沿人工智能模型的安全和负责任发展：
- 确定最佳实践：促进行业、政府、公民社会和学术界之间的知识共享和最佳实践，重点关注安全标准和安全实践，以减轻各种潜在风险。
- 推进人工智能安全研究：通过确定人工智能安全的最重要的开放性研究问题，支持人工智能安全生态系统。论坛将协调研究，在诸如对抗鲁棒性（adversarial robustness）、机制可解释性、可扩展监督、独立研究访问、新兴行为和异常检测等领域推进这些努力。一开始将重点放在开发和分享前沿人工智能模型的技术评估和基准的公共库上。
- 促进公司和政府之间的信息共享：建立值得信赖的、安全的机制，以在公司、政府和相关利益相关者之间共享有关人工智能安全和风险的信息。论坛将遵循来自网络安全等领域的负责任披露最佳实践。
谷歌和Alphabet全球事务总裁肯特·沃克（Kent Walker）表示：“我们很高兴与其他领先公司合作，共享技术专长，推动负责任的人工智能创新。我们需要共同努力，确保人工智能造福于每个人。”
微软副主席兼总裁布拉德·史密斯（Brad Smith）表示：“创建人工智能技术的公司有责任确保其安全、安全，并保持在人类控制之下。这一倡议是将科技行业汇聚起来，推进负责任人工智能和解决挑战的重要一步，以使其惠及全人类。”
OpenAI全球事务副总裁安娜·马坎朱（Anna Makanju）表示：“先进的人工智能技术有潜力深刻影响社会，实现这一潜力的能力需要监督和治理。AI公司，尤其是那些致力于最强大模型的公司，对明确共同立场和推进周到而灵活的安全实践以确保强大的人工智能工具最广泛受益是至关重要的。这是紧迫的工作，而这个论坛正处于迅速推进AI安全性的有利位置。”
Anthropic首席执行官达里奥·阿莫代（Dario Amodei）表示：“Anthropic相信人工智能有可能从根本上改变世界的运作方式。我们很高兴与行业、公民社会、政府和学术界合作，推进技术的安全和负责任发展。前沿模型论坛将在协调最佳实践和分享前沿AI安全性研究方面发挥重要作用。”
前沿模型论坛运作方式
在未来几个月里，前沿模型论坛将成立一个咨询委员会，以帮助指导其战略和优先事项，代表各种背景和观点的多样性。
创始公司还将建立关键的机构安排，包括宪章、治理和资金，设立一个工作组和执行委员会来领导这些努力。我们计划在未来几周与公民社会和政府就论坛的设计以及合作的有意义方式进行磋商。
前沿模型论坛积极为现有政府和多边倡议提供支持和反馈，例如G7广岛进程、经合组织关于人工智能风险、标准和社会影响的工作，以及美欧贸易和技术理事会。
该论坛还将致力于充分利用现有行业、公民社会和研究工作的宝贵资产。Partnership on AI和MLCommons等倡议在人工智能领域继续发挥重要作用，论坛将探索与这些以及其他有价值的多利益相关者努力合作和支持的方式。
（机器翻译，轻度译后编辑，仅供参考）
编辑：胡跃
