《人工智能法案》出台，这将会带来哪些改变

法案正式出台。3月13日，欧洲议会投票批准《人工智能法案》（AI Act），历时三年，这部由欧盟推出的新的人工智能法律终于完成立法程序最重要的一步。

该法律将于5月生效，生活在欧盟的人们将在今年年底开始看到变化。为了执行法律，我们需要建立监管机构，各大公司将有最多三年的时间来遵守法律。

什么会改变，什么不会改变：

1.今年晚些时候，人工智能的一些用途将被禁止

对人们的基本权利构成高风险的人工智能用例，如在医疗保健、教育和警务方面，该法案进行了限制。这些用例将在今年年底被宣布为非法用例。

一些被认为构成“不可接受的风险”的用途也会被禁止，包括一些非常突出和模糊的用例，如部署“潜意识、操纵或欺骗性技术来扭曲行为和损害明智决策”或利用弱势群体的人工智能系统。人工智能法案禁止使用推断敏感特征（如某人的政治观点或性取向）的系统，禁止在公共场所使用实时面部识别软件。通过Clearview AI从互联网上抓取数据创建面部识别数据库的行为也将被禁止。

然而，也有一些相当严重的警告。执法机构仍然被允许在公共场所使用敏感的生物特征数据以及面部识别软件来打击严重犯罪，如恐怖主义或绑架。一些民权组织，如数字权利组织（点击此处立即访问）称人工智能法案是“人权的失败”，因为它没有彻底禁止有争议的人工智能用例，如面部识别。虽然公司和学校不被允许使用声称可以识别人们情绪的软件，但如果是出于医疗或安全原因，则可以使用这些软件。

2.当你使用人工智能系统聊天时，这一点会更加明显

科技公司将被要求标记虚构的和人工智能生成的内容，并在人们与聊天机器人或其他人工智能系统互动时告知人们。《人工智能法案》还将要求公司以一种可以检测的方式开发人工智能生成的媒体。在反对虚假信息过程中，这是一个有希望的消息，这也将极大地推动有关水印和内容来源的研究。

然而，这一切说起来容易做起来难，研究远远落后于法规的要求。水印仍然是一项实验技术，很容易被篡改。可靠地检测人工智能生成的内容仍然很困难。一些努力有了希望，例如出现了开放源码的网络协议——C2PA，但要使来源技术可靠，建立一个行业标准，我们还需要付出更多的努力。

3.如果受到人工智能的伤害，公民可以投诉

人工智能法案将建立一个新的欧洲人工智能办公室，以协调法案的遵守，实施和执行过程（目前正在招聘）。有了人工智能法案，在怀疑自己受到人工智能系统伤害时，欧盟公民可以提交对人工智能系统的投诉，他们会收到关于人工智能系统为什么做出那样的决定的解释。在一个日益自动化的世界里，这是给予人们更多代理权的重要的第一步。然而，这将要求公民有一个较高的人工智能素养水平，能够意识到算法伤害是如何发生的。对于大多数人来说，这些仍然是非常陌生和抽象的概念。

4.人工智能公司需要更加透明

大多数人工智能的使用不需要遵守人工智能法案。当该法案在三年后完全生效时，只有在关键基础设施或医疗保健等“高风险”领域开发技术的人工智能公司才会有新的义务。其中包括更好的数据治理、确保人类监督以及评估这些系统将如何影响人民的权利。

正在开发“通用人工智能模型”（如语言模型）的人工智能公司还需要创建和保存技术文档，展示他们如何构建模型，如何尊重版权法，并发布一份公开可用的总结，说明哪些训练数据用于训练人工智能模型。

目前，科技公司对进入其模型的数据保密，所以与目前的现状相比，这是一个巨大的变化，这将需要彻底改革人工智能部门混乱的数据管理实践。

拥有最强人工智能模型的公司，如GPT-4和Gemini，将面临更复杂的要求，如必须评估模型、评估风险及缓解风险，确保网络安全保护，并报告关于人工智能系统失败的任何事件。未能遵守规定的公司将面临巨额罚款，他们的产品或有可能被禁止进入欧盟。

同样值得注意的是，免费的开源人工智能模型分享模型构建的每个细节，包括模型的架构、参数和权重，这些模型可以被免除人工智能法案的许多义务。