1大开“智”界：人工智能监管日趋严格2022年人工智能将面临日趋严格的监管审查，影响波及多个不同行业监管虽然常常滞后于技术创新，目前看来却正在赶超人工智能应用的发展，包括机器学习、深度学习和神经网络。德勤全球预测，2022年将出现更加广泛的讨论，以探索如何更加系统地开展人工智能监管，多项监管提案将被提出——尽管这些提案很可能将在2023年或之后才会变成实质性的执行法规实施生效。
一些辖区可能甚至试图完全禁止人工智能的整个分支领域，如公共场所的人脸识别、社会评分和阈下技术等。监管的重要性毋庸置疑，但将如何开展？正常情况下，预测是力求准确和量化的，但这对于监管变化而言通常难以实现。尽管如此，我们仍有充分的理由相信，未来工智能监管将变得更加普遍、更加严格。截至2021年，欧盟提出了详细的提案，1美国联邦贸易委员会亦发布了政策性文件，2均旨在加大对人工智能的监管力度。同时，中国也正围绕科技公司推出多项法律法规，其中有部分涵盖人工智能监管。
为何是现在，而非更早？我们认为有多重原因：• 相比仅仅五年之前，2022年人工智能的性能将会大大增强。得益于速度远远更快的专用处理器、更好的软件以及更大的数据集，人工智能可从事比以往更多的工作，也更具经济效益。
4因此，人工智能正迅速广泛普及——这反过来亦会导致更严的监管审查。• 部分监管机构担心人工智能会产生公平、偏见、歧视、多元化和隐私方面的影响。例如，机器学习是当前人工智能背后的基本工具，已经受到监管机构及其他有权机构对其潜在社会偏见影响的密切审查。5• 人工智能监管是地缘政治层面一项有力的竞争性工具。如果一个国家或地区能够设定人工智能监管的全球性标准，则在这一国家或地区运营的企业将获得有利的竞争优势，而外部企业则将处于劣势。
一些监管机构曾直言不讳地指出人工智能可带来的危害。例如，在2021年8月的一份白皮书中，美国联邦贸易委员会委员Rebecca Kelly Slaughter写道：“越来越多的证据显示，算法决策可在就业、信用、医疗和住房等多个高风险经济领域造成具有偏见、歧视性和不公平的结果。”6她接着表示，虽然联邦贸易委员会拥有一些现成的工具可用于更好地监管人工智能，“推出新的法规可有助于更有效地解决人工智能和算法决策造成的危害。”7寻找开展人工智能监管的有效方法将极具挑战性。
一个根本的问题在于，许多人工智能计算并不具有合理解释——算法做出了决定，但我们并不清楚其做出具体决定的原因。相比上个世纪常用于支持决策制定的可合理解释且可审查的技术，这种不透明性使得人工智能监管更加难以有效开展。监管法规的意图是防止人工智能驱动型决策产生负面的不利结果，如偏见和不公平，但由于负责做出这些决策的人工智能系统很难被理解和审查，因而无法准确预测负面不利结果何时将会出现——直到民众或机构受到影响。另一个潜在的问题是训练数据的质量。
欧盟人工智能监管法规草案明确表示“训练、验证和测试数据集应当具有相关性、代表性，不存在任何错误且完整全面。”但是对于机器学习所需的数据规模，这一标准——尤其是“不存在任何错误且完整全面”——设置了一个极高的门槛，许多企业和用例可能无法满足要求。8随着人工智能广泛普及应用，所有人都有理由关心人工智能将如何受到监管，因为相关法律法规将影响人工智能应用可带来多大程度的利益和危害。
以下主要利益相关方尤其应当关注：人工智能工具使用者。监管机构很可能将会严打存在危害各阶层民众的算法偏见或其他问题的用例。多项调查显示，人工智能编码形式的偏见存在性别、种族、性向、财富或收入等多方面歧视。这种偏见常会进一步使弱势群体处于更加不利的地位。这是因为人工智能实际上并非100%人工，而是需要经过数据集进行训练的，这些数据集可反映人类自身的偏见。
由此产生的结果是，经过这些数据集训练的人工智能并未消除人类偏见，反而常常将之进一步放大。一个有关数据集驱动型偏见的知名案例是，一家公司想要雇用更多的女性员工，却发现其所使用的人工智能工具在不停地招聘男性。无论该公司如何努力尝试均无法消除这一偏见，原因就在于训练数据，因此这家公司便完全停止使用这种人工智能工具。
