概览人工智能时代已经全面来临。1自2017年开始，德勤每年发布《企业人工智能应用现状分析》报告，以估量人工智能技术在全球范围及各行各业的快速发展。在2020年7月发布的最新一期报告中，大多数受访者表示大幅增加了人工智能投资，超过四分之三的受访者认为人工智能将在未来三年为自己所在的企业带来重大变革。此外，人工智能投资也为企业创造出更多可衡量的价值：提升流程效率、改善决策、提高员工生产力、改进产品和服务。
2这些价值提升了企业对人工智能的认知——四分之三的受访者表示，人工智能具有重要战略意义，较前一次调研结果上升10%。但另一方面，对人工智能风险的顾虑与这种上升趋势形成反差：56%的受访企业表示，出于对新兴风险的顾虑，他们已经或有计划放缓人工智能的应用。
鉴于人工智能的价值和战略意义已得到普遍认可，这一比率造成了强烈反差。为了更好地理解这些问题，德勤将受访企业的顾虑归总为三类：对人工智能决策流程的信心、人工智能和数据使用的伦理规范，以及市场不确定性。3本文将针对上述问题进行详细阐述，并提供专业见解协助企业有效管理相关风险。由此，企业可对内加强持续投资和创新的信心；对外则进一步获得利益相关方的信任，确保人工智能战略得到有效执行。出于对新兴风险的顾虑，56%的受访企业表示已经或计划放缓人工智能的应用。人工智能发展面临的挑战近年来，人工智能风险日益引起商业领袖和普通民众的关注。有关人工智能是否会削减或创造工作岗位的争论从未停止；而对人工智能偏见或失败的报道也屡见不鲜。
2020年7月，在公众的一片反对与批评声中，成立仅五天的人工智能初创公司Genderify被迫关闭。该公司称其人工智能可以通过分析用户的名字、用户名和电子邮件地址来识别其性别，并宣称这是一种增强客户数据的能力。据报道，该系统充斥着对性别的误解，并基于错误的假设做出决定。
例如，在包含“科学家”的记录中，识别为女性的概率仅为4.3%。但事实上，如今女性在科学领域的占比远高于此。5 而包含“教授”的记录中，识别为男性的概率高达98.4%，但男性占美国终身教授的比例仅为74%（该比例本身就反映出一种不平等）。6不难想象，诸如此类的事件以及事件曝光之后引发的公众抵制，将导致许多企业高管更为谨慎，重新考虑如何在企业内部、为客户和员工以及在生态系统中推行人工智能。为了更准确地了解企业的最大顾虑源自何处，我们请受访者对顾虑事项进行评分，评分标准从“极少”到“极大顾虑”。列出的风险归总为三类：信心、伦理规范和市场不确定性。
信心是指企业普遍认为一项人工智能工具本身可靠，包括信任人工智能提供的洞察和决策，信任系统的安全性，以及能够理解、证明或解释人工智能的决策过程。伦理规范是指从社会而非企业的角度审视使用人工智能的益处和正确性，包括数据隐私、公平、偏见，以及可能造成的失业问题。
市场不确定性则涵盖那些不在企业直接控制范围内的因素，比如监管环境的变化以及公众或员工的意见。这些因素不一定与人工智能的本质相关，但会影响人工智能的实施和应用。图1反映了在每个类别中，将两个或两个以上的顾虑事项评为“重大”或“极大顾虑”的受访者比例。
