【清华大学】人工智能行业与国际安全研究动态：德国人工智能战略，数字化赋能工业变革
为推进人工智能与国际安全领域的相关研究，清华大学战略与安全研究中心(CISS)组织研究团队定期跟踪最新国际研究动态,重点关注人工智能应用对国际安全带来的风险挑战，并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第10期,主要聚焦德国人工智能战略、军事应用、治理等领域的发展情况。
随着全球快步迈入数字时代，德国不断加速人工智能战略布局，提出成为全球人工智能技术领先国家的发展目标，并在产业支持、科研创新、人才培养、军工自动化和安全伦理管治等方面加大投入，形成人工智能国际合作的三环体系。本文将聚焦德国人工智能在战略设计、军事应用和安全治理三个层面的发展形势与方向，并简要分析对中国的启示。
1、Politico：人工智能应实现国有化
8月20日，美国Politico杂志刊登大西洋理事会高级研究员查尔斯·詹宁斯的文章《控制人工智能的方法只有一种：国有化》。文章认为，当前人工智能算法已经成为了“黑箱”，即使是专业科研人员也难以理解人工智能算法的全部规则，这意味着人工智能很有可能失控，或被犯罪分子滥用。但目前来看，美国国会对人工智能技术了解有限且立法进展缓慢，即使有相关的透明度与监管立法出台，也难以彻底监管人工智能算法的“黑箱”。因而对人工智能产业进行国有化是当前最佳的选择。美国应借鉴对核产业国有化的经验来对人工智能产业进行国有化，从各大互联网巨头处赎买其现有的人工智能模型，交由特定的政府委员会统一管理，并由该委员会统筹人工智能产业的投资与发展，最终确保人工智能产业的发展将为社会带来益处。
2、《报业辛迪加》：人工智能需要“帕格沃什运动”
7月24日，《报业辛迪加》杂志刊登美国务院前政策规划主任安妮-玛丽·斯劳特与互联网名称与数字地址分配机构前主席法蒂·切哈德的文章《AI的帕格沃什运动》。文章提到，1957年来自美国、苏联等十个国家的22位科学家齐聚加拿大的帕格沃什，创立了帕格沃什科学和世界事务会议，其主旨是推动核裁军并预防核冲突。该组织最终于1995年获得了诺贝尔和平奖，当前人工智能也需要一个“帕格沃什运动”。首先，人工智能的“帕格沃什运动”应根植于已有的人工智能治理框架，如美国的《人工智能权利法案蓝图》、联合国教科文组织的《人工智能伦理建议书》等，以上述框架为蓝本进行构建。其次，人工智能的“帕格沃什运动”应注重于协调各利益攸关方，建立“网络化的多边主义”，将国际组织、国家、企业、学术机构、非政府机构等多主体纳入进来，以确保相关措施的广泛实施。最后，人工智能的“帕格沃什运动”应着手建立一个多核心的机构网络，正如互联网领域有不同机构负责制定网络标准、分配数字地址、协调利益相关方等工作，也应有多个机构来负责不同方面的人工智能治理，进而确保人工智能治理的稳定性和韧性，并有助于应对来自特定国家的政治压力。
3、《报业辛迪加》：生成式人工智能正在影响选举公正
8月10日，《报业辛迪加》杂志刊登前斯坦福大学网络政策中心的主任凯利·伯恩的文章《生成式人工智能会成就或破坏民主吗？》。文章指出，虽然生成式人工智能为在医学、工业、政策、教育等领域提供巨大的机遇，但同时将为选举过程带来巨大的挑战与不确定性。首先，人工智能可能导致选举过程中的偏见。如美国正使用人工智能系统来维护和更新各州的选民名册，但当前的算法难以识别亚裔选民的名字，也难以识别亚裔等少数族裔选民的签名。其次，生成式人工智能将降低选举的竞争性。目前约90%的美国国会选区被认为是“铁票仓”，即通常稳定地归属于民主党或共和党。生成式人工智能可以帮助立法者划定选区，进而使执政党进行更具压制性的选区划分，减轻执政党所面临的竞争性与挑战。最后，生成式人工智能将促进选举虚假信息的网络传播。生成人工智能可以利用公开的图片与音像资源，并针对不同的受众群体生成多语种的虚假宣传，进而改变选举政治的“游戏规则”。
4、布鲁金斯学会：隐私立法有助于人工智能治理
7月7日，美国布鲁金斯学会网站刊登其技术创新中心访问学者卡梅隆·克里的文章《隐私立法如何帮助解决人工智能问题》。文章认为，虽然当前不同国家的监管规则不尽相同，但隐私立法所倡导的算法透明度、问责制和公平性原则是大多数人工智能治理框架的共同点，故加强隐私立法将从多方面助力人工智能治理。首先，隐私立法有助于解决人工智能的偏见问题。只有确保训练所使用数据的来源、质量和道德使用都是无偏见的，并严格规定可以使用的数据类型与范围，最终构建的人工智能模型才有可能是无偏见的。其次，隐私立法有助于确立人工智能相关的术语规范。美国的隐私立法将“处理个人数据”定义为“使用机器学习、自然语言处理、人工智能技术或其他类似或更高复杂性的计算处理技术，并就个人信息做出决策或促进人类决策的计算过程”，该定义为人工智能治理框架的术语构建提供了模板。最后，隐私立法有助于增进人工智能的透明度。美国的隐私立法详细说明了必须披露的收集和使用个人信息及其隐私惯例的情况，以及基于此类数据的算法决策信息，包括此类使用和决策的性质以及它们所基于的数据和逻辑等。
5、《卫报》：古特雷斯呼吁建立人工智能监管机构
7月18日，英国《卫报》网站刊登《卫报》全球技术编辑丹·米尔莫（DanMilmo）、科技记者希巴克·法拉赫（HibaqFarah）的文章《联合国秘书长表示，恶意使用人工智能可能会造成“难以想象”的损害》。文章关注，联合国秘书长安东尼奥·古特雷斯（AntónioGuterres）表示，恶意使用人工智能系统可能会造成“可怕”的死亡和破坏，呼吁建立类似于政府间气候变化专门委员会（IPCC）的新联合国机构以应对人工智能构成的威胁。古特雷斯称，将人工智能用于恐怖分子、犯罪或国家目的的有害使用可能造成“深刻的心理伤害”，当前，基于人工智能的网络攻击已经瞄准了联合国维和与人道主义救援行动。古特雷斯呼吁按照政府间气候变化专门委员会的方式建立一个新的联合国实体以应对风险，并称该机构的首要目标是支持各国最大限度地发挥人工智能的好处，减轻现有与潜在的风险，建立和管理国际商定的人工智能监测与治理机制。
