【商汤科技】2023大模型伦理原则与实践白皮书—日日新，思无邪.pdf

人类经济文明之树上“低垂的果实”已被采摘一空，新一代创新科技犹如“新的进化梯子”，带助人类采摘到“更高的果实”。联合国常务副秘书长阿明娜·穆罕默德女士在 2022 年联合国可持续发展高级别政治论坛上说:“新冠疫情、冲突以及环境危机造成的挑战已经影响到教育、医疗保健、性别平等以及经济发展。她指出，2030 年议程的时间表已经过半，但“我们还没有完成一半的任务”。为此，全球需要在可再生能源、粮食体系和数字连接领域进行转型，加快“人力资本投资，为机遇融资”的步伐，进而化危为机。”而以人工智能为代表的新一代科技，即能为人类持续提升环境治理能力，带来新能源、新农业、新制造与新商业，又能通过科技伦理在一定程度上弥补“数字鸿沟”，创造新兴就业市场，实现各国经济结构的转型升级正如丘吉尔的名言:“决不要浪费一场好的危机(Never waste a goodcrisis)"

人机对齐，以保障AI任务目标与人类用户意图对齐、AI伦理与人类价值观、社会风序良俗、法律政策对齐。麦肯锡全球研究院(McKinsey Global Institute) 说，人工智能正在促进社会发生转变，这种转变比工业革命“发生的速度快 10 倍，规模大 300 倍影响几乎大 3000 倍。”为了保证AI 大模型产品全生命周期的人机对齐，应持续识别发现训练数据集、应用场景的偏差风险，并设计风险内控检查表与管理流程，并在 RLHIF(基于人类反馈的增强学习) 的测试、使用过程中，形成反馈闭环，修正问题、增补风险项、完善高阶伦理原则。正如人类的价值观是经过历史、文化、社会活动、产业革命逐步变化形成，从AIGC 到AGI 的伦理秩序同样需要持续改进与发展。