【CMF】2023中国宏观经济专题报告大模型原理进展及其影响94页

ChatGPT的特点

知识广博•上知天文、下知地理，不仅能写文章、还能写代码

有条有理•能有逻辑地组合知识形成答案，具有一定的推理能力

善解人意•能准确理解用户意图，三观比较正，并且承认自己不知道

交互能力强•在多轮对话中不走神，交互聚焦主题

语言智能的探索历程

初始的自动化解决尝试：给定一组人工设定的规则，计算机通过对数据应用这些规则来模拟自然语言理解。

有监督学习任务泛化性弱：在人工标注的数据上进行特征工程，训练机器学习模型参数，并将模型应用于测试数据上；用神经网络在大量数据上训练，使得网络自主学会提取特征，并可以灵活搭建模型。

仍需要监督学习任务泛化性改善：基于无标注文本预训练语言模型，通过“预训练-微调模式”工作，有监督学习。

无/弱监督学习一定的通用能力：通过扩展语言模型规模，可以通过提示学习、情境学习等无需微调方式求解任务。

2023年3月16日：GPT-4全面接入Office

3月16日，微软正式宣布推出Microsoft365Copilot，将GPT-4全面接入Office。CEO纳德拉在发布会上称：今天，进入人机交互的新时代，重新发明生产力。

ChatGPT带来的侵权风险

•ChatGPT训练使用的数据可能包含受著作权保护的作品，如果未经授权使用这些作品，有可能会侵犯著作权：例如，OpenAI正面临针对其产品Copilot的集体诉讼，被指控未经授权使用了大量受著作权保护的代码；又如，许多媒体开始批评ChatGPT使用了它们的文章，但并未支付任何费用。