ChatGPT 能以不同样式、不同目的生成文本，并且在准确度、叙述细节和上下文连贯性上具有更优的表现。GPT是Generative Pre-trained Transformer（生成型预训练变换模型）的缩写 OpenAI 使用监督学习和强化学习的组合来调优 ChatGPT，其中的强化学习组件使 ChatGPT 独一无二。OpenAI 使用了「人类反馈强化学习」（RLHF）的训练方法，该方法在训练中使用人类反馈，以最小化无益、失真或偏见的输出。 ChatGPT更强的性能和海量参数，它包含了更多的主题的数据，能够处理更多小众主题。 ChatGPT现在可以进一步处理回答问题、撰写文章、文本摘要、语言翻译和生成计算机代码等任务。 BERT与GPT的技术架构（图中En为输入的每个字，Tn为输出回答的每个字） GPT家族的演进 ChatGPT背景理解 chagpt 语言模型 大数据的训练量 -> 一致性问题-> 实际希望做什么，而不是被训练做什么 => 目标函数是否符合预期 => 人类的期望 => 产生更多的实际价值 GPT-3 非一致性模型 -> 网络文本数据 ->...
