Specified Generation Parameters

原创 已于 2025-08-30 19:50:49 修改 · 731 阅读 · 7 · 8 · CC 4.0 BY-SA版权 版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。 文章标签： #transformer #深度学习 #人工智能 于 2025-08-30 18:38:31 首次发布 要点1：把输入转换为模型特定的模板（Template）, 能显著提升模型的回复质量。 要点2：多轮对话中，模型能够记住前序对话，并对输出的词语概率做调整。可以观察不同轮次模型输出时，对不同词汇的输出概率。 要点3：模型把一个句子打成token的方式 要点4：不同的模型温度（采样方式）对输出结果“多样性”的影响。采样越严格，模型的多样性就越差。 要点5：相似的token，embedding后的距离也更接近（降维为可视化的图表） 要点6：生成一个句子的过程中，如何观察某一层，词与词之间的注意力关系？（Attention Map） 零、前置准备：导入模型库 # 确保运行在GPU上 !nvidia-smi # 安装transformers...