ChatGPT及其演进分析

GPT1~GPT4 OpenAI 2018通過生成式预训练提升语言理解能力 - 介绍了流行的预训练模型GPT-1。2019年提出了无监督多任务学习的语言模型-GPT-2。2020年的论文讨论了少样本学习的语言模型-GPT-3。2022年提出了一种通过人类反馈训练语言模型遵循指示的方法-RLHF。2023年的论文介绍了GPT-4技术报告。2022年的论文讨论了大型语言模型中如何引发推理的链式思维提示方法。