ChatGPT进化史：2018年GPT-1 1-4。
仅需要对预训练的语言模型做很小的结构改变，即加一层线性层即可方便应用，于下游各种任务。
2019年GPT-2，使用zero-shot设定，基本一劳永逸训练一个模型，在多个任务上都能用。
2020年GPT-3，不通过任何样例学习，而是利用少量样本去学习，更接近人脑学习模式。
2022年Instruct GPT和ChatGPT是经过多任务的微调后，能在其他任务上实现Zero-shot预测，泛化能力极大提升。ChatGPT是通过连接大量真实语料库来训练模型，能根据聊天的上下文进行互动，真正像人类一样聊天交流。
2023年GPT-4，可以根据背景进行"下一个"预测的选择的模型，更接近于实际人类思维。
花粉社群VIP加油站
关于作者
猜你喜欢
