【日积月累】 本文分析了Transformer架构和GPT系列模型的发展时间轴。2017年Google推出基于自注意力机制的Transformer；2018年OpenAI发布GPT-1，应用Transformer于预训练。GPT-2参数增至15亿，GPT-3参数高达175B，引入上下文学习。GPT-4支持图文双模态输入，GPT-4o进一步扩展至多模态输入输出。学习这些大模型对职业发展和行业应用具有重要意义。