ChatGPT和InstructGPT作为孪生兄弟模型，采用了相同的模型结构和训练方式。而ChatGPT在数据量上有所增加，并继承了InstructGPT的指示学习和反馈强化学习思想。ChatGPT的发展经历包括GPT-1的无监督预训练+有监督微调模式、GPT-2的无监督预训练模式和zero-shot理念以及GPT- 3的无监督预训练模式和in-context learning模式，模型容量进一步扩大。两者的关联性和共同点在于基于GPT系列模型的预训练和应用广泛的领域。