我们分享了GPT-4模型的最新研发情况，该模型采用了多模态输入，能够接收图像和文本，并生成相应的文本输出。虽然在某些实际场景下仍不及人类水平，但GPT-4在各种专业和学术基准测试中表现出与人类相近的水平，甚至能够以高于90%的分数通过模拟律师考试。GPT-4是基于Transformer模型的，通过预训练，能够预测文档中的下一个词语。调整和优化过程提高了模型的真实性和对期望行为的遵守程度。在该项目中，我们着重开发了基础设施和优化方法，这些方法在各种规模的应用中表现得可预测，我们能够根据相当于GPT-4计算量的1/1000的模型来准确预测GPT-4的性能。