6月18日消息，近日，OpenAI发布了一项新研究，旨在探索在图像上训练GPT-2的性能以及无监督准确率表现。研究者表示，BERT和GPT-2等Transformer模型是域不可知的，这意味着它们可以直接应用于任何形式的1D序列。OpenAI研究者在图像上训练GPT-2（这些图像被分解为长像素序列），他们称该模型称为iGPT。实验表明，iGPT模型的特征在大量的分类数据集上实现了当前SOTA性能，以及在ImageNet数据集上实现了接近SOTA的无监督准确率。