GPT-3的“零样本”学习能力：超越文本预测的奇迹

就像电影表情符号任务一样，研究人员并没有理由认为一个建立在文本预测基础上的语言模型能够令人信服地模拟计算机终端。这些新兴的行为中，许多展现了‘零样本’或‘少样本’学习的特点，这形容了一个LLM解决它从未或极少见过的问题的能力。这是人工智能研究长期以来的目标，Ganguli说。他表示，GPT-3能够在零样本设置下解决问题，没有任何显式的训练数据，这让他‘放下手头的工作，更加投入了。’