智东西8月15日消息,据机器之心报道,Meta AI研究人员于8月14日发表论文,提出了一种可扩展的方法即指令回译(instruction backtranslation),通过自动注释相应的指令来构建高质量的指令跟随语言模型。
该研究对主要针对LLM对齐自动化以提升数据质量,通过对Llama进行微调,其产生的模型Humpback在Alpaca排行榜上优于其他现有的非蒸馏模型,如LIMA、Claude、Guanaco等。
论文地址:
https://arxiv.org/pdf/2308.06259.pdf




6


