Self
简介：Self-Taught Evaluators是一种无需人工标注数据的模型评估框架，通过自我训练方式增强大型语言模型（LLM）的评估能力。其核心在于利用LLM生成对比输出并进行迭代优化，显著提升了模型评估的准确性，达到了与顶级奖励模型相媲美的效果，广泛适用于语言模型开发、内容评估、教育科研以及技术支持等领域。
项目地址
Self-Taught Evaluators是一种创新的模型评估方法，通过自我训练机制提升大型语言模型（LLM）的评估能力，而无需依赖人工标注的数据。该方法从无标注的指令出发，利用迭代式自我改进策略生成对比模型输出，并借助LLM生成推理路径及最终判断。在每轮迭代中，改进后的预测被用于重新训练模型，从而实现性能优化。实验结果显示，采用此方法可显著提高基于Llama3-70B-Instruct模型的评估准确性，从75.4%提升至88.3%，并在多数投票情况下达到88.7%，表现接近甚至超越了使用人工标注数据训练的顶级奖励模型。
发表评论 取消回复