CodeUltraFeedback An LLM-as-a-Judge Dataset for Aligning Large Language Models to Coding Preferences

本篇文章属于LLM系列内容，主要涉及对《CodeUltraFeedback: An LLM-as-a-Judge Dataset for Aligning Large Language Models __ to Coding Preferences》这一文献的译介工作。

CodeUltraFeedback：一个LLM即判断数据集，用于将大型语言模型与编码偏好相匹配

• 摘要
  • 1 引言
  • 2 CODEULTRAFEEDBACK
  • 3 对CODEULTRAFEEDBACK进行LLM评估
  • 4 基于编码偏好对LLMS进行调整
  • 5 实验结果
  • 6 分析与讨论
  • 7 相关研究
  • 8 结论及关联研究

摘要

对大型语言模型（LLM）与用户设定的编码偏好的匹配程度进行评估，是一项充满挑战的任务，尤其需要针对复杂文本输出进行深入分析。目前的基准体系主要依赖于自动化指标和静态分析工具，难以捕捉用户指令与LLM生成内容之间的细微差异，这凸显出构建大规模数据集以及用于调整LLM偏好的基准体系的重要性。本文中，我们提出CodeUltraFeedback，这是一个包含10000条复杂指令的偏好数据集，旨在借助人工智能反馈机制调整LLM，使其更符合编码偏好。我们采用14种不同的LLM库对这些指令作出回应，并通过GPT-3.5的LLM-a