Facilitating Pornographic Text Detection for Open Domain Dialogue Systems via Knowledge Distillation

本篇文章属于LLM系列内容，主要对《通过大型语言模型的知识蒸馏促进开放域对话系统中的色情文本检测》这一文献进行翻译工作。

通过大语言模型的知识蒸馏促进开放域对话系统的色情文本检测

• 摘要
  • 1 引言
  • 2 相关研究
  • 3 数据获取
  • 4 技术手段
  • 5 实验设计
  • 6 分析与探讨
  • 7 总结
  • 8 不足之处

摘要

在开放域对话系统中，人机交互过程中若涉及色情内容，将对用户产生严重的负面影响。然而，针对此类对话中的色情语言识别问题，目前相关研究仍较为有限。为推动该领域的进展，我们构建了一个名为CENSORCHAT的对话监测数据集，其主要目标是判断对话内容是否包含色情信息。为此，我们采集了真实场景下的人机交互对话数据，并将其拆分为单句及单轮对话形式，其中最后一句话由聊天机器人生成。在数据标注方面，我们提出采用大型语言模型的知识蒸馏方法进行处理。具体而言，首先由四个开源的大型语言模型对原始数据集进行标注，并通过多数投票机制确定最终标签；其次，利用ChatGPT对第一步中未标注的部分进行补充；第三，在确保验证与测试集质量的前提下，使用GPT-4对标签进行校准：若当前标签与GPT-4生成的标签存在差异，则采用自我批评策略进一步验证准确性。最后，为了提升色情文本检测的效果，我们基于伪标记的数据集开发了多个文本分类器。详尽