Towards Training A Chinese Large Language Model for Anesthesiology

本篇文章属于LLM系列内容，旨在对《Towards Training __ A Chinese Large Language Model for Anesthesiology》这一文献进行语言转换处理。

训练麻醉学中文大模型初探

• 摘要
  • 1 引言
  • 2 相关研究
  • 3 HYPNOS
  • 4 实验分析
  • 5 总结
  • 6 不足之处

摘要内容提炼

医学大语言模型（LLM）因其突出的应用价值，近年来在相关领域中备受关注。然而，目前大部分研究主要聚焦于常规医学领域，对于麻醉学等专业方向的LLM研究仍显不足。为弥补这一缺陷，我们提出Hypnos，这是一种基于现有LLM架构构建的中国麻醉学专用模型，如Llama等。Hypnos的主要贡献体现在以下三个方面：1）当前LLM所生成的数据，例如通过自我指导方式获取的信息，可能存在一定的偏差。为此，Hypnos引入了交叉过滤机制以提升数据准确性。该机制的核心在于利用一个LLM对另一个LLM生成的内容进行质量评估，并剔除不符合标准的数据内容。2）Hypnos采用了从通用到专业的训练模式，在初始阶段使用常规医学数据对LLM进行微调，随后再借助专门的麻醉学数据进一步优化模型性能。通用医学信息有助于拓展麻醉学领域的专业知识边界，从而增强Hypnos输出内容的有效性与可靠性。3）我们还构建了一个用于评