隐藏的威胁：大型语言模型的不确定性如何被操纵

随着人工智能技术的迅猛演进，大规模语言模型（LLMs）已逐渐成为多个高风险行业中必不可少的辅助手段。无论是在程序代码的生成、疾病的诊断，还是在个性化推荐以及核心决策环节，LLMs的应用范围日益广泛。然而，近期由多所知名高校联合开展的一项研究表明，这些模型存在不容忽视的安全隐患——其不确定性评估机制可能被不法分子加以利用，从而对LLMs的整体可靠性造成严重冲击。

不确定性:LLMs可靠性的关键指标

大型语言模型所表现出的不确定性长期以来被视作衡量其输出可信度的关键性参数。一般而言，若模型对其生成结果展现出较低的不确定程度，人们往往更愿意接受该结论。反之，较高的不确定性则可能暗示其输出内容并不适合用于关键性决策。

然而，最新研究揭示了这种不确定性评估机制或许存在比预期更为薄弱的环节。实验显示，研究人员已成功在大型语言模型中植入特定后门机制，当输入信息中包含预设触发信号时，能够对模型的不确定性进行人为操控，而不会对最终生成结果造成任何可见影响。

后门攻击:隐蔽而 有效的 __ 威胁

被称作"后门攻击"的这一策略能够调整大型语言模型的输出概率分布，使其逐步接近攻击者事先设定的分布形态，同时确保模型在top-1预测结果上维持不变。研究团队通过实验获得了极为突出的成果：在四种不同架构的模型中，采用三种各异的触发机制，他们成功实现了100%的攻击成功率（ASR __）。