An Architecture for Accountability and Explainability through Blockchain and Large Language Models

本篇文章属于LLM系列内容，主要涉及对《增强自主代理的信任__：通过区块链与大型语言模型实现责任性与可解释性的架构》一文的译介。

增强对自动代理的信任：一种通过区块链和大型语言模型实现问责制和可解释性的架构

• 摘要
  • 1 引言
  • 2 相关研究
  • 3 系统结构设计
  • 4 实施过程
  • 5 效果分析
  • 6 实验数据与探讨
  • 7 总结

摘要

在涉及人机交互的场景中，自主代理的部署正日益引发对安全性的关注。因此，掌握事件背后的细节变得尤为重要，需要构建一种能力，使非专业用户能够理解其行为逻辑。此类解释对于增强系统的可信度与安全性具有关键作用。同时，它也有助于提升沟通效率，缩小代理与用户之间的认知鸿沟，从而提升交互的整体效果。本研究提出了一种基于移动机器人操作系统（ROS）平台的机器人可解释性架构__。该方案主要由两个核心模块构成：其一为具备问责机制的黑匣子式组件，借助区块链技术实现数据不可篡改的特性；其二为一个利用大型语言模型（LLM）对前述黑匣子中的信息进行处理，并生成自然语言解释的功能模块。通过将区块链与生成式人工智能（AI）技术相结合，确保了自主代理在运行过程中具备责任性、透明度、可解释性及可靠性。研究团队在三种不同的应用场景中对所提出的解决方案进行了性能评估，这些场景均涉及自主代理的导航功能。评估过程涵盖了对责任归属