# PONTE:个性化编排用于自然语言可信解释
可解释人工智能(XAI)旨在提高机器学习系统的透明度和问责性,但大多数方法遵循一刀切的范式,忽视了用户在专业知识、目标和认知需求方面的差异。尽管大型语言模型可以将技术解释翻译成自然语言,但它们引入了与忠实性和幻觉相关的挑战。为了应对这些挑战,我们提出了PONTE(用于自然语言可信解释的个性化编排),一个用于自适应和可靠XAI叙事的人类在环框架。PONTE将个性化建模为闭环验证和适应过程,而不是提示工程。它结合了:(i)捕获风格要求的低维偏好模型;(ii)基于结构化XAI工件的偏好条件生成器;以及(iii)验证模块,用于强制数值忠实性、信息完整性和风格一致性,可选地由检索基础论证支持。用户反馈迭代地更新偏好状态,实现快速个性化。跨医疗保健和金融领域的自动和人工评估表明,验证-细化循环相比无验证生成在完整性和风格一致性方面有实质性改进。人类研究进一步证实了预期偏好向量与感知风格之间的强一致性、对生成随机性的鲁棒性,以及始终如一的积极质量评估。
赞
评论
请
登录后发表观点
