对抗幻觉：垂直领域中大语言模型的应用策略探讨一以中医知识问答领域为例 Combating Hallucinations: Application Strategies of Large Language Models in Vertical Domains - A Case Study in the Field of Traditional Chinese Medicine 作者： 曹智勋 1 陈静 1 作者单位： 1. 华中师范大学信息管理学院 通讯作者： 曹智勋 Email:1243269380@qq.com 提交时间： 2024-11-19 10:42:47 摘要: [目的]本文旨在以中医知识问答领域为例，分析以知识库资源为例的非结构化知识和以知识图谱资源为例的结构化知识在提升大语言模型对抗幻觉效果上的差异性，并基于此进一步探讨大语言模型在垂直领域对抗幻觉能力的提升策略。 [方法]设计实验利用外部知识配合提示工程的方法，在中医知识问答领域进行知识库资源和知识图谱资源在提示效果上的差异性分析，并探讨动态三元组策略和融合微调策略等进行大语言模型对抗幻觉优化的优越性。 [结果]实验结果表明与知识库非结构化知识提示相比，知识图谱结构化知识提示在准确率、召回率和F1值方面表现更佳，分别比知识库提示高出1.9%、2.42%和2.2%，为71.44%、60.76%和65.31%；基于此进行了进一步优化策略分析后发现，动态三元组策略融合微调后在对抗幻觉上效果最佳，准确率、召回率和F1值分别达到了72.47%、65.87%、68.62%。 [局限]本文的研究领域单一，目前只在中医问答领域进行了测试，尚需在广泛科研领域验证其泛化能力。 [结论]本研究证明了在中医领域，知识图谱结构化知识在减少幻觉现象和提升模型回复准确性方面优于传统非结构化知识，揭示了结构化知识在增强模型理解能力中的关键作用；微调策略和知识资源的融合使用为大语言模型提供了一种有效的性能提升路径。本文为大语言模型融合外部知识以提升知识服务提供了理论依据和方法支持。 对抗幻觉 大语言模型 提示工程 知识图谱 中医问答 来自： 曹智勋 分类： 图书馆学、情报学 >> 情报检索 说明： 已被《竞彩特点指定入口》期刊录用 投稿状态： 已被期刊接收 引用： ChinaXiv:202411.00205 (或此版本 ChinaXiv:202411.00205V1 ) DOI:10.12074/202411.00205 CSTR:32003.36.ChinaXiv.202411.00205 科创链TXID： 6d072b1e-7b80-4441-a71c-10b3219a9b20 推荐引用方式： 曹智勋,陈静.对抗幻觉：垂直领域中大语言模型的应用策略探讨一以中医知识问答领域为例.中国科学院科技论文预发布平台.[DOI:10.12074/202411.00205] 版本历史 [V1] 2024-11-19 10:42:47 ChinaXiv:202411.00205V1 下载全文