如何破解大模型“幻觉” 业内认为应以“领域本体”筑牢金融AI安全防线

新华财经北京8月5日电（记者沈寅飞）近年来，国家深入实施“人工智能+”行动，金融智能化转型提速，如何解决通用大模型存在的模型幻觉、数据孤岛、决策黑盒等问题。近日，在由中国人民大学国际金融学院与未来金融创新工程中心联合主办的“本体视角下的金融业人工智能安全开发与应用”行业闭门会中，业内人士围绕金融业人工智能安全开发与应用的核心议题展开深入研讨。他们普遍认为，AI在金融业落地需突破“可信”瓶颈。核心路径是构建“领域本体”作为翻译层，将业务逻辑与知识转化为机器可执行的规则与语义，以此解决模型幻觉、数据孤岛和决策黑箱等问题，确保AI可解释、可追溯、可管控，从而支撑金融核心业务的安全智能化转型。

中国人民大学国际金融学院副院长、财政金融学院应用金融系主任吴轲认为，新一轮科技革命深入推进，人工智能正加速成为驱动金融变革的重要力量，大模型智能体不断拓展金融服务边界，深刻重塑业务流程与决策机制。金融业是数据、知识与风险密集型行业，AI在提升效率的同时也带来模型幻觉、数据孤岛、算法偏差、决策黑箱、责任模糊等问题，一次错误判断可能影响客户权益甚至传导形成系统性风险，因此金融业需要的不仅是能力更强的AI，更必须是可信、可解释、可追溯、可管控的AI。

中国信息通信研究院人工智能所大数据与智能化部主任姜春宇表示，针对大模型基于概率存在幻觉、不懂企业内部数据语言的痛点，本体可通过三层能力增强AI可信：一是语义整合，将企业数据知识翻译为大模型可理解的业务语言；二是推理，通过规则表达实现可论证、可解释的推理决策；三是行动，与IT系统函数关联形成操作闭环，核心是让大模型在受控路径下运行而非自由产生幻觉

蚂蚁数科金融AI方案总经理宁鹏围绕可信智能体与本体论融合落地，提出以评估驱动智能体迭代，开展端到端全链路评测，量化识别模型不确定性；依托图式知识库承载本体知识，统一金融基础业务语义。金融智能化竞争本质是人携数字分身协同作业，本体语义体系将补齐大模型逻辑验证短板，夯实行业智能化转型根基。

恒丰银行首席信息官徐彤认为，大模型落地的瓶颈不在模型能力，而在缺乏“翻译层”。通用大模型不懂银行信贷审批、风险识别等深水区业务逻辑，需构建领域本体作为连接器，包含统一词典、知识骨架和可执行规则三部分。应构建四层增强体系解决四个核心问题：知识层把隐性经验变成组织资产；流程层将线性审批升级为智能工作流；数据层打通孤岛形成单一真相源；触达层实现数据精准找人并形成反馈闭环。

银行数字化转型资深专家孙中东提出，全球大模型规模化落地正面临FDE专业人才供给不足、数据库语义层适配困难两大瓶颈，我国可依托本体论技术实现自主突破。当前头部银行已迈入核心业务AI重塑阶段，可解释、可追溯、可管控是刚性底线；本体能够将制度文本转化为机器可执行规则，把Token序列构建为可审计的推理链条，是实现合规治理的关键技术路径。

编辑：胡晨曦

声明：新华财经（中国金融信息网）为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115