谷澍：金融大模型面临三重风险，四策分级防控

6月18日，2026陆家嘴论坛进入第二天。在“科技创新赋能金融高质量发展”全体大会上，中国农业银行董事长、执行董事谷澍系统阐述了金融领域应用AI大模型面临的核心风险与应对路径。

谷澍表示，金融在应用大模型过程中主要面临三方面风险：模型黑箱、模型幻觉，以及模型自主思考和决策带来的不确定性。他对这三类风险做了进一步的拆解。

问题出在三个层面。

第一，参数海量导致模型可解释性成为难题。目前主流大模型的参数规模已达千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加，使得模型的决策机制和输出结果不透明，也很难向外界解释其推理逻辑。

第二，概率生成机制对准确性构成考验。谷澍指出，大模型决策过程不像人类决策具有线性思维特征，它是根据海量训练数据统计词元（token）的概率性规律进行输出，本质上是概率统计，而非逻辑性的事实推导。当数据和事实依据不足时，模型容易产生自洽但不符合事实的“幻觉”。

第三，模型自主思考放大了不可控风险。随着大模型进化和智能体的深度应用，大模型已突破传统软件输入输出相对固化的范式，能够自主思考并作出判断，这在一定程度上放大了过程不可控、结果不可知的风险。

怎么应对？

他将实践总结为四方面防控体系。一是分类施策推进场景适配：对不同应用场景建立模型黑箱的分级管控机制，按场景匹配差异化技术路线和差异化的可解释性要求。二是设置标尺约束控制：为不同场景建立参数和标尺来控制大模型的应用路径，同时保留人在其中做最终决策的角色。三是用AI手段应对AI应用风险：以AI对抗AI，建立纵深防御体系，增强AI对抗能力。四是强化银行内部的AI治理体系：健全覆盖全生命周期、风险并重的AI治理体系。

“既要把大模型用好，也要把大模型应用过程中的风险防好。”谷澍说，一方面要充分认识大模型的作用并加以发挥，另一方面要清醒认识其局限性，尽量控制风险，确保AI既留得住创新空间又压缩了模型黑箱和幻觉带来的局限性。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。