人工智能在破解金融服务难题、重塑金融业发展范式同时，也给金融机构带来新挑战。面对AI大模型当前的模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性等风险，金融机构应如何应对？6月18日，在2026陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”上，与会人士认为，借助AI提升效率同时，金融机构也应认识到大模型的局限性，并防范大模型应用过程中的风险。

AI正在重塑金融业发展范式

人工智能等技术迅猛发展，正重塑金融服务模式与行业生态，大幅提升了金融机构服务的覆盖广度和触达效率。

中国银行副董事长、行长张辉表示，人工智能正在重塑银行业的发展范式，主要是表现在三个方面：一是重塑服务范式，AI改变了银行和客户之间信息数据传输和处理的方式，让兼顾普惠性、专业性、个性化的数字金融服务成为可能。二是重塑价值创造的模式，金融业的信息密集、流程清晰、规则明确，这点和大模型的自动化、智能化的核心能力高度匹配，通过深度嵌入到银行的客服、营销、审批、风控、运营等各个环节，可以更有效地促进银行降本增效，大幅拓展价值创造的空间。三是重塑银行业的管理范式，人工智能深度应用，需要对银行的组织架构、队伍建设、管理机制、治理体系、风险能力等方面都进行系统性的重构，从而实现从原来的经验驱动、人力驱动向数据驱动、智能驱动的转变。

宏利金融集团执行管理团队成员、亚洲区总裁兼首席执行官Steven Finch表示，AI提供更多定制化服务已成为现实，比如，公司的AI Agent目前拥有十万个智能服务节点；在香港还推出了AI销售专业工具。该工具能够整合海量客户数据，并据此为客户提供高度定制化的专业建议。“使用人工智能可使效率提升两倍、三倍甚至五倍。”他说，“公司目前有50%以上的员工使用AI。”

PIMCO品浩董事总经理兼总裁Christian Stracke表示，公司也已将AI代入到投资决策中，可以帮助更好地进行投资决策，比如，AI可以把数据分析、投资过程都加速，不过这只是人类的工具，而不是在投资的过程中完全替代人类。

标准未统一且存在风险隐患

金融业目前都在探讨和布局智能体，关于智能体的定义，目前仍未统一。

中国农业银行董事长、执行董事谷澍举例称，各家银行在汇报AI应用成果时，都会提到开发了多少个智能体，差异非常大：有银行表示开发了几百个，有银行则声称达到了上万个。在他看来，这主要源于目前智能体的定义和规范标准尚未统一。“如果缺乏比较规范的标准，很难界定到底什么样的应用才算是一个成熟的智能体。”谷澍说，“在这种情况下，很难准确评估各家机构在行业中的相对位置，也就难以有效借鉴他人的长处，从而推动整个行业在智能体应用水平上的共同提升。”

在他看来，智能体本质上是让大模型真正运转起来的中介、代理或执行者，其开发过程存在很大差异。他建议，在设计智能体来代替人类工作时，能否将那些功能相对单一、业务流程比较固定的智能体做成“标准件”，这样的好处在于可以避免重复开发，实现反复调用，从而能把更多精力聚焦于开发具备自主规划和决策能力的智能体上，这将更有意义，也更具效率。

大模型应用过程中的风险，也引起业内关注。谷澍表示，AI大模型当前面临的主要风险包括模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性。在他看来，这种不确定性风险可进一步细分为三大类:一是参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加导致模型的决策机制和输出结果不透明，也很难解释。二是概率生成带来准确性的考验。大模型决策过程不像人类进行决策时有线性思维的过程，而是根据海量训练数据统计词源token的概率性规律，本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。三是模型现在已能自主思考和决策了，随着大模型的进化和智能体的深度应用，它已突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。

上海交通大学上海高级金融学院金融学教授朱宁则认为，AI可能给三个领域带来意想不到的冲击或变革。一是对微观层面个人行为的冲击。这不仅会导致人们对错误信息或虚假信息产生过度依赖，还会引发过度自信的膨胀，让人产生“无所不知”的错觉。

二是从伦理和社会学的角度来看，人类究竟应该与AI保持怎样的关系？随着AI对社交媒体内容的贡献度越来越高，下一阶段是否会对AI和AIGC的成长方式与速度进行限制？这已成为全社会都需要深入探讨的重要议题。

三是关于AI治理结构的国际合作。当前，人们普遍期望AI能够向善、赋能并助力人类。但如果AI发展出自主能力，或者落入别有用心的人手中，它可能会生成虚假信息、产生“幻觉”，甚至有意识地对人类或特定企业做出不利行为。面对这些情况，究竟该由谁来治理？谁来监管？谁来惩处？这些问题在全球范围内尚无定论，且整个治理体系仍在快速演变之中。

用AI手段应对AI应用风险

如何应对大模型风险？谷澍表示，面对大模型应用过程中的风险，能做的不是消除风险，而是在发挥好大模型作用的同时，也要认识到大模型的局限性，想办法尽量控制风险。

他认为可从四方面防控大模型应用过程中的风险：一是分类施策推进场景适配。金融应用大模型的时候是应用在不同的场景里面，对于不同的场景，可以建立模型的黑箱的分级管控，不同场景匹配差异化的技术路线和可解释性的要求。二是设置一定的标尺对大模型进行约束控制，大模型有时候会产生幻觉，有时候会自由发挥，针对不同的场景进行应用的时候是需要建立参数、建立标尺控制它的应用路径。同时再把它和人结合起来，大模型过程里人的作用是最终做决策。三是用AI手段应对AI应用风险，以AI对抗AI，建立纵深防御体系，增强AI对抗能力。四是强化银行内部的AI治理体系，健全全生命周期和风险并重的银行内部AI治理体系，确保AI既用得好又管得好，既留住创新空间又尽量压缩模型黑箱、幻觉的局限性。

张辉表示，中行在推进AI战略时坚持“人类在环”的管理兜底原则。目前人工智能的发展阶段，尤其是大模型，本质上仍未脱离概率预测系统。因此，金融业务对严谨、精准、可靠的要求，与概率预测虽有交集，但不能完全依赖人工智能。现阶段，金融业的应用大多集中在非核心业务的辅助环节，将AI定位为“有效助手”而非“最终决策者”。

Christian Stracke表示，人工智能工具必须在被批准的渠道上使用，比如品浩不允许团队成员使用任何不受批准的机器学习模型，在他们个人电脑或者系统上使用这些工具，会带来很多的风险，且对投资组合的基金经理而言会有很多的错误。

他同时认为，需要全球协同的人工智能监管框架，明确人工智能在哪些应用领域会带来最大风险，确保人工智能在高风险领域的使用得到严格监管。