近期，国家金融监督管理总局印发《关于银行业保险业人工智能安全开发应用的指导意见》，从治理架构、开发应用、数据算力、风险防控等方面作出系统部署。在银行保险业人工智能规模化应用的背景下，如何既释放技术潜能，又守住安全底线，已成为数字金融高质量发展必须回答的现实问题。

金融是信息和数据高度密集的行业，也是人工智能具有广阔应用前景的领域。从辅助信贷调查、识别欺诈交易，到优化保险定价、提升客户服务质效，人工智能能够处理海量非结构化信息，减少重复劳动，提高金融服务的可得性和精准度。《金融人工智能发展与安全白皮书(2025)》显示，2024年我国金融行业人工智能投资规模达到196.94亿元，预计2027年将增至415.48亿元。技术迭代与成本下降相互叠加，正在推动人工智能从外围辅助走向风险管理、投资研究、合规审查等关键环节。对金融机构而言，用不用人工智能已不是简单的选择题，怎样用好、管好才是关键。

金融活动具有专业性强、关联度高、风险外溢快等特点。模型输出看似精准，但并不等于决策一定可靠。训练数据存在偏差，可能造成算法歧视；模型缺乏可解释性，可能使责任链条变得模糊；提示词注入、数据投毒、工具滥用等新型攻击，可能威胁客户信息和业务连续性。人工智能越深入信贷审批、资金交易、承保理赔等关键环节，越不能把概率意义上的“答案”不加辨别地当成确定无疑的结论。

发展和安全并非此消彼长。安全不是创新的“减速带”，而是创新行稳致远的前提。缺少应用实践，则难以及时发现真问题；没有制度约束，技术创新则可能偏离服务实体经济、维护群众权益的方向。此次指导意见坚持“谁使用谁负责”，把人工智能风险纳入全面风险管理，并明确高风险应用的准入、监测和人工干预要求，正是要把安全能力转化为金融机构的治理能力和长期竞争力。

人工智能应用不是单纯的技术项目，而是涉及业务、科技、数据、合规、风险管理等多个部门的系统工程。金融机构应压实主体责任，完善跨部门协同机制，建立覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系。尤其要避免“重上线、轻运营”，既在应用前做好准入测评和伦理审查，也要在运行中持续监测模型效能、数据漂移和异常行为，在模型不再适配业务时及时调整或退出，才能真正做到过程留痕、责任到人。

让人工智能在安全轨道上运行，还要夯实数据和算力基础。金融模型能力如何，很大程度上取决于数据质量。数据不准确、不完整，算法再精妙也难以产生可信结果。要加强数据全生命周期管理，建设与具体场景相适配的高质量数据集，提升非结构化数据治理水平，确保数据来源可追溯、使用有边界、更新能持续。同时，统筹存量资源和实际需求布局算力，提升关键平台和软硬件自主可控水平，防范对单一供应商和外部技术的过度依赖。自主可控并非关起门来重复建设，而是在开放协作中增强关键环节掌控力和供应链韧性。

把风险管住管好，重在分类分级、精准施策。人工智能应用场景不同，风险程度也不相同，对内部知识检索、文稿辅助等低风险应用，可在明确数据权限和使用规范的基础上提升应用效率；对资金交易、资产评估、信贷审批、承保理赔以及直接影响客户权益的生成式人工智能应用，则应实行更严格的准入、测评和监测。要科学设定模型功能边界，在关键环节保留人工监督、复核和干预机制，明确紧急停用条件和人工替代流程，防止将智能辅助异化为“机器说了算”。

金融科技最终要服务于人。人工智能可以提高服务效率，却不能减轻金融机构对消费者应尽的责任。对模型生成内容，应做好显著标识和必要说明；对涉及客户权益或具有实质性财务影响的关键决策，应增强透明度和可解释性，保障消费者的知情权、异议权和畅通申诉渠道。审慎评估算法对老年人、低收入者等不同群体的影响，及时纠正可能存在的模型偏见。技术越先进，越要守住公平、诚信和审慎经营的价值底线，让数字化成果惠及千家万户。

人工智能为金融业打开了新的发展空间，也提出了新的治理难题。把安全要求贯穿创新全过程，把人的责任置于算法之上，把服务实体经济和维护群众权益作为根本价值遵循，才能使人工智能真正成为金融高质量发展的重要引擎。以制度筑基、以技术固本、以责任护航，推动创新活力与安全韧性相互促进，金融人工智能就能在安全轨道上走得更稳、更远。

(作者：崔 冉，系广西财经学院金融学院副教授)