近日,《中国金融行业AI欺诈与技术对抗研究报告》发布暨圆桌论坛活动在清华大学经济管理学院举行。
本次活动由清华大学经济管理学院中国金融研究中心、四川省反诈中心、新网银行、新华财经联合主办,主题为“AI反诈:从博弈到共治”。活动聚焦AI技术在金融欺诈领域带来的深刻变革与严峻挑战,交流前沿技术与实践经验,旨在推动金融行业共同构建抵御AI欺诈的坚固防线,促进技术共治格局的形成。现场邀请金融领域专家、学术研究者及反诈一线警务工作者齐聚一堂,共同探讨应对之策。
随着人工智能技术的爆发式发展,金融行业正经历数字化转型浪潮。AI技术赋能了智能风控、精准营销、自动化服务等创新场景,但同时也存在一些黑灰产组织利用AI技术,催生出深度伪造、智能钓鱼、自动化欺诈等新型犯罪手段,技术博弈与对抗的复杂性仍在升级。
为此,清华大学经济管理学院中国金融研究中心、新网银行、新华财经组建课题组,共同编制《中国金融行业AI欺诈与技术对抗研究报告》。清华大学经济管理学院教授、清华经管中国金融研究中心主任、国家级高层次人才计划入选者陆瑶进行了报告核心解读。她指出,在AI技术正被犯罪分子利用,催生出前所未有的金融欺诈新形态的背景下,深入研究金融行业的 AI 欺诈与技术对抗,具有重要的现实意义与理论价值。
基于当前行业实践中应对挑战的策略与建议,课题组围绕“监管引领、机构主责、社会协同”的立体防御框架进行构建,深入剖析了建立AI威胁情报共享机制、储备算力资源、构建认知对抗体系、培养复合型安全人才、提升全民数字素养、开展常态化攻防演练以及建设开源情报社区等具体路径。研究报告为构建安全、可信、稳定的金融数字生态贡献智慧力量,助力AI技术更高效地服务于经济社会发展和人民群众的美好生活需求。
金融欺诈正经历技术颠覆性变革。犯罪分子利用AI生成声纹一致、动态逼真的“虚拟分身”,冒充亲友诈骗的逼真程度已达肉眼难辨级别。四川省反诈中心罗彦加支队长现场披露关键数据:20至50岁的中青年群体因高频触网成为主要受害者,占比突破九成。
面对犯罪手段升级,技术防御体系加速重构。清华大学研究团队提出基于物理规律的深度伪造普适检测方法,通过实时验证面部表情动态实现虚假信息的有效甄别;针对大语言模型生成的欺诈文本,则通过捕捉人工智能生成内容中的逻辑漏洞特征,构建相应的溯源机制。
深层治理困境在圆桌论坛中集中凸显。跨境犯罪因嫌疑人藏匿境外、虚拟货币转移资金造成取证链断裂,而现行法律对开源技术的责任界定不清。公安部虽已力推专项立法,但欧盟监管实践显示,隐私保护与算法透明度存在固有矛盾。
圆桌论坛的最后,黄张凯在展望金融机构应对时强调,AI对金融行业的冲击可能才刚刚开始,其深度与广度或将超越移动互联网时代。金融机构需认清挑战的严峻性,即使面临人才与资源的限制,也应未雨绸缪,加强AI反诈能力建设,保持业务模式的灵活性与韧性。
对于构建防御体系的愿景目标,新网银行反欺诈专家王萍认为,AI金融欺诈的防御还需要全社会的共同参与和协同响应。构建一个涵盖公众教育、产学研协作和开放情报共享的社会化防御体系,是增强整个社会面对AI金融欺诈韧性的关键路径。(赵祖乐、实习生张若愚)