Sora刷屏,AI狂飙,如何应对人工智能算法新风险?
创始人
2024-05-20 18:28:53
0

原标题:Sora刷屏,AI狂飙,如何应对人工智能算法新风险?

人工智能领域,一年一个“王炸”。

2022年11月30日,ChatGPT横空出世,成为人工智能技术发展的里程碑,14个月之后的2024年2月16日,视频生成大模型Sora问世,再度刷屏全球网络。

从ChatGPT到Sora,新一代人工智能在收获大量关注的同时,也引发公众的安全担忧。人工智能算法应用在金融行业的普及,更为金融信息安全带来新的挑战。

挑战1:AI算法应用风险

应用于人工智能的机器学习和深度学习技术,工作原理极为复杂,导致人工智能算法通常缺乏可解释性。人工智能产品和系统受到药饵攻击、对抗样本攻击、物理攻击、后门攻击等恶意攻击事件层出不穷,增加了金融交易风险和数据泄露风险。

为保障人工智能金融应用健康发展,监管部门不断制定、完善相关法律法规与行业规范。2021年3月,中国人民银行发布了《人工智能算法金融应用评价规范》(JR/T 0221—2021)(以下简称《人工智能算法规范》),为金融机构加强人工智能算法应用风险管理提供指引。

中国金融认证中心(CFCA)立足于金融行业,建立了涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测体系,可提供符合《人工智能算法规范》要求的人工智能算法金融应用评估服务。

2021年10月,CFCA作为试点检测机构参与了人工智能算法金融应用安全测评试点工作,对宁波银行“应用于快审快贷产品的LightGBM算法”进行了检测。检测结果显示,宁波银行送检的应用于快审快贷产品的LightGBM算法符合规范要求,具有较强的安全性保障。

挑战2:人脸识别欺诈风险

人脸识别技术作为身份识别的一种手段,发展迅速并广泛应用于各行各业。然而,来自非法用户的人脸欺骗攻击给人脸识别技术应用带来很大的安全隐患。尤其近年来AI换脸、视频生成大模型性能越来越先进,客观上增加了人脸识别欺诈风险。

为了解决这一问题,人脸活体检测技术应运而生,可有效抵御照片、视频、换脸、面具、遮挡、3D动画以及屏幕翻拍等常见攻击手段。

中国人民银行于2019年1月发布《人脸识别技术线下支付安全应用规范(试行)》(以下简称《人脸识别安全规范》),从客户端软件、受理终端、交易系统等维度提出了诸如通用技术要求、系统安全要求、交易安全要求等多方面的要求。

CFCA作为第三方检测机构,从多角度提供人脸识别活体检测算法相关安全检测服务,除了依据《人脸识别安全规范》覆盖人行监管要求外,还会结合在项目中积累的如对抗样本攻击、3D动画、真人攻击、自动化测试、接口安全验证等实战经验,优化相关检测服务。

近年来,CFCA在人工智能领域积极布局,参与国家和金融行业技术标准和检测标准的制定,提供适用于人脸识别活体检测算法的专业安全检测。

AI“狂飙”风口已至,CFCA愿与各方携手,共同推进人工智能算法应用规范、健康发展。

相关内容

热门资讯

6分钟了解!小娴巴渝棋牌有挂(... 6分钟了解!小娴巴渝棋牌有挂(辅助器),太过分了原来真的是有挂(2020已更新)(哔哩哔哩)是一款可...
四分钟了解(wpk挂)外挂透明... 您好,wpk挂这款游戏可以开挂的,确实是有挂的,需要了解加微【485275054】很多玩家在这款游戏...
玩家攻略!wpk辅助购买(透视... 玩家攻略!wpk辅助购买(透视脚本),太坑了其实真实是有挂,安装教程(有挂插件)-哔哩哔哩,是用手机...
透视规律!WePoKe软件透明... 《WepokE软件透明挂》是一款多人竞技的WepokE辅助透视游戏,你将微扑克对手来到同一个战场,为...
辅助透视(德扑软件高端!软件透... 辅助透视(德扑软件高端!软件透明挂)辅助(透视)透视辅助透视(有挂动态)-哔哩哔哩;一、AI软件牌型...
十分钟了解(wepoke)外挂... 十分钟了解(wepoke)外挂软件透明挂脚本(辅助挂)软件透明挂(有挂免费)-哔哩哔哩;wepoke...
科技新动态(微信jj斗地主)外... 科技新动态(微信jj斗地主)外挂透视器辅助脚本(辅助挂)原来一直总是是有挂(2021已更新)(哔哩哔...
都体:如果收到4000万至50... 直播吧3月20日讯 据《都灵体育报》报道,如果收到4000万至5000万欧元报价,国米可能考虑出售比...
传递经验(wpk辅助)外挂透明... 传递经验(wpk辅助)外挂透明挂辅助AI,太坑了其实真实是有挂(有挂大全)-哔哩哔哩;AI辅助机器人...
AI技术驱动微信生态升级,微信... 3月19日,腾讯控股发布2024年Q4及全年财报,微信及WeChat合并月活跃账户数增至13.85亿...