乌镇互联网之光博览会。潮新闻记者 梁亮 摄

11月19日至22日，2024年世界互联网大会乌镇峰会在浙江乌镇举行。在这场世界瞩目的大会上，各类“黑科技”让人应接不暇。而在数字技术飞速发展的浪潮里，除了欣喜，也不免让人有一丝担忧。

准备乘飞机出行的你突然收到电话，告诉你飞机起落架出了问题需要换其他机型，让你配合对方进行改换；结束网购正在等待收货的你突然被告知货品运输途中丢失，需要联系你理赔；突然有人联系你，告知你可能涉嫌犯罪，请你配合调查……但最后发现这些都是诈骗。

当互联网成为人们日常生活中的一部分，一些网络安全问题也随之而来，尤其是电信网络诈骗，手段层出不穷，甚至利用上了AI技术。

一张照片就能实现“换脸”

个人信息安全值得关注

“你可以试一试，看‘换脸’的效果真不真。”在“互联网之光”博览会的网络安全展区，天融信科技集团的展台里有一面互动大屏。只要上传一张正面照片，系统就可以捕捉相关面部信息，并把这张脸“安”在站在摄像头前的人脸上。

一张照片就能实现“换脸”。潮新闻记者 梁亮 摄

为了测试，记者提供了一张本人的照片，待上传至系统后，邀请了两位工作人员一同站在摄像头前。虽然两位工作人员并不相像，但大屏幕中，她们已经成了“双胞胎”。“如果加上你本人的话，应该说是‘三胞胎’才对。”其中一位工作人员笑着说。

“虽然乍一看很像，但其实还是有破绽的。” 天融信科技集团AI安全研发总监潘季明说，大屏主要是为了做展示用，其实只有一张正面照片，是不能完全捕捉到一个人面部的动态信息。如果要实现更完美的“换脸”，需要多张不同角度的照片。

不过他表示，即使有破绽，但“唬人”也够了。“尤其是一些对这类技术不熟悉的老年人，确实可能被这类视频迷惑。”潘季明说，其实开发这类系统的成本较高，但如果不法分子通过灰黑产业购买已经开发好的系统，他们犯罪的技术成本就会降低不少。

“像通过运单号获取个人信息这类做法，某种意义上已经‘过时’了。现在，黑客如果直接攻击某企业的数据库，得手的话，可以直接获取海量的信息。”在潘季明看来，除了生成式人工智能产生的新型安全风险外，更为严重的问题是个人信息数据安全。

对外发布的两本蓝皮书。潮新闻记者 梁亮 摄

在《中国互联网发展报告2024》中也提到，根据苹果公司发布的《对个人数据的持续威胁：2023年增长背后的关键因素》报告显示，仅2023年1月至9月，就有3.6亿人的敏感数据泄露，比2022年全年高出20%。

“技术就像是一把剑，是方便人类生活还是增加问题和风险，关键取决于剑在谁手里。”潘季明说。

打击力度加大

前沿科技也在助力反诈治理

正如潘季明所言，技术并不是导致网络诈骗的元凶，相反，前沿科技也可以用于反诈。

11月19日下午，2024年“携手构建网络空间命运共同体精品案例”发布展示活动举行，这也是世界互联网大会乌镇峰会的重要活动之一。在本次公布的13项精品案例中，中国联通与香港城市大学合作的“科技引领，联通全球：大数据与人工智能在反诈治理中的新实践”案例引人关注。

潮新闻记者 王好 摄

中国联通调动行业领先的AI数据中心，部署先进的大型语言模型，实现诈骗活动的实时监测、存储和分析。通过对作案者和受害者的人口特征、行为特征和心理特征进行画像，更精准地支持科学、针对性的反诈骗工作。

香港城市大学则深入研究诈骗背后的人性因素。香港城市大学科学家分析诈骗者的作案手法，揭示其操纵受害者信任和情感的策略，为不同的媒体渠道、受众群体和诈骗类型量身定制反诈宣传材料，并致力于帮助受害者走出心理困境。

在先进技术投入反网诈领域的同时，针对网络诈骗的打击力度也在不断加大。

加快建立相关行业规范

“安全”并不掣肘技术发展

随着信息技术飞速发展，如何更好地保护个人信息安全，预防网络诈骗发生？

我国的安全保障机制不断健全。除了《网络安全法》《数据安全法》《个人信息保护法》等法律法规落地实施，国家也在体系化推进关键信息基础设施安全相关标准研制。2024年5月，国家标准《网络安全技术 关键信息基础设施边界确定方法》面向社会公开征求意见。6月，国家标准《网络安全技术 关键信息基础设施安全保护能力指标体系》面向社会公开征求意见。

而针对公众关注的生成式人工智能，由国家网信办、国家发展改革委等七部门联合公布的《生成式人工智能服务管理暂行办法》，已于2023年8月15日起施行。2024年4月，国家网信办在“中国网信网”和“网信中国”微信公众号发布《关于发布生成式人工智能服务已备案信息的公告》，首批发布117款生成式人工智能服务已备案信息，积极引导大模型企业通过网信部门履行备案程序。2024年8月，新增发布71款生成式人工智能服务已备案信息，以及26款在属地网信办自行登记的生成式人工智能服务产品信息。

在加快规范管理的同时，针对数据安全、个人信息保护和网络反诈等宣传教育活动也在深入开展。

正如中国科学院自动化研究所人工智能伦理与治理中心主任、联合国人工智能高层顾问机构专家、北京人工智能安全与治理实验室主任曾毅所说的：“人工智能安全与治理的目的是确保人工智能稳健发展，而非掣肘人工智能的发展。‘安全’应成为人工智能发展的第一性原理，纳入人工智能发展的基因之中。”

“转载请注明出处”