时报观察:AI新骗局 平台责任大
创始人
2024-12-24 00:21:50
0

人工智能(AI)骗局又有了新花样。

有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品。老人信以为真,不仅下了单还转发到了很多群。经核实,该视频中的“张文宏医生”不是张文宏本人,而是利用AI技术合成的。张文宏对此回应称,这样的卖货账号已出现多个,而且一直在变。他虽然多次向平台投诉,但都收效甚微。

张文宏是国家传染病医学中心(上海)主任,复旦大学附属华山医院感染科主任。在新冠疫情期间,因为多次在公开场合发声而被普通人熟知,在社会上具有很高的权威性和公信力。如果他来带货,愿意买单的人自然很多。骗子们也是利用了普通人这种心理,才想出用AI合成视频进行带货。

相比过往利用熟人的影像和声音,通过电话或者微信进行诈骗,近期利用AI合成名人照片、视频进行的骗局屡见不鲜,受害者除了张文宏,还有靳东、黄百鸣等影视明星。

国家网信办、工信部、公安部在2022年颁行了《互联网信息服务深度合成管理规定》,其中明确了深度合成技术的使用规范,规定不得利用深度合成服务侵犯他人合法权益。上述行为显然不合法不合规。

值得关注的是,此类骗局,更多是利用短视频平台、电商平台等进行发布和直播,吸引用户购买相关产品,然后完成整个欺诈过程。显然,平台对此应该担负起更多的审核责任。

《互联网信息服务深度合成管理规定》要求深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,必须在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

但刻意造假者显然不会遵守此项规定,平台则应该主动对相关视频进行审核和监管。至少从技术层面上,对任何上传的合成视频都应该主动提示。

张文宏说他虽然多次向平台投诉,但都收效甚微。事实上,正是一些平台机制不完善、治理不给力,客观上让一些不法分子有机可乘,甚至有恃无恐。而根据前述管理规定,视频平台若是对平台使用者的这种侵权行为不予恰当处理,则可能承担连带责任。

AI合成或者生成视频,给平台带来了更多的流量,吸引了更多的用户。平台企业在享受流量增加的同时,也有必要承担更多责任,避免有更多受害者受骗上当。

相关内容

热门资讯

人民日报·深圳人民眼丨这一重大... 王星 刘森君 湾区潮头立,奋楫正当时。 12月,中央经济工作会议“点将”粤港澳大湾区,与北京(京津...
原创 开... 标题:开心一笑:你这么凶,连爸爸都不要你了,都出去找新老婆了…… 在这个充满欢笑的午后,让我们来分...
原创 6... 重,但各自都有名义上的领袖,分别是四川省主席刘湘、云南省主席龙云和贵州省主席王家烈。其其中,川军势力...
原创 飞... 历史从来不是冷冰冰的时间线,而是一场由每一个个体互相作用引爆的连锁反应。 这些人物在关键时刻挺身而出...
知原药业完成近3亿元Pre-I... 投资界12月22日消息,近日,江苏知原药业股份有限公司(以下简称“知原药业”)宣布完成近3亿元Pre...
原创 帮... 朋友们,这个周末的信息量可不小,有三件大事值得我们所有投资者高度关注。它们分别来自监管、科技和全球央...
如何用二氧化碳“烧”出电来? 如何用二氧化碳“烧”出电来? 专访“超碳一号”总设计师黄彦平 黄彦平受访者供图 个位数的气温夹杂...
骤降4000米 “星链”一卫星... 骤降4000米 “星链”一卫星或爆炸 据路透社报道,美国太空探索技术公司(SpaceX)旗下“星链...
Gemini 确诊重度焦虑:为... 如果你的 Gemini 突然告诉你,它感到深深的羞耻,或者它因为害怕犯错而夜不能寐,你会怎么想? 这...
全球首款2nm手机芯片诞生,三... 平静的半导体行业深海,一枚来自韩国的“技术核弹”骤然引爆。12月19日,三星电子正式官宣,全球首款采...