信息污染,是怎么充斥互联网的?
创始人
2025-12-21 16:21:10
0

作者:张苹

编辑:于蒙

插画:陈禹

过去中国有一句老话,“摆事实,讲道理。”健康的公共讨论,事实在道理之前。而在现在的社交平台,大家爱说的一句话是:“抛开事实不谈......”,很多人认为事实不重要,或者根本就没有事实,重要的是立场。

在中国,我们平均每天花费在互联网的时间接近8小时,每天拿起手机117.9次,浏览近1000条信息——这意味着,我们每个月都被动沉浮于近万条信息的洪流中。根据抽样调查,保守估计,这其中有上百条是虚假信息。以2025年6月为例,全国受理网络违法和不良信息举报1849.6万件。

这些虚假内容如同思想领域的雾霾,看似无害,却在无声无息地污染我们的大脑。它们通过短视频和社交媒体,可在几分钟内覆盖蒙骗百万受众。

信息污染是怎么充斥互联网的?为了弄明白这个问题,我们在互联网上找到一些散布虚假信息的账号,找到它们背后的公司,从网络来到了线下。在浙江金华、天津、湖南长沙,我们见到了这些账号背后的具体的人。他们有人写剧本,拍摄虚假视频;有人购买大量账号,批量散布虚假信息;有人训练AI制造谣言和擦边视频。他们非常普通,使用的工具也毫无技术含量,却轻松月入7万、甚至90万。

如果说互联网是一片已经被污染的“信息之海”,我们溯流而上,试图还原这个“污染”的过程,虚假信息如何一条又一条诞生的?谣言和AI如何联手污染信息?在文章的最后,我们和魏星——事实核查平台“有据核查”的发起人,聊了聊虚假信息和事实核查不对等的“竞赛”。为什么越辟谣,阴谋论越盛行?如何重建公众对真相的信任?

看似无害的虚假内容

“涛子”是一名“骑手”,他会拍下自己送外卖的日常。视频都是涛子的第一视角,他不露脸,用挂在脖子上的运动摄像机拍摄送单过程。视频节奏很快,这一秒他在骑电动车,下一秒他拎着外卖站在小区楼下等门禁,然后,他站在门外敲门。门开了,顾客接过外卖。画质很低,镜头随着电动车的颠簸和涛子奔跑的步伐摇晃,收音有呼呼的风声和噪音,顾客的脸被打码,视频却因此显得更加真实。

顾客接过外卖后,故事才刚刚开始。开门的通常是女性,因为脸部打码,观众的视线自然地落在女性的身体上,女顾客穿着紧身露腰的T恤和短裙。“我蛋糕怎么这样了,我怎么吃啊!”顾客拿起形状被损坏的蛋糕,向涛子发难。涛子连忙道歉,表示可以赔偿。顾客说:“这样吧,你陪我过生日吧。”

涛子推辞:我还得送单呢,不方便啊。“你给我摔成这样,我不投诉你不错了!”涛子妥协了。画面随着涛子走进顾客的家,干净温馨的独居公寓。涛子坐下,面对着桌子上的蛋糕和女顾客。

“你怎么一个人过生日啊,小姐姐。”

“我刚搬来这里,也没有朋友。”女顾客情绪陡然转变,有点委屈地说。

二人开启了聊天,女顾客强势引导,主动让涛子给她带生日帽、喂蛋糕、一同喝酒。期间,女顾客还叫了一个药物外卖。涛子觉得很不安。上厕所的时候他搜索药物的名字,发现这是某种提高男性性能力的药。再回去后,涛子喝下酒觉得头晕,女顾客扶他上床休息。视频结束。

这则视频点赞超过7万,转发超过3万。评论区里,有的网友将信将疑,有人似乎相信这是真的,“又想骗我送外卖。”“啥好事儿都让你碰上了。”“我什么时候能遇见这样的啊。”

除了外卖员和女顾客的故事,涛子的其他视频内容有相似的套路:外卖员给酒店或者家里送外卖,男顾客接到外卖后发现是自己的妻子或女朋友点的,打开外卖发现是壮阳类或妇科药品,而这单外卖本该送去某某酒店。(如果是女顾客收到外卖,同理,单是男朋友下错的。)

用户“英姐(正能量)”发布的则是“外卖员”的悲情故事。她在社交媒体有55万粉丝,她发布的视频,有骑手当街乞讨,称母亲重病急需手术费。还有穿着外卖员服装的年轻男性抱着啼哭的孩子送外卖,请求她:“我孩子饿了,能用开水帮我孩子冲下奶粉吗?”这时,英姐会抱过孩子,让保姆立刻给孩子冲奶粉,并邀请外卖员进入她的别墅客厅休息。在客厅的沙发上,外卖员对英姐讲述自己的故事:他的妻子,孩子的妈妈,抛弃了他们,他不得已一人抚养孩子。

这条视频点赞两万,评论区是整齐的“大拇指”表情和“好人一生平安”的祝愿。

可惜,这些视频都是假的,这些骑手都是“演员”——英姐既是这些视频的导演,也是演员。“外卖员给女顾客送蛋糕”的视频,涛子的主页有4个,用了4个不同的女演员。涛子自己兼任编剧和导演——在短视频平台和社交媒体平台上,长年活跃着一批“真导演”和“假骑手”,他们大多通过编撰悲惨故事来博取同情心,再利用受众的善良进行金钱变现。

这些视频看起来无害,因此有些人会觉得即便是假的也无所谓,反正是看个乐子,得到短暂的心理刺激,或者心理慰藉。

除了短视频平台,你可能还在互联网上刷到过许多类似的内容,比如:“54岁河南阿姨考上中国政法大学硕士研究生”。一位“阿姨”在帖文中写道,“54岁硕士研究生今天去开学啦。从河南县城考到北京大学圈,我用了30年时间。”网友们获得短暂感动后,中国政法大学党委宣传部回应,称经该校研究生院核查,已录取的2025级硕士新生中,没有50岁以上的河南籍人员。

今年7月,多家新闻网站和社交平台广泛传播一则消息:“短剧《特朗普爱上白宫保洁》在海外火了,美国观众边骂边付费追剧,该剧在三个月内狂收1.5亿美元,好莱坞演员拍短剧收入暴涨7倍。”新加坡的媒体《联合早报》网站上也发布了《中国霸总短剧风吹到美国》。

事实上,《特朗普爱上白宫保洁》短剧并不存在。假消息中流传最广的一段真人画面,出自美国综艺节目《周六夜现场》(Saturday Night Live)于2017年拍摄的片段。截图之外,另外一段疑似特朗普与“保洁”的“亲密照”则为AI生成画面,从手部穿模、眼神失焦等细节处可以看出,这些片段均为AI生成。

网传《特朗普爱上在白宫当保洁的我》“剧照”来自美国综艺片段截图

假骑手:剧本、流量和金钱

今年8月,我们以学习和合作为由进入了“英姐”的团队。该团队老板叫“阿森”,共有16人,有至少8个账号。在浙江金华横店秦王宫景区门口的广场上,我们见证了一场由阿森带领的拍摄。

阿森30岁左右,留着寸头,身高170出头,穿一身黑衣服,带着3个小弟。横店景区附近有很多群演,阿森很快招募到他需要的演员。8月6日这天,他招到了一个是白瘦纤细的女孩——她将饰演送外卖的外卖员。在一个租来的黑色奔驰旁,一行人准备拍摄。

首先是讲戏。阿森塞给女孩一沓人民币,告诉她故事的“剧本”:女孩骑着电动车与一辆奔驰车相撞,她鞠躬道歉,掏出身上仅有的300元,请求车主原谅。车主当然不同意,最后阿森饰演的另一位老板“英雄救美”,给了女孩一沓修车的钱,并关怀地问她家里的情况。女孩这时要说,她由父亲养大,从小没有见过母亲,现在父亲病重,她不得已跑外卖挣钱。

“外卖员因送餐着急出车祸被车主辱骂”,“外卖员恳求顾客不给差评”,这类“骑手遭顾客刁难”的虚假故事极易挑起社会对立:富人对穷人的,好人对坏人的,既能激发人们的道德愤怒,又能突出账号主体的善良和大爱。

故事的核心是戏剧化的冲突。阿森对饰演车主的小弟喊:“你要吵起来啊!你就是个地痞无赖!”女孩在一旁默念:说到我妈的时候要用伤心的哭腔。她摆出快哭了的表情,夸张地用手臂抱住了头。

涛子的团队在天津。我们以演员的身份联系到了他。被问到是否有剧本时,他回答:“很多本子,得现场讲解。”7月底,在天津市南开区,我们见到了涛子。他与一民宿老板长期合作,把民房或酒店作为拍摄场地,费用200元一天。团队成员都是男性,需要招女演员合作,演员费用每小时150元。

剧本都是涛子写的,他说:“每天都写,想起来就写。”剧本通常有1000字左右,最少有2个人物,“外卖小哥”和女顾客,或者和男顾客。剧本的关键,“要么擦边,要么低俗。”之所以选择这个赛道,涛子说:“外卖员”苦情卖惨的剧本不行,因为“网络不允许,卖惨是被打击得最厉害的”,而且“大家下班了,本来今天过得很苦逼,还来给我卖惨,这样不行的。”

涛子写的剧本

剧情里常有一些擦边画面,比如“外卖员”抱着昏倒的“女顾客”、“外卖员”送外卖到酒店发现一男一女在床上。涛哥要求女演员穿着暴露的衣服和丝袜,在沟通时他直接说明:“会有一点肢体接触,我们剧情都擦边,但是会打码。”当我们表现出犹豫时,他说:你觉得不合适的话,我给你50块钱,你打车回去吧。

涛子反复强调,他要找“有悟性”的女演员。什么是有悟性的?他也说不清。大体是女演员要有信念感,语言动作都比较自然,既不能有明显的性暗示或者擦边,又不能过于紧绷和放不开,要通过肢体语言和语气向观众传达性暗示。

7月底,在天津市西青区某公寓的一间民宿里,我们观看了“涛子”团队成员“暴躁小邓”的拍摄过程。“暴躁小邓”先给女演员讲戏:外卖小哥给女顾客送的蛋糕形状被压坏了,女顾客说,那这样吧,你陪我吃饭吧,我生日没人陪——这是涛子拍过多次的“骑手送蛋糕”戏。

“暴躁小邓”对女演员总结:“整体剧情就是仙人跳,你骗我进屋吃饭。还给我在酒里下药,之后门关上了。”

“仙人跳?”女演员撇了下嘴,面露难色。

“就是让网友感觉到这是仙人跳,我们不明说,不会违规。”“暴躁小邓”赶紧解释。

在涛子团队发布的视频中,“药物”成为了戏剧的“钩子”,它毫不隐晦地指向“性”,瞬间抓住观众眼球,“为什么点这个药?”、“给谁用的?”这些问题自然在观众脑中形成,“送错地址”的剧情,又满足了观众作为“上帝视角”揭露秘密、参与道德审判的“抓奸”快感。

这些“药物”都是广告。接这些药品的广告,是涛子团队的主要盈利方式。他透露,每个广告大约3000元,一个月他可以接20个左右的广告。今年7月,他靠这些药品广告收入将近7万。

涛子强调,“还不算流量”。流量能带来额外的收益。涛子说,他在全平台收益每个月将近1万。以百家号平台为例,一条内容,每产生一万阅读,创作者能得到20元左右收益,传播10万加的文章、视频会给账号主带来多则2000元,少则100元的收益。在今日头条上,收益根据阅读量和互动情况计算,一条10万阅读量的文章会带来约440元的收入。

除了接广告,平台发的流量收益,流量变现还有更多的方式。有人通过直播带货、收取打赏,将流量转化。“英姐”团队重要收入来源是直播。直播中,假扮成骑手的女主播不断卖惨,声称自己母亲患病,父亲去世,家境困难,并且鼓动观众向其打钱。直播过程中,账号挂了一个名为“请我吃饭”价值399元的链接,鼓动观众去购买,该399元没有任何对等货物。仅当天就售出40多单。

当天,他们还在直播中挂出一个价值4999元的箱子,声称是个盲盒,被人拍下后,显示这是一个“金条”状物体,但主播并未说明该物体价值。随后,他们又挂出5单999元的私人定制礼盒,分别开出制作较为粗糙的“艺术品”。

这些虚假的内容并非无害,也绝不只是“乐子”。假骑手的视频背后,是一条从人设打造、剧本编造、专业拍摄,到最终流量变现的成熟灰色产业链。这些所谓的内容生产者并不在乎互联网上的信息污染,利益驱动下,他们会把每一个普通人卷入其中,我们的每一次点击都在为虚假内容付费。

不仅如此,虚假内容还在持续污名化骑手的形象,并且刻意制造社会不同群体之间的对立。这些人为制造出来的虚假矛盾,正长期作用于真实的物理世界。

伤害具体的人

只有愚蠢的人会相信谣言,你也许会这么想。但如果是平台把这些被污染的信息推送到你面前呢?如果散播谣言的包括主流媒体机构呢?

今年8月,武汉大学图书馆事件引发网络舆论。事件进程中充斥着各种未经证实的说法,比如“杨某某硕士学位论文被评为优秀学位论文”“肖某瑫遭遇网暴致使其学业中断”“杨某某舅舅系武汉大学某中科院院士”“肖某瑫遭遇网暴致使其爷爷去世、外公成植物人”等。这些虚假信息的发布,进一步扰乱了舆论场。

这个事件中,主流机构媒体也不再是公众了解真实信息的途径。8月,武汉大学图书馆事件引发网络舆论。多家主流机构媒体跟进报道:杨某某博士录取资格被撤销!

该假消息最初由某自媒体账号发布,发表时间为8月7日下午6点13分,标题为《香港浸会大学撤销杨XX录取资格》。两个多小时后,8点57分,某都市媒体以《杨某媛博士录取资格给撤销》为题进行报道,很快阅读量10万加,吸引了一大批机构媒体跟进报道。次日,香港浸会大学回应称:“学校不会公布同学个人隐私,一切以官方消息为准。”

报道被证明失实后,媒体删除了稿件,但并未进行任何澄清或致歉。

虚假信息不仅虚假,而且有害,它使得真实信息被淹没,损害个人判断,引起舆论割裂。它伤害的是具体的人。

今年2月,艺人大S徐熙媛去世。有网友发布她在日本箱根町立医院就诊经历,患者血氧89,因为订了回程机票不就医等等,这些信息都是谣言——箱根没有“町立医院”。但这份就诊记录上了微博热搜榜。同样在微博热搜榜的还有另一条谣言:“大S去世前还想穿跟汪小菲结婚的白纱”。这条谣言累计在榜时长超过12小时。谣言同时引导了网友对大S家人的网络暴力。

今年9月,演员于朦胧坠楼身故。事后,不少传闻在网上流出,“大佬要潜规则他,狗腿子替大佬组局,他被灌醉后侵害,想不开跳楼”等谣言在社交平台迅速传播。多位演员、导演被怀疑牵涉其中。其中受影响最大的是女演员宋伊人,有用户将她与“于某某酒后意外坠楼身亡”相关联,在网络上散布关于她“杀人犯”“拉人陪酒”“潜逃国外”“拉皮条”等虚假信息,对宋伊人进行攻击、造黄谣,引导针对她的网络暴力。

9月21日晚,北京市公安局朝阳分局通报于朦胧坠楼身亡事件相关谣言,对造谣者采取强制措施。而将宋伊人与于朦胧强行关联的言论,仅仅是因为宋伊人此前曾居住在于朦胧坠亡案发小区。

AI也是污染源

当我们问:是谁编造的虚假信息?一个答案是,或许没有人绞尽脑汁地按照某个套路捏造谣言,抓取关键词并生成虚假信息,这些AI就可以做到。

互联网的“信息之海”,是AI的数据来源。如果这是片被污染的“海洋”呢?研究显示,当训练数据中仅有0.01%的虚假文本时,模型输出的有害内容会增加11.2%;即使是0.001%的虚假文本,其有害输出也会相应上升7.2%。

AI可以生成虚假的文本。今年7月,一则《演员王一博案,判了》的新闻疯传,刷屏互联网。一批机构媒体均发布了报道。报道显示,人工智能公司DeepSeek因内容审核疏漏,就关联不实信息向演员王一博道歉,还援引了一份刑事判决书。随后,

多家媒体发布文章《演员王一博案,判了》

你或许很难相信,这条AI制造虚假信息的新闻,也是假新闻。这则消息被证实为虚假信息,被经纪公司澄清,法院也判定系谣言。追溯“道歉”新闻源头,或许来自于一则社交媒体中的帖子,该用户让AI生成了一份给王一博的道歉声明书,同时附上了(纯虚构)的法院判决书。这则帖子下方,还有“本回答由AI生成,内容仅供参考,请仔细甄别”的黄色提示词。

AI也可以通过图像和视频造假。通常,这些虚假消息并不像“特朗普爱上白宫保洁”一样带着娱乐性。近年来,Deepfake(深度伪造)色情规模不断上升,AI把受害者(通常是名人或者普通女性)的脸“替换”进色情影像或合成裸照并散布,对受害者个人造成严重的名誉损毁和心理创伤。

这些伪造的视频和图像甚至会扰乱民众、军队、甚至国际舆论和外交决策。比如,在俄乌战争中,出现了大量伪造乌克兰总统泽连斯基(Volodymyr Zelensky)呼吁乌克兰士兵投降的视频。这段视频被证实为Deepfake伪造视频,泽连斯基本人也在推特上发文辟谣。

虚假信息是AI制造的,而训练这些AI的人很可能是个你想不到的普通人,他们使用AI制造信息,月入90万。

在长沙市岳麓区,我们以应聘者的身份来到了长沙三匹马科技有限公司。该公司全员30余人,其中有超过20人是负责AI软件发文的基层员工。在“三匹马”的公司介绍PPT中,着重强调了“AI在三匹马科技业务中的核心价值”。该公司称,他们已经掌握了AI智能创作文字大模型,“可以自动生成新闻报道、科技论文、小说等长篇文本,甚至可以根据特定风格和口吻进行创作。”

PPT上有一行醒目的红字,“目前我已经为您做到:全自动采集、全自动改写、全自动发布!”

公司里电脑数量比员工更多,大部分房间都用来放电脑。公司对外的PPT上还展示了公司的“手机墙”,28部放在架子上的手机,都在开机自动运行程序。

长沙三匹马科技有限公司对外宣传的PPT截图。

通过参加该公司的面试,接受作为新员工的试岗调查后,我们发现,公司主要的盈利模式是在百家号发文,赚取平台流量激励,他们还研究出了一套用AI抓取、改写和分发文章的流程。

他们使用软件“创作罐头”来抓取网络

相关内容

热门资讯

谷歌起诉爬虫公司SerpApi... IT之家12月21日消息,据科技媒体 The Verge 昨天报道,谷歌已对爬虫工具开发商 Serp...
翁荣金需要给原地踏步的浪莎找一... 来源:牛刀商业评论_ 作者丨段鹏飞 出品丨牛刀商业评论 从义乌街头走街串巷的袜子卖货郎,到缔造名震...
原创 古... 如果你穿越回古代,又穷又病还没家人,会不会直接凉凉? 不要着急,说不定当时的朝廷会给你分房住、发米粮...
科华生物:具备构建高端智慧实验... 有投资者在互动平台向科华生物提问:“你好,请问贵司是否具备构建高端智慧实验室的整体解决方案能力。” ...
原创 火... 北京时间12月22日,火箭将在客场挑战国王队,这是两队本赛季第2次交手,这也是两队背靠背的第2场比赛...
信息污染,是怎么充斥互联网的? 作者:张苹 编辑:于蒙 插画:陈禹 过去中国有一句老话,“摆事实,讲道理。”健康的公共讨论,事实在道...
冬至丨假如苏轼有个短视频账号 齐鲁网·闪电新闻12月21日讯万万没想到!北宋顶流苏轼居然开通短视频账号了!子瞻兄跨界开讲,不聊诗词...
张伯礼院士解读冬至如何养生 冬至大如年,人间小团圆。冬至在传统民俗中的地位举足轻重。中医理论认为,冬至是养生调护的黄金时期。那么...
科技昨夜今晨1221:三部门印... “科技昨夜今晨”时间,大家好,现在是 2025 年 12 月 21 日星期日,今天的重要科技资讯有:...
现有3C认证充电宝还能用吗 日前,一则关于“‘史上最严’充电宝安全标准将发布,原有3C认证全面失效”的消息在网上流传,引发不少消...