出品 | 搜狐科技

作者 | 张雅婷

近日，由搜狐主办的2024搜狐科技年度论坛在北京盛大开幕。中国工程院院士、国家数字交换系统工程技术研究中心主任，复旦大学大数据研究院院长邬江兴发表了《如何让AI安全向善》的演讲。

在他看来，人工智能是一把双刃剑，在拥抱人工智能的同时，也会带来信息安全的挑战，它有可能会破坏和平，甚至毁灭人类。所以，需要正确的技术路径来实现更安全的AI应用系统，让人工智能健康向善发展。

会后，邬江兴在与搜狐科技进行对话时还谈到了中美AI差异、自研AI芯片、网络安全治理等多个业界关注的热点问题。

在邬江兴看来，美国在计算机的体系结构发展、新型算力的研究等方面走在世界的前列。从算力这一物理层面上看，中国要比美国差两代。

“现在国内有一些自研AI芯片，大家都说可以对标英伟达A100。在某些领域，这些芯片确实能达到跟A100相近的程度，但是在更多领域差距还是很大的。我们坦率地说，别自嗨，在通用一点范围内，大概相当于A100的百分之五六十。”

此外在数据层面，邬江兴表示，中文数据只在全世界数据库里面大概1%不到，但美国没那么多中文资料，所以中国大概可以在中文大模型领域里领先。

而在网络安全领域，邬江兴曾在两年前接受采访时提到过，我国是世界上遭受网络攻击最严重的国家。随着技术的进步，网络安全问题有得到更妥善的解决吗？

邬江兴告诉搜狐科技，网络安全问题没有好转，应该说更严峻了。值得一提的是，网络安全问题很容易被大家轻视，因为对于个体来说是小概率事件，并且信息泄露具有很强的隐蔽性，受害者无法感知。

整个社会正在进行数字化转型，中国是数字化转型最快的国家之一。“现在微信、支付宝刷脸‘刷个不停’，全世界都觉得中国走得这么先进，但是我们必然将会为此付出巨大代价。”

以下为对话实录：

搜狐科技：您此前接受采访时提到过，生成式AI的问题比传统AI的问题要大得多、应该慎用，这里边逻辑是什么？安全问题主要集中在哪些方面？

邬江兴：首先传统AI已经推出70多年了，原来都是符号主义，语义、语法按照那个规则，20年前神经网络出现后，给予了一个很普通的数学公式，叫卷积公式，“不断卷”之后可以一本正经胡说八道，没有人能够解释清楚它的数学、物理意义是什么，人类现在整体在“摸着石头过河”。

搜狐科技：您认为在生成式AI这个领域，中美各自的优劣势是什么？

邬江兴：美国应该是AI领域的原创者，首先是算力大，在计算机的体系结构发展，新型算力的研究等方面走在世界的前列。在物理层面上，中国要比美国差两代。

第二是数据，中文数据只在全世界数据库里面大概1%不到，我试过让学生用AI写英文论文，很难判断出这个东西是AI写的。但我们中国大概可以在中文大模型领域里走个先，这些美国人没那么多中文资料。

搜狐科技：聚焦算力领域，自研国产芯片紧迫吗？

邬江兴：现在国内有华为910B等AI芯片，大家都说可以对标英伟达A100。在某些领域，这些芯片确实能达到跟A100相近的程度，但是在更多领域差距还是很大的。我们坦率地说，别自嗨，在通用一点范围内，大概相当于A100的百分之五六十。

搜狐科技：这种程度够用了吗？

邬江兴：英伟达B200发布了，相当于A100的50倍，你说我们的差距在哪？所以我们在比算力、比数据的赛道上是比不过美国的。

搜狐科技：马斯克认为，到2026年左右，AI可能将超越人类的智力，“比最聪明的人还聪明”，您觉得这个结论靠谱吗？

邬江兴：靠谱，因为最聪明的人也不可能读那么多的书，但是最聪明的人是个个体，从人类这个群体来说，AI是比不过的，因为AI不具备发明和创造的能力。

搜狐科技：对于发展AI，您还有没有什么建议？

邬江兴：我们对AI要有热情，去热烈地拥抱他，但是也要冷静地思考。现在全社会对AI的狂热，让我感觉到非常不安。

搜狐科技：随着数字化经济深入发展，手机、手表、汽车等设备也变得越来越智能，这是否会对网络安全带来的新的挑战？

邬江兴：手机、手表等智能设备装了AI以后，就会成为AI应用系统，一个AI应用系统必然存在着个性化的安全问题和共性化的安全问题，所以我们需要思考如何将AI应用系统，通过安全构造，使得它不那么容易学坏。

搜狐科技：您作为网络安全方面的专家，能否谈谈我国整体网络安全能力在国际上处于怎样的水平？如何实现“换道超车”？

邬江兴：技术界正儿八经提出病毒概念是在1972年，网络安全治理的问题研究这么多年，也没有解决，反而威胁越来越大。包括现在特斯拉推出的FSD完全自动驾驶，我想想真不敢开。

网络安全问题本质上是因为娘胎里带出了安全缺陷，可是我们在应用的时候没有关注怎么样利用有缺陷的系统，去做一个有安全性承诺的装置出来，而只是单一地去用它。

搜狐科技：两年前您曾提到，我国是世界上遭受网络攻击最严重的国家，现在情况有好转吗？对于普通老百姓来说，哪些网络空间的“漏洞”是需要注意的？

邬江兴：没有好转，应该说更严峻了。事实上网络安全这个问题，很容易被大家轻视。因为如果具体到个体来说，其实是个小概率事件，一般的人没有什么太多攻击价值，没有值得惦记的东西。并且，很多时候出现问题也不会让你知道，把你信息拿走就算了，受害者无法感知到。

但是从国家层面来看，敏感部门不断在报问题，问题是越来越严重，因为整个社会正在进行数字化转型。中国是数字化转型最快的国家之一，从某种意义上来说比美国快。

美国人认为数字化转型中存在着许多的负面影响，特别是社会性、系统性安全风险。所以他们没有大力推动电子支付，而我们现在微信、支付宝刷脸“刷个不停”，全世界都觉得中国走得这么先进，但是我们必然将会为此付出巨大代价。

搜狐科技：您是科学家，同时也是教育工作者，您认为高校师生应该使用ChatGPT等AI工具吗，看到施一公认为AI不能培养出优秀大学生？

邬江兴：我觉得这句话不完全对，AI更多应该作为一个工具，帮助学生更快完成实验，提升研究效率。

学生要能在掌握AI的基础上，去做更有创造力、更需要智慧涌现的研究，而不是拒绝AI，也不应该利用AI去照本宣科、造假，混个文凭。

所以我们应该把AI看成一个赋能的东西，但不能依赖它，并且AI生成的内容也可能是逻辑之下的胡说八道，所以自己也要有判断的能力。