参考消息网9月25日报道英国《金融时报》网站近日刊发题为《计算机科学家杰弗里·欣顿：人工智能将使少数人更加富有，多数人更加贫穷》的文章，作者为克里斯蒂娜·克里德尔。全文摘编如下：

我早到了10分钟，但杰弗里·欣顿已经在里士满站的门廊等候了，这是多伦多一家优雅的餐吧。这位计算机科学家是人工智能(AI)先驱和诺贝尔物理学奖得主，他曾在这里与当时的加拿大总理贾斯廷·特鲁多共进午餐。

这位曾经的教授、所谓的人工智能教父已经习惯了解释他毕生的工作，因为人工智能开始渗透到我们生活的各个角落。

他见证了人工智能从学术界(他几乎在学术界度过整个职业生涯，包括在多伦多大学工作20多年)到主流，而推动这个进程的是资金充裕、渴望接触消费者和企业的科技公司。

从加速推动转向发出警告

欣顿在20世纪80年代中期让“基于人工神经网络的机器学习”成为可能的“基础性发现和发明”而获得诺贝尔奖。这种方法大致基于人脑的工作原理，为我们今天触手可及的强大人工智能系统奠定了基础。

然而，聊天生成预训练转换器(ChatGPT)的出现以及随之而来的人工智能发展热潮，让欣顿暂停脚步，从加速这项技术的发展转向对其风险发出警告。

在过去的几年里，尽管该领域发展迅猛，但欣顿却变得非常悲观，指出该领域可能会对人类造成严重损害。

在人工智能的帮助下，一个普通人很快就能制造生物武器，这太可怕了。想象一下，如果街头的普通人可以制造核弹。

欣顿发起一场热情洋溢的小型研讨会，探讨为什么人工智能是一个合适的术语：“按照智能的任何定义，人工智能都是智能的。”

在我这个人文学科毕业生面前，他用了6个不同的类比来让我相信，人工智能对现实的体验与人类并没有太大区别。

欣顿继续说道：“在我看来，这是显而易见的。如果你和它们交谈并提问，它们就会理解。在技术界，毫无疑问，这些东西将变得更加智能。”

欣顿在该领域的贡献毋庸置疑，但有些人，甚至是业内人士，认为现有技术只不过是一种复杂的工具。例如，他的前同事、图灵奖共同得主之一、现任元宇宙(Meta)首席人工智能科学家杨立昆认为，支撑ChatGPT等产品的大型语言模型是有限的，无法与物理世界进行有意义的互动。

对于那些持怀疑态度的人来说，这一代人工智能还无法达到人类的智能水平。

AI与人类是“母婴”关系

1947年，欣顿出生在伦敦西南部的温布尔登，父亲是昆虫学家，母亲是老师。在剑桥大学国王学院，他尝试过多个学科，最终选择实验心理学作为本科专业，20世纪70年代初转向计算机科学。

他致力于神经网络研究，尽管当时该领域遭到计算机科学界的忽视和排斥。这项技术在本世纪第二个十年取得突破，并被硅谷接受。

在我们交谈时，他与如今那些利用他成果的人截然不同。欣顿享受深耕学术界的生活，而开放人工智能研究中心(OpenAI)的首席执行官萨姆·奥尔特曼则从斯坦福大学退学，专注于创业。欣顿是一名社会主义者，他的成就直到晚年才得到认可；而23岁就成为亿万富翁的马克·扎克伯格绝对不是社会主义者。

欣顿认为，人类“唯一的希望”是让人工智能成为我们的母亲，“因为母亲非常关心婴儿，守护婴儿的生命”，关注其成长。他说：“这才是我们应该追求的关系。”

他用勺子指着我的笔记本电脑，微笑着说：“这可以作为你文章的标题。”

他告诉我，他以前的研究生伊利亚·苏茨克韦尔也赞成这个“母婴”的说法。苏茨克韦尔是一名杰出的人工智能研究人员，也是OpenAI的联合创始人。在试图驱逐OpenAI首席执行官萨姆·奥尔特曼未果后，他离开OpenAI，目前正在他的初创公司“安全超级智能公司”开发系统。但我敢打赌，奥尔特曼和埃隆·马斯克更有可能赢得这场竞赛。“没错。”那么，这两个人，他更信任谁呢？

坐到酒吧门口的凳子上后，我们开始讨论人工智能何时会变得超级智能，届时它可能拥有超越人类的能力。欣顿说：“许多科学家认为在5到20年之间，这最可能。”

欣顿对西方政府实施干预不抱希望，并批评美国政府缺乏监管人工智能的意愿。

白宫称，必须迅速采取行动，发展技术，打败中国，保护民主价值观。碰巧的是，欣顿刚从上海回来，还在倒时差。

他说：“中国对此非常重视。很多政界人士是工程师。他们对这一点的理解方式不同于律师和推销人员。对于生存威胁，你只需要一个国家想出对策，然后告诉其他国家。”

当助理比你聪明得多的时候，你要如何保持这种权力？

我们能相信中国会维护全人类的利益吗？欣顿说：“这是次要问题。人类的生存比友善更重要。你能相信美国吗？你能相信马克·扎克伯格吗？”

科技公司开发人工智能的激励措施如今已摆在桌面上，就像我们这盘五分熟的三文鱼，盛在甜玉米浓汤上一样。欣顿一边说着，一边把一片鱼肉扫到盘子里，吸收着酱汁。

他此前曾主张暂停人工智能的开发，签署了多份反对OpenAI转变为营利性企业的信，马斯克也为阻止这一举动而提起诉讼。

关于人工智能能力的讨论经常被描述为纯粹的炒作，用来提高开发人工智能的初创企业的估值，但欣顿表示，“这种话术对科技公司来说很省事儿，而且依然有效”。

一次为家庭的离开

我很好奇，他在日常生活中是否大量使用人工智能。事实证明，ChatGPT是欣顿的首选产品，主要“用于研究”，但也用于询问如何修理他的烘干机。然而，在他最近与交往多年的伴侣分手时，ChatGPT扮演了主要角色。

他说：“她让ChatGPT告诉我，我真是个坏人。”他承认，这一举动让他感到惊讶。

“她让聊天机器人解释我的行为有多差劲，然后告诉我。我不认为我是坏人，所以这并没有让我感觉太糟……我遇到了我更喜欢的人，你懂得。”他笑了，然后补充道：“也许你不懂！”

我克制住吐槽前任的冲动，提起我刚刚庆祝了第一个结婚周年纪念日。他回答道，“但愿这暂时不是问题”。我们都笑了。

欣顿吃饭速度要快得多，当他接到妹妹的电话告诉她正在“一家非常嘈杂的餐馆”接受采访时，我松了一口气。他的妹妹住在澳大利亚的塔斯马尼亚，他的兄弟住在法国南部，而欣顿住在多伦多。

“我用从谷歌赚到的钱在汉普斯特德荒野公园的南面买了一栋小房子”，他全家，包括他从拉丁美洲领养的两个孩子，都可以来这里住住。

欣顿2013年把他和苏茨克韦尔以及另一名研究生亚历克斯·克里热夫斯基创立的一家公司卖给了谷歌。这家公司开发了一个能够以人类水平的准确度识别物体的人工智能系统。

他们赚了4400万美元，欣顿想把这笔钱分成三份，但他的学生坚持让他拿40%。交易完成后，他们加入谷歌——欣顿在接下来的十年里一直在那里工作。

他卖掉公司的动机是什么？为了支付患有神经多样性疾病的儿子的护理费用，欣顿“估计他需要大约500万美元……而我无法从学术界获得这笔钱”。他心里盘算了一下，从谷歌得到的钱税后“略微超过”这个金额。

他在2023年离开这家大科技公司，并在接受《纽约时报》采访时提醒人工智能的危险性。媒体报道称，他辞职是为了更坦诚地谈论人工智能的风险。

警惕“认知卸载”问题

科技高管经常描绘一幅乌托邦式的未来图景，人工智能可以帮助解决饥饿、贫困和疾病等重大问题。

欣顿的两任妻子都死于癌症，因此他对医疗保健和教育的前景感到兴奋，这是他最看重的，但除此之外就没什么了。

他说：“实际会发生的事情是，富人将用人工智能取代工人。这将造成大规模失业，利润也会大幅上升。它将让少数人变得更富有，而多数人将变得更穷。这不是人工智能的错，而是资本主义制度的错。”

奥尔特曼和他的同事们此前曾建议，如果劳动力市场对人口来说太小，就应该引入全民基本收入，但欣顿表示，这“无法解决人的尊严问题”，因为人们从工作中获得价值。他承认，怀念那些可以一起探讨想法或提问的研究生们，因为“他们年轻，理解事物更快”。如今，他问ChatGPT。

它会导致我们变得懒惰和缺乏创造力吗？“认知卸载”是目前正在讨论的一个观点，即人工智能工具的用户将任务委托给人工智能，而不进行批判性思考或保留检索到的信息。

是时候打个比方了。

欣顿说：“我们穿着衣服，正因如此，我们的体毛更少。不穿衣服，就更容易被冻死。”他认为，只要我们能够使用有用的人工智能系统，它就是一个有价值的工具。

他想了一下吃什么甜点，保证这次先点单：草莓和奶油。巧合的是，这正是我想要的。他要了一杯卡布奇诺，我要了一杯茶。“这就是我们有分歧的地方。”

事实上，奶油是略微融化的冰淇淋，当我描绘一个硅谷人习以为常、但对多数人而言却像科幻小说的场景时，奶油慢慢化了……在这个场景中，我们与“具身人工智能”(即机器人)和谐共处，并随着不断为身体添加人工部件和化学物质来延长寿命，我们自己也慢慢变成半机械人。

他问道：“这有什么不对？”我反驳道，我们失去了自我意识，失去身为人的意义。他回答道：“这有什么好？”我试图强行解释：这未必好，但我们将永远失去它——而这难道不是一种消亡吗？

他停顿了一下说：“是的。”

他补充道：“我们不知道会发生什么，我们毫无头绪，那些告诉你会发生什么的人简直荒唐可笑。我们正处在一个历史时刻，某件惊人的事情正在发生，它可能是非常好的，也可能是非常坏的。我们可以猜测，但事情不会一成不变。”（编译/王海昉）