如果AI有意识,我们如何知道
创始人
2024-05-08 06:26:37
0

原标题:如果AI有意识,我们如何知道

长期以来,科幻小说中的人工智能(AI)一直是有意识的。如今,随着AI的快速发展,这不再是异想天开,甚至得到了AI领域研究人员的认可。例如,开发ChatGPT的美国OpenAI公司首席科学家Ilya Sutskever就曾在推特上说,一些最尖端的AI网络可能“有点儿意识”。许多研究人员表示,AI还没有达到有意识的程度,但其进化速度让他们开始思考:如果AI有了意识,我们如何知道呢?

为了回答这个问题,一个由19名神经科学家、哲学家和计算机科学家组成的小组提出了一份标准清单,如果达到这些标准,就表明一个AI系统具有意识的可能性很大。8月17日,他们在预印本服务器arXiv上公布了临时指南,以供同行评审。

合著者之一、美国非营利研究组织人工智能安全中心哲学家Robert Long说,他们之所以这样做,是因为“关于AI意识,似乎真的缺乏详细、基于经验、深思熟虑的讨论”。

该团队表示,识别AI系统是否有意识具有重要的道德意义。合著者之一、美国加利福尼亚大学欧文分校神经科学家Megan Peters表示,如果某个东西被贴上了“有意识”的标签,“那么作为人类,我们应该如何对待这个实体将发生很大变化”。

Long表示,据他所知,构建先进AI系统的公司没有付出足够多的努力来评估意识模型,并制订计划以防AI具有意识。他补充道:“尽管如此,如果你去听听一些前沿实验室负责人的言论,他们确实对AI意识或AI感知很感兴趣。”

美国微软公司的一位发言人表示,该公司开发AI的核心是以负责任的方式协助人类提高生产力,而不是复制人类的智能。这位发言人表示,自从GPT-4推出以来,“在探索如何充分发挥AI潜力、造福整个社会之际,需要新的方法评估这些AI模型的能力”。

研究AI意识的挑战之一是定义什么是意识。Peters说,在这份报告中,研究人员关注的是“现象意识”,也就是所谓的主观体验。这是一种存在的体验,即成为一个人、一只动物或一个AI系统是什么感觉。

有许多基于神经科学的理论描述了意识的生物学基础,但对于哪一个是“正确的”,人们并没有达成共识。因此,为了建立框架,作者使用了一系列这样的理论。他们的想法是,如果一个AI系统的运作方式与这些理论的许多方面相匹配,那么它很有可能有意识。

他们认为,这是一种评估意识的更好方法,而不是简单对一个系统进行行为测试。比如,询问ChatGPT是否有意识,或者观察它是如何反应的。这是因为AI系统已经变得非常擅长模仿人类了。

英国萨塞克斯大学意识科学中心主任、神经学家Anil Seth说,研究小组提出了一种很好的方法,但“我们需要更精确、更经得起检验的意识理论”。

为制定标准,作者假设意识与系统处理信息的方式有关,而不管它们是由什么构成的——神经元、计算机芯片或其他东西。科学家还认为,基于人类和动物脑部扫描及其他技术的神经科学意识理论可以应用于AI。在这些假设的基础上,研究小组选择了其中的6个理论,并从中提取了一系列意识指标。

Seth对团队提出的标准印象深刻。“它是经过深思熟虑的,没有夸大其词,而且它的假设非常清晰。”他说,“我不同意其中的一些假设,但这完全没关系,因为我很可能是错的。”

作者说,这远不是评估AI意识的最终结论,希望其他研究人员能帮助他们完善该方法。不过,现在已经可以将这些标准应用于对AI系统有无意识的评估——至少目前还没有任何AI系统具有意识。(中国科学报 作者文乐乐)

相关内容

热门资讯

宠智灵打造宠物智能项圈AI解决... 在智能硬件加速发展的推动下.宠物智能项圈作为连接宠物与数字世界的关键载体正从简单的定位设备演变为集健...
爱奇艺717会员节为何成暑期热... 7月,没有小长假,只有高温和KPI?不存在的!很多精神超前的年轻人,已经开始了“精神过节”!“只要心...
2025阿里云全国总代理助您轻... 本文探讨了“2025阿里云全国总代理助您轻松叠加折扣”政策在企业上云中的重要性。随着公有云市场的竞争...
山东福富申请深度制冷型合成氨工... 金融界2025年7月11日消息,国家知识产权局信息显示,山东福富新材料科技有限公司申请一项名为“一种...
从“盲铺”到“智铺”,,尼尔森... 消费者研究与零售监测公司尼尔森IQ昨天与阿里巴巴集团旗下高德地图的行业智能品牌——高德云图签署产品战...
生活在深圳 AI无处不在无时不... ①龙华街头的无人驾驶扫路机。资料图 ②医师借助智能调剂推车精准拣配。 深圳晚报记者 黄馨莹 摄 ...
原创 再... 5年2.87亿美元续约杰伦威!雷霆队在大手笔续约亚历山大与切特后,又用一份顶薪续约杰伦威,为何小球市...
从芯片到整机自主可控 品原AI... 7月9日,品高股份与江原科技在深圳联合发布搭载全国产江原D10加速卡的“品原AI一体机”系列,以“国...
高测股份获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示高测股份(688556)新获得一项实用新型专利授权,专利名为“...
AI终结传统软件业,如同互联网... AI编程工具正推动软件行业走向“峰值时刻”。 近日,芯片金融分析公司Fabricated Knowl...