研究称AI大模型可能会在2026年消耗完互联网上所有免费信息
创始人
2024-06-22 09:01:13
0

鞭牛士报道,6月22日消息,据外电报道,一项新研究警告称,人工智能(AI)系统可能最早在 2026 年吞噬互联网上的所有免费知识。

为 ChatGPT 提供支持的GPT-4或Claude 3 Opus等人工智能模型依赖于在线共享的数万亿个单词来变得更加智能,但新的预测表明,它们将在 2026 年至 2032 年之间的某个时候耗尽公开可用的数据。

这意味着,为了建立更好的模型,科技公司将需要开始从其他地方寻找数据。这可能包括生成合成数据、转向质量较低的来源,或者更令人担忧的是,利用存储消息和电子邮件的服务器中的私人数据。

研究人员于 6 月 4 日在预印本服务器arXiv上发表了他们的研究结果。

「如果聊天机器人消耗了所有可用的数据,而数据效率没有进一步提高,我预计该领域将出现相对停滞。」研究第一作者、研究机构 Epoch AI 的研究员Pablo Villalobos告诉 Live Science。「随着新算法见解的发现和新数据的自然产生,模型只会随着时间的推移而缓慢改进。」

训练数据推动了人工智能系统的发展——使它们能够找出越来越复杂的模式,并将其扎根于神经网络中。例如,ChatGPT 的训练使用了大约 570 GB 的文本数据,总计约 3000 亿个单词,这些数据来自书籍、在线文章、维基百科和其他在线资源。

在不充分或低质量的数据上训练的算法会产生粗略的输出。谷歌的 Gemini AI 曾臭名昭著地建议人们在披萨上加胶水或吃石头,它的部分答案来自 Reddit 帖子和讽刺网站 The Onion 的文章。

为了估算网上有多少文本可用,研究人员使用了谷歌的网络索引,计算出目前大约有 2500 亿个网页,每个网页包含 7,000 字节的文本。然后,他们通过对互联网协议 (IP) 流量(网络上的数据流)和在线用户活动的后续分析来预测可用数据库存的增长。

研究结果显示,来自可靠来源的高质量信息最迟将在 2032 年之前耗尽,而低质量的语言数据将在 2030 年至 2050 年间耗尽。与此同时,图像数据将在 2030 年至 2060 年间被完全消耗。

事实证明,随着数据集的增加,神经网络会可预测地得到改善,这种现象称为神经缩放定律。因此,尚不清楚公司是否可以提高模型的效率以解决缺乏新数据的问题,或者关闭水龙头是否会导致模型改进停滞不前。

然而,维拉洛博斯表示,数据稀缺似乎不太可能显著抑制未来人工智能模型的发展。这是因为公司可以采用多种可能的方法来解决这个问题。

「越来越多的公司开始尝试使用私人数据来训练模型,例如Meta 即将推出的政策变化。」他补充道,该公司宣布将从 6 月 26 日起利用与平台上聊天机器人的互动来训练其生成式人工智能。「如果他们成功做到这一点,并且私人数据的实用性与公共网络数据相当,那么领先的人工智能公司很可能将拥有足够多的数据,可以持续到本世纪末。到那时,其他瓶颈(如功耗、不断增加的培训成本和硬件可用性)可能比缺乏数据更为紧迫。」

另一种选择是使用合成的、人工生成的数据来喂养饥饿的模型——尽管这以前只在游戏、编码和数学的训练系统中成功使用过。

或者,如果公司试图在未经许可的情况下获取知识产权或私人信息,一些专家预计未来将面临法律挑战。

「内容创作者抗议未经授权使用其内容来训练人工智能模型,其中一些人起诉了微软、OpenAI和Stability AI等公司。」技术和知识产权法专家、澳大利亚麦考瑞大学副教授Rita Matulionyte在 The Conversation 中写道。「获得报酬可能有助于恢复创意人员和人工智能公司之间存在的一些权力不平衡。」

研究人员指出,数据稀缺并不是人工智能持续改进的唯一挑战。根据国际能源署的数据,由 ChatGPT 驱动的谷歌搜索消耗的电量几乎是传统搜索的 10 倍。这使得科技领袖们试图开发核聚变初创企业来为他们耗电的数据中心提供能源,尽管这种新兴的发电方法还远未可行。

相关内容

热门资讯

据监测!四川游戏家园辅助器,九... 据监测!四川游戏家园辅助器,九九联盟解码器(好像有挂修改器)-哔哩哔哩;1、很好的工具软件,可以解锁...
据目击者称!四川徒有辅助软件,... 据目击者称!四川徒有辅助软件,随意玩免费辅助器(本来是有神器)-哔哩哔哩1、金币登录送、破产送、升级...
出现新变化!人海大厅挂什么好,... 出现新变化!人海大厅挂什么好,欢游互动辅助(一贯有挂神器)-哔哩哔哩一、人海大厅挂什么好可以开透视的...
围绕透视问题!乐乐围棋入门插件... 围绕透视问题!乐乐围棋入门插件,兴动互娱辅助工具免费(确实是有下载)-哔哩哔哩在进入兴动互娱辅助工具...
近日!闲来辅助神器下载,随意玩... 近日!闲来辅助神器下载,随意玩辅助器透视挂(都是有挂安装)-哔哩哔哩1)随意玩辅助器透视挂有没有挂:...
现就发布提示!老板温州茶苑版辅... 现就发布提示!老板温州茶苑版辅助器,边锋老友内蒙古辅助(其实是真的脚本)-哔哩哔哩;1、完成老板温州...
随着!凑一桌游戏辅助神器,火神... 随着!凑一桌游戏辅助神器,火神大厅辅助器(一直有挂软件)-哔哩哔哩1、起透看视 凑一桌游戏辅助神器辅...
反观!微信游戏锄大地辅助器,福... 反观!微信游戏锄大地辅助器,福建兄弟十三水挂件去那买(其实真的有软件)-哔哩哔哩1、首先打开福建兄弟...
截至目前!广东雀神智能插件安装... 截至目前!广东雀神智能插件安装网址,晃晃游戏辅助下载(一贯真的有app)-哔哩哔哩;1、游戏颠覆性的...
于此同时!微乐小程序脚本辅助,... 于此同时!微乐小程序脚本辅助,河洛杠次插件(真是存在有修改器)-哔哩哔哩在进入微乐小程序脚本辅助软件...