研究称AI大模型可能会在2026年消耗完互联网上所有免费信息
创始人
2024-06-22 09:01:13
0

鞭牛士报道,6月22日消息,据外电报道,一项新研究警告称,人工智能(AI)系统可能最早在 2026 年吞噬互联网上的所有免费知识。

为 ChatGPT 提供支持的GPT-4或Claude 3 Opus等人工智能模型依赖于在线共享的数万亿个单词来变得更加智能,但新的预测表明,它们将在 2026 年至 2032 年之间的某个时候耗尽公开可用的数据。

这意味着,为了建立更好的模型,科技公司将需要开始从其他地方寻找数据。这可能包括生成合成数据、转向质量较低的来源,或者更令人担忧的是,利用存储消息和电子邮件的服务器中的私人数据。

研究人员于 6 月 4 日在预印本服务器arXiv上发表了他们的研究结果。

「如果聊天机器人消耗了所有可用的数据,而数据效率没有进一步提高,我预计该领域将出现相对停滞。」研究第一作者、研究机构 Epoch AI 的研究员Pablo Villalobos告诉 Live Science。「随着新算法见解的发现和新数据的自然产生,模型只会随着时间的推移而缓慢改进。」

训练数据推动了人工智能系统的发展——使它们能够找出越来越复杂的模式,并将其扎根于神经网络中。例如,ChatGPT 的训练使用了大约 570 GB 的文本数据,总计约 3000 亿个单词,这些数据来自书籍、在线文章、维基百科和其他在线资源。

在不充分或低质量的数据上训练的算法会产生粗略的输出。谷歌的 Gemini AI 曾臭名昭著地建议人们在披萨上加胶水或吃石头,它的部分答案来自 Reddit 帖子和讽刺网站 The Onion 的文章。

为了估算网上有多少文本可用,研究人员使用了谷歌的网络索引,计算出目前大约有 2500 亿个网页,每个网页包含 7,000 字节的文本。然后,他们通过对互联网协议 (IP) 流量(网络上的数据流)和在线用户活动的后续分析来预测可用数据库存的增长。

研究结果显示,来自可靠来源的高质量信息最迟将在 2032 年之前耗尽,而低质量的语言数据将在 2030 年至 2050 年间耗尽。与此同时,图像数据将在 2030 年至 2060 年间被完全消耗。

事实证明,随着数据集的增加,神经网络会可预测地得到改善,这种现象称为神经缩放定律。因此,尚不清楚公司是否可以提高模型的效率以解决缺乏新数据的问题,或者关闭水龙头是否会导致模型改进停滞不前。

然而,维拉洛博斯表示,数据稀缺似乎不太可能显著抑制未来人工智能模型的发展。这是因为公司可以采用多种可能的方法来解决这个问题。

「越来越多的公司开始尝试使用私人数据来训练模型,例如Meta 即将推出的政策变化。」他补充道,该公司宣布将从 6 月 26 日起利用与平台上聊天机器人的互动来训练其生成式人工智能。「如果他们成功做到这一点,并且私人数据的实用性与公共网络数据相当,那么领先的人工智能公司很可能将拥有足够多的数据,可以持续到本世纪末。到那时,其他瓶颈(如功耗、不断增加的培训成本和硬件可用性)可能比缺乏数据更为紧迫。」

另一种选择是使用合成的、人工生成的数据来喂养饥饿的模型——尽管这以前只在游戏、编码和数学的训练系统中成功使用过。

或者,如果公司试图在未经许可的情况下获取知识产权或私人信息,一些专家预计未来将面临法律挑战。

「内容创作者抗议未经授权使用其内容来训练人工智能模型,其中一些人起诉了微软、OpenAI和Stability AI等公司。」技术和知识产权法专家、澳大利亚麦考瑞大学副教授Rita Matulionyte在 The Conversation 中写道。「获得报酬可能有助于恢复创意人员和人工智能公司之间存在的一些权力不平衡。」

研究人员指出,数据稀缺并不是人工智能持续改进的唯一挑战。根据国际能源署的数据,由 ChatGPT 驱动的谷歌搜索消耗的电量几乎是传统搜索的 10 倍。这使得科技领袖们试图开发核聚变初创企业来为他们耗电的数据中心提供能源,尽管这种新兴的发电方法还远未可行。

相关内容

热门资讯

透视辅助!手游辅助平台(辅助挂... 透视辅助!手游辅助平台(辅助挂)真是存在有挂(详细辅助科技教程)1、构建自己的手游辅助平台辅助插件;...
透视辅助!凑一桌小程序辅助器(... 透视辅助!凑一桌小程序辅助器(辅助挂)都是存在有挂(详细辅助详细教程);1、很好的工具软件,可以解锁...
透视辅助!赣南必胜辅助(辅助挂... 透视辅助!赣南必胜辅助(辅助挂)其实真的是有挂(详细辅助教你教程)1、赣南必胜辅助ai辅助优化,赣南...
透视辅助!掌中乐游戏中心辅助器... 透视辅助!掌中乐游戏中心辅助器(辅助挂)切实是真的有挂(详细辅助科技教程)1、透视辅助!掌中乐游戏中...
透视辅助!中至上饶棋牌真的有挂... 透视辅助!中至上饶棋牌真的有挂透视(辅助挂)本来是真的有挂(详细辅助插件教程)1、中至上饶棋牌真的有...
透视辅助!微乐手游脚本辅助(辅... 透视辅助!微乐手游脚本辅助(辅助挂)确实真的是有挂(详细辅助攻略方法)亲,关键说明,微乐手游脚本辅助...
透视计算!wepoker底牌透... 透视计算!wepoker底牌透视脚本怎样安装,wpk透视辅助靠谱吗,透牌教程(有挂解密)一、wepo...
透视辅助!微乐小程序辅助工具(... 透视辅助!微乐小程序辅助工具(辅助挂)好像真的是有挂(详细辅助攻略方法)微乐小程序辅助工具辅助器中分...
透视讲解!智星德州菠萝安装,w... 透视讲解!智星德州菠萝安装,wpk透视脚本视频,wpk教程(有挂详情)1、智星德州菠萝安装ai辅助优...
透视辅助!钱塘十三水透视脚本(... 透视辅助!钱塘十三水透视脚本(辅助挂)原来真的有挂(详细辅助必胜教程)钱塘十三水透视脚本辅助器中分为...