AI重磅!“它太危险了,不能公开发布”
创始人
2024-07-15 09:22:22
0

据参考消息13日援引美国趣味科学网站7月10日报道,科学家称,微软公司开发的新型人工智能(AI)语音生成器“达到了与人类相当的水平……但它太危险了,不能公开发布”。

报道称,VALL-E 2是一个文本转语音(TTS)生成器,只需利用几秒钟的音频就能重现说话人的声音。其效果非常逼真,以至于无法向公众发布。

微软研究人员在6月17日发表在预印本文献库上的一篇论文中称,VALL-E 2能够“准确、自然地生成与原说话人完全相同的语音,其生成的语音可与人类相媲美”。换句话说,这一新的AI语音生成器足够逼真,会让人误以为这是真人在说话——至少它的创造者是这么认为。

图片来源:视觉中国

微软研究人员在论文中写道:“VALL-E 2代表着神经编解码语言模型的最新进展,它标志着零样本文本转语音合成的一个里程碑,并首次达到与人类语音相当的水平。”

论文还说:“此外,VALL-E 2能够始终如一地合成高质量语音,即使是那些传统上因其复杂性或重复短语而具有挑战性的句子也不例外。”

研究人员使用语音资料库LibriSpeech和VCTK中的音频样本来评估VALL-E 2与说话人录音的相似程度。他们还使用了ELLA-V(一个用于衡量生成语音的准确性和质量的评估框架)来确定VALL-E 2能在多大程度上有效处理更复杂的语音生成任务。

研究人员写道:“我们基于LibriSpeech和VCTK数据集进行的实验表明,VALL-E 2在语音的稳健性、自然度、与说话人相似度方面都超越了之前的零样本TTS系统。它是同类产品中第一个在这些基准上达到与人类相当水平的系统。”

微软研究人员在一篇博客文章中写道:“VALL-E 2纯粹是一个研究项目。目前,我们还没有将VALL-E 2纳入产品或向公众开放的计划。在模型被滥用方面,它可能存在潜在的风险,比如欺骗语音识别系统或冒充特定的说话人。”

尽管如此,他们确实表示,AI语音技术在未来可能会有实际应用。研究人员称:“VALL-E 2可以合成维持说话人身份的语音,它可被用于教育学习、娱乐、新闻工作、自创内容、无障碍功能、交互式语音应答系统、翻译、聊天机器人等领域。”

另据公开报道,6月19日,在2024年戛纳狮子国际创意节上,特斯拉首席执行官埃隆·马斯克(Elon Musk)接受了全球知名营销服务公司WPP首席执行官马克·里德(Mark Read)专访。在谈到“人工智能是否真的会为我们处理所有事务”时,马斯克表示:我们不能盲目乐观或过度悲观。我非常赞同杰夫·辛顿(Jeff Hinton,人工智能教父)的观点。他认为有10%到20%的可能性会出现一些令人担忧的情境。然而,我们更应关注那80%的积极可能性。

因此,我认为最有可能的未来是,我们将进入一个物质极度丰富的时代,商品和服务将普及到地球上的每一个人。这不仅仅意味着全民基本收入,而是全民都能享受高收入。工作将变得可选,人们将拥有选择是否工作的自由。

这样的前景虽然诱人,却也可能引发一场有关生命意义的危机。当人工智能能够胜任我们所能做的所有工作,甚至做得更好时,我们做事的动机和意义又何在呢?这可能会引发一种存在主义式的困惑,即我们为何还要去做任何事情?

所以,我认为我们正迈向一个前所未有的繁荣时代。同时,我们也正处于历史上最为有趣的时刻。有句谚语说的好,“愿你生活在有趣的时代”,这看似是一种诅咒,但我认为我们正身处于这样一个时代。我的意思是,即使面对人工智能可能带来的最坏结果,即人类被消灭,我也会选择直面而非逃避。我想,我可能真的愿意亲眼见证这一切的发展。

每日经济新闻综合参考消息、公开消息

每日经济新闻

相关内容

热门资讯

视频丨加沙停火第二阶段谈判为何... 巴勒斯坦伊斯兰抵抗运动(哈马斯)高级成员哈姆丹11日表示,此前与以色列达成的阶段性停火协议只是“初步...
国家发改委主任的20场“早餐会... 11月11日下午,国家发改委中配楼三层会议室座无虚席,国内外媒体记者齐聚在此想听听国家发改委将如何进...
热点问答|航母来了,美委紧张局... 新华社加拉加斯/华盛顿11月11日电 热点问答|航母来了,美委紧张局势如何演变? 新华社记者田睿 缪...
透视计算(WepOke)外挂透... 透视计算(WepOke)外挂透明挂辅助插件(wepoke辅助有挂)起初有挂(详细透视德州教程);大神...
如何安全佩戴美瞳?记住三原则丨... 三六三医院眼科副主任医师王冬梅提醒,佩戴美瞳时要注意三点:“短时、清洁、不适即停”。(孙英琪 封面新...
新华视点|全谷物食品如何更多走... 新华社北京11月12日电 题:全谷物食品如何更多走上餐桌? 新华社“新华视点”记者蒋成、叶婧 你经常...
县域高中群体崛起如何做到?来看... 做强教联体、建强教师队伍、激发课堂活力—— 县域高中群体崛起的黄冈答卷 “走进新校区,看着崭新的教学...
做科技创新中心,就要勇于挺进无... 天下之事,非新无以为进。在科技创新领域,围绕国之所需,敢于先试先行,是北京不变的行动哲学。“资源所在...
透视规律(德州)智星德州菠萝有... 透视规律(德州)智星德州菠萝有挂吗(透视)总是真的有挂(详细辅助透明教程);1、在智星德州菠萝有挂吗...
“苏大强”如何做强县域经济? 今年7月发布的《2025中国县域经济高质量发展研究》显示,全国百强县评估结果中,江苏有25个县(市)...