OpenAI推出新工具以鉴别AI生成图像,但效果...
创始人
2024-05-08 18:24:07
0

原标题:OpenAI推出新工具以鉴别AI生成图像,但效果...

在人工智能技术的快速发展下,生成的图像越来越逼真,使得真实与虚假的界限逐渐模糊。为了应对这一问题,行业领军企业OpenAI近日推出了一款新工具,旨在鉴别由其自家DALL-E 3生成器所创建的图像。然而,测试结果显示,该工具在实际应用中效果喜忧参半。

OpenAI表示,他们新推出的工具能够在98%的情况下准确检测出由DALL-3生成的图片,这无疑是一个令人鼓舞的结果。然而,该工具在鉴别其他人工智能模型制作的图像时,成功率却大幅下降,仅在5%至10%之间。这意味着,对于非DALL-E 3生成的AI图像,该工具的鉴别能力相当有限。

此外,当图像经过修改后,该工具的鉴别能力也会受到影响。对于诸如裁剪、压缩和饱和度变化等微小修改,工具的成功率虽然有所下降,但仍保持在95%至97%的可接受范围内。然而,当图像经过色调调整后,成功率骤降至82%。对于经历更广泛变化的图像,该工具在分类时更是遇到了明显的困难,OpenAI甚至未公布这些情况下的成功率。

这一局限性在选举年尤为引人关注。由于选举过程中可能会出现大量经过修改的AI生成图像,以激怒或误导公众,因此该工具的鉴别能力在实际应用中显得尤为重要。然而,从目前的测试结果来看,该工具可能无法有效识别出经过修改的、具有误导性的AI生成图像。

值得肯定的是,OpenAI对其检测技术的局限性保持透明态度,并允许外部测试人员访问该工具以帮助改进。同时,该公司还与微软等合作伙伴共同致力于扩大人工智能教育和素养的提升。

然而,随着人工智能技术的不断发展,我们仍需要更加完善和高效的工具来鉴别AI生成图像,以确保信息的真实性和可靠性。在当前选举背景下,这一问题显得尤为重要和迫切。

相关内容

热门资讯

中国与世界共创“年轻的事业” 人民网记者 马作鹏 唐小丽 浦江潮涌,AI满城。 7月17日至20日,2026世界人工智能大会暨人工...
外媒测试苹果游戏移植工具包4 ... IT之家 7 月 17 日消息,科技媒体 MacWorld 昨日(7 月 16 日)发布博文,通过测...
极端暴雨天气会否常态化 专家解... 近期台风肆虐、暴雨连连。无论南北,公众直观感觉今夏风雨来得不仅早,且强度令人惊骇。今年的风雨为何格外...
因持续提升模型编程能力,谷歌推... 7月17日消息,当地时间7月16日,据报道,知情人士透露,Alphabet旗下谷歌的旗舰AI模型Ge...
原创 姚... 纵观中国体坛数十年发展,姚明与刘翔的友情,低调纯粹、毫无功利,是圈内公认的一段佳话。两位上海籍体坛传...
中信证券:霍尔木兹海峡通航问题... 7月17日消息,中信证券研报表示,霍尔木兹海峡局势再度升级,美伊的海峡控制权等核心矛盾并未因6月《伊...
中信证券:xAI当前呈现“基建... 7月17日消息,中信证券研报表示,xAI是全球AI模型产业的重要参与者,也是SpaceX“航天—连接...
日经225指数跌3.5%,报6... 7月17日消息,日经225指数跌幅扩大,最新下跌3.5%,报64,497.12点。(科股宝播报)
两市融资余额减少285.86亿... 7月17日消息,截至7月16日,上交所融资余额报14308.21亿元,较前一交易日减少139.61亿...
“AI陪伴”新规下监管如何真正... 记者实测多款应用:AI标识弱化、部分智能体人设引发担忧 “AI陪伴”新规下监管如何真正落地 本报记者...