号称准确率达98%的AI图片检测工具开启内测,这能解决AI图片混淆视听的问题吗
创始人
2024-05-10 15:24:43
0

原标题:号称准确率达98%的AI图片检测工具开启内测,这能解决AI图片混淆视听的问题吗

5月8日,美国科技公司OpenAI公告称公司推出了一款可以检测图片是否是由自家AI生成的图片的AI图片检测分类工具,该工具主要用于甄别图像是由OpenAI的“文生图”工具DALL·E3生成的概率,该工具目前已经开放了部分内测名额。

来源:OpenAI官网

根据官网介绍,该工具在区分非AI生成图像与DALL·E3生成的图像方面成功率很高,成功率能够接近98%,同时只有少于0.5%的非AI图像被错误地标记来自DALL·E3。同时这个工具能够应付一系列常见的修改,例如压缩、裁剪和修改图像饱和度。从实验意义上看,这一检测工具的出现确实很有必要,当前的AI文生图的逼真程度越来越高,真假难辨,一些离谱的AI生成图暂且不论,已引发人们普遍担忧的是AI生成图对于人类知识库的污染问题,网络出现了大量看起来非常符合逻辑但实际上是AI生成的专业领域的图片,这些图片在社交平台上泛滥且被冠以错误的科普信息,比如AI生成的鸟类照片,并非是现实存在的鸟类但是被冠上错误的鸟类信息,这些图片、文字信息被更多智能聚合系统捕捉,当成了正确的、真实存在的鸟类信息加以传播,导致大众误以为有这么一种鸟的存在,科普工作者的科普、辟谣发声在高速传播的信息面前几乎起不到太大的作用。

但从目前的内测反馈来看,该检测工具的局限性也十分明显,目前能够检测的基本仅限于DALL平台生成的AI图片,若使用了其他AI大模型生成的图片加以检测,检测成功率会大幅下降。目前全球人工智能市场中活跃的人工智能大模型数不胜数,平台更是五花八门,该检测工具实际应用范围恐怕极为有限。值得肯定的是,OpenAI对其检测技术的局限性保持透明态度,并允许外部测试人员访问该工具以帮助改进。OpenAI表示,今年早些时候就已开始在ChatGPT和OpenAI API中为由DALL-E 3创建和编辑的所有图片添加C2PA元数据。并且将会在Sora推出时,也为模型整合C2PA元数据。

此前,国内外推出过众多利用AI技术检测AI生成内容的工具,但是目前来看并没有非常靠谱的工具出现,对于AI生成内容的辨识主要还在依靠人的经验,此前openAI曾推出过一款识别AI文本的检测工具,其开放应用后引发了众多连锁问题,有人将之应用在检测学生作业、论文是否为AI生成方面,但因其准确度并不十分牢靠,发生不少误判的乌龙,最终该工具被悄然下线。

实际上光靠人的经验来识别AI内容也很难说靠谱,AI以假乱真的程度实在是太高,开发检测AI的AI工具恐怕治标不治本,要解决这个问题还要从源头开始,我们更需要的是AI生成平台自觉地给所有AI生成的内容打上不可移除的AI溯源水印,不管是图像、音视频还是文本,一张AI水印将更有利于标记和识别非真实的内容。

近年来,随着生成式人工智能快速发展,AI内容愈发真实,AI换脸、AI变声等新型诈骗也层出不穷,确保数据安全和内容真实性也成为全球共识。中国相继出台《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策;4月23日,中央网信办再次强调要加强信息来源标注展示,使用AI等技术生成信息的,必须明确标注系技术生成。

扬子晚报/紫牛新闻记者 沈昭

校对 盛媛媛

相关内容

热门资讯

八分钟了解!好运大菠萝吃鸡老是... 《好运大菠萝吃鸡老是输软件透明挂》是一款多人竞技的好运大菠萝吃鸡老是输辅助透视游戏,你将微扑克对手来...
新2023透明挂!闽游福建麻将... 亲,闽游福建麻将有挂这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特...
九分钟了解!线上德州辅助软件有... 九分钟了解!线上德州辅助软件有用外挂辅助器安装(透视)软件透明挂(2024已更新)(哔哩哔哩);详细...
四分钟了解!微信小程序干瞪眼辅... 自定义新版微信小程序干瞪眼辅助系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微信小程序干瞪...
新2022版教程!吉祥棋牌科技... 新2022版教程!吉祥棋牌科技有挂的(辅助挂)原来一直都是有挂(有挂消息)(哔哩哔哩);吉祥棋牌科技...
9分钟了解!Wepoke软件外... 【福星临门,好运相随】;9分钟了解!Wepoke软件外挂辅助器助手,微扑克有辅助(2021已更新)(...
九分钟了解!德扑之星有作弊外挂... 您好,德扑之星这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩家在这款游戏...
1分钟了解!福麻圈有外挂的(辅... 大家肯定在之前福麻圈有外挂的或者福麻圈有外挂的中玩过1分钟了解!福麻圈有外挂的(辅助挂)详细教程(2...
新2020透明挂!微友辅助器i... 新2020透明挂!微友辅助器ios免费版(辅助挂)原来是真的有挂(有挂讨论)(哔哩哔哩);是一款可以...
技巧教程!微扑克代打外挂透明挂... 技巧教程!微扑克代打外挂透明挂安装,Aapoker辅助(2020已更新)(哔哩哔哩);微扑克中的10...