微软发布首份人工智能透明度报告
创始人
2024-05-03 10:47:08
0

原标题:微软发布首份人工智能透明度报告

鞭牛士报道,5月3日消息,据外电报道,微软的一份新报告概述了该公司去年为发布负责任的人工智能平台所采取的步骤。

在主要涵盖 2023 年的《负责任的人工智能透明度报告》中,微软宣扬了其在安全部署人工智能产品方面取得的成就。

年度人工智能透明度报告是该公司去年7月与白宫签署自愿协议后做出的承诺之一。微软和其他公司承诺建立负责任的人工智能系统并致力于安全。

微软在报告中表示,它在过去一年中创建了 30 个负责任的人工智能工具,扩大了负责任的人工智能团队,并要求开发生成式人工智能应用程序的团队在整个开发周期中衡量和绘制风险。

该公司指出,它在其图像生成平台中添加了内容凭证,该平台在照片上添加水印,将其标记为由人工智能模型制作。

该公司表示,它为 Azure AI 客户提供了检测仇恨言论、性内容和自残等问题内容的工具,以及评估安全风险的工具。这包括新的越狱检测方法,该方法于今年 3 月进行了扩展,包括间接提示注入,其中恶意指令是人工智能模型摄取的数据的一部分。

它还正在扩大其红队工作,包括故意尝试绕过其人工智能模型中的安全功能的内部红队,以及红队应用程序,以允许在发布新模型之前进行第三方测试。

然而,其红队部队的工作却很艰巨。该公司的人工智能推出也未能幸免于争议。

当 Bing AI 于 2023 年 2 月首次推出时,用户发现该聊天机器人自信地陈述了不正确的事实,并一度教会人们种族歧视。 10 月份,Bing 图像生成器的用户发现他们可以使用该平台生成马里奥(或其他流行角色)驾驶飞机飞往双子塔的照片。泰勒·斯威夫特 (Taylor Swift) 等名人的 Deepfake 裸照在一月份在 X 上流传。

据报道,这些图片来自一个分享使用 Microsoft Designer 制作的图像的小组。微软最终堵住了生成这些图片的漏洞。

当时,微软首席执行官萨蒂亚·纳德拉 (Satya Nadella)表示,这些图像令人震惊且可怕。

微软首席人工智能官娜塔莎·克兰普顿 (Natasha Crampton) 在电子邮件中表示,该公司明白人工智能仍是一项正在进行的工作,负责任的人工智能也是如此。

「负责任的人工智能没有终点线,所以我们永远不会考虑我们在自愿人工智能承诺下的工作。但自签署以来我们已经取得了巨大进展,并期待今年继续保持我们的势头。」克兰普顿说。

相关内容

热门资讯

专委会牵头智汇云舟科技交流会:... 【产学研王教授视点】近日,汇聚行业精英的交流会在智汇云舟科技有限公司进行。中国国际科技促进会水利工程...
佰德威光取得斜发光洗墙灯专利,... 金融界2025年7月9日消息,国家知识产权局信息显示,东莞市佰德威光照明有限公司取得一项名为“一种斜...
数据资产在运维中的动态管理模式... 文/时任兴业银行科技运维中心总经理 吴上荣 兴业银行科技运维中心 罗胜涛 随着云原生技术的大规模使...
全球首个!萝卜快跑斩获联合国“... 7月9日,2025年人工智能向善全球峰会(AI for Good Global Summit)在瑞士...
人工智能浪潮下 青年如何应对挑... “他们不断地受到信息轰炸。”加拿大阿尔伯塔大学法学教授蒂莫西·考菲尔德告诉英国《金融时报》,年轻人极...
INTEGRA CUSA36 ... INTEGRA CUSA36 动力手柄适配 INTEGRA 公司生产的 CUSA 系列超声手术刀主机...
独角兽、人工智能与医疗健康的未... 第二届HLTH Europe年会汇聚了来自全球的医疗健康领袖、初创企业、投资者和开发者,对当前医疗创...
孙颖莎为何又陷苦战?释放三个危... 在WTT美国大满贯女单第二轮比赛中,世界排名第一的孙颖莎对阵埃及选手汉娜·高达。比赛结果出人意料地艰...
天融信WAAP助力应用安全升级... 在云原生架构、微服务技术普及及移动应用深度渗透的当下,Web业务部署与管理模式正被系统性重塑。应用交...
嫦娥六号月球样品首次揭开月背演... 今天(7月9日),中国科学院召开新闻发布会,发布了嫦娥六号月球样品研究的最新进展,并系统梳理了自接收...