近日,一位网友在社交平台 X 上发现,ChatGPT 的最新版本 GPT-4o 在尝试生成一朵玫瑰花的图像时,竟然一口回绝,声称 “我无法生成这朵玫瑰的图像,因为它未能符合我们的内容政策”。这一意外的拒绝迅速引起了众多网友的关注和讨论,许多人开始探究其中的原因,甚至试图找到绕过这一限制的方法。
为了验证这个现象,网友们纷纷进行了一系列实验。有的用户用中文和英文询问,甚至尝试用特殊符号代替 “玫瑰”,结果都以失败告终。即使请求生成一朵黄玫瑰,也遭到了同样的拒绝。转而尝试其他花卉,比如牡丹,GPT-4o 却能毫不费力地完成任务,显示出其图像生成能力并没有问题。
随着讨论的深入,网友们提出了各种猜测。有的认为 “玫瑰” 一词可能因为某种原因被列入了黑名单;也有网友认为,ChatGPT 可能将 “玫瑰” 理解为某种隐晦的暗示,导致其无法生成。更有趣的是,一些用户调侃称,情人节期间过多相似请求,可能导致系统对 “玫瑰” 进行限制。
在接下来的测试中,网友们发现,如果将 “玫瑰” 换成复数形式,或者不直接提及 “玫瑰”,而是描述其特征,GPT-4o 便能顺利生成玫瑰的图像。这一发现引发了对 AI 内容过滤机制的深入探讨,认为或许是由于开发者在内容政策上进行了硬编码,导致了这种古怪的误判现象。
与此同时,ChatGPT 的这一禁忌词引发了人们的联想,类似情况在之前也曾出现过,当用户询问某些特定名字时,系统也会模糊回应,显示出对特定内容的回避。虽然目前 “生成一朵玫瑰花” 成为了新的禁忌,但其他 AI 聊天机器人如 Gemini 和 Grok 等,依然可以顺利生成玫瑰图像,显示出不同平台在内容限制上的差异。
随着这一事件的发酵,大家对于 AI 内容审查的合理性和透明性提出了更多质疑,同时也期待未来的 AI 能够在合理范围内,满足用户的多样化需求。