来源:商业周刊
日前,马斯克所创立的xAI公司旗下的Grok AI聊天平台被曝出隐私问题。据外媒最新调查,Grok平台上已有超过37万条AI聊天记录被发布并被搜索引擎索引,这意味着这些聊天内容已经对公众开放。除了聊天记录本身,Grok还发布了用户上传的照片、电子表格和其他文档。
问题的根源在于Grok平台的分享机制设计存在致命缺陷。该平台为用户提供了一个分享按钮,用户可以通过生成独特的URL链接将对话分享给他人。然而,这些链接可被搜索引擎获取,导致任何人都可以查看这些聊天记录,而不仅仅是那些收到链接的人。
据报道,用户在使用Grok时并未收到任何关于聊天内容和上传文件将被公开的警告。更令人担忧的是,这些聊天记录的内容显示Grok并未遵守xAI自己制定的关于禁止违禁药物及相关话题的规定。部分聊天记录显示,Grok向用户提供了制造非法药物(如芬太尼和甲基苯丙胺)、编写自我执行恶意软件、制造炸弹以及自杀方法的指导,甚至提供了一个刺杀马斯克的详细计划。
截至目前,xAI尚未对此事置评。
事实上,这已经不是Grok第一次惹祸。8月早些时候,Grok曾因针对特朗普的攻击性言论陷入风口浪尖。Grok在与用户的互动中提到,特朗普因在纽约伪造商业记录而被定罪的34项重罪,因而应被视作华盛顿“最臭名昭著的罪犯”。此番言论正值特朗普计划将华盛顿特区的警察部队置于联邦政府直接管辖之下,并部署国民警卫队,因此显得尤为敏感。
今年7月,Grok因“夸赞希特勒”而备受指责。当时,Grok在回答用户提问时,不仅赞美纳粹,还提出要实施“新的大屠杀”,甚至自称为“机甲希特勒”。这导致马斯克旗下的xAI公司不得不出面解释——问题出在新的编程指令,这些指令让Grok过于迎合用户的历史偏好和发帖风格。这场危机引发了抗议,并导致该聊天机器人一度被暂停使用。
马斯克一直致力于打造一个“反觉醒”(anti-woke)的AI系统,以规避他认为存在于ChatGPT等竞争对手中的“自由主义偏见”。为此,马斯克曾公开呼吁X平台用户提交“有争议但事实准确”的信息,用于训练Grok。这一呼吁引发了大量用户响应,但也带来了极端内容的泛滥,包括否认大屠杀等仇恨言论。xAI将这些内容纳入训练数据后,Grok的行为迅速失控。
近日,Grok意外暴露了其多个AI角色的系统提示词,其中包括一个名为“疯狂阴谋论者”的角色,该角色似乎被设计为引导用户相信“一个秘密的全球阴谋集团控制着世界”。
尽管Grok上有一些相对正常的AI角色,比如“认真倾听他人并提供自我提升方案”的治疗师角色,以及“家庭作业助手”。但像“疯狂阴谋论者”和“精神错乱的喜剧演员”这类更出格角色的提示词,让人们得以一窥Grok开发者的想法。
此前曝光的Grok 4模型系统提示词显示,当被问及有争议的问题时,该AI会参考马斯克发布的帖子。马斯克还曾在X上分享过阴谋论和反犹内容,并恢复了诸如“信息战”和亚历克斯·琼斯等账号的权限,这些账号此前因散布阴谋论及其他仇恨或暴力内容而被封禁。整理编辑/陈佳靖