前员工爆料，OpenAI AGI 安全团队已流失近半成员_科技资讯

创始人

2024-08-30 10:41:14

0次

IT之家 8 月 30 日消息，OpenAI 一直致力于开发能够造福全人类的人工智能技术，然而最近的一份报告揭示了一个令人担忧的现象：近一半曾专注于超级智能 AI 长期风险的研究人员已经离开了这家公司。

图源 Pexels

据 Fortune 报道，OpenAI 前治理研究员 Daniel Kokotajlo 表示，在过去几个月里，OpenAI 几乎一半的 AGI 安全团队成员已经离职。这引发了外界对公司是否正在忽视 AI 安全性的担忧。

AGI 安全研究人员主要负责确保未来开发的 AGI 系统不会对人类构成生存威胁。然而，随着 OpenAI 越来越专注于产品和商业化，研究人员的离职意味着公司的安全研究团队正在逐渐缩减。

Kokotajlo 指出，自 2024 年以来，OpenAI 的 AGI 安全团队已经从约 30 人减少到 16 人左右。他认为，这并不是一个有组织的行动，而是个人逐渐失去信心而离职。

OpenAI 发言人对此表示，公司为能够提供最有能力、最安全的人工智能系统感到自豪，并相信自己具有解决风险的科学方法。

IT之家注意到，今年早些时候，OpenAI 联合创始人、首席科学家 Ilya Sutskever 宣布辞去 OpenAI 职务，其领导的负责安全问题的“超级对齐”团队也遭到解散。

近期山西降雨降温旅客注意安全... 未来三天 9 月 15—16 日，山西北部多阵雨或雷阵雨出行需备雨具且山区需防湿滑中南部以晴到多...

“机器人交警”要来了来源：滚动播报（来源：新华日报） □ 本报记者季铖车来车往的路口，人形机器人站在路中间指挥车...

华西、黄淮等地多降雨陕西、四... 今年夏天，华北度过史上最强雨季，刚刚过去的周末，北京还遭遇强冰雹天气。与此同时，华西至黄淮等地降雨也...

元医疗模拟实验室在沪启用系统... 中新网上海9月15日电 (记者陈静)作为国家人工智能应用中试基地(医疗领域临床医学科研方向)(简称...

请注意，风雨来了！ 01 天气实况今天早晨赣榆和东海等地有雾，最低气温22℃左右午后最高气温30℃左右。 0...

冰花的奇迹：海冰下的美丽杀手在南极海冰之下，生长着一种美丽而致命的冰晶结构——冰花（brinicle）。当高盐度的低温盐水从海冰...

1小时后，降雨回波将移出，北京... 北京天气实况我市大部分地区已出现雷阵雨天气，局地伴有7～9级短时大风。15日11时至13时全市平均...

【中国那些事儿】欧洲媒体：从加... 中国日报网9月15日电近年来，中国的科技、文化、游戏等产品风靡世界，尤其是各种潮玩更是引领了全球流...

魅族22评测：小屏旗舰的全面进... 【CNMO科技新闻】在智能手机日益同质化的今天，魅族始终尝试走一条不同的路。全新魅族22的发布，不仅...

原创中... 近日，中美在西班牙首都马德里举行的经贸谈判引发了全球的广泛关注。这场会议不仅是两国之间的博弈，更是牵...