IT之家 5 月 25 日消息,Anthropic 联合创始人克里斯・奥拉(Chris Olah)于当地时间周一表示,人工智能的发展不能完全交由科技公司,他呼吁宗教领袖、政府和民间社会加强监督。
IT之家注意到,奥拉在教皇利奥十四世(Pope Leo XIV)首份关于人工智能的通谕发布仪式上发言称,人工智能极有可能在极大规模上取代人类劳动力。
“倘若这一情况发生,为失业群体提供支持将是一项具有历史意义的道德责任。”他在教皇身边落座时如是说。
他补充道,像他所在的公司这类企业,面临着巨大的商业、地缘政治及个人压力,这些压力有时会与社会整体利益相悖。
“每一家前沿人工智能实验室…… 都处于一套激励机制与约束条件之下,这有时会与正确行事的原则产生冲突。”他指出,即便是初衷良好的研究人员,也会受到这些因素的影响。
奥拉强调,正因如此,外部监督至关重要。
Anthropic 是一家总部位于美国的公司,开发了 Claude 人工智能工具。该公司曾与唐纳德・特朗普政府发生冲突,核心分歧在于 Anthropic 坚持设置安全护栏,禁止其模型用于军事目的,例如自主武器瞄准或国内监控。
奥拉对教会介入这一快速发展的新兴技术表示欢迎,称人工智能引发的伦理问题远超工程技术范畴。
“人工智能提出的问题,其重要性已超出人工智能研究社群本身。”他呼吁各界涌现出“真诚且富有深度的批评者”,对科技公司形成制衡,助力推动强大的新型系统朝着积极的方向研发。