英国承诺投入 850 万英镑资助旨在应对包括深度伪造在内的网络威胁的新型人工智能安全研究。

技术部长米歇尔·多尼兰 (Michelle Donelan) 在人工智能首尔峰会上宣布，研究资助将重点关注“系统性人工智能安全”，即了解如何更好地保护社会免受人工智能风险并利用该技术的优势。

该研究项目将由英国政府人工智能安全研究所的研究员 Shahar Avin 领导，并与英国研究与创新局和阿兰图灵研究所合作开展。虽然申请人必须居住在英国，但鼓励他们与世界各地人工智能安全研究所的其他研究人员合作。

人工智能对经济和社会稳定构成双重威胁。一方面，人工智能系统可能成为即时注入和数据中毒等技术的目标；另一方面，威胁者自己也可以利用该技术来获取优势。

英国国家网络安全中心 (NCSC)一月份警告称 ，恶意人工智能的使用“几乎肯定”会导致未来两年网络攻击的数量和影响增加，特别是勒索软件。

事实上，合规专家 ISMS.online本周发布的新研究显示，30% 的信息安全专业人士在过去 12 个月中经历过与深度伪造相关的事件，这是继“恶意软件感染”之后第二受欢迎的答案。

与此同时，四分之三（76%）的受访者声称人工智能技术正在改善信息安全，64%的受访者表示他们将在未来一年相应增加预算。

人工智能安全研究所研究主任克里斯托弗·萨默菲尔德 (Christopher Summerfield) 声称，新资金代表着确保人工智能在社会中安全部署的“重要一步”。

他补充道：“我们需要仔细思考如何调整我们的基础设施和系统，以适应人工智能融入我们所做的一切的新世界。” “这个计划旨在产生大量关于如何解决这个问题的想法，并帮助确保伟大的想法能够付诸实践。”

该研究所已经对人工智能威胁进行了有价值的研究。周一发布的 5 月份更新显示，四个最常用的生成式人工智能聊天机器人很容易受到基本越狱尝试的攻击。

英国和韩国昨天称赞 16 家主要人工智能公司签署了安全开发人工智能模型的新承诺，这是“历史性的第一次”。

年仅23岁！暗网毒品市场所谓领导人遭逮捕并受指控

2024.05.23

揭秘：首个机器人电话威胁行为者

2024.05.16

占三国正式GDP总和40%！东南亚诈骗集团每年窃取438亿美元

2024.05.15