齐向东：大模型应用面临三重安全挑战
创始人
2025-04-30 19:20:43
0次
福州4月30日电 (记者 刘育英)奇安信集团董事长齐向东在第八届数字中国建设峰会期间接受媒体采访表示，层出不穷的新兴场景，充分展现出人工智能大模型带来的无限生产力、创造力。但新技术是把双刃剑，大模型应用在带来机遇的同时，也面临三重挑战。
一是“小数据”安全问题。传统大数据存在碎片化、质量参差不齐等问题，而大模型需要经过加工处理的“精华小数据”。一旦精华小数据被窃取、泄露或篡改，企业核心竞争力将受损。
二是大模型“裸奔”风险。大模型深度融入关键领域，如智慧城市、工控系统、智慧政务等，风险串联成网。奇安信监测发现，大量Ollama大模型服务器“裸奔”，存在被攻击导致业务中断的风险。
三是AI决策失准风险。对AI的过度依赖可能导致善恶真伪难辨，黑客可通过漏洞利用、数据投毒等方式干扰大模型决策。内部员工更新知识库时引入错误信息，也会污染模型学习环境，导致错误结论。
齐向东认为，筑牢AI安全底线，要把握住五个关键：构建大模型安全“红域”形成多维度边界隔离；权限强管控，以用户身份为新边界开展网络和数据安全防护；严把内容关，构建贯穿大模型全生命周期的内容安全治理机制；以实战为导向加强大模型应用安全评估；运营可闭环，做到对安全威胁的实时监测和应急处置。(完)
【编辑:胡寒笑】
上一篇：榕亨集团亮相第十五届交博会
相关内容
热门资讯
“数智茉莉”绽芳华 福州首个社...
中新网福建新闻4月30日电(叶艺琳)近日，福州首个聚焦社区女性人工智能教育赋能的示范性平台——“福州...
无锡金洋铝业取得板翅式异型铝封...
金融界 2025 年 4 月 30 日消息，国家知识产权局信息显示，无锡金洋铝业有限公司取得一项名为...
透视透明！微扑克ai机器人（透...
《好运大菠萝有挂软件透明挂》是一款多人竞技的好运大菠萝有挂辅助透视游戏，你将微扑克对手来到同一个战场...
透视规律!wopoker辅助器...
透视规律!wopoker辅助器免费版v2.0(辅助透视)软件透明挂(有挂AI)-哔哩哔哩是一款可以让...
透视规律！（推扑克）软件透明挂...
透视规律！（推扑克）软件透明挂，wEpOke一直真的有挂，详细教程（有挂线上）-哔哩哔哩；1.推扑克...
透视有挂！德扑分析软件（辅助透...
《德扑之星软件模拟器软件透明挂》是一款多人竞技的德扑之星软件模拟器辅助透视游戏，你将微扑克对手来到同...
透视app!cloudpoke...
您好：cloudpoker云扑克辅助这款游戏可以开挂的，确实是有挂的，很多玩家在这款游戏中打牌都会发...
透视了解！aa扑克平台的机制，...
透视了解！aa扑克平台的机制，wepoke科技，有挂传授（技巧教程）-哔哩哔哩;AI智能教程细节普及...
透视能赢!wpk辅助透视(透视...
透视能赢!wpk辅助透视(透视辅助)软件透明挂(有挂软件)-哔哩哔哩;1、让任何用户在无需AI插件第...
透明透视！（来玩德州扑克）软件...
透明透视！（来玩德州扑克）软件透明挂，wepokE竟然真的有挂，详细教程（有挂工具）-哔哩哔哩;1、...