7月15日，由世界互联网大会人工智能专业委员会主办的“前沿人工智能安全风险的协同治理”研讨会在北京举行。微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍出席并发表了题为《平台视角下的人工智能安全挑战》的主旨演讲，立足社交传播平台一线实践，分享内容行业应对AI安全风险的思考与落地路径。

王巍表示，随着大模型、生成式AI和智能体应用的快速发展，人工智能能力持续提升，相关风险也在同步外溢，并逐步从内容层延伸到传播链条、决策链条和执行链条。王巍认为，当前人工智能安全已不再是单一技术问题，而是需要多主体协同应对的系统性挑战。

王巍指出，人工智能安全风险正在从局部问题走向系统性问题。一方面，模型偏差、幻觉和漏洞等技术风险正加速进入真实传播环境，并转化为现实世界中的传播风险和信任风险；另一方面，随着风险后果不断外延，人工智能带来的影响已不局限于内容准确性，还可能进一步影响用户判断、社会信任乃至舆论秩序。王巍表示，面对这样的变化，安全治理必须从事后补救转向前置防控，嵌入模型、平台、产品和应用场景全流程。

谈及智能体兴起带来的新变化时，王巍表示，人工智能治理对象正在从内容走向行为。智能体不再只是承担信息生成任务，而是开始具备调用工具、连接系统和执行流程的能力。与之相伴，风险范畴也从“说错话”扩展到“做错事”，责任边界认定也更加复杂。王巍认为，这意味着治理重心不能仅停留在单一模型评估上，还要进一步转向应用全链路和真实执行场景的监测与治理。

结合平台实践，王巍介绍，人工智能能力加速进入真实场景后，内容安全和用户信任成为平台面临的重要挑战。其中，深度伪造内容持续冲击真实边界，算法偏见可能放大认知偏差，生成内容还可能在传播过程中加速错误信息扩散。王巍表示，这些问题相互交织，不仅会增加平台的治理压力，也对整体信息环境的公信力提出更高要求。

围绕治理实践，王巍表示，微博近年来持续探索更完整的可信机制，以应对人工智能风险外溢。平台一方面强化权威信源识别、风险内容审核和溯源处置，提升风险发现和响应效率；另一方面推动可信内容的传播分发，尽可能压缩错误信息的传播空间。王巍介绍，微博智搜等产品也在围绕热点事件进行权威信息聚合，帮助用户在海量信息中更快找到可信内容。

王巍最后表示，人工智能安全治理不能依靠单一主体完成，必须推动政府、学界、平台企业和国际社会多方协同，形成责任清晰、分工明确、共同推进的治理格局，才能更好实现人工智能发展与安全的动态平衡。

（注：此文属于央广网登载的商业信息，文章内容不代表本网观点，仅供参考。）