近日，第六届C3安全大会在南京举行，大会以“安全AI未来”为主题，聚焦“数据驱动，AI原生”议题，深入探讨AI技术在网络安全领域的创新应用，以及如何打造适应数字经济时代的全面安全防护体系。

当前，AI+已逐渐融入各行各业，相关风险等级也在递增，如何用AI原生创新力构建可持续的AI安全框架值得业内深思……

AI安全面临的风险与难题

AI技术的发展和应用，为社会的各个领域带来了巨大的变革和便利。

不过，随着AI技术的深入，我们也逐渐意识到其中存在的多种安全风险。

首先最受关注的是数据安全问题，AI系统的训练和应用依赖于大量数据，这些数据往往包含着个人隐私、企业机密等敏感信息。数据泄露、滥用或被恶意篡改的风险不断增加，对个人隐私和企业机密构成严重威胁。例如，AI系统可能被黑客攻击，导致大量用户数据泄露，给个人和企业带来巨大的损失。

除此之外，AI系统的决策过程也存在着不透明性和不可解释性，这可能导致AI系统在处理关键问题时出现偏差，甚至产生严重后果，这不禁让使用者背后一凉。例如，AI系统在医疗领域诊断疾病时，可能会因为数据的偏差而导致错误的诊断结果，给患者带来健康风险。同时，AI系统还可能受到对抗性攻击，攻击者通过精心设计的输入数据，使AI系统做出错误的决策。

华裔人工智能科学家、斯坦福大学教授李飞飞就明确指出：“我们必须清醒地认识到，AI的进步如同双刃剑，它在带来便捷与效率的同时，也可能引发隐私泄露、就业结构变化等复杂问题。”

各类AI风险是AI时代所面临的且无法逃避的问题，更是对AI技术应用的安全性和可靠性提出的挑战，如何化干戈为玉帛？或许是下一步需要解决的一大社会性课题。

探索AI原生创新力

面对AI技术的安全风险，我们需要探索AI原生的创新力，以AI技术自身的能力来防御和对抗这些风险。这需要我们构建一个以海量数据驱动的AI原生安全生态体系，通过大数据分析和深度学习等技术手段，提前发现和防范可能由AI支持的大规模信息安全威胁。例如，我们可以利用AI技术来监测和识别异常的网络行为，预防网络攻击和数据泄露。

同时，我们还需要推动AI技术的创新，开发出更加安全、可靠的AI系统。这包括对AI系统的决策过程进行优化，提高其透明度和可解释性，使其在处理关键问题时能够做出更加公正、合理的决策。例如，我们可以开发新的算法和模型，使AI系统的决策过程更加可解释，提高人们对AI系统的信任度。此外，我们还需要加强对AI系统的安全防护，提高其对抗对抗性攻击的能力。例如，我们可以开发新的防御机制，使AI系统能够识别和抵御对抗性攻击，保护系统的安全性和可靠性。

从具体案例来看，我们以天翼云电脑升级为天翼AI云电脑为例，中国电信通过探索AI原生创新力，构建了开放平台，汇聚多模态AI大模型应用，将AI之力充分赋能云电脑，实现了云电脑能力的全面升级。升级后的天翼AI云电脑具备端云弹性算力、企业级端云智能体、模型数据安全、开放的企业级大模型和开放生态五大特征。尤其在模型和数据安全方面，中国电信对云电脑内运行的模型和数据进行了加密保护，确保企业内安全闭环，无需担心重要信息资产泄露，真正为用户带来更加极致的产品与服务体验。

中国电信集团网络和信息安全管理部总经理谷红勋指出，“当前中国电信广泛在网信安全领域应用AI，主要集中在云网安全的防护以及反诈方面。”其更直言道，未来的网络安全防守体系最终极有可能是比拼AI能力和算法。因此，中国电信在不久前还参与了业界首个《共建安全大模型高质量数据集倡议书》的发布，旨在促进AI安全产业的合理有序发展。

此外，在数月前，中国电信还与华为等30余家机构共同发起了AI安全工作组，致力于解决AI技术快速发展所带来的安全难题。这个工作组的主要职责是研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI伦理和AI合规等方面的材料。

综上所述，中国电信在推动AI技术发展以及实际落地应用的同时，也在积极应对和解决相关的安全问题，用AI原生创新力守护AI安全。

构建可持续的AI安全框架

展望未来，我们需要构建一个全面、多层次的AI安全框架，以应对AI技术带来的安全挑战。这一框架应包括法律法规、行业标准、技术措施和社会伦理等多个方面。

法律法规方面，我们需要不断更新和完善相关法律法规，以适应AI技术的快速发展和新型安全威胁。例如，制定数据保护法规，严格规范数据的收集、存储和使用，保护个人隐私和企业机密。同时，还需要明确AI系统的责任和义务，确保其在处理数据时遵守法律法规。

行业标准方面，我们需要制定统一的行业标准，引导企业和研究机构采取一致的安全措施。这有助于提高整个行业的安全水平，减少安全风险。例如，制定AI系统的安全标准和评估体系，确保AI系统的安全性和可靠性。

技术措施方面，我们需要不断创新和改进技术手段，提高AI系统的安全性和可靠性。例如，开发新的加密技术和安全协议，保护数据的机密性和完整性；开发新的检测和防御技术，提高AI系统对抗对抗性攻击的能力。

社会伦理方面，我们需要加强对AI技术的伦理教育，提高公众对AI技术的认识和素养。这有助于形成良好的社会氛围，推动AI技术的健康发展。例如，开展AI伦理教育和培训，提高公众对AI技术的理解和接受度；建立AI伦理审查机制，确保AI系统的应用符合社会伦理标准。

总之，面对AI技术的安全风险和挑战，我们需要从多个层面构建一个全面、可持续的AI安全框架，以保障AI技术的安全、可靠和健康发展。

（图片来源：摄图网）

END

0

向“通信信息报”投稿，请致信：txxxb2001@163.com，

稿件一经刊发，将根据文章质量，

提供千字200元-500元的稿酬。

其他合作、建议、新闻线索，

欢迎于微信公众号后台联系我们。

不良信息举报电话：0591-83365173。