从 MLOps 到 MLOops：揭露机器学习平台的攻击面
这篇文章包含的内容：
MLOps 能为您做什么
固有漏洞与实施漏洞
- MLOps 平台的固有漏洞
恶意机器学习模型
恶意数据集
Jupyter 沙盒逃逸
- MLOps 平台中的实施漏洞
缺乏身份验证
容器逃逸
MLOps 平台不成熟
[攻击者如何将这些漏洞串联在一起？](https://jfrog.com/blog/from-mlops-to-mloops-exposing-the-attack-surface-of-machine-learning-platforms/#how would-an-attacker-chain-these-vulnerabilities-together)
将 MLOps 功能映射到可能的攻击
减轻部分攻击面
在组织中部署 MLOps 平台的要点
MLOps 能为您做什么
在列出各种 MLOps 平台攻击之前，让我们先熟悉一些基本的 MLOps 概念。
图 1. ML 软件供应链
构建和部署机器学习模型的常见生命周期包括：
选择机器学习算法（例如 SVM 或决策树）
- 将数据集提供给算法（“训练”模型）
这将生成一个可以查询的“预训练”模型
可选——将预训练模型部署到模型注册表
- 将预训练模型部署到生产中，方法如下：
嵌入到应用程序中
将其部署到推理服务器（“模型服务”或“模型即服务”）
让我们更深入地了解每个步骤。
MLOps 管道
图 2. 常见 MLOps 管道的步骤
如上所述，MLOps 平台提供了构建和运行 ML 模型管道的能力。其理念是实现模型开发和部署各个阶段的自动化。
MLOps 管道与传统的 DevOps 管道类似。
例如，在 DevOps 管道中，我们可能会根据源代码更改执行每晚构建，但在 MLOps 管道中，我们可能会根据数据集更改执行每晚模型训练。
ML Pipelines 通常通过 Python 代码定义，管道代码监视数据集或模型参数的变化，然后训练新模型并对其进行评估，如果通过评估则将其部署到生产中。
例如，我们可以看到流行的Kubeflow平台的简化 Python 代码，该平台定义了一个 MLOps 管道，该管道基于存储在（Google）云存储中且可以不断更新的数据集来分析、转换、训练和评估机器学习模型
图 3. 简化的 ML Pipeline 代码（Kubeflow 平台）
图 4. MLOps 管道的图形表示（Kubeflow 平台）
模型注册
在训练模型之后（无论是手动还是通过运行 ML 管道），跟踪预训练模型的最强大方法是使用模型注册表。
图 5. 从模型注册表上传和下载模型
模型注册表充当 ML 模型的版本控制机制。它是组织 ML 模型的唯一真实来源，可轻松获取特定模型版本、别名、标记等。
数据科学家使用训练数据来创建模型，然后协作并迭代不同的模型和模型的不同版本。
然后，机器学习工程师可以将其中一些模型推广到生产机器，然后这些模型将提供给能够查询它们的客户端。
ML 模型注册表的一个很好的例子是MLFlow，它是当今最流行的 MLOps 平台之一。
图 6. MLFlow 模型注册表
模型服务
当我们想要推广一个模型用于生产时，我们有两种选择，要么将模型嵌入到应用程序中，要么允许用户通过 API 查询模型，后者称为“模型服务”或“模型即服务”——