译者 | 李睿

审校 | 重楼

近年来，机器学习的应用出现了爆炸式增长，导致对健壮、可扩展和高效部署方法的需求快速增长。由于训练和服务环境之间的差异或扩大规模的困难等因素，传统方法通常需要帮助运营机器学习模型。

本文提出了一种使用Docker的技术。Docker是一个开源平台，旨在自动化应用程序的部署、扩展和管理，以此来解决这些挑战。所提出的方法将机器学习类型及其环境封装到一个标准化的Docker容器单元中。Docker容器提供了许多好处，包括开发和生产环境之间的一致性、易于扩展以及部署的简单性。

本文对Docker及其在机器学习模型部署中的作用进行了深入探讨，并对使用Docker部署机器学习模型进行实际演示，从创建Dockerfile到使用Docker Swarm扩展模型，所有这些都以相关代码片段为例。此外，还介绍Docker在持续集成（CI）/持续交付（CD）管道中的集成，最终得出使用Docker进行高效机器学习模型部署的结论和最佳实践。

Docker是什么?

作为一个平台，Docker在轻量级、可移植的容器中自动化软件应用程序的部署、扩展和运营。Docker的基础围绕着“容器化”的概念。这种虚拟化方法允许将软件及其整个运行时环境打包成一个用于软件开发的标准化单元。

Docker容器封装了应用程序运行所需的一切(包括库、系统工具、代码和运行时)，并确保它在不同的计算环境中表现一致。这有助于快速可靠地构建、测试和部署应用程序，使Docker成为软件开发和运营(DevOps)的关键工具。

当谈到机器学习应用程序时，Docker带来了几个优势。Docker的容器化特性确保了机器学习模型的训练和服务环境之间的一致性，降低了由于环境差异而遇到差异的风险。Docker还简化了扩展过程，允许在多个服务器上轻松部署机器学习模型的多个实例。这些特性具有显著简化机器学习模型部署和降低相关运营复杂性的潜力。

为什么要将机器学习应用程序Docker化?

在机器学习应用程序的背景下，Docker提供了许多好处，每一个都对运营效率和模型性能做出了重大贡献。

首先，Docker容器提供的一致性环境确保了开发、测试和生产阶段之间的差异最小化。这种一致性消除了“它工作在我的机器上”的问题，使其成为部署机器学习模型的首选，机器学习模型对其运营环境的变化特别敏感。

其次，Docker擅长于促进可扩展性。机器学习应用程序通常需要运行同一模型的多个实例来处理大量数据或高请求率。Docker通过允许快速高效地部署多个容器实例来实现水平扩展，使其成为扩展机器学习模型的有效解决方案。

最后，Docker容器是独立运行的，这意味着它们有自己的运行时环境，包括系统库和配置文件。这种隔离提供了额外的安全层，确保每个机器学习模型在受控和安全的环境中运行。Docker提供的一致性、可扩展性和隔离性使其成为部署机器学习应用程序的具有吸引力的平台。

为机器学习设置Docker

以下重点介绍在机器学习应用程序中使用Docker所需的初始设置。由于操作系统不同，Docker的安装过程略有不同。对于Linux发行版，Docker通常通过命令行界面安装，而对于Windows和MacOS, Docker Desktop版本可用。在每种情况下，Docker网站都提供了简单易懂的详细安装说明。通过从Docker Hub(一个基于云的注册表服务，允许开发人员共享应用程序或库)中提取Docker镜像，安装成功。作为示例，可以使用以下命令提取最新的Python图像以用于机器学习应用程序：

Shell 
docker pull python：3.8-slim-buster