在Heroku云上部署深度学习Web应用程序的要点和技巧

译文
人工智能 机器学习
了解在Heroku服务器上部署基于TensorFlow的图像分类器Streamlit应用程序方面的模型部署问题和解决方案。

【51CTO.com快译】Heroku 云在Web开发人员和机器学习爱好者中颇负盛名。该平台提供了部署和维护Web应用程序的简易方法,但如果您不熟悉部署深度学习应用程序,可能会遇到棘手的存储和依赖问题。本文将使您的部署过程更顺畅,以便您能专注于创建出色的Web应用程序。我们将学习DVC集成、基于Git和CLI的部署、错误代码H10、使用Python软件包以及优化存储。

一、基于Git和CLI的部署

Streamlit应用程序可以使用Git、GitHub集成或使用Docker加以部署。基于Git的方法是在Heroku服务器上部署任何数据应用程序的更快速更简单的方法。

基于Git的简单方法

Streamlit应用程序可使用以下命令来部署:

  1. git remote add heroku https://heroku:$HEROKU_API_KEY@git.heroku.com/.git 
  2.  
  3. git push -f heroku HEAD:master 

为此,您需要:

  • Heroku API 密钥
  • Heroku 应用程序:通过CLI或访问网站。
  • 基于Git的项目
  • 配置文件

基于CLI的方法

基于CLI的部署很基本,且易于学习。

1. 在此处创建一个免费的Heroku帐户。

2. 使用该链接,安装Heroku CLI。

3. 克隆远程存储库或使用git init。

4. 输入heroku login和heroku create dagshub-pc-app。这将使您登录到服务器,并在Web服务器上创建一个应用程序。

5. 现在创建含有运行应用程序的命令的Procfile: web: streamlit run --server.port $PORT streamlit_app.py

6. 最后,提交并推送代码到heroku服务器git push heroku master。

二、PORT

如果您使用streamlit run app.py运行应用程序,它将生成错误代码 H10,这意味着Streamlit应用程序未使用服务器分配的$PORT。

您需要:

  • 使用Heroku CLI设置PORT。
  1. heroku config:set PORT=8080 
  • 在Procfile中进行更改,并在参数中添加服务器端口。
  1. web:streamlit run --server.port $PORT app.py 

三、调整Python软件包

这部分花了我2天的时间来调试,因为Heroku云有500MB的限制,而新的TensorFlow软件包是489.6MB。为了避免依赖项和存储问题,我们需要在requirements.txt文件中进行更改:

1. 添加tensorflow-cpu而不是tensorflow,这将我们的slug大小从765MB缩减到400MB。

2. 添加opencv-python-headless而不是opencv-python,以避免安装外部依赖项。这将解决所有cv2错误。

3. 删除所有不必要的软件包,numpy、Pillow 和streamlit除外。

四、DVC集成

从DVC服务器成功提取数据需要几个步骤:

1. 首先,我们允许通过使用Heroku API来安装 apt-files的buildpack:

  1. heroku buildpacks:add --index 1 heroku-community/apt 

2. 创建文件名Aptfile,并添加最新的DVC版本https://github.com/iterative/dvc/releases/download/2.8.3/dvc_2.8.3_amd64.deb

3. 在您的app.py文件中添加额外的代码行:

  1. import os 
  2. if "DYNO" in os.environ and os.path.isdir(".dvc"): 
  3.     os.system("dvc config core.no_scm true"
  4.     if os.system(f"dvc pull") != 0: 
  5.         exit("dvc pull failed"
  6.     os.system("rm -r .dvc .apt/usr/lib/dvc"

之后提交您的代码,并将其推送到Heroku服务器。部署成功后,应用程序会自动从DVC服务器拉取数据。

五、优化存储

优化存储的方式有多种,最常见的就是使用Docker。通过使用Docker方法,您可以绕过500MB的限制,还可以自由安装任何第三方集成或软件包。想进一步了解如何使用Docker,请查看本指南

为了优化存储:

  • 在requiremnets.txt中仅添加模型推理python库。
  • 我们可以通过使用以下命令从DVC提取选择性数据:
  1. dvc pull {model} {sample_data1} {sample_data2}.. 
  • 我们只需要一个模型推理文件,因此将其余文件添加到.slugignore,其工作方式与.gitignore类似。想了解更多信息,请查看Slug编译器(https://devcenter.heroku.com/articles/slug-compiler#ignoring-files-with-slugignore)。
  • 从服务器成功拉取数据后,删除.dvc目录和.apt/usr/lib/dvc目录。

六、结果

最初的slug大小为850MB,但通过存储和软件包优化,最终的slug大小缩减到400MB。我们用一个简单的命令解决了错误代码H10,并添加opencv-python-headless软件包来解决依赖问题。本文旨在克服初学者在Heroku服务器上面临的一些常见问题。

基于Docker的部署可以解决很多存储问题,但也带来了复杂性和缓慢的部署过程。可以使用heroku container:push web,但在此之前,需要先构建Docker并测试它,在本地解决所有问题后才能推送它。这种方法是高级Heroku用户所青睐的。

下一个挑战是使用Webhook部署您的Web应用程序。这将使我们可以从任何平台自动化整个机器学习生态系统。自动化过程将需要创建一台简单的Flask Web服务器,该服务器将运行shell命令。

原文标题:Tips & Tricks of Deploying Deep Learning Webapp on Heroku Cloud,作者:Abid Ali Awan

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

 

责任编辑:华轩 来源: 51CTO
相关推荐

2012-05-29 11:02:23

ibmdw

2009-06-01 11:23:08

Glassfish部署Glassfish

2015-10-13 09:48:22

GCE网络应用云应用部署

2010-02-01 14:05:03

2024-03-05 08:00:00

人工智能Kuberneste

2010-12-31 15:29:54

Web应用程序

2011-11-25 09:55:00

MPLSWeb应用加速WAN优化

2013-11-19 15:35:01

2009-10-22 11:03:20

OSGi Web应用程

2015-10-21 13:57:09

WatchKit 要点开发

2009-04-13 11:35:55

IBMdWEclipseJava

2012-09-24 09:29:11

云应用部署云计算模式应用性能监控

2016-06-23 13:56:48

云计算应用后端

2015-02-11 09:15:46

云部署嵌套虚拟化PaaS

2021-09-07 10:24:36

Vue应用程序Web Workers

2009-04-01 14:33:33

2009-07-09 16:47:26

Servlet的Web

2011-07-05 09:48:02

云计算迁移

2022-09-08 18:45:07

Web应用程序API保护平台网络攻击

2021-11-02 17:27:40

部署高可用Kubernetes
点赞
收藏

51CTO技术栈公众号