docker如何运行tensorflow-serving及其模型?

唐·亨特7382

问题是,我想通过docker运行tensorflow-serving及其模型,但似乎
docker将使tensorflow-serving无法加载文件夹。
在容器本身中,它可以轻松加载模型:

tensorflow_model_server --port=9000 --model_name=1 --model_base_path=/models/

但是使用docker,它无法加载模型:

docker run --name tfx-test -p 8501:8501 -v "/models:/models" -e MODEL_NAME=5 -t tensorflow/serving

结果:

E tensorflow_serving/sources/storage_path/file_system_storage_path_source.cc:362] FileSystemStoragePathSource encountered a filesystem access error: Could not find base path /models/5 for servable 5

模型文件:

|--models
    |-- 1
        |-- assets
        |-- saved_model.pb
        `-- variables
            |-- variables.data-00000-of-00002
            |-- variables.data-00001-of-00002
            `-- variables.index
金托·洛纳潘(Jinto Lonappan)

docker run命令更改为:

docker run -p 8501:8501 --mount type=bind,\
source=/models/1,\
target=/models/my_model/1 \
-e MODEL_NAME=my_model -t tensorflow/serving

而且,您可以在以下位置查看模型元数据:(http://localhost:8501/v1/models/my_model/metadata假设您从运行docker localhost

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

DNNClassifier 模型到 TensorFlow Serving 模型

来自分类Dev

如何保存记录及其模型关系

来自分类Dev

如何在模板中显示父模型及其子模型

来自分类Dev

如何使用Eloquent顺序列出父模型及其子表?

来自分类Dev

如何在 Django 2.2 中克隆模型及其依赖项?

来自分类Dev

为 TensorFlow Serving 导出 textsum 模型时出现错误“str”对象没有属性“dtype”

来自分类Dev

在Android上运行Tensorflow模型

来自分类Dev

当副本包含空格时,如何使用bazel在docker build图像上交叉编译tensorflow-serving

来自分类Dev

如何每晚使用tensorflow和tensorflow对象检测研究模型构建docker映像

来自分类Dev

如何将Django模型对象及其字段和值转换为dict?

来自分类Dev

路线及其子路线中如何具有两种不同的模型?

来自分类Dev

如何在模型上使用OrderingFilter以及其他Filterset过滤

来自分类Dev

laravel如何在数据库中找到模型及其表之间的连接

来自分类Dev

路线及其子路线中如何具有两种不同的模型?

来自分类Dev

如何获取模型实例及其包含物,以及包含物的包含物?

来自分类Dev

重复模型及其关联

来自分类Dev

在 GPU 上运行我的 Tensorflow 模型的问题

来自分类Dev

向javascript提供模型及其关系模型

来自分类Dev

如何使用 REST API 端点启动 TensorFlow Serving ModelServer

来自分类Dev

在tensorflow 2.0中运行RNN LSTM模型时出现错误

来自分类Dev

运行交叉验证时,Tensorflow保存的模型变得更大

来自分类Dev

在 C++ 中使用加载的 tensorflow 模型运行推理

来自分类Dev

在 TensorFlow Lite 中运行 Keras 模型时的不同预测

来自分类Dev

获取模型子模型及其子模型laravel

来自分类Dev

如何使用Tensorflow在C ++中训练模型?

来自分类Dev

如何在联邦的Tensorflow中保存模型

来自分类Dev

如何允许将文本输入TensorFlow模型?

来自分类Dev

如何从Google Colab保存完整的Tensorflow模型

来自分类Dev

如何从GCS存储桶加载TensorFlow模型

Related 相关文章

  1. 1

    DNNClassifier 模型到 TensorFlow Serving 模型

  2. 2

    如何保存记录及其模型关系

  3. 3

    如何在模板中显示父模型及其子模型

  4. 4

    如何使用Eloquent顺序列出父模型及其子表?

  5. 5

    如何在 Django 2.2 中克隆模型及其依赖项?

  6. 6

    为 TensorFlow Serving 导出 textsum 模型时出现错误“str”对象没有属性“dtype”

  7. 7

    在Android上运行Tensorflow模型

  8. 8

    当副本包含空格时,如何使用bazel在docker build图像上交叉编译tensorflow-serving

  9. 9

    如何每晚使用tensorflow和tensorflow对象检测研究模型构建docker映像

  10. 10

    如何将Django模型对象及其字段和值转换为dict?

  11. 11

    路线及其子路线中如何具有两种不同的模型?

  12. 12

    如何在模型上使用OrderingFilter以及其他Filterset过滤

  13. 13

    laravel如何在数据库中找到模型及其表之间的连接

  14. 14

    路线及其子路线中如何具有两种不同的模型?

  15. 15

    如何获取模型实例及其包含物,以及包含物的包含物?

  16. 16

    重复模型及其关联

  17. 17

    在 GPU 上运行我的 Tensorflow 模型的问题

  18. 18

    向javascript提供模型及其关系模型

  19. 19

    如何使用 REST API 端点启动 TensorFlow Serving ModelServer

  20. 20

    在tensorflow 2.0中运行RNN LSTM模型时出现错误

  21. 21

    运行交叉验证时,Tensorflow保存的模型变得更大

  22. 22

    在 C++ 中使用加载的 tensorflow 模型运行推理

  23. 23

    在 TensorFlow Lite 中运行 Keras 模型时的不同预测

  24. 24

    获取模型子模型及其子模型laravel

  25. 25

    如何使用Tensorflow在C ++中训练模型?

  26. 26

    如何在联邦的Tensorflow中保存模型

  27. 27

    如何允许将文本输入TensorFlow模型?

  28. 28

    如何从Google Colab保存完整的Tensorflow模型

  29. 29

    如何从GCS存储桶加载TensorFlow模型

热门标签

归档