从Google教程中我们知道如何在TensorFlow中训练模型。但是,最好的方法是保存经过训练的模型,然后在生产服务器中使用基本的最小python API进行预测。
我的问题基本上是针对TensorFlow最佳实践的,它可以在不影响速度和内存问题的情况下保存模型并在实时服务器上提供预测。由于API服务器将永远在后台运行。
一小段python代码将不胜感激。
TensorFlow Serving是针对机器学习模型的高性能,开源服务系统,专为生产环境而设计,并针对TensorFlow进行了优化。初始发行版包含基于gRPC的 C ++服务器和Python客户端示例。基本架构如下图所示。
要快速入门,请查看教程。
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句