TensorFlow目标检测接口tflite量化模型的相关内容

阿里云文档 2025-04-14

如何使用PAI-Blade的SDK部署TensorFlow模型推理

PAI-Blade提供了C++ SDK帮助您部署优化后的模型推理。本文以TensorFlow模型为例，介绍PAI-Blade的SDK的使用方法。

阿里云文档 2024-01-03

如何使用Blade优化通过TensorFlow训练的BERT模型

BERT（Bidirectional Encoder Representation from Transformers）是一个预训练的语言表征模型。作为NLP领域近年来重要的突破，BERT模型在多个自然语言处理的任务中取得了最优结果。然而BERT模型存在巨大的参数规模和计算量，因此实际生产中对该模型具有强烈的优化需求。本文主要介绍如何使用Blade优化通过TensorFlow训练的BERT模型。

阿里云文档 2023-09-13

如何使用Blade优化基于TensorFlow的ResNet50模型_人工智能平台 PAI(PAI)

ResNet50作为一个广泛应用的经典结构网络，其优化在多种推理部署场景中都具有很高的实用价值。本文介绍如何使用Blade优化基于TensorFlow的ResNet50模型。

阿里云文档 2023-03-24

如何将Tensorflow,Pytorch和Python等模型部署到Seldon中

DataScience集群的KubeFlow服务内置了SeldonCore组件，可以为模型提供在线服务，基于Kubernetes，您无需关心在线服务的运维工作。您可以根据提供的dsdemo代码，将Tensorflow，Pytorch和Python等模型部署到Seldon中。

文章 2023-02-03 来自：开发者社区

Tensorflow目标检测接口配合tflite量化模型（二）

转pb文件使用export_inference_graph.py（在object detection目录下）导出pb文件：python export_inference_graph.py \ --input_type image_tensor \ --pipeline_config_path=ssd_mobilenet_v2_coco.config \ --trained_checkpoi...

文章 2023-02-03 来自：开发者社区

Tensorflow目标检测接口配合tflite量化模型（一）

1. 部署环境：在PC上安装CUDA10和对应cuDNN，网上教程很多，这里不再累赘，推荐使用conda集成环境，1. 新建python环境，2. 安装tensorflow-gpu=1.13, TensorFlow对象检测API需要使用其GitHub存储库中提供的特定目录结构, 所以第三步：从GitHub下载TensorFlow对象检测API存储库(下载TF V1.13版本，这里要与我们Pyt....

阿里云文档 2022-03-14

如何使用AICompiler对TensorFlow和PyTorch模型进行编译优化

AICompiler是集成在PAI-Blade中的AI编译优化组件，包含Static Shape和Dynamic Shape编译框架。通常您无需提供额外配置，AICompiler即可在通用透明的情况下帮助您提高推理性能。本文介绍如何使用AICompiler对TensorFlow和PyTorch模型进行编译优化。