极智AI | TensorRT API构建模型推理流程
大家好，我是极智视界，本文介绍一下 TensorRT API 构建模型推理流程。TensorRT 构建模型推理一般有三种方式：(1) 使用框架自带的 TensorRT 接口，如 TF-TRT、Torch-TRT；(2) 使用 Parser 前端解释器，如 TF / Torch / ... -> ONNX -> TensorRT；(3) 使用 TensorRT 原生 API 搭建网络。....
极智AI | libtorch调用模型推理方法
大家好，我是极智视界，本文介绍一下 libtorch 调用模型推理方法。之前写了一篇《ubuntu 安装 libtorch》，所以关于 ubuntu 上安装 libtorch 的方法，有兴趣的同学可以自行查看。libtorch 是 pytorch 的 C++ 版本，支持 CPU 端和 GPU 端的模型部署。相较于用 tensorrt 部署 pytorch 模型，用 libtorch的优势在于：p....
极智AI | 教你用C++实现一般模型推理图片预处理模块
大家好，我是极智视界，本文介绍了用 C++ 实现一般模型推理图片预处理的方法，通用性较强。大家知道，对于一个视觉深度学习应用来说，主要会涉及几个流程：视频编解码、图像预处理、模型推理、后处理。这里介绍一下图像预处理的实现。以默认如下配置为例：opencv 读图、宽高均为512、三通道、均值 [0.485, 0.456, 0.406]、方差 [0.229, 0.224, 0.225]、需做归一化、....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
阿里云机器学习平台PAI
阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。
+关注