深度神经模型量化基础学习
[TOC]
文章参考:https://blog.csdn.net/u010420283/article/details/114483073
文章参考:https://www.cvmart.net/community/detail/6015
文章参考:https://zhuanlan.zhihu.com/p/453992336
文章参考:https://zhuanlan.zhihu.com/p/149659607
文章参考:https://github.com/Ewenwan/MVision/tree/master/CNN/Deep_Compression/quantization
文章参考:https://www.cnblogs.com/ywheunji/p/13348190.html
概述随着深度学习的发展,神经网络被广泛应用于各种领域,模型性能的提高同时也引入了巨大的参数量和计算量。模型量化是一种将浮点计算转成低比特定点计算的技术,可以有效的降低模型计算强度、参数大小和内存消耗,但往往带来巨大的精度损失。尤其是在极低比特(<4bit)、二值网络(1bit)、甚至将梯度进行量化 ...
onnxruntime.InferenceSession方法代码示例
[TOC]
概述本文整理汇总了Python中**onnxruntime.InferenceSession**方法*的典型用法代码示例。如果您正苦于以下问题:Python onnxruntime.InferenceSession方法的具体用法?Python onnxruntime.InferenceSession怎么用?Python onnxruntime.InferenceSession使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类*onnxruntime的用法示例。
在下文中一共展示了onnxruntime.InferenceSession方法的20个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于我们的系统推荐出更棒的Python代码示例。
示例1: main1234567891011121314151617181920212223242526# 需要导入模块: import onnxruntime [as 别名]# 或者: from onnxruntime import Infer ...
ONNX获取中间Node的inference shape的方法
[TOC]
概述很多时候发现通过tensorflow或者pytorch转过来的模型是没有中间的node的shape的,比如下面这样:
原理ONNX本身提供了进行inference的api:
1shape_inference.infer_shapes()
但是呢,这里进行inference并不是根据graph中的tensor,而是根据graph的input中各个tensor的tensor_value_info。所以我们需要做的就是根据各个tensor的信息创建出对应的tensor_value_info之后将其append进graph.inputs即可。 最开始我进行infer_shapes之后发现没用就是因为graph.inputs中的tensor_value_info只有input node的。
1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253import onnxfrom onnx.tools import update_ ...
onnxruntime.InferenceSession方法代码示例
[TOC]
文章参考:https://blog.csdn.net/baidu_34595620/article/details/112176278
概述OnnxRuntime多输入与多输出的实现文章参考:https://www.zhihu.com/question/433596395
Tensorflow的基础介绍
[TOC]
概述文章参考:http://c.biancheng.net/view/1881.html
我们先看一个网站:http://www.image-net.org/
文章参考:https://www.cnblogs.com/nickchen121/p/10840284.html
文章参考:https://blog.csdn.net/markmin214/article/details/90523706
文章参考:https://zhuanlan.zhihu.com/p/59507137
Tensorflow介绍Tensorflow是Google研发的第二代人工智能系统。是一个进行图像识别和分类的开源软件库。
Tensorflow采取数据流图,用于数值计算的开源库。
功能强大。支持多重平台-GPU、CPU、移动设备
最初用于深度学习,变得愈来越强大,变得越来越通用。
Tensorflow是什么Tensorflow是数据流图,其中包括节点和线。节点用于处理数据、线用于处理节点之间的输入输出关系。线上用于传输张量。节点可以被分配到各种设备进行进行执行。
节点- 处理数据
线- 节点之间 ...
Tensorflow的基础介绍
[TOC]
概述
Anaconda环境搭建文章参考:https://weread.qq.com/web/reader/47432a3072021a1c4749d92kd3d322001ad3d9446802347
文章参考:https://cloud.tencent.com/developer/article/1649008
MacOS上安装Tensorflow2.0Anaconda3的下载地址:https://www.anaconda.com/products/individual
安装,一路Next。
Linux系统中安装Anaconda升级到pip最新版本
在写这篇文章的时候,Anaconda 最新绑定版本是 2020.02。在下载安装脚本之前,浏览下载页面,并且检查是否有更新的Anaconda 可用。
Ubuntu上面怎么使用Anaconda
123456789101112131415161718conda infoconda --version # 获取conda版本号 conda info ...
Tensorflow的基础介绍
[TOC]
概述Keras已经成为Tensorflow的官方的API
基于python的高级神经网络的API
Keras中的数据集Boston_housing 波士顿房价数据集
CIFAR10 10种类别的图片集
CIFAR100 100种类别的图片集
MNIST 手写数组图片集
Fashion-MNIST 10种时尚类别的图片集
IMDB 电影点评数据集
reuters 路透社新闻数据集
理论部分Tensorflow-keras简介
Tensorflow-keras的同一套API
Tf-keras全面支持eager mode
只是使用keras.Sequential和keras’
Tf-keras支持基于tf.data的模型训练
Tf.keras支持TPU训练
Tf.keras支持tf.distribution中的分布式策略
其他特性
分类问题、回归函数、损失函数
神经函数、激活函数、拟归一化、Dropout
Wide&deep模型
超参数搜索
实战部分Keras搭建分类模型
Keras回调函数
Keras搭建回归模型
K ...
Tensorflow的基础介绍
[TOC]
概述Tensorflow2.0将动态图机制作为默认的模式,删除了大量过时和重复的API。将tf.keras作为用于构建和训练模型的标准高阶API
Tensorflow2.0支持更多的平台和语言。因为Tensorflow2.0更加容易学习和应用。
TensorTensorflow中的Tensor表示张量。其实就是多维数组
python中的列表list
Numpy中的数组对象ndarray
他们都可以作为数据的载体。他们之间有什么区别呢?
Tensorflow中的基本运算、参数命名、运算规则、API的设计等与numpy非常相近
创建(Tensor)张量张量由Tensor类实现。每个张量都是一个Tensor对象
通过tf.constant()函数创建张量
1234567tf.constant(value,dtype,shape)# value:数字、pyton列表、Numpy数组# dtype:元素的数据类型# shape:张量的形状#下面的demo例子tf.constant([[1,2],[3,4]])
Tensorflow所有的张量多可以tensor.numpy()方法得到 ...
Tensorflow中2.0的数据集的使用
[TOC]
概述鸢尾花数据集鸢尾花数据集下载:
Pandas二维数据处理工具
[TOC]
概述Pandas库
用于数据统计和分析