基于pytorch的卷积神经网络量化实现
生活随笔
收集整理的這篇文章主要介紹了
基于pytorch的卷积神经网络量化实现
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
# 卷積神經網絡量化
1,神經網絡和卷積神經網絡模型量化方法,主要包括線性量化和聚類量化兩種方法。
2,可指定模型進行定點話,并輸出量化后參數統計和finetune,可設置任意bit量化。
3,支持MLP,Lenet,Alexnet,VGG,GoogleNet系列,Resnet系列,MobileNet系列的量化。
下載地址:下載地址
# 部分代碼--線性量化
#!/usr/bin/env python
# coding: utf-8# In[25]:import torch
import torch.nn as nn
import torch.nn.functional as F
from torchvision import datasets, transforms
import torch.utils.data
import numpy as np
from sklearn.cluster import KMeans
import math
from copy import deepcopy# In[26]:def quantize_tensor(x, num_bits=8):qmin = 0.qmax = 2.**num_bits - 1.min_val, max_val = x.min(), x.max()scale = (max_val - min_val) / (qmax - qmin)initial_zero_point = qmin - min_val / scalezero_point = 0if in
總結
以上是生活随笔為你收集整理的基于pytorch的卷积神经网络量化实现的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 原创:剖析赤壁之战中,兵强马壮的曹军,为
- 下一篇: 工业界AI项目落地血泪教训总结