level 6
假如feature maps数据体是(10,64,64,128),10是batch_size,64是高度和宽度,128是通道数,现在想把这个batch的数据体的每个map量化成8bit,即只量化后面三维,需要怎样操作?
2018年11月26日 07点11分
1
level 3
tf.cast(feature_maps,tf.uint8)?
2018年11月26日 08点11分
2
我的意思是用8位量化把张量从最小值到最大值划分为256个level(即2的8次方),使落在每个level里的张量值用一个数字代表,不是只转化一下数据类型!
2018年11月26日 10点11分