怎样把一个张量量化?
tensorflow吧
全部回复
仅看楼主
level 6
假如feature maps数据体是(10,64,64,128),10是batch_size,64是高度和宽度,128是通道数,现在想把这个batch的数据体的每个map量化成8bit,即只量化后面三维,需要怎样操作?
2018年11月26日 07点11分 1
level 3
tf.cast(feature_maps,tf.uint8)?
2018年11月26日 08点11分 2
我的意思是用8位量化把张量从最小值到最大值划分为256个level(即2的8次方),使落在每个level里的张量值用一个数字代表,不是只转化一下数据类型!
2018年11月26日 10点11分
level 2
你说的是不是转为单通道的灰度图?
2019年03月17日 09点03分 5
level 1
楼主你现在会了吗,我现在遇到了同样的问题
2019年09月15日 09点09分 6
1