参考: https://blog.csdn.net/qq_44442727/article/details/112977805 https://blog.csdn.net/random_repick/article/details/115526700 https://blog.csdn.net/weixin_39450145/article/details/104801730
一、设备及环境 win7 anaconda3 2019.03(Python 3.7.3 64-bit) PyCharm 2021.1.3
二、遇到过的问题 1、import cv2出错ModuleNotFoundError: No module named ‘cv2’
解决: pip install opencv-python (如果只用主模块,使用这个命令安装) pip install opencv-contrib-python (如果需要用主模块和contrib模块,使用这个命令安装)
pip list查看已有包 2、运行报错
解决:查看发现只存在D:\PycharmProjects\pythonProject2路径,因此手动在pythonProject2文件夹中新建文件夹fm,fm中新建名称为2的文件夹。
运行成功
三、完整代码
import torch
from torchvision import models, transforms
from PIL import Image
import matplotlib.pyplot as plt
import numpy as np
import scipy.misc
import cv2, imageio
# 将输入图片转化为卷积运算格式tensor数据
def transfer_image(image_dir):
# 以RGB格式打开图像
# Pytorch DataLoader就是使用PIL所读取的图像格式
# 建议就用这种方法读取图像,当读入灰度图像时convert('')
image_info = Image.open(image_dir).convert('RGB')
# 数据预处理方法
image_transform = transforms.Compose([
transforms.Resize(1024),#放缩图片大小至1024*1024
transforms.CenterCrop(672),#从图象中间剪切672*672大小
transforms.ToTensor(),#将图像数据转化为tensor
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])#归一化处理
])
image_info = image_transform(image_info)#更新载入图像的数据格式
#下面这部分是tensor张量转化为图片的过程,opencv画图和PIL、torch画图方式
# array1 = image_info.numpy()
# maxvalue = array1.max()
# array1 = array1*255 / maxvalue
# mat = np.uint8(array1)
# print('mat_shape',mat.shape)
# mat = mat.transpose(1,2,0)
# cv2.imwrite('convert_cocomi1.jpg',mat)
# mat=cv2.cvtColor(mat,cv2.COLOR_BGR2RGB)
# cv2.imwrite('convert_cocomi2.jpg',mat)
image_info = image_info.unsqueeze(0)#增加tensor维度,便于卷积层进行运算
return image_info
# 获取第k层的特征图
def get_k_layer_feature_map(feature_extractor, k, x):
with torch.no_grad():
#feature_extractor是特征提取层,后面可以具体看一下vgg16网络
for index,layer in enumerate(feature_extractor):
x = layer(x)#x是输入图像的张量数据,layer是该位置进行运算的卷积层,就是进行特征提取
# print('k values:',k)
# print('feature_extractor layer:',index)
if k == index:#k代表想看第几层的特征图
return x
# 可视化特征图
def show_feature_map(feature_map, k):
feature_map = feature_map.squeeze(0)#squeeze(0)实现tensor降维,开始将数据转化为图像格式显示
feature_map = feature_map.cpu().numpy()#进行卷积运算后转化为numpy格式
feature_map_num = feature_map.shape[0]#特征图数量等于该层卷积运算后的特征图维度
# row_num = np.ceil(np.sqrt(feature_map_num))
# plt.figure()
for index in range(1, feature_map_num+1):
fw = np.int64(feature_map[index-1] > 0)
imageio.imwrite("fm/"+str(k)+'/'+str(index)+".png", fw)
# plt.show()
if __name__ == '__main__':
# 初始化图像的路径
image_dir = 'images/hw.jpg'
# 定义提取第几层的feature map
k = 2
# 导入Pytorch封装的vgg16网络模型
model = models.vgg16(pretrained=False)
# 是否使用gpu运算
use_gpu = torch.cuda.is_available()
use_gpu =False
# 读取图像信息
image_info = transfer_image(image_dir)
# 判断是否使用gpu
if use_gpu:
model = model.cuda()
image_info = image_info.cuda()
# vgg16包含features和classifier,但只有features部分有特征图
# classifier部分的feature map是向量
feature_extractor = model.features
feature_map = get_k_layer_feature_map(feature_extractor, k, image_info)
show_feature_map(feature_map, k)
四、以下内容是粘贴别人的,暂时先放着,等我理解了再回来改
首先是一张三通道的彩色图像进入卷积层,进行运算的时候,图像是分成三个通道单独进行卷积操作再相加得到特征图,经过第一层卷积层时,有64个卷积核(人为设置),与每一个卷积核运算都会产生一张特征图,这时,一张图像的输出就变成了64维的特征图,就是64张特征图,并以tensor的形式流动,后续的卷积池化都是这个原理。 有时一次处理多张图片时,tensor的形式又会有新变化,大家可以看这个:mini-batch批处理https://blog.csdn.net/qq_44442727/article/details/112972167 进行卷积运算后,特征图仍然以张量的形式存在,要想特征图可视化,就要将tensor转化为numpy形式可以让cv库画出来。这些可以从贴出代码去理解,具体画图方式的区别是:opencv支持的图像数据是numpy格式,数据类型为uint8,像素值分布在[0,255], 但是tensor数据像素值并不是分布在[0,255],且数据类型为float32,所以需要做一下normalize和数据变换,将图像数据扩展到[0,255]。还有一点是tensor和numpy存储的数据维度顺序不同,需要transpose进行转化对应。还有是opencv中的颜色通道顺序是BGR而PIL、torch里面的图像颜色通道是RGB,利用cvtColor对颜色通道进行转换。
|