- 论文:SpineGEM: A Hybrid-Supervised Model Generation Strategy Enabling Accurate Spine Disease Classification with a Small Training Dataset
- 收录情况:2021MICCAI
- 使用自监督方法训练encoder,全监督finetune并训练classifier
1. Abstract
大多数基于深度学习的MRI分析方法需要大量的标注数据,但是数据标注过程费时费力。这篇文章中,使用了一种多监督(hybrid-supervised)模型生成的方法,叫做SpinGEM,对于腰椎退行性疾病(LDD)的多病理分类任务中表现优越。一个自监督过程被用来生成预训练的模型,这个过程未使用任何标签,并且通过MRI-SegFlow(这也是本文作者的基于投票机制的一种无监督分割方法)自动生成的脊柱(VBs)和腰椎盘(IVDs)mask标签使得有关病理的先验信息融合到模型中。通过在一个较小医学数据集上对模型finetune,能够获得精确的病理分类。SpinGEM方法在数据集HKDDC(私有数据集)被验证对于四种疾病Schneiderman Score, Disc Bulging, Pfirrmann Grading, Schmorl’s Node分类是有效的。
2. Introduction and Methodology
受启发于周纵纬的Model Genesis,我们的多监督生成策略包括(1)自监督的预训练;(2)对特定任务的finetune。模型包括一个预训练的encoder头和特定任务的分类头。 贡献点:(1)提出了一个多监督生成策略SpinGEM来对腰椎多种疾病进行分类;(2)和SOTA的自监督方法进行了对比,验证了这个方法在MRI腰椎退行性疾病数据的有效性。
2.1 Preprocessing
首先,使用无监督分割方法MRI-SegFlow对脊柱和椎盘进行分割。 然后,对所有局部的分割矩形,提取长、宽、中心点和旋转角,并且所有的3D MRI图取中间的9张slides,然后对所有分割矩形进行双线性差值resize成1502009的大小。
2.2 Self-supervied Encoder Pretraining
首先,对上一步得到的分割矩形进行随机转换(random transformation)。对原图通过公式
f
(
x
)
=
a
+
(
?
1
)
a
x
b
,
a
∈
{
0
,
1
}
,
b
∈
(
1
/
2
,
2
)
f(x)=a+(-1)^ax^b, a\in \{0, 1\}, b\in(1/2, 2)
f(x)=a+(?1)axb,a∈{0,1},b∈(1/2,2)进行像素强度转换,对分割mask进行closing操作,去掉分割细节部分,然后在原图对mask区域内进行模糊化或者像素值用平均像素代替。
然后,encoder pretrain的过程中对上述处理过的图进行图像复原操作,encoder-decoder的输出与原图计算
l
2
l_2
l2?损失。
2.3 Task Specified Finetuning
取出图像复原网络的encoder部分,在后面加上两层全链接层,使用标注的分类图像及其label对网络进行finetune。
3. Experiment
Implement details部分不贴出来了,直接放试验结果。 作者和无监督方法、有监督方法、自监督方法比较,平均准确率和平均召回率都最高。
|