癌症是发病率和死亡率最高的重大疾病之一，严重威胁着人类健康。病理细胞图像分析是癌症肿瘤诊断中关键的步骤，也是癌症肿瘤诊断的“黄金标准”。组织病理图像中有丝分裂细胞的计数是癌症分级评估的重要指标之一。由于生物细胞图像本身属性，普通人无法在癌症切片组织细胞图像中识别细胞是否在进行有丝分裂，故需要大量的专家来对有丝分裂细胞样本进行标注。然而，人工检测和计算有丝分裂细胞的过程非常冗长，而且不同医生之间的诊断结果有较大差异性。有丝分裂细胞数据的严重匮乏，对计算机辅助癌症病理图像的有丝分裂细胞的自动检测准确率造成了不可忽视的影响。因此，在临床中迫切需要能够定量地通过计算机实现癌症病理图像的有丝分裂细胞的自动检测和计数的方法。

本文第二章介绍了几种不同形式的生成式对抗网络，详细论述这几种生成式对抗网络在建模、架构、训练和性能评估方面的研究进展及其具体应用现状。然后，根据癌细胞、正常细胞和有丝分裂细胞的细胞形态的外观变化，选择循环一致对抗神经网络(CycleGAN)模型作为研究工具。通过将对抗损失与循环一致性损失相结合的无监督学习，分别得到乳腺癌H&E染色病理图像中的有丝分裂细胞图像和正常细胞图像、有丝分裂细胞图像和癌变细胞图像之间的映射关系，实现不同细胞类型图像之间的相互转换，生成更多的有丝分裂细胞图像。经过病理医师的验证，这些生成的有丝分裂细胞样本具有较高真实性。

本文第三章提出了一个基于多粒度级联森林的特征区域检测方法，(Regions with multi-Grained Cascade forest features，RgcForest)，将gcForest分类方法应用到乳腺肿瘤细胞图像的细胞有丝分裂检测问题，借助gcForest良好的特征提取和分类性能，通过候选区域方法(Region Proposal)实现目标检测问题的转化。首先在原始算法上增加滑动窗口功能，然后把剪切好的图像给输入进去，并判断是否有丝分裂细胞，如果是则给出坐标。然后，为了减少检测结果中不必要的边框(bounding box)，在gcForest算法上实现了非极大值抑制算法。最后，仿照CNN到RCNN的演进，增加边框坐标回归(bounding box regression)过程，进一步提高定位效果。实验选择第二章用CycleGAN模型生成的有丝分裂样本作为正样本，选择癌变细胞、正常细胞和细胞质背景图像作为负样本，在原始的gcForest框架上训练输出图像的概率值，再利用检测框架有效准确地检测有丝分裂细胞。

本文第四章提出了一种基于矩阵低秩多层分解表示级联分类器的乳腺癌病理学图像有丝分裂检测方法，将同一病患不同切片中的非有丝分裂部分看作是低秩表示模型中的低秩部分。由于有丝分裂的细胞在各个时期的形态各异，且同一时期不同的细胞核在进行有丝分裂阶段的形状和纹理变化也不尽相同，故将其看作是低秩表示中的稀疏部分。该方法采用迭代的方式对原始数据矩阵进行低秩分解，不仅可以使新的低秩矩阵的秩逐渐降低，避免了由于参数选择的不合理造成的图像表示能力下降的问题，而且在逐层的矩阵低秩多层分解中尽可能多地排除掉有丝分裂候选结果。针对矩阵低秩多层分解模型的不同层表示，设计和训练该层对应的级联分类器。将矩阵深度低秩分解模型中每一层分解出来的含有有丝分裂的细胞和非有丝分裂部分的所有图像块，分别输入对应的级联分类器中，可以准确地检测乳腺癌病理图像中的有丝分裂细胞。和己有的方法相比，所提方法能够快速方便的得到检测结果，不需要进行非常困难的细胞分割、模型训练等过程，为临床应用提供了一种可能。