自监督学习助力硅藻分类：大幅削减标注需求，推动生命科学研究新进展

在深度学习用于硅藻分类面临标注数据稀缺难题时，研究人员开展 “Scaling down annotation needs: The capacity of self - supervised learning on diatom classification” 主题研究。结果表明自监督预训练模型能提升标注数据利用效率，减少标注需求。这为生命科学相关研究提供新途径，意义重大。

　　在生命科学的大舞台上，硅藻可是一位举足轻重的 “角色”，它作为评估环境健康状况的重要生物标志物，一直备受科研人员关注。以往，通过光学显微镜对硅藻进行分类，那可是一项既耗时又费力的活儿，需要科研人员花费大量的时间和精力。随着深度学习技术的蓬勃发展，传统的硅藻分类方式迎来了变革的曙光，仿佛给这项工作注入了一股强大的 “科技力量”。然而，在实际应用中，常用的监督学习方法却遭遇了 “瓶颈”，它需要大量经过标注的数据，而标注硅藻图像可不是一件轻松的事，必须要有经验丰富的分类学专家凭借专业的生物学知识才能完成，这就导致了该领域标注数据极度匮乏。一些研究试图通过优化标注流程来解决这个问题，但获取准确且一致的标注数据成本依旧很高；还有研究尝试利用主动学习技术，可这依旧摆脱不了耗时的困扰。因此，如何提高现有标注数据的利用效率，同时减少对标注数据的依赖，成为了亟待解决的关键问题。

为了攻克这些难题，德国比勒费尔德大学生物数据挖掘小组（Biodata Mining Group, Faculty of Technology, University of Bielefeld）等机构的研究人员开展了一项关于 “Scaling down annotation needs: The capacity of self - supervised learning on diatom classification” 的研究。研究发现，自监督预训练模型能够显著提升现有标注数据的利用效率，而且数据集规模越小，这种优势就越明显。通过对模型进行微调，仅使用极少的标注数据（例如每个类别 50 个样本），就能达到与全监督学习相当的宏观平均准确率，这意味着对分类学专家标注工作的依赖减少了约 96%。延长预训练阶段至 1600 个 epoch 后，每个类别仅需 30 个样本就能实现相似的准确率。该研究成果发表在《iScience》上，为硅藻分类研究开辟了新的方向，也为生命科学领域其他面临标注数据稀缺问题的研究提供了宝贵的借鉴。

研究人员在开展研究时，运用了多种关键技术方法。他们使用了大规模的硅藻图像数据集，该数据集包含 83,583 张图像，代表 611 种不同的硅藻分类群。在实验中，对图像进行了一系列处理，包括调整大小等操作。模型构建方面，采用了 ViT、ResNet - 50 和 MAE 等模型，并利用 PyTorch 框架进行模型的搭建和训练。在训练过程中，设置了不同的参数，如优化器、学习率调度等。同时，采用了自监督学习的方式，让模型从无标签数据中学习特征表示。

实验结果

1. 模型的最优分类性能：在 “Comparative MAE Performance” 实验中，研究人员对多种模型进行了微调测试。以初始化自 ImageNet 的视觉 Transformer 模型 ViT_IN为基线，其在不同数据集上有不同的准确率。ResNet - 50 模型相比基线有小幅度的提升。而初始化自 ImageNet 的 MAE 模型（MAE_IN）提升更为显著，且数据集越小提升越明显。值得注意的是，在包含所有可用标注和未标注数据的综合数据集上预训练的 MAE 模型，始终优于其他模型，在较小数据集上优势更为突出。
2. 模型提高硅藻分类效率：在 “Annotation Effort Reduction Study” 实验中，研究人员探索了不同模型在减少标注数据情况下的表现。结果显示，ViT_IN在全训练数据上进行全监督微调的准确率为 90.00%。RN_IN模型在各个子集上均超过基线。MAE_IN模型性能又优于 RN_IN模型。MAE 模型在使用 D₅₀^t进行微调时，准确率达到 90.17%，超过了全训练集上的基线性能。预训练时间更长的 MAE 模型，在使用 D₃₀^t进行微调时，准确率达到 90.38%。

研究结论与讨论

该研究成功地将自监督学习应用于硅藻分类，有效解决了标注数据稀缺的问题。MAE 模型在不同数据集上的表现优于 ViT_IN和 RN_IN，尤其是在小数据集上。这表明自监督学习能够让模型从无标签数据中学习到有用的结构信息，充分利用现有资源。减少训练所需的标注数据量，在生命科学应用中具有重要的实用价值，极大地提高了研究的成本效益。通过公开预训练模型，为其他研究人员提供了便利，推动了硅藻研究领域的进一步发展。这一研究成果为解决生命科学中类似的标注难题提供了新的思路和方法，在水质分析、海洋生物学和环境研究等领域具有广阔的应用前景，有助于突破这些领域因标注数据稀缺而导致的研究瓶颈，为相关研究的深入开展奠定了坚实的基础。