micro-sam微调模型选择清单:LM、EM、组化病理、医学影像4大领域怎么选最优模型?
【免费下载链接】micro-samSegment Anything for Microscopy项目地址: https://gitcode.com/gh_mirrors/mi/micro-sam
micro-sam(Segment Anything for Microscopy)是在 Meta 的 Segment Anything(SAM)基础上专为显微镜与生物医学影像打造的全自动、交互式标注工具,内置多组微调模型:涵盖光镜(LM)、电镜(EM)、组织病理(Histopathology)与医学影像(Medical Imaging)4大领域,通过vit_b_lm、vit_b_em_organelles等命名区分。选对模型,标注效率与分割质量会显著提升——下面这份清单帮你一次性选对。🎯
4大领域微调模型速查表
先看结论,按你的数据模态对号入座:
| 数据领域 | 模型类型 | 可选尺寸(model size) | 擅长分割什么 |
|---|---|---|---|
| 🧫 光镜 Light Microscopy | Light Microscopy | vit_l_lm/vit_b_lm/vit_t_lm | 细胞、细胞核 |
| 🔬 电镜 Electron Microscopy | Electron Microscopy | vit_l_em_organelles/vit_b_em_organelles/vit_t_em_organelles | 线粒体、细胞核等圆形细胞器 |
| 🩻 医学影像 Medical Imaging | Medical Imaging | vit_b_medical_imaging | CT、MRI、X 光、超声等交互式分割 |
| 🧬 组织病理 Histopathology | Histopathology | vit_h_histopathology/vit_l_histopathology/vit_b_histopathology | H&E 染色切片中的细胞核 |
| 🖼️ 自然图像(兜底) | Natural Images (SAM) | vit_h/vit_l/vit_b/vit_t | 上述领域之外的通用场景 |
💡 通用模型(SAM 原版)来自 Nature Methods 论文《Segment Anything for Microscopy》,医学影像模型来自 MedicoSAM,病理模型来自 PathoSAM。
在标注工具顶部,左侧Model下拉框选择模型类型(4大领域一目了然),右侧Embedding Settings中的model size下拉框选择尺寸,默认使用base。
光镜(LM):选 vit_b_lm 就对了
如果你的数据是明场、荧光、共聚焦、相衬等光镜图像,目标物是细胞或细胞核:
- 首选
vit_b_lm:官方推荐的"黄金基准",质量和速度平衡最好; - 追求更高质量选
vit_l_lm:尤其跑自动分割时优势更明显,但需要更多算力; - 算力有限选
vit_t_lm:速度最快,适合笔记本上标注大量图片或体数据,质量略降。
下图是官方 LM 微调模型与原版 SAM 的分割效果对比(左 Default SAM / 右 Finetuned SAM):在荧光、明场、组织等数据上,微调模型明显更贴合真实细胞边界。
电镜(EM):mito/nuc 模型专攻线粒体与细胞核
电镜数据纹理与自然图像差异巨大,原版 SAM 经常"翻车"。分割线粒体、细胞核或其他圆形细胞器时:
- 选
vit_b_em_organelles(默认)或vit_l_em_organelles(更高质量); - 该领域同样提供
vit_t_em_organelles加速版本。
从官方对比图可以看到,神经元、SEM 细胞等复杂结构上,微调后黄色轮廓线与真实边界贴合度大幅提升。
医学影像:vit_b_medical_imaging 一个就够
处理X 光、CT、MRI、超声等医学影像数据时,选择vit_b_medical_imaging做交互式分割。目前该领域仅提供 base 尺寸一个选项,开箱即用。
组织病理(组化病理):H&E 切片核分割
病理切片中细胞核密集且大小不一,需要更强的编码器:
- 日常使用选
vit_b_histopathology或vit_l_histopathology; - 官方未推荐使用最大的
vit_h_histopathology——总体没看到相对小尺寸模型的优势,资源消耗却明显更高。
如何选模型尺寸:tiny / base / large / huge 速查
| 尺寸 | 特点 | 适用场景 |
|---|---|---|
vit_t(tiny) | ⚡ 速度最快,质量略低 | 笔记本、大批量标注、体数据 |
vit_b(base) | ⚖️ 质量与速度平衡 | 大多数场景的默认选择 |
vit_l(large) | 🏆 质量最佳,算力更高 | 自动分割、高质量需求 |
vit_h(huge) | 🐘 官方不推荐 | 资源消耗大,无明显优势 |
一句话心法:先vit_b,要质量上vit_l,要速度降vit_t,跳过vit_h。
选不对?用你自己的数据微调
如果通用模型在你的数据上效果不佳,micro-sam 支持用自己的数据微调(完整代码见 finetuning/):
- 快速上手:finetuning/livecell_finetuning.py 用 LIVECell 数据集跑通整个微调→推理→评估流程;
- 训练领域通用模型:finetuning/generalists/training/ 下分 light_microscopy、electron_microscopy、histopathology 三个子目录。
微调完成后,在标注工具、Python 库(model_type参数,参考 examples/annotator_2d.py)或命令行接口中指定你的模型即可。各模型的自动分割参数按模型类型预设好,见 micro_sam/_model_settings.py。
上手三步走
- 安装:
conda install -c conda-forge micro_sam; - 运行
napari,在Plugins → Segment Anything for Microscopy打开标注工具(参考 doc/annotation_tools.md); - 按上面清单选好模型类型 + 尺寸,加载图像开始标注。
总结:一张清单记住选型规则
- ✅ 光镜细胞/核 →
vit_b_lm(要质量用vit_l_lm) - ✅ 电镜线粒体/核 →
vit_b_em_organelles - ✅ 医学影像交互式分割 →
vit_b_medical_imaging - ✅ 病理切片核 →
vit_b_histopathology/vit_l_histopathology - ✅ 其他场景 → 原版 SAM(
vit_b/vit_l) - ✅ 通用规则:tiny 要速度、base 求平衡、large 拼质量、huge 不推荐
- ✅ 都不理想 → 用自己的数据微调
更多细节可查阅 doc/finetuned_models.md,祝你标注顺利!🚀
【免费下载链接】micro-samSegment Anything for Microscopy项目地址: https://gitcode.com/gh_mirrors/mi/micro-sam
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考