显微成像中的深度学习

人工智能(Artificial Intelligence, AI)方法正在越来越普遍地为显微成像领域数据分析所使用。深度学习(Machine Learning, DL)是一种利用人工神经网络(Artificial Neural Network, ANN)进行学习的机器学习(Machine Learning, ML)类型。之所以称为ANN,是因为它和人类的大脑相似——神经网络中的每个“神经元”(节点)接收来自多个其他节点的输入。通过训练改变这些连接的权重,可根据指定输入对预期结果做出最佳预测。

显微成像中的深度学习产品

深度学习方法可有效承担各种图像分析任务。尼康NIS-Elements软件NIS.ai软件模块充分利用深度学习完成各种图像分析。通过分别使用我们的JOBS实验助手和General Analysis 3(GA3)模块,NIS.ai模块可与其他软件工具结合,组成自动成像和分析模块工作流。

●: 包含, ⚬: 选配

Autosignal.ai Clarify.ai Convert.ai Denoise.ai Enhance.ai Segment.ai
功能 为点扫描共聚焦成像自动确定合适的激光功率和增益。无需预训练 自动消除宽场荧光图像中的非焦面荧光信号。无需预训练。 根据透射照明通道中识别的图案预测指定通道中的图像。需要预训练。 自动消除图像噪点。无需预训练。 根据低信号图像预测高信噪比的图像。需要预训练。 根据在用户指导下的预训练识别的图案分割复杂图像特征。
所需的预训练 no no yes no yes yes
兼容的尼康系统 AX / AX R共聚焦显微镜 所有系统 所有系统AX R和A1R HD25共聚焦显微镜和CMOS相机系统。 所有系统 所有系统
软件包 Autosignal.ai Clarify.ai Convert.ai Denoise.ai Enhance.ai Segment.ai
NIS-Elements C Optional Optional Optional Optional Optional Optional
NIS-Elements AR no Optional Optional Optional Optional Optional
NIS-Elements AR ML no Optional Optional Optional Optional Optional
NIS-Elements AR Passive no Optional Optional Optional Optional Optional
NIS.ai模块 yes Optional Optional yes Optional Optional
附带反卷积模块 no Yes no no no no

关于显微成像中的深度学习

培养液中细胞球的DIC图像、真实图像和Convert.ai重建图像。即使不能重建每一个具体细节,Convert.ai也能够适当重建荧光标记的位置和形状。

认识深度学习对于显微术的好处和局限

虽然基于深度学习的算法和软件在支持光学显微图像分析方面前景十分广阔,但必须认识到这种方法绝不是“万能的灵丹妙药”,只是解决问题的不同途径而已。深度学习(DL)算法(原理是推断数据特征之间的关联性,这些数据特征不一定是显性或直观的)比经典方法更适合某些问题的解决。不过,加快图像分析速度才是人工智能(AI)对显微术而言的更大好处。

尼康NIS.ai AI模块采用的监督DL算法需要大量数据来训练神经网络。虽然尼康会预先训练一些AI模块,包括Denoise.ai、Clarify.ai和Autosignal.ai,但仍要针对指定实验使用特定采集条件训练其他模块。这可能是个漫长的过程,不过一旦完成训练,就能快速完成新数据的分析。一定要注意,结果不是真实图像。从根本上讲,这也限制了相关的应用。

以Convert.ai模块为例,我们可以训练它根据透射照明图像预测DAPI染色的细胞核。该DAPI预测通道适合用于细胞计数,主要取决于DAPI信号的正确定位。不过,需要量化信号强度的应用却不适合使用DAPI预测图像。虽然深度学习对于精确预测DAPI定位和总体染色形态是可靠的,但其并不是量化细节和稀少事件的上佳选择,后者在训练数据中没有很好的被识别,很可能会被遗漏。

使用尼康AX R共振扫描共聚焦显微镜和20X WI 0.95 NA物镜获得的荧光标记的小鼠肠道组织切片图像。

利用深度学习优化成像和分析效率

深度学习方法的优势之一是能够快速完成不同的复杂任务。它允许叠加深度学习方法,在相对较短的时间内,甚至是在短时间的成像过程中完成复杂的多重部分分析。

例如,使用尼康AX / AX R共聚焦显微镜时,只需几秒,Autosignal.ai模块就能自动确定合适的激光功率和增益。而采用经典方法则根本不可能在这么短的时间内给出相应的解决方案。对抗光漂白等影响时,即使几秒钟就能产生显著差异。

同样,Denoise.ai模块能提供接近实时的快速降噪处理。该模块是为了与Autosignal.ai协同组合而设计的——轻触按钮就能在几秒内优化成像条件。正如在视频中看到的那样,也可用类似的方式叠加其他AI模块(如Segment.ai),完成图像特征的快速分割。

NIS.ai模块可嵌入NIS-Elements软件中现有的成像和分析模块。这有助于优化高内涵型实验的效率。General Analysis 3(GA3)模块用于制作自定义测量程序,允许用户在同一流程中同时应用基于NIS.ai DL的分析和经典分析。还可利用JOBS实验助手将NIS.ai模块嵌入成像过程中。JOBS内NIS.ai模块获得的结果可用于指导实验过程。例如,您可根据分析结果自动进行目标采集,这是针对稀有事件的一种不错选择。

原始图像vsAI共振降噪延时拍摄

果蝇幼虫,样本由马里兰州贝塞斯达NIH/NIMHAmicia Elliot博士提供。拍摄于2019定量荧光显微镜课程。

采集细节:
共振扫描、尺寸1024×512,扫描速度30fps,扫描缩放×0.72,图像无平均操作
Plan Apo 4X物镜

深度学习对于活细胞成像的意义

NIS.ai AI模块带来的最大好处之一是减少光照强度。Denoise.ai和Clarify.ai无需收集额外信号就能提供更清晰的图像。Convert.ai可根据透射照明图像(如DIC)预测荧光成像通道,某些情况下甚至能完全摆脱对荧光成像的需要。Enhance.ai可根据低信号数据预测高信号图像,最大程度减少了激发所需的光照强度。

荧光显微术需要的照明强度通常比透射照明方法高得多,限制光照强度往往是活细胞成像选择的方法,尤其在研究领域中更是如此。减少光照强度对大多数成像应用有益,但对活细胞荧光成像来说更加至关重要,因为光漂白和光毒性是活细胞成像的首要问题。

NIS.ai模块的训练简单明确。该软件实时显示训练进度(图示为Enhance.ai模块)。

利用Enhance.ai模块分析低信号DAPI图像数据(左),以预测高信号(右)。

人工智能和深度学习在显微术中的发展方向

相对而言,在显微术中应用人工智能和深度学习仍处于早期阶段,不断发表的新研究和新应用正在向前推进这一领域。考虑到深度学习方法的潜力,以及此类方法将迅速成为主流,人工智能和显微成像领域必须提出针对相关应用的明确指导方针和质量指标,使没有计算机背景的非专业人士有信心利用这些工具从事同行评议研究。

经过预训练的尼康AI模块(目前包括Clarify.ai和Denoise.ai)不允许手动调整分析“强度”之类的模糊设置,避免因用户偏见影响结果的可能。Clarify.ai或Denoise.ai的每一个用户都在使用和其他用户一样的经过预训练的神经网络。

对于必须接受训练的NIS.ai模块,包括Convert.ai、Enhance.ai和Segment.ai,其具有用于网络训练的直观的图形用户界面。用户可以监视训练过程,包括实时查看迭代次数和训练损失。

词汇表

兼容的尼康系统
兼容的尼康显微镜/系统类型(以可采集数字图像的系统配置为前提)。
功能
NIS.ai软件模块功能汇总。
所需的预训练
面向图像分析的深度学习神经网络的训练往往利用具有配对图像数据的监督学习进行:即一张输入图像(训练后将分析的图像类型)和一张满足所需条件的相同区域的真实图像。可通过调整神经网络内各节点的权重尽量减小预测输出图像与真实图像之间的误差。
软件包
可购买的NIS-Elements软件包和软件模块列表。如表中所注明的那样,各NIS.ai模块可能包含在内,也可能需要针对不同的软件包和模块选购。