Deep Learning en microscopie

Les méthodes d'intelligence artificielle (IA) gagnent en popularité pour l'analyse des données de microscopie. Le Deep Learning (DL) est un type d'apprentissage automatique (ML) qui utilise un réseau de neurones artificiels (ANN) pour l'apprentissage. Les ANNs sont ainsi nommés en raison des similitudes avec notre propre cerveau - chaque « neurone » (nœud) du réseau reçoit des entrées de plusieurs autres nœuds. Le processus de formation modifie le poids de ces connexions pour prédire au mieux les résultats attendus d'une entrée donnée.

Produits pour le Deep Learning en microscopie

Les approches DL peuvent être avantageusement appliquées à une variété de tâches d'analyse d'images. Les modules logiciels NIS.ai de Nikon pour le logiciel NIS-Elements exploitent DL pour diverses analyses d'images. Les modules NIS.ai peuvent être combinés avec d'autres outils logiciels dans le cadre de pipelines d'imagerie et d'analyse automatisés à l'aide de notre assistant d'expérimentation JOBS et du module General Analysis 3 (GA3), respectivement.

●: Inclus, ⚬: Optionnel

Autosignal.ai Clarify.ai Convert.ai Denoise.ai Enhance.ai Segment.ai
Fonction Détermine automatiquement la puissance et le gain laser optimaux pour l'imagerie confocale à balayage laser. Supprime automatiquement le signal de fluorescence flou des images en fluorescence sur champ large. Prédit des images dans un canal donné à partir de modèles identifiés dans un canal de lumière transmise. Supprime automatiquement le bruit de l'image. Prédit une image avec un rapport signal/bruit amélioré à partir d'une image à faible signal. Prédit une image avec un rapport signal/bruit amélioré à partir d'une image à faible signal.
Préformation requise non non Oui non Oui Oui
Systèmes Nikon compatibles Microscopes confocaux AX / AX R Tout ToutMicroscopes confocaux AX R et systèmes basés sur caméra CMOS Tout Tout
Progiciels Autosignal.ai Clarify.ai Convert.ai Denoise.ai Enhance.ai Segment.ai
NIS-Elements C Optional Optional Optional Optional Optional Optional
NIS-Elements AR no Optional Optional Optional Optional Optional
NIS-Elements AR ML no Optional Optional Optional Optional Optional
NIS-Elements AR passif no Optional Optional Optional Optional Optional
Module NIS.ai yes Optional Optional yes Optional Optional
Livré avec des modules de déconvolution no Yes no no no no

Discussion sur le Deep Learning en microscopie

DIC, vérité terrain et images de reconstruction Convert.ai d'un sphéroïde dans la culture. Convert.ai a pu reconstruire de manière adéquate la position et la forme du marquage en fluorescence, sinon tous les détails exacts.

Comprendre les avantages et les limites du Deep Learning pour la microscopie

Bien que les algorithmes et les logiciels basés sur le Deep Learning soient très prometteurs pour prendre en charge l'analyse d'images en microscopie optique, il est important de comprendre que de telles approches ne sont pas une « panacée », mais plutôt différentes façons d'aborder un problème. Les algorithmes de Deep Learning (DL), qui fonctionnent en inférant des corrélations entre les caractéristiques des données (qui ne sont pas nécessairement évidentes ou intuitives), seront mieux adaptés à certains problèmes que les approches classiques. Cependant, le plus grand avantage de l'intelligence artificielle (IA) pour la microscopie est souvent l'accélération de l'analyse d'images.

Les algorithmes DL supervisés, tels qu'utilisés par les modules AI NIS.ai de Nikon, nécessitent de nombreuses données pour former le réseau neuronal. Alors que Nikon pré-entraîne certains modules d'IA, notamment Denoise.ai, Clarify.ai et Autosignal.ai, d'autres devront être formés en utilisant les conditions d'acquisition spécifiques pour une expérience donnée. Ce processus peut être long, mais une fois terminé, il permettra une analyse rapide des nouvelles données. Il est important de comprendre que les résultats ne sont pas la vérité terrain. En fin de compte, cela limite les applications appropriées.

Comme exemple de cas d'utilisation appropriée, le module Convert.ai peut être formé pour prédire les schémas de coloration nucléaire au DAPI à partir d'images en lumière transmise. Ce canal DAPI prédit est utile et approprié pour le comptage des cellules, qui dépend principalement de la localisation correcte du signal DAPI. Cependant, l'utilisation d'images DAPI prédites pour des applications nécessitant une quantification des informations d'intensité serait inappropriée. Bien que DL soit fiable pour prédire avec précision la localisation DAPI et les schémas de coloration grossière, ce n'est pas un bon choix pour quantifier les détails fins et les événements rares, ces derniers ne seraient pas bien représentés dans les données de formation pour commencer et seraient susceptibles d'être manqués.

Image d'une section d'intestin de souris marquée par fluorescence acquise à l'aide d'un microscope confocal à balayage résonnant Nikon AX R et d'un objectif 20X WI 0,95 NA

Rationalisation de l'imagerie et de l'analyse avec le Deep Learning

Un avantage des méthodes DL est la rapidité avec laquelle elles peuvent effectuer des tâches différentes et complexes. Cela permet d'empiler les méthodes DL pour effectuer des analyses complexes en plusieurs parties dans des périodes de temps relativement courtes, même pendant le processus d'imagerie lorsque le temps est limité.

Par exemple, le module Autosignal.ai détermine automatiquement la puissance et le gain laser optimaux en quelques secondes lors de l'utilisation de notre microscope confocal AX / AX R. Il est peu probable qu'une approche classique de ce problème donne une solution fiable en si peu de temps. Même une poignée de secondes peut faire une différence significative face à des facteurs tels que le photoblanchiment.

Le module Denoise.ai est tout aussi rapide, offrant un débruitage en temps quasi réel. Cela permet une combinaison synergique avec Autosignal.ai - les conditions d'imagerie peuvent être optimisées en quelques secondes en appuyant sur un bouton. D'autres modules AI peuvent être empilés de la même manière, tels que Segment.ai pour une segmentation rapide des caractéristiques de l'image, comme le montre la vidéo.

Les modules NIS.ai peuvent être connectés aux pipelines d'imagerie et d'analyse existants au sein de notre logiciel NIS-Elements. Ceci est bénéfique pour optimiser l'efficacité des expériences de type de haut contenu.Le module General Analysis 3 (GA3) est utilisé pour créer des routines de mesure personnalisées et permet aux utilisateurs d'appliquer des analyses NIS.ai DL et classiques ensemble dans le même pipeline. Les modules NIS.ai peuvent également être intégrés dans la routine d'imagerie à l'aide de l'assistant d'expérience JOBS - les résultats obtenus à l'aide d'un module NIS.ai dans JOBS peuvent être utilisés pour diriger le déroulement de l'expérience. Par exemple, on peut effectuer automatiquement des acquisitions ciblées en fonction des résultats d'analyse - un choix approprié pour cibler des événements rares.

Timelapse A1 résonnant de débruitage versus brut

Échantillon de larves de Drosophile sp. fourni par Amicia Elliot, PhD, NIH/NIMH, Bethesda MD. Acquis lors du cours de microscopie quantitative en fluorescence 2019.

Détails d'acquisition : Scanner résonant, Dimension 1024 x 512, Vitesse de balayage 30fps, Zoom de balayage x0.72, Aucune moyenne

Objectif Plan Apo 4X

Deep Learning pour l'imagerie de cellules vivantes

L'un des plus grands avantages fournis par de nombreux modules NIS.ai AI est la réduction de la dose de photons. Denoise.ai et Clarify.ai fournissent des images plus claires sans nécessiter de signal supplémentaire à collecter. Convert.ai permet de prédire les canaux d'imagerie de fluorescence à partir d'images de lumière transmise (par exemple, DIC), éliminant complètement le besoin d'imagerie de fluorescence dans certains cas. Enhance.ai peut prédire des images à signal plus élevé à partir de données à faible signal, minimisant ainsi la dose de photons requise pour l'excitation.

Fluorescence microscopy generally requires much higher illumination intensity than transmitted light methods, has a limited photon budget, and is often the method of choice for live cell imaging, especially in research. Reduction of photon dose is useful for most imaging applications, but is essential for live cell fluorescence imaging, where photobleaching and phototoxicity are top concerns.

La formation aux modules NIS.ai est simple. Le logiciel fournit une vue en temps réel de la progression de la formation (Enhance.ai illustré).

Analyse des données d'image DAPI à faible signal (à gauche) à l'aide du module Enhance.ai pour prédire une restauration de signal plus élevé (à droite)

La direction de l'IA et du Deep Learning en microscopie

L'application de l'IA et du Deep Learning en microscopie en est encore à un stade relativement précoce, de nouvelles recherches et applications étant constamment publiées et faisant avancer le domaine. Compte-tenu du potentiel des méthodes DL et de la rapidité avec laquelle ces méthodes sont généralisées, il est important que les communautés de l'IA et de la microscopie élaborent des directives claires pour des applications appropriées et des mesures de qualité qui permettent aux non-spécialistes sans expérience en informatique d'avoir confiance dans l'utilisation de ces outils pour la recherche évaluée par des pairs.

Les modules d'intelligence artificielle préformés de Nikon, qui incluent actuellement Clarify.ai et Denoise.ai, ne permettent pas le réglage manuel de paramètres ambigus tels que la « force » de l'analyse, évitant ainsi que les biais de l'utilisateur n'affectent les résultats. Tous ceux qui utilisent Clarify.ai ou Denoise.ai utilisent le même réseau préformé que tous les autres utilisateurs.

Pour les modules NIS.ai qui doivent être formés, notamment Convert.ai, Enhance.ai et Segment.ai, le module comprend une interface utilisateur graphique intuitive pour la formation réseau. L'utilisateur peut surveiller la progression de la formation, y compris une vue en temps réel du nombre d'itérations et de la perte de formation.

Glossaire

Fonction
Résumé de la fonction du module logiciel NIS.ai.
Progiciels
Liste des progiciels et modules NIS-Elements disponibles à l'achat. Des modules NIS.ai individuels peuvent être inclus ou disponibles en option pour les différents progiciels et modules, comme indiqué.
Préformation requise
La formation d'un réseau de neurones d'apprentissage en profondeur pour l'analyse d'images est souvent effectuée à l'aide d'un apprentissage supervisé avec des données d'image appariées : une image d'entrée (du type qui sera analysé après la formation) et une image de vérité terrain de la même zone où la condition souhaitée est remplie. Les poids des nœuds au sein du réseau neuronal sont ajustés pour minimiser l'erreur entre l'image de sortie prédite et la vérité terrain.
Systèmes Nikon compatibles
Indique quels microscopes/systèmes Nikon sont compatibles. Cela suppose que le système est configuré pour capturer des images numériques.