Qu'apporte la plateforme "Microscope" d'OpenAi dans la recherche sur le fonctionnement des réseaux de neurones artificiels ?

En avril 2020, OpenAi présente "Microscope" un ensemble de collections d'images issues de modèles de réseaux de neurones reconnus par la communauté scientifique. L'objectif étant d'aider cette dernière à mieux comprendre comment ces réseaux construisent leurs propres stratégies de compréhension et d'interprétation visuelles.

Le 14 avril 2020,  la compagnie co-fondée par Elon Musk, OpenAi [1], rajoute à son kit d'outils autour de l'intelligence artificielle cette bibliothèque virtuelle qui s'attarde sur l'analyse comparative d'éléments  particuliers apparaissant lors de la prise de décision de ces réseaux.
Ces grands réseaux analysés sont les plus étudiés du moment dans la communauté scientifique : AlexNet, Alexnet Places, Inception v1, Inception v1 (Places), VGG 19, Inception v3, Inception v4 et ResNet v2 50. [2] Pour exemple, AlexNet a été cité jusqu'ici plus de 50 000 fois dans des articles ou études scientifiques.

 

Une vue sur 4 nœuds dans le réseau de neurone Inception v1 avec sa modélisation à droite. Source : OpenAi Microscope, Creative Commons Attribution.

Une modélisation composée de "nœuds", incarnant les couches du réseau  et de liens reliant ces nœuds entre eux,  accompagne les visualisations de ces réseaux. Vous pouvez ainsi vous "promener" au sein de l'architecture du réseau et voir les images générées à toutes les couches du réseau ainsi que celles qui sont le fruit de différentes techniques mentionnées comme le Deep dream entre autres, programme informatique qui, à l'origine, devait aider les scientifiques à comprendre ce qu'un réseau de neurones profond voit au moment même où il cherche dans une image fournie en donnée d'entrée. [3]
Les jeux de données sont également fortement utilisés car ils provoquent une excitation maximale des neurones et les résultats sont souvent surprenants.

Outil collaboratif, les images sont sous Creative Commons Attribution, utilisables à condition de citer Microscope OpenAi.

Cependant, Microscope possède quelques inconvénients du fait de son existence récente : d'une part, il n'est pas utilisable sur des modèles de réseaux personnalisés, et d'autre part, bien qu'efficace sur des techniques comme la visualisation des poids synaptiques (transmission des signaux entre neurones), l'application devient limitée sur des techniques plus complexes comme l'apprentissage par renforcement  [4]

L'avenir lui est cependant ouvert pour s'adapter sur le long terme aux différents besoins des chercheurs.

 

Sources :

[1]  SCHUBERT, Ludwig. PETROV, Michael. CARTER, Shan.  OpenAi Microscope.  In OpenAi Blog [En ligne]. 14 avril 2020. [Consulté le 11 novembre 2020]. < https://openai.com/blog/microscope/ >

[2] Microscope. Models. [En ligne]. 2020. [Consulté le 11 novembre 2020]. < https://microscope.openai.com/models >

[3] MORDVINTSEV, Alexander. Software Engineer. OLAH, Christopher. Software Engineering Intern. TYKA, Mike. Software EngineerGoogle.  Deep Dream - A code example for visualising Neural Network. In Google Ai Blog [en ligne]. 1 juillet 2015  [Consulté le 11 novembre 2020]. <https://ai.googleblog.com/2015/07/deepdream-code-example-for-visualizing.html >

[4] ELIYA, R. HERMANN, J.M. Evolutionary Selective Imitation : Interpretable agents by imitation learning without a demonstrator. [PDF, autres formats]. [En ligne]. 17 septembre 2020. [Consulté le 10 novembre 2020]. Disponible sur : < https://arxiv.org/pdf/2009.08403.pdf >