De nouveaux memristors pour surmonter les "oublis catastrophiques" de l'IA
Ils consomment très peu d'énergie et se comportent comme des cellules cérébrales : ce sont les "memristors". Des chercheurs de Jülich, dirigés par Ilia Valov, viennent de présenter dans Nature Communications de nouveaux composants memristors qui offrent des avantages significatifs par rapport aux versions précédentes : ils sont plus robustes, fonctionnent sur une plage de tension plus large et peuvent fonctionner à la fois en mode analogique et en mode numérique. Ces propriétés pourraient contribuer à résoudre le problème de "l'oubli catastrophique", où les réseaux neuronaux artificiels oublient brusquement les informations apprises précédemment.
Le problème de "l'oubli catastrophique" se produit lorsque les réseaux neuronaux profonds sont entraînés à une nouvelle tâche. En effet, une nouvelle optimisation écrase tout simplement la précédente. Le cerveau n'est pas confronté à ce problème car il peut apparemment ajuster le degré de changement synaptique ; les experts parlent maintenant aussi d'une "métaplasticité". Ils pensent que ce n'est que grâce à ces différents degrés de plasticité que notre cerveau peut apprendre en permanence de nouvelles tâches sans oublier d'anciens contenus. Le nouveau memristor accomplit quelque chose de similaire.
"Ses propriétés uniques permettent d'utiliser différents modes de commutation pour contrôler la modulation du memristor de manière à ne pas perdre les informations stockées", explique Ilia Valov de l'Institut Peter Grünberg (PGI-7) du Forschungszentrum Jülich.
Des candidats idéaux pour les dispositifs neuro-inspirés
Les puces informatiques modernes évoluent rapidement. Leur développement pourrait bénéficier d'un nouvel élan grâce aux memristors, un terme dérivé de memory (mémoire) et resistor (résistance). Ces composants sont essentiellement des résistances dotées de mémoire : leur résistance électrique change en fonction de la tension appliquée et, contrairement aux éléments de commutation conventionnels, leur valeur de résistance reste inchangée même lorsque la tension est coupée. En effet, les memristors peuvent subir des modifications structurelles, par exemple en raison du dépôt d'atomes sur les électrodes.
"Les éléments memristors sont considérés comme des candidats idéaux pour les composants informatiques neuro-inspirés, capables d'apprentissage et modelés sur le cerveau", explique Ilia Valov.
Malgré des progrès et des efforts considérables, la commercialisation des composants progresse plus lentement que prévu. Cela est dû notamment à un taux d'échec souvent élevé en production et à une courte durée de vie des produits. En outre, ils sont sensibles à la production de chaleur ou aux influences mécaniques, ce qui peut entraîner des dysfonctionnements fréquents en cours de fonctionnement. "La recherche fondamentale est donc essentielle pour mieux contrôler les processus à l'échelle nanométrique", explique M. Valov, qui travaille depuis de nombreuses années dans le domaine des memristors. "Nous avons besoin de nouveaux matériaux et de mécanismes de commutation pour réduire la complexité des systèmes et augmenter la gamme des fonctionnalités.
C'est précisément à cet égard que le chimiste et spécialiste des matériaux, en collaboration avec des collègues allemands et chinois, a pu faire état d'un succès important : "Nous avons découvert un mécanisme de mémorisation électrochimique fondamentalement nouveau qui est chimiquement et électriquement plus stable", explique Valov. Cette découverte est maintenant présentée dans la revue Nature Communications.
Un nouveau mécanisme pour les memristors
“So far, two main mechanisms have been identified for the functioning of so-called bipolar memristors: ECM et VCM", explique Valov. ECM signifie "Métallisation électrochimique" et VCM "Mécanisme de changement de valence".
- Les memristors ECM forment un filament métallique entre les deux électrodes, un minuscule "pont conducteur" qui modifie la résistance électrique et se dissout à nouveau lorsque la tension est inversée. Le paramètre critique ici est la barrière énergétique (résistance) de la réaction électrochimique. Cette conception permet de faibles tensions de commutation et des temps de commutation rapides, mais les états générés sont variables et relativement éphémères.
- Les memristors VCM, en revanche, ne modifient pas la résistance par le mouvement des ions métalliques, mais plutôt par le mouvement des ions oxygène à l'interface entre l'électrode et l'électrolyte, en modifiant ce que l'on appelle la barrière de Schottky. Ce processus est relativement stable mais nécessite des tensions de commutation élevées.
Chaque type de memristor a ses propres avantages et inconvénients. "Nous avons donc envisagé de concevoir un memristor qui combine les avantages des deux types", explique Ilia Valov. Les experts considéraient jusqu'à présent que c'était impossible. "Notre nouveau memristor est basé sur un principe complètement différent : il utilise un filament composé d'oxydes métalliques plutôt qu'un filament purement métallique comme l'ECM", explique Ilia Valov. Ce filament est formé par le mouvement des ions d'oxygène et de tantale et est très stable : il ne se dissout jamais complètement. "On peut le considérer comme un filament qui existe toujours dans une certaine mesure et qui n'est modifié que chimiquement", explique M. Valov.
Le nouveau mécanisme de commutation est donc très robuste. Les scientifiques l'appellent également mécanisme de modification de la conductivité du filament (FCM). Les composants basés sur ce mécanisme présentent plusieurs avantages : ils sont chimiquement et électriquement plus stables, plus résistants aux températures élevées, ont une fenêtre de tension plus large et nécessitent des tensions plus faibles pour être produits. Par conséquent, moins de composants brûlent au cours du processus de fabrication, le taux de rejet est plus faible et leur durée de vie est plus longue.
Solution de perspective pour les "oublis catastrophiques"
En outre, les différents états d'oxydation permettent au memristor de fonctionner en mode binaire et/ou analogique. Alors que les signaux binaires sont numériques et ne peuvent produire que deux états, les signaux analogiques sont continus et peuvent prendre n'importe quelle valeur intermédiaire. Cette combinaison de comportements analogiques et numériques est particulièrement intéressante pour les puces neuromorphiques, car elle peut aider à surmonter le problème de "l'oubli catastrophique" : les réseaux neuronaux profonds effacent ce qu'ils ont appris lorsqu'ils sont entraînés à une nouvelle tâche. En effet, une nouvelle optimisation écrase simplement la précédente.
Le cerveau n'a pas ce problème car il peut apparemment ajuster le degré de changement synaptique ; les experts parlent maintenant aussi d'une soi-disant "métaplasticité". Ils pensent que ce n'est que grâce à ces différents degrés de plasticité que notre cerveau peut apprendre en permanence de nouvelles tâches sans oublier l'ancien contenu. Le nouveau memristor ohmique accomplit quelque chose de similaire. "Ses propriétés uniques permettent d'utiliser différents modes de commutation pour contrôler la modulation du memristor de manière à ce que les informations stockées ne soient pas perdues", explique M. Valov.
Les chercheurs ont déjà mis en œuvre le nouveau composant mémoriel dans un modèle de réseau neuronal artificiel dans le cadre d'une simulation. Dans plusieurs ensembles de données d'images, le système a atteint un niveau élevé de précision dans la reconnaissance des formes. À l'avenir, l'équipe souhaite rechercher d'autres matériaux pour les memristors qui pourraient fonctionner encore mieux et de manière plus stable que la version présentée ici. Nos résultats feront progresser le développement de l'électronique pour les applications de "calcul en mémoire"", est certain M. Valov.
Note: Cet article a été traduit à l'aide d'un système informatique sans intervention humaine. LUMITOS propose ces traductions automatiques pour présenter un plus large éventail d'actualités. Comme cet article a été traduit avec traduction automatique, il est possible qu'il contienne des erreurs de vocabulaire, de syntaxe ou de grammaire. L'article original dans Anglais peut être trouvé ici.
Publication originale
Autres actualités du département science
