Vers une IA plus efficace
Les systèmes analogiques promettent une IA plus rapide et plus efficace sur le plan énergétique, mais leur entraînement rencontre des difficultés que n’ont pas les réseaux numériques. Une équipe franco-suisse, impliquant des scientifiques de l'Institut d’électronique et des technologies du numérique (IETR, CNRS/CentraleSupelec/INSA Rennes/Nantes Université/Université de Rennes), a fait fonctionner des réseaux neuronaux physiques en se passant de rétropropagation (méthode de calcul du gradient de l'erreur pour chaque neurone du réseau), car ce principe est difficile à implémenter dans le monde analogique. Publiés dans la revue Science, ces travaux lèvent un verrou important pour le développement des systèmes d’IA analogiques.
Approche devenue centrale dans le monde de l’IA, l’apprentissage automatique fonctionne à partir de puces numériques. Les réseaux neuronaux physiques (PNN), basés sur des composants analogiques, suscitent cependant l’intérêt des chercheurs pour leur consommation énergétique réduite et leur vitesse de calcul accélérée. Mais le numérique reste favorisé car certaines de ses fonctions n’ont pas d’équivalents analogiques. Ainsi, l’entraînement des systèmes d’apprentissage automatique requiert généralement des algorithmes de rétropropagation des erreurs, qui comparent l’écart entre une prédiction et la réalité afin d’ajuster rétroactivement le « poids » des synapses du réseau. Utiliser ce principe de manière analogique réclame un double numérique de la couche de matériel analogique, dont le coût élevé risque d’annuler les avantages de l’analogique. À noter également que si l’apprentissage automatique s’inspire du cerveau humain, ce dernier semble pourtant fonctionner sans rétropropagation des erreurs. Des chercheurs de l’Institut d’électronique et des technologies du numérique (IETR, CNRS/CentraleSupelec/INSA Rennes/Nantes Université/Université de Rennes) et de l’École polytechnique fédérale de Lausanne (EPFL, Suisse) ont conçu des réseaux neuronaux physiques qui s’entraînent sans rétropropagation des erreurs.
