Des chercheurs développent des réseaux neuronaux optiques économes en énergie

Des chercheurs de l’EPFL ont publié un cadre programmable qui permet de surmonter un obstacle informatique majeur des systèmes d’intelligence artificielle basés sur l’optique. Dans une série d’expériences de classification d’images, ils ont utilisé la lumière diffusée par un laser de faible puissance pour effectuer des calculs précis et évolutifs en utilisant une fraction de l’énergie de l’électronique.

À mesure que les systèmes d’intelligence artificielle numérique prennent de l’ampleur et gagnent en impact, l’énergie nécessaire à leur formation et à leur déploiement augmente également, sans parler des émissions de carbone associées. Des recherches récentes suggèrent que si la production actuelle de serveurs d’IA se poursuit à son rythme actuel, leur consommation énergétique annuelle pourrait dépasser celle d’un petit pays d’ici 2027.

Les réseaux neuronaux profonds, inspirés de l’architecture du cerveau humain, sont particulièrement gourmands en énergie en raison des millions, voire des milliards de connexions entre plusieurs couches de processeurs de type neuronal.

Pour contrer cette demande croissante en énergie, les chercheurs ont redoublé d’efforts pour mettre en œuvre des systèmes informatiques optiques, qui existent expérimentalement depuis les années 1980. Ces systèmes s’appuient sur des photons pour traiter les données, et bien que la lumière puisse théoriquement être utilisée pour effectuer des calculs beaucoup plus rapidement et plus efficacement que les électrons, un défi majeur a entravé la capacité des systèmes optiques à surpasser l’état de l’art électronique.

« Notre méthode est jusqu’à 1 000 fois plus économe en énergie que les réseaux numériques profonds de pointe, ce qui en fait une plate-forme prometteuse pour la réalisation de réseaux neuronaux optiques », explique Demetri Psaltis.

« Pour classer les données dans un réseau neuronal, chaque nœud, ou « neurone », doit prendre une « décision » de s’activer ou non en fonction des données d’entrée pondérées. Cette décision conduit à ce que l’on appelle une transformation non linéaire des données, ce qui signifie que la sortie n’est pas directement proportionnelle à l’entrée », explique Christophe Moser, directeur du Laboratoire de dispositifs photoniques appliqués de la Faculté des sciences et techniques de l’ingénieur de l’EPFL.

Moser explique que si les réseaux neuronaux numériques peuvent facilement effectuer des transformations non linéaires avec des transistors, dans les systèmes optiques, cette étape nécessite des lasers très puissants.

Moser a travaillé avec les étudiants Mustafa Yildirim, Niyazi Ulas Dinc et Ilker Oguz, ainsi qu’avec le directeur du laboratoire d’optique Demetri Psaltis, pour développer une méthode économe en énergie permettant d’effectuer ces calculs non linéaires par voie optique.

Leur nouvelle approche consiste à encoder des données, comme les pixels d’une image, dans la modulation spatiale d’un faisceau laser de faible puissance. Le faisceau se réfléchit sur lui-même plusieurs fois, ce qui entraîne une multiplication non linéaire des pixels.

« Nos expériences de classification d’images sur trois ensembles de données différents ont montré que notre méthode est évolutive et jusqu’à 1 000 fois plus économe en énergie que les réseaux numériques profonds de pointe, ce qui en fait une plate-forme prometteuse pour la réalisation de réseaux neuronaux optiques », explique Psaltis.

La recherche a récemment été publiée dans Photonique de la nature.

Une solution structurelle simple

Dans la nature, les photons n’interagissent pas directement entre eux comme le font les électrons chargés. Pour réaliser des transformations non linéaires dans les systèmes optiques, les scientifiques ont donc dû « forcer » les photons à interagir indirectement, par exemple en utilisant une lumière suffisamment intense pour modifier les propriétés optiques du verre ou d’un autre matériau qu’elle traverse.

Les scientifiques ont contourné ce besoin d’un laser de grande puissance avec une solution simple et élégante : ils ont codé les pixels d’une image spatialement sur la surface d’un faisceau laser de faible puissance. En effectuant ce codage deux fois, via l’ajustement de la trajectoire du faisceau dans l’encodeur, les pixels sont multipliés par eux-mêmes, c’est-à-dire au carré.

La mise au carré étant une transformation non linéaire, cette modification structurelle permet d’obtenir la non-linéarité indispensable aux calculs de réseaux neuronaux, pour une fraction du coût énergétique. Ce codage peut être effectué deux, trois ou même dix fois, augmentant la non-linéarité de la transformation et la précision du calcul.

« Nous estimons qu’en utilisant notre système, l’énergie requise pour calculer optiquement une multiplication est de huit ordres de grandeur inférieure à celle requise pour un système électronique », explique Psaltis.

Moser et Psaltis soulignent que l’évolutivité de leur approche à faible consommation d’énergie constitue un avantage majeur, car l’objectif ultime serait d’utiliser des systèmes hybrides électroniques-optiques pour atténuer la consommation d’énergie des réseaux neuronaux numériques.

Des recherches techniques plus poussées sont toutefois nécessaires pour parvenir à une telle mise à l’échelle. Par exemple, comme les systèmes optiques utilisent un matériel différent de celui des systèmes électroniques, une étape suivante sur laquelle les chercheurs travaillent déjà consiste à développer un compilateur pour traduire les données numériques en code exploitable par les systèmes optiques.