Comment le matériel contribue à l’équité des réseaux neuronaux artificiels

Au cours des deux dernières décennies, les informaticiens ont développé une large gamme de réseaux neuronaux profonds (DNN) conçus pour s’attaquer à diverses tâches du monde réel. Si certains de ces modèles se sont révélés très efficaces, certaines études ont révélé qu’ils peuvent être injustes, ce qui signifie que leurs performances peuvent varier en fonction des données sur lesquelles ils ont été formés et même des plateformes matérielles sur lesquelles ils ont été déployés.

Par exemple, certaines études ont montré que les outils de reconnaissance faciale basés sur l’apprentissage profond disponibles dans le commerce étaient nettement plus efficaces pour reconnaître les caractéristiques des individus à la peau claire que celles des individus à la peau foncée. Ces variations observées dans les performances de l’IA, en grande partie dues aux disparités dans les données d’apprentissage disponibles, ont inspiré des efforts visant à améliorer l’équité des modèles existants.

Des chercheurs de l’Université de Notre Dame ont récemment entrepris d’étudier comment les systèmes matériels peuvent contribuer à l’équité de l’IA. Leur article, publié dans Électronique naturelleidentifie les façons dont les conceptions matérielles émergentes, telles que les dispositifs de calcul en mémoire (CiM), peuvent affecter l’équité des DNN.

« Notre article est né d’un besoin urgent d’aborder l’équité dans l’IA, en particulier dans des domaines à enjeux élevés comme les soins de santé, où les préjugés peuvent entraîner des dommages importants », a déclaré Yiyu Shi, co-auteur de l’article, à Tech Xplore.

« Bien que de nombreuses recherches se soient concentrées sur l’équité des algorithmes, le rôle du matériel dans l’influence de l’équité a été largement ignoré. Alors que les modèles d’IA se déploient de plus en plus sur des appareils aux ressources limitées, tels que les appareils mobiles et périphériques, nous avons réalisé que le matériel sous-jacent pouvait potentiellement exacerber ou atténuer les biais. »

Après avoir examiné la littérature antérieure explorant les écarts de performances de l’IA, Shi et ses collègues ont réalisé que la contribution de la conception matérielle à l’équité de l’IA n’avait pas encore été étudiée. L’objectif principal de leur étude récente était de combler cette lacune, en examinant spécifiquement comment les nouvelles conceptions matérielles CiM affectaient l’équité des DNN.

« Notre objectif était d’explorer systématiquement ces effets, notamment à travers le prisme des architectures CiM émergentes, et de proposer des solutions qui pourraient contribuer à garantir des déploiements d’IA équitables sur diverses plateformes matérielles », a expliqué Shi. « Nous avons étudié la relation entre le matériel et l’équité en menant une série d’expériences utilisant différentes configurations matérielles, en nous concentrant particulièrement sur les architectures CiM. »

Dans le cadre de cette étude récente, Shi et ses collègues ont mené deux principaux types d’expériences. Le premier type visait à explorer l’impact de conceptions d’architecture neuronale prenant en compte le matériel, de taille et de structure différentes, sur l’équité des résultats obtenus.

« Nos expériences nous ont permis de tirer plusieurs conclusions qui ne se limitaient pas au choix des appareils », a déclaré M. Shi. « Par exemple, nous avons constaté que les réseaux neuronaux plus grands et plus complexes, qui nécessitent généralement davantage de ressources matérielles, ont tendance à présenter une plus grande équité. Cependant, ces meilleurs modèles étaient également plus difficiles à déployer sur des appareils aux ressources limitées. »

En s’appuyant sur ce qu’ils ont observé au cours de leurs expériences, les chercheurs ont proposé des stratégies potentielles qui pourraient contribuer à accroître l’équité de l’IA sans poser de défis informatiques importants. Une solution possible pourrait être de compresser des modèles plus volumineux, conservant ainsi leurs performances tout en limitant leur charge de calcul.

« Le deuxième type d’expériences que nous avons menées s’est concentré sur certaines non-idéalités, telles que la variabilité des appareils et les problèmes de blocage en panne associés aux architectures CiM », a déclaré Shi. « Nous avons utilisé ces plates-formes matérielles pour exécuter divers réseaux neuronaux, en examinant comment les changements de matériel, tels que les différences de capacité de mémoire ou de puissance de traitement, affectaient l’équité du modèle.

« Les résultats ont montré que divers compromis étaient observés dans différentes configurations de variations d’appareils et que les méthodes existantes utilisées pour améliorer la robustesse dans les variations d’appareils contribuaient également à ces compromis. »

Pour surmonter les défis révélés par leur deuxième série d’expériences, Shi et ses collègues suggèrent d’employer des stratégies d’entraînement tenant compte du bruit. Ces stratégies impliquent l’introduction d’un bruit contrôlé lors de l’entraînement des modèles d’IA, afin d’améliorer à la fois leur robustesse et leur équité sans augmenter de manière significative leurs exigences de calcul.

« Nos recherches montrent que l’équité des réseaux neuronaux n’est pas seulement une fonction des données ou des algorithmes, mais qu’elle est également fortement influencée par le matériel sur lequel ils sont déployés », a déclaré Shi. « L’une des principales conclusions est que les modèles plus volumineux et plus gourmands en ressources sont généralement plus performants en termes d’équité, mais cela se fait au prix d’un matériel plus avancé. »

Au cours de leurs expériences, les chercheurs ont également découvert que les non-idéalités induites par le matériel, telles que la variabilité des appareils, peuvent conduire à des compromis entre la précision et l’équité des modèles d’IA. Leurs conclusions soulignent la nécessité d’examiner attentivement à la fois la conception des structures des modèles d’IA et les plateformes matérielles sur lesquelles elles seront déployées, pour atteindre un bon équilibre entre précision et équité.

« En pratique, nos travaux suggèrent que lors du développement de l’IA, en particulier des outils pour des applications sensibles (par exemple, les diagnostics médicaux), les concepteurs doivent prendre en compte non seulement les algorithmes logiciels mais également les plates-formes matérielles », a déclaré Shi.

Les travaux récents de cette équipe de recherche pourraient contribuer aux efforts futurs visant à accroître l’équité de l’IA, en encourageant les développeurs à se concentrer à la fois sur les composants matériels et logiciels. Cela pourrait à son tour faciliter le développement de systèmes d’IA à la fois précis et équitables, produisant des résultats tout aussi bons lors de l’analyse des données d’utilisateurs ayant des caractéristiques physiques et ethniques différentes.

« À l’avenir, nos recherches continueront d’approfondir l’intersection entre la conception matérielle et l’équité de l’IA », a déclaré Shi. « Nous prévoyons de développer des cadres de co-conception inter-couches avancés qui optimisent les architectures de réseaux neuronaux pour l’équité tout en tenant compte des contraintes matérielles. Cette approche impliquera l’exploration de nouveaux types de plates-formes matérielles qui soutiennent intrinsèquement l’équité et l’efficacité. »

Dans le cadre de leurs prochaines études, les chercheurs prévoient également de mettre au point des techniques de formation adaptative qui pourraient tenir compte de la variabilité et des limites des différents systèmes matériels. Ces techniques pourraient garantir que les modèles d’IA restent équitables quels que soient les appareils sur lesquels ils s’exécutent et les situations dans lesquelles ils sont déployés.

« Une autre piste qui nous intéresse est d’étudier comment des configurations matérielles spécifiques pourraient être ajustées pour améliorer l’équité, ce qui pourrait conduire à de nouvelles classes d’appareils conçus avec l’équité comme objectif principal », a ajouté Shi. « Ces efforts sont cruciaux à l’heure où les systèmes d’IA deviennent de plus en plus omniprésents et où la nécessité d’une prise de décision juste et impartiale devient de plus en plus critique. »

© 2024 Réseau Science X