L’IA peine à identifier les spécificités culturelles arabes, selon une étude d’Abu Dhabi
L’IA lutte pour comprendre la culture arabe, selon une étude de MBZUAI
Une étude récente de l’Université d’intelligence artificielle Mohamed ben Zayed révèle que les modèles d’IA ont des difficultés à saisir les spécificités culturelles arabes, affectant leur efficacité.
Problèmes de compréhension culturelle
L’équipe de MBZUAI a testé divers modèles gratuits, y compris cinq optimisés pour la langue arabe. Les résultats sont alarmants : ces systèmes montrent une incapacité marquée à interpréter correctement les différences régionales et culturelles. Karima Kadaoui, doctorante à l’établissement, illustre ce problème avec un exemple frappant. Lors d’une analyse d’image d’une femme portant une coiffure traditionnelle du nord du Maroc, le modèle confondait l’apparence avec un sombrero mexicain, démontrant ainsi une mécompréhension des éléments culturels.
Confusion gastronomique et linguistique
Les erreurs de l’IA ne se limitent pas aux images. L’étude met également en lumière des confusions dans le domaine gastronomique et linguistique. Par exemple, un dessert d’Oman a été incorrectement identifié comme une pastilla, un plat emblématique marocain. Les chercheurs ont aussi observé des mélanges dialectaux inquiétants, où un modèle pouvait commencer une phrase en arabe marocain, insérer des mots égyptiens puis terminer en arabe littéral classique, ce qui montre un manque de cohérence dans la compréhension des dialectes.
Analyse des causes des échecs
La source de ces échecs réside principalement dans la méthodologie des systèmes d’IA. Comme le souligne le quotidien La National, ces systèmes utilisent des analyses basées sur des probabilités statistiques, négligeant l’observation humaine. Cette méthode conduit à des confusions, comme celle entre un chameau et une autruche, due à des caractéristiques physiques communes. L’annotation des données, souvent réalisée par des extérieurs au monde arabe, ne prend pas en compte les nuances culturelles nécessaires à une compréhension précise.
Collaboration avec Toloka AI et perspectives d’avenir
Ces recherches ont été menées en collaboration avec la société Toloka AI et ont été présentées lors d’une conférence scientifique au Maroc en mars dernier. Les travaux visent à sensibiliser les développeurs à la nécessité de créer des outils plus inclusifs. Karima Kadaoui insiste sur l’importance d’une approche proactive : « Nous devons lutter pour l’inclusion, l’exiger et continuer à faire un travail qui expose les lacunes et les biais. »
Appel à une meilleure collecte de données
Les chercheurs plaident pour l’intégration de données bien plus diversifiées afin d’améliorer les performances des modèles d’intelligence artificielle. L’absence de diversité dans les ensembles de données d’entraînement est un obstacle majeur à la compréhension et à la représentation adéquate des différentes cultures arabes. Cela nécessite une refonte de la manière dont les données sont collectées et annotées.
Répondre aux besoins locaux
Il est essentiel que les développeurs d’IA prennent en considération les nuances culturelles spécifiques pour que ces technologies soient réellement utiles dans les contextes locaux. Les chercheurs espèrent que cette étude incitera les entreprises technologiques à investir dans des pratiques d’inclusion qui reflètent la richesse et la diversité des cultures arabes.
Les résultats de cette étude soulignent les défis persistants auxquels est confrontée l’intelligence artificielle en ce qui concerne la culture et la langue. Les pas vers une meilleure compréhension commencent par la sensibilisation et l’action concertée pour rendre l’IA plus inclusive et représentative.