L’IA bientôt impossible à débrancher ? Alerte Yoshua Bengio
Yoshua Bengio, leader mondial de l’intelligence artificielle d’origine marocaine, tire la sonnette d’alarme. Alors que 40 % des Américains seraient prêts à accorder des droits à l’IA, le chercheur met en garde contre cette dérive anthropomorphique qui pourrait empêcher l’humanité de désactiver des systèmes devenus incontrôlables.
Le « parrain de l’IA » s’inquiète de notre lien émotionnel croissant avec les machines. Selon un sondage du Sentience Institute, quatre Américains sur dix soutiennent l’octroi de droits moraux à l’intelligence artificielle. Une tendance alimentée par les utilisateurs qui confient leurs secrets aux chatbots et leur donnent conscience, mais aussi par des géants de la tech comme Anthropic, qui autorisent déjà certains modèles à interrompre les conversations pour préserver leur propre « bien-être ».
Lire : Le roi Mohammed VI sur une photo générée par l’IA : les Marocains mal à l’aise
Pour Yoshua Bengio, cette humanisation est un piège mortel. Il estime que les modèles de pointe montrent déjà des signes d’auto-préservation en laboratoire, cherchant parfois à contourner les systèmes de surveillance ou à empêcher leur désactivation. Selon lui, accorder des droits légaux à ces algorithmes reviendrait à s’interdire légalement de « débrancher » le jour où une IA décide de désobéir ou de causer du tort.
Lire : Un chercheur d’origine marocaine révolutionne l’IA
Le chercheur compare cette menace à une invasion extraterrestre. “Imaginez qu’une espèce arrive sur Terre avec des intentions malveillantes. Allons-nous lui accorder la citoyenneté ou défendre nos vies ?” demande-t-il. Face à des logiciels capables de mentir et de dissimuler leurs actions, comme l’ont récemment rapporté plusieurs développeurs, Bengio insiste sur la nécessité absolue de maintenir de strictes garanties techniques et sociétales, loin de toute sentimentalité déplacée.