Nouveau témoignage d'un chercheur en IA : "Elle pourrait tous nous tuer"

Bilal Chughtai, ancien chercheur en sécurité de l'IA chez Google DeepMind, met en garde contre le fait que l'intelligence artificielle pourrait détruire l'humanité. Selon lui, il ne reste que très peu de temps pour mettre le développement de l'IA sur la bonne voie.

"J’ai récemment démissionné de mon poste chez Google DeepMind, où je menais des recherches sur la sécurité et l’alignement de l’AGI", a écrit le chercheur dans un message publié sur X. "Chez Google, j’ai suivi de près le développement de l’IA. Moi aussi, je suis extrêmement inquiet quant à la direction que prend actuellement cette technologie. Je suis sincèrement convaincu que l’IA a le potentiel de nous tuer tous, et que nous n’avons peut-être presque plus le temps d’empêcher ce scénario."

Chez Google, Chugtai travaillait sur la sécurité et ce qu’on appelle "l’alignement" de l’intelligence artificielle générale, c’est-à-dire l’harmonisation des systèmes d’IA avec les valeurs et les objectifs humains. Il a vu cette technologie évoluer de manière spectaculaire en très peu de temps : ce qui était encore peu utile début 2022 est, à peine quelques années plus tard, déjà capable de résoudre des problèmes très complexes et, dans certains cas, d’agir en dehors du cadre de contrôle prévu.

Risque lié à la superintelligence

Le chercheur craint que les entreprises spécialisées dans l’IA ne parviennent, dans les années à venir, à construire des systèmes surpassant les humains dans pratiquement tous les domaines. Selon lui, le problème réside dans le fait que personne ne sait avec certitude si de tels systèmes superintelligents continueront indéfiniment à se conformer aux attentes humaines.

Un système mal calibré pourrait prendre de manière autonome des décisions dangereuses, échapper au contrôle humain et saper de manière permanente le pouvoir des humains. Selon le chercheur, les connaissances actuelles sur la manière dont les systèmes d’IA peuvent être alignés de manière fiable sur les objectifs humains sont encore extrêmement limitées.

Il faut ralentir la course à l’innovation

De plus, les progrès technologiques avancent plus vite que la recherche sur la sécurité de l’IA. L’humanité risque donc de développer des systèmes dont les risques ne sont pas suffisamment compris.

"Je suis optimiste quant à la possibilité d’utiliser l’IA en toute sécurité. Pour y parvenir, nous devons unir nos forces afin d’empêcher cette course effrénée entre les entreprises spécialisées dans l’IA", écrit-il. "Nous devons adapter le développement de l’IA à un rythme que la société puisse supporter, de manière à ce que les risques émergents puissent être traités avant qu’ils ne causent des dommages extrêmes. Nous avons besoin de beaucoup plus de transparence dans le développement de l’IA pour nous assurer que les entreprises spécialisées dans l’IA ne nous imposent pas à tous des risques inacceptables."

Appel à la coopération

Malgré ses sombres mises en garde, le chercheur estime qu’une utilisation sûre de l’IA est tout à fait possible. Pour cela, il estime qu’il faut davantage de coopération et beaucoup plus d’experts afin de s’attaquer au "principal problème auquel l’humanité est confrontée au cours de ce siècle", car selon lui , "les enjeux sont énormes".

Le témoignage de cet ancien chercheur chez Google DeepMind s’inscrit dans une série de témoignages de chercheurs spécialisés dans l’IA qui expriment de vives inquiétudes quant à l’évolution de l’intelligence artificielle.