Un autre chercheur en intelligence artificielle a lancé un avertissement brutal sur la direction que pourrait prendre la technologie, affirmant que l’intelligence artificielle pourrait potentiellement « nous tuer tous ».
Le temps pour prévenir un tel résultat semble compté.
Bilal Chughtai, ancien ingénieur-chercheur chez Google DeepMind qui travaillait sur la sécurité et l’alignement de l’IA, a déclaré qu’il avait récemment quitté l’entreprise en raison de ses inquiétudes.
« Je crois sincèrement que l’IA a le potentiel de nous tuer tous », a écrit Chughtai, ajoutant que le monde « pourrait être à court de temps » pour éviter ce résultat.
Son avertissement fait écho à des propos similaires de chercheurs d’Anthropic.
Jacob Coxon a récemment déclaré que les développeurs d’IA croient sincèrement que la technologie pourrait devenir mortelle d’ici la fin de la décennie.
Le scientifique Evan Hubinger a estimé qu’il y avait une probabilité de plus de 10 % que l’IA tue tous les humains au cours de cette période.
Alors la catastrophe est-elle inévitable ?
Chughtai dit que non. Mais il soutient que les entreprises d’IA doivent cesser de foncer sans protections suffisantes.
« Nous devons ralentir le développement de l’IA à une vitesse que la société peut gérer », a-t-il déclaré, permettant que les risques émergents soient traités avant que des dommages graves ne se produisent.
Le PDG d’Anthropic, Dario Amodei, a lancé un appel similaire en faveur du ralentissement du développement de l’IA avancée.
Gagnant un soutien inhabituel d’Elon Musk et de Sam Altman d’OpenAI.
Pourtant, le président Donald Trump a rejeté les appels à la réglementation en les qualifiant de « canular ».
Le débat s’intensifie. La vraie question est de savoir si la prudence peut suivre le rythme de l’IA elle-même.
