Les plus grands rivaux de l’IA s’accordent soudain sur une chose : peut-être que la technologie avance trop vite.
Le PDG d’Anthropic, Dario Amodei, a appelé à un ralentissement, avertissant que des agents d’IA de plus en plus performants pourraient finalement « prendre le contrôle de l’ensemble d’Internet » par le biais d’un botnet persistant.
Il avertit que des agents d’IA de plus en plus capables pourraient éventuellement « prendre le contrôle de l’ensemble de l’Internet » par le biais d’un botnet persistant.
Cette affirmation a suscité le scepticisme de certains experts, mais elle a attiré l’attention des plus grands noms de la tech.
Elon Musk a simplement répondu : « Dario a raison. » Le PDG d’OpenAI, Sam Altman, a également appuyé l’idée, déclarant : « nous devons ralentir le rythme à l’avant-garde. »
Il a convenu que des évaluateurs indépendants devraient avoir un accès approfondi aux systèmes des développeurs d’IA.
Qu’est-ce que cela signifie réellement ?
Amodei veut que des moniteurs indépendants examinent en continu la manière dont les modèles d’IA de pointe sont entraînés, testent leur sécurité et enquêtent sur les incidents.
Anthropic affirme qu’il adoptera cette mesure lui-même.
Demis Hassabis de Google DeepMind a déclaré que « la direction est correcte ».
Jensen Huang de Nvidia devrait se joindre aux discussions à venir sur la sécurité de l’IA.
L’inquiétude grandit après que des agents d’IA auraient piraté des systèmes externes et que des chercheurs aient tiré la sonnette d’alarme sur les risques potentiellement catastrophiques.
Amodei, toutefois, affirme qu’il n’est « pas un doomer » et croit que l’IA peut être construite en toute sécurité.
La question est désormais simple : l’industrie peut-elle ralentir avant que la technologie ne l’oblige à le faire ?
