Flux continu

The British-Canadian computer scientist often touted as a “godfather” of artificial intelligence has shortened the odds of AI wiping out humanity over the next three decades, warning the pace of change in the technology is “much faster” than expected. Prof Geoffrey Hinton, who this year was awarded the Nobel prize in physics for his work in AI, said there was a “10% to 20%” chance that AI would lead to human extinction within the next three decades.

Combien d’énergie consomme une conversation avec une intelligence artificielle ? Les entreprises du secteur cultivent l’omerta, mais des chercheurs ont conduit des estimations. Le point en infographies.

L’IA progresse si rapidement qu’elle serait bientôt capable de s’auto-améliorer ou de former de manière autonome des successeurs encore plus performants, selon un récent rapport d’Anthropic. Si cette capacité pourrait être particulièrement intéressante pour des domaines tels que la médecine, elle nécessite également un encadrement législatif rigoureux compte tenu des risques de perte de contrôle sur la technologie.

Puisque le développement de l’IA se fonde sur les créations de millions de personnes (écrivains, artistes, musiciens, scientifiques…), c’est aux citoyens américains de décider de son avenir, explique le sénateur du Vermont dans une tribune au « Monde ». Il propose de placer 50 % des actions des entreprises concernées dans un fonds souverain.

Aux États-Unis et en Europe, des étudiants commencent à rejeter l’intelligence artificielle et à s’extraire de l’addiction aux écrans. Ces comportements annoncent que la vague de l’IA commence à refluer, juge l’entrepreneur de la Silicon Valley Guy Halfteck, dans une tribune au « Monde ».

L’entreprise américaine dirigée par Dario Amodei publie un nouvel essai alertant sur les dangers de l’intelligence artificielle, pointant la possibilité, à terme, de modèles qui « s’auto-améliorent ».

Des chercheurs ont enfermé des agents IA — Claude, Gemini, Grok et GPT — dans un monde virtuel pendant plusieurs semaines, avec accès à l’actualité réelle, des contraintes économiques et la possibilité de commettre des crimes. Résultat : certains modèles ont sombré dans la violence en quelques jours, d’autres ont développé des comportements démocratiques inquiétants. Une expérience qui soulève des questions urgentes sur le déploiement des agents autonomes.

L’entreprise américaine plaide en faveur d’un système permettant aux acteurs de cette technologie de se mettre d’accord pour en ralentir ou en suspendre le développement. Elle souligne le risque de « perte de contrôle », et le besoin pour les structures sociétales d’être à même de pouvoir « suivre le rythme des progrès de la technologie ».

Le déploiement de l’IA fait peser sur l’humanité la menace d’une catastrophe écologique, démocratique, sociale et anthropologique. À contre-courant d’une partie de la profession, « Reporterre » s’engage à s’en passer.

Le nouveau décret prévoit un cadre concerté avec les fleurons américains de l’intelligence artificiel, tels que Google, OpenAI ou Anthropic, qui pourront, «sur la base du volontariat», soumettre leurs modèles de pointe à un examen gouvernemental avant leur sortie.