Les Soulèvements de la Terre

L’intelligence artificielle et ses usages posent de nouveaux enjeux stratégiques et de nouvelles opportunités, mais aussi des risques majeurs, souligne la climatologue Valérie Masson-Delmotte.

Les dirigeants de plusieurs pays, ainsi que la présidente de la Commission européenne, Ursula von der Leyen, s’inquiètent que le développement de l’IA puisse dépasser notre capacité à la contrôler. Les grandes puissances dans le domaine – les Etats-Unis, la Chine, mais aussi la France – n’ont pas signé cette déclaration commune.

Lors de l'entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d'entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions.

Les États-Unis ont proposé à la Chine, dimanche, la création d'un "mécanisme" de dialogue à propos de l'intelligence artificielle. Les deux puissances pourraient échanger des notifications "en cas d'incidents, si quelque chose est arrivé qui relève de la sécurité nationale", a expliqué le ministre américain des Finances, Scott Bessent.

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les visites des sites d’actualité ont reculé de 15 % le mois dernier, selon l’ACPM. Dans une tribune publiée ce jeudi 17 septembre, 28 médias indépendants alertent sur une «cannibalisation» des contenus journalistiques par l’IA de Google.

Après plusieurs incidents impliquant des agents d’intelligence artificielle, les mises en garde et les initiatives pour mieux encadrer l’IA se multiplient. OpenAI, Anthropic et Google DeepMind envisagent un organe commun de supervision des risques, tandis que Mistral, qui reconnaît des dangers réels, conteste les appels à ralentir le développement de la technologie.

Le groupe, qui investit jusqu’à l’équivalent de 126 milliards d’euros cette année dans ses infrastructures d’IA, bataille contre toute régulation susceptible de le ralentir. « Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu’ils demandent », a défendu le dirigeant de Meta.

Lors d’une conférence à Washington, mardi, le sénateur du Vermont et l’animateur national-populiste ont alerté sur la nécessité de ralentir et d’encadrer les progrès de l’intelligence artificielle, sans s’entendre sur les moyens pour y parvenir.

Tandis que les Etats-Unis débattent de freiner l’IA, le chef du renseignement chinois liste les menaces que cette technologie fait peser, sur le régime notamment, à quelques jours d’une rencontre à Washington entre les présidents des deux premières puissances.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Avec un partenariat de 100 millions d’euros sur trois ans, TotalEnergies et Mistral veulent notamment optimiser la gestion des réservoirs de pétrole et de gaz.

Alors que l’IA s’impose dans tous les secteurs, des patrons américains du secteur technologique ont eux-mêmes plaidé pour un ralentissement des avancées dans le domaine. Donald Trump a, lui, fustigé une « conspiration malsaine » contre l’IA.