Focus Risque technologique

L’armée ukrainienne effectue déjà quotidiennement des missions avec des aéronefs embarquant des modules d’intelligence artificielle pour reconnaître et atteindre leur cible. Côté russe, les développements sont massifs et rapides, permettant à des drones de moyenne portée d’effectuer des missions en totale autonomie.

Les dirigeants d’OpenAI et d’Anthropic, ainsi que le Français Clément Delangue, cofondateur de Hugging Face, doivent s’exprimer, mercredi, à New York. Mardi, la France s’est tenue à l’écart d’une « déclaration » portée par 20 pays, réclamant des mesures contraignantes face à la course à l’intelligence artificielle.

Apparu avec la 1ère révolution industrielle, le système technologique menace de stériliser la Terre. Très schématiquement, le système technologique est formé par l’ensemble des sites d’extraction (mines, champs de monoculture), de transformation (usines) et de consommation (villes) reliés entre eux par des infrastructures de transport et de communication.

L’intelligence artificielle et ses usages posent de nouveaux enjeux stratégiques et de nouvelles opportunités, mais aussi des risques majeurs, souligne la climatologue Valérie Masson-Delmotte.

Les dirigeants de plusieurs pays, ainsi que la présidente de la Commission européenne, Ursula von der Leyen, s’inquiètent que le développement de l’IA puisse dépasser notre capacité à la contrôler. Les grandes puissances dans le domaine – les Etats-Unis, la Chine, mais aussi la France – n’ont pas signé cette déclaration commune.

Les discrours qui soutiennent que l’intelligence artificelle permettrait une avancée dans la lutte contre le changement climatique est un fantasme techno-solutionniste. Nous avons besoin d’une transformation profonde de nos modes de vie, nous dit Lou Welgryn, secrétaire générale de Data for Good.

Créé début septembre par un développeur, le média «El Primer Feca» est entièrement produit par l’intelligence artificielle, du contenu aux visages.

Face au risque géopolitique et militaire de l'IA, les États-Unis esquissent avec la Chine l'idée d'un "téléphone rouge" technologique pour parer aux pertes de contrôle et aux mésusages.

Dans son discours d’ouverture, il est notamment revenu sur la situation en Cisjordanie, mais aussi sur la responsabilité des géants pétroliers et sur la coopération en matière d’intelligence artificielle.

Lors de l'entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d'entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions.

Les États-Unis ont proposé à la Chine, dimanche, la création d'un "mécanisme" de dialogue à propos de l'intelligence artificielle. Les deux puissances pourraient échanger des notifications "en cas d'incidents, si quelque chose est arrivé qui relève de la sécurité nationale", a expliqué le ministre américain des Finances, Scott Bessent.

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Les technofascistes ont fait de l’intelligence artificielle le bras armé de leur projet de société. Pourtant, rien ne leur appartient vraiment : ni les outils, ni les savoirs qui les nourrissent. Cet essai est un manuel de combat qui appelle à s’emparer de l’IA pour transformer cette arme d’oppression en outil d’émancipation. Contre le mythe de la « super- intelligence », des contre-cultures interrogent la possibilité d’un autre imaginaire technologique. Des artistes, activistes et hackers détournent déjà l’intelligence artificielle pour inventer de nouveaux usages, subversifs et libérateurs. Les mini-IA , l’open source, les serveurs locaux, l’espace latent et les failles du système sont à la fois le nouveau front et les nouvelles munitions pour sortir de l’impuissance technologique. Car l’IA est plus qu’une arme dans la bataille culturelle, elle est le terrain de cette bataille. Entre le technosolutionnisme béat et le rejet en bloc, une alternative se dessine. Détourner, dévoiler, saboter, désaligner, décolo

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.