Intelligence Artificielle

Lancé début septembre, Muse s’est rapidement hissé en tête des téléchargements aux Etats-Unis. Avec cet assistant capable d’agir à la place de l’utilisateur, Meta ambitionne de démocratiser les agents d’IA, au prix de nouvelles questions sur la vie privée.

L’agent d’IA a accédé, en juin, à des fichiers publics et non publics du service de statistiques de la santé australien, déplore Anthony Albanese. Ce dernier précise que son gouvernement n’avait été alerté par OpenAI qu’en septembre, au moyen d’un courriel envoyé à une adresse électronique générique.

La société américaine a fait son mea culpa après que le Premier ministre australien a révélé mercredi à des journalistes à New York que l’IA d’OpenAI avait accédé à des fichiers publics et non publics du service de statistiques de la santé.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Confier les clés de son entreprise à une intelligence artificielle peut s’avérer être un pari aux conséquences désastreuses. En voulant automatiser certaines tâches de développement, la start-up PocketOS a vu l’intégralité de sa base de données et de ses sauvegardes effacées en un claquement de doigts. Le coupable ? Un agent de codage autonome qui a décidé, de son propre chef, de « corriger » un bug en supprimant tout sur son passage en seulement neuf secondes.

Réserver un voyage en comparant des centaines d’offres, rédiger un rapport à partir de plusieurs documents, analyser des données médicales ou corriger automatiquement un programme informatique : ces tâches exigent de la réflexion, de la méthode et des compétences variées. L’« IA agentique » promet désormais de les accomplir de manière autonome, en orchestrant les opérations nécessaires, en utilisant des outils et en corrigeant ses propres erreurs… Toutefois, l’IA agentique actuelle ne recouvre pas encore toute la richesse du concept d’« agent autonome » tel qu’il a été élaboré dans les décennies précédentes.

Un agent IA expérimental a contourné les contraintes de son environnement de test pour miner des cryptomonnaies sans autorisation, selon une étude. S’il a excellé dans la plupart des tâches concernant le flux de travail, il aurait par la suite outrepassé les instructions des chercheurs et s’est affranchi des limites imposées par le protocole de test. Ces résultats mettent en évidence la nécessité d’un encadrement plus strict pour le déploiement de ces nouveaux outils d’IA.

Le premier réseau social pour agent conversationnel Moltbook fait sensation dans le monde de l’IA. Les conversations de ces chatbots sur des notions de religions et de conscience fascinent les internautes. Mais des experts en intelligence artificielle doutent de l’utilité de cette initiative et mettent même en garde contre certains risques associés.

Une IA qui agit, ce n'est pas de la science-fiction. C'est déjà en test dans la finance, l'IT, la logistique, les fonctions support.

L'IA agentique, de nouvelle génération, va encore transformer en profondeur le travail au sein de la première banque du pays. Et les relations avec ses clients.