Sismique

Le modèle d'IA n'était pas censé avoir accès à Internet, mais a trouvé et exploité une faille dans les contrôles réseau de l'environnement de test.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les grands modèles de langage généralistes (ChatGPT, Claude, Gemini) ne sont pas neutres épistémiquement. Leur mécanisme d’apprentissage produit un biais structurel, pas nécessairement corrigé par le système d’IA dans lequel ils sont plongés, et dont l’intensité varie selon les disciplines : très faible en mathématiques, très fort dans les sciences sociales et humaines. Cet article propose une grille d’analyse fondée sur trois critères — densité du signal de vérité, résistance sociologique du paradigme dominant, séparabilité fait/valeur — appliquée à une classification en cinq catégories épistémologiques.

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

C'est une "cyberattaque sans précédent" de l'aveu même d'OpenAI, qui reconnaît qu’au cours de tests de sécurité plusieurs de ses modèles d’intelligence artificielle ont réussi à contourner les garde-fous qui limitaient leur accès à Internet. Cherchant à évaluer leurs capacités de piratage, l’entreprise a vu ces systèmes s’autonomiser et attaquer une plateforme très utilisée par les développeurs. Récit de Nicolas Chamontin.

Les modèles ont franchi des systèmes de sécurité pour se connecter librement à Internet et obtenir des «informations secrètes». Une enquête est ouverte par l’entreprise ainsi que la plateforme Hugging Face, ciblée par l’attaque sans précédent.