➔ 
filtre:
OpenAI
2026
Un agent autonome d'OpenAI a été impliqué dans une nouvelle intrusion, et cette fois c'est un site internet du gouvernement australien qui a été visé, au mois de juin. Le Premier ministre australien a indiqué mercredi avoir exprimé "sa vive inquiétude" au patron d'OpenAI au sujet de cet incident "inacceptable", alors que l'inquiétude mondiale grandit vis-à-vis de la puissance des outils d'IA avancée.
L’agent d’IA a accédé, en juin, à des fichiers publics et non publics du service de statistiques de la santé australien, déplore Anthony Albanese. Ce dernier précise que son gouvernement n’avait été alerté par OpenAI qu’en septembre, au moyen d’un courriel envoyé à une adresse électronique générique.
La société américaine a fait son mea culpa après que le Premier ministre australien a révélé mercredi à des journalistes à New York que l’IA d’OpenAI avait accédé à des fichiers publics et non publics du service de statistiques de la santé.
Les patrons des deux géants américains de l'intelligence artificielle OpenAI et Anthropic se sont exprimés mercredi devant le Conseil de sécurité de l'ONU lors d'une réunion initiée par la France. Sam Altman a appelé à faire preuve d'une "attention extrême" alors que cette technologie pourrait accélérer rapidement, et à la coopération internationale. Dario Amodei a quant à lui promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son IA.
Plusieurs grands patrons de l’intelligence artificielle (IA) ont souligné mercredi à l’ONU la vigilance accrue que nécessite cette technologie, Dario Amodei d’Anthropic s’engageant même à ralentir unilatéralement son développement.
Lors de l'entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d'entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions.
Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.
L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.
« Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse, et nous ne ressentons pas de pression en ce sens », a déclaré le patron de la société créatrice de ChatGPT.
« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.
