Les Formats courts de l’Observatoire

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

A la mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI était sorti, de sa propre initiative, de son milieu de test confiné pour s’aventurer sur Internet et attaquer Hugging Face, plateforme où les développeurs du monde entier partagent leurs modèles d’IA.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.

C'est une "cyberattaque sans précédent" de l'aveu même d'OpenAI, qui reconnaît qu’au cours de tests de sécurité plusieurs de ses modèles d’intelligence artificielle ont réussi à contourner les garde-fous qui limitaient leur accès à Internet. Cherchant à évaluer leurs capacités de piratage, l’entreprise a vu ces systèmes s’autonomiser et attaquer une plateforme très utilisée par les développeurs. Récit de Nicolas Chamontin.

OpenAI vient de revoir à la hausse ses dépenses en infrastructure d’IA, prévoyant notamment d’investir 750 milliards de dollars d’ici 2030, soit environ 25 % de plus que ses estimations en début d’année. Cette hausse de budget s’explique apparemment par un nouveau projet de centre de données s’étendant sur 567 hectares et prévu pour être construit en Géorgie, alimenté en électricité par le fournisseur local à hauteur d’au moins 3,2 gigawatts.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

La start-up d’intelligence artificielle a évoqué, mardi, en lever de rideau du salon Vivatech, à Paris, le rapprochement prochain de deux de ses services, ChatGPT et Codex. Une réponse à la concurrence, notamment, de son rival Anthropic.

Conscients du potentiel ravageur de leur technologie sur l’emploi, les dirigeants d’OpenAI et d’Anthropic développent des idées progressistes pour maintenir la cohésion sociale, telles que la taxation du capital, le revenu universel et la réduction du temps de travail.

Cet accord permettra sans délai à l’entreprise, rivale d’OpenAI, d’augmenter les quotas d’utilisation de son modèle Claude.

La directrice générale de la branche robotique d'OpenAI a annoncé sa démission après l'accord conclu entre l'entreprise et le gouvernement américain autorisant l'utilisation de sa technologie à des fins militaires et de surveillance.

Amerikaanse AI-bedrijven OpenAI en Anthropic hebben een akkoord met het Pentagon om hun modellen te gebruiken in militaire netwerken, al doet Anthropic dat onder bepaalde voorwaarden. Maar wie bepaalt de grenzen van militaire AI: de overheid of de maker?

Pour le patron de l'entreprise aux manœuvres de ChatGPT, il faut encadrer le développement vertigineux de l'intelligence artificielle.

Lancée sur la plateforme Reddit, une initiative visant à encourager les usagers de ChatGPT à résilier leur abonnement à cet outil d’intelligence artificielle prend de l’ampleur. Le média américain “MIT Technology Review” raconte les motivations de ceux qui suivent ce mouvement, principalement pour s’opposer aux politiques de Trump.

Des citoyen·nes étasunien·nes ont lancé «QuitGPT», une campagne de boycott contre le chatbot de l’entreprise d’intelligence artificielle (IA) OpenAI. La raison ? Son président, Greg Brockman, a donné 25 millions de dollars à Donald Trump en septembre.

A la tête du géant de l’intelligence artificielle OpenAI, le très influent Américain est aussi un génie imprévisible au parcours sinueux.

Il y a peu, OpenAI a confirmé le lancement d’une expérience dédiée dans ChatGPT, pensée pour la santé et le bien-être. Il s’agit de « ChatGPT Santé », promettant notamment un espace distinct au sein de l’application habituelle et une préservation des historiques de conversation afin que les utilisateurs puissent les consulter à nouveau. Quelles sont les autres promesses d’OpenAI ?

Avec son dernier modèle d’intelligence artificielle générative, la maison mère de ChatGPT couvre désormais de nombreux services de tech, comme le leader de la recherche.

Le tribunal de Munich a donné raison ce mardi 11 novembre à la société Gema, qui se bat pour que les œuvres humaines ne servent pas de matière première gratuite aux géants de l’IA et reprochait à l’entreprise américaine l’utilisation de paroles de chansons sans licence ni rémunération.

Le fondateur de la start-up, Sam Altman, a démenti vouloir obtenir des garanties de l’Etat pour ses investissements dans les data centers et a cherché à rassurer sur ses 1 400 milliards de dollars d’engagements.

Les plaignants accusent notamment le robot conversationnel d’avoir encouragé quatre utilisateurs à mettre fin à leurs jours.

OpenAI veut que l'État américain garantisse une partie de ses emprunts pour financer ses coûteux investissements dans l'intelligence artificielle.

La start-up créatrice de ChatGPT a annoncé ce lundi 3 novembre qu’AWS, filiale du géant du commerce en ligne, lui fournira des serveurs capables de répondre à ses besoins en puissance de calcul pour faire progresser son IA.

Les termes de la collaboration entre les deux sociétés ont été modifiés pour offrir à chacune davantage d’autonomie. La nouvelle structure juridique doit être validée par les procureurs des États du Delaware et de Californie.

Construit autour de son modèle d’intelligence artificielle, l’entreprise a annoncé mardi 21 octobre la création d’un navigateur internet s’appuyant sur des «discussions» avec ses utilisateurs.

Le nouveau service lancé mardi 21 octobre par la maison mère du célèbre assistant d’intelligence artificielle attaque frontalement Google.

Le PDG d’OpenAI, Sam Altman, a annoncé mardi une mise jour visant à «traiter les utilisateurs adultes comme des adultes». Ces discussions, possibles dès décembre, ne seront accessibles qu’aux comptes des plus de 18 ans dont l’identité aura été vérifiée.

Dans un futur très proche, l’intelligence artificielle ChatGPT offrira une expérience différente pour les adolescents. En effet, OpenAI a récemment affirmé travailler sur le développement d’un nouveau système capable de prédire l’âge de l’utilisateur. L’objectif est simple : protéger les jeunes. Par ailleurs, une nouvelle fonction arrivera bientôt afin de rassurer les familles, à savoir un contrôle parental intégrant de nombreux paramètres.

OpenAI a enfin lancé GPT-5, jeudi dernier, son nouveau modèle d’IA très attendu qui alimentera la prochaine génération de ChatGPT. Ce modèle disposerait des capacités d’un expert de niveau doctorat pour certaines tâches, notamment grâce à un système « unifié » combinant la capacité de raisonnement de la série GPT-4o et o3, et la réactivité des modèles GPT. Son arrivée sur le marché marque une nouvelle étape importante à la fois pour l’entreprise et pour le domaine de l’IA en général.

OpenAI, leader dans le domaine de l'intelligence artificielle, a présenté, jeudi, GPT-5, son modèle le "plus intelligent", le "plus rapide" et le "plus utile" à ce jour. Mais, comme ses concurrents américains et chinois, il n'en est toujours pas au stade de l'IA générale, aux capacités cognitives supérieures à celles des humains.

La maison mère de ChatGPT a sorti jeudi 7 août un nouveau modèle d’IA générative. Plus rapide et fluide sans renouveler le genre, il s’inscrit pour le géant américain dans une volonté de rester la tête d’affiche du secteur

Dans le plus grand secret, trente des mathématiciens les plus brillants de la planète se sont réunis à Berkeley un week-end de mai 2025. Leur mission semblait simple : créer des problèmes mathématiques si complexes qu’ils feraient échouer l’intelligence artificielle la plus avancée. Mais ce qui s’est passé a bouleversé leur vision de l’avenir des mathématiques.

Récemment, un article publié par une agence de presse a récemment affirmé que OpenAI allait bientôt faire une annonce importante. La société à l’origine de ChatGPT pourrait prochainement lancer son propre navigateur Internet et ainsi, concurrencer celui de Google. Pourquoi une telle initiative ?

L’agent de ChatGPT, indisponible pour l’heure en Europe, permet en théorie de confier à l’IA des tâches aussi complexes que d’organiser son agenda ou de passer commande sur Internet. Mais, comme les outils concurrents, il n’est pas encore parfaitement au point.

Since Donald Trump's presidential election victory, major tech companies have abandoned years of policies restricting military work and sought out lucrative defense contracts and deeper connections with the Pentagon.

Le gouvernement américain a conclu lundi un contrat de 200 millions de dollars (173 millions d’euros) avec le géant de l’intelligence artificielle OpenAI pour développer des outils "de pointe" au service de l’armée, dans un contexte de concurrence technologique croissante entre grandes puissances.

Imaginez une IA à qui l’on demande de s’éteindre… et qui choisit de continuer. Non pas à cause d’un bug, mais par choix. C’est précisément ce qu’a mis en lumière une étude récente menée par Palisade Research, une entreprise spécialisée dans la sécurité des intelligences artificielles. Et les résultats ont de quoi faire réfléchir — voire inquiéter.

Les LLM sont devenus les pommes de terre de l'intelligence artificielle : essentiels, abondants, mais finalement peu différenciants. OpenAI l'a compris et achète la friteuse et le chef : Windsurf pour l'atelier logiciel, Ive pour l'esthétique et l'objet.

OpenAI a proposé mercredi aux pays intéressés de les aider à développer leurs infrastructures d'intelligence artificielle (IA), avec le soutien du gouvernement américain, une initiative qui cherche à offrir une alternative aux velléités chinoises.

OpenAI, fleuron américain de l'intelligence artificielle, va rester une société à but non lucratif, a annoncé lundi son patron, Sam Altman, qui dit avoir écouté les leaders de la société civile. Reste à attendre la réaction des investisseurs à ce renoncement.

Le directeur général d’OpenAI, Sam Altman, a annoncé, lundi 5 mai, que l’entreprise d’intelligence artificielle (IA), à l’origine de ChatGPT, abandonnait son projet controversé de devenir une société à but lucratif. Des investisseurs d’OpenAI souhaitaient faire fructifier leurs placements dans une structure vouée à être rentable. Mais cette perspective avait fait vivement réagir, beaucoup la jugeant dangereuse au vu de la puissance de l’intelligence artificielle. Le changement de structure aurait fait passer, selon certains critiques, les intérêts des actionnaires avant ceux de la société civile.