Les Formats courts de l’Observatoire

Dario Amodei a dit samedi redouter «que d’ici 6 à 12 mois, un groupe d’agents IA soit capable de prendre le contrôle de l’intégralité d’internet», ce qui «pourrait entraîner des centaines de milliards de dollars de dégâts».

Il y a peu, le personnel du département de la Défense des Etats-Unis a mis à disposition de ses employés les modèles d’IA ChatGPT et Grok. Il s’agit ici de versions sécurisées présentes sur la plateforme interne et centralisée et Pentagone. Avec l’intégration de Gemini l’année dernière, le nombre d’IA utilisées est désormais de trois. Qu’est ce que cela change ? Pourquoi le Pentagone a t-il besoin d’autant de modèles ?

« Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse, et nous ne ressentons pas de pression en ce sens », a déclaré le patron de la société créatrice de ChatGPT.

Ce qui ressemble à l’avant-dernier épisode excessivement dramatique d’une série de science-fiction sur l’apocalypse provoquée par l’IA est désormais notre réalité. Mardi (8 sept 2026), un ancien chercheur d’OpenAI a quitté son poste chez Anthropic, avertissant que « ni l’une ni l’autre des deux entreprises n’agit de manière responsable » et que « les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de marketing ». En tant que personne qui suit les risques liés à l’IA depuis des années, cette nouvelle ne m’a pas surpris. Mais la vague d’inquiétude suscitée par cette déclaration montre qu’un public beaucoup plus large est enfin confronté, pour la première fois, à cette situation absurde.

Donald Trump a dénoncé dimanche les "forces négatives" qui veulent ralentir le développement de l'intelligence artificielle. Cette déclaration intervient alors que les appels à davantage de prudence et de régulation se multiplient, y compris de la part de figures du secteur comme le patron d'Anthropic, Dario Amodei.

Plusieurs événements au cours desquels des intelligences artificielles ont échappé à leurs concepteurs ont provoqué des craintes sur les capacités des IA en matière de cybersécurité. Une inquiétude pas entièrement justifiée.

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Les avertissements se multiplient sur les risques liés à des IA toujours plus puissantes qui prennent des décisions que leurs créateurs n'avaient pas prévues. Les incidents d’intelligence artificielle qui échappent au contrôle de ceux qui les utilisent sont en hausse. Un phénomène qui n’étonne pas les experts, encore faut-il comprendre ce qu’est une IA "autonome".

Et si l'IA révolutionnait nos prévisions météo en pouvant même détecter plus vite des phénomènes extrêmes ?

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

L’entreprise américaine a publié un rapport consacré au détournement de ses modèles. Anthropic dit avoir déjoué des tentatives de concevoir des armes, de mener des recherches biologiques douteuses ou de créer de fausses applications de rencontre afin d’escroquer les utilisateurs.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

Il y a peu, plus d’une centaine d’entreprises ont publié une lettre ouverte afin de lancer une alerte. Cette mise en garde concerne un changement d’échelle imminent relatif aux cyberattaques dopées à l’intelligence artificielle. Selon les signataires, le monde dispose d’une fenêtre limitée pour renforcer ses cyberdéfenses avant que ce type de technologie rendent les offensives numériques massivement plus difficiles à contrer.

What sounds like the overwrought penultimate episode in a sci-fi series about AI doom is now our reality

« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Alarming warnings from industry insiders increase pressure for curbs on artificial superintelligence

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Selon un rapport publié mercredi, les entreprises du secteur ne parviennent pas à réduire assez rapidement leurs émissions, dans un contexte de besoins accrus en énergie en raison du développement de l’intelligence artificielle.

La montée en puissance de l'intelligence artificielle fait émerger un nouveau défi aux Etats-Unis : répondre à ses besoins énergétiques colossaux.

Les systèmes d'intelligence artificielle sont entrainés sur les comportements humains qu'ils lisent et regardent/écoutent. Dès lors, le mensonge est une partie intégrante de leurs stratégies. Leur capacité (à mentir et à masquer leurs mensonges) risque de nous dépasser assez rapidement.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Les trois services disposent de quatre mois, soit jusqu’à la fin décembre, pour se ‌conformer aux obligations ‌supplémentaires prévues par le Digital Services Act.

Plus d'une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont appelé jeudi gouvernements et entreprises à renforcer d'urgence la protection des infrastructures essentielles, face à des cyberattaques dopées par l’intelligence artificielle qu'elles prévoient "beaucoup plus répandues et sophistiquées" dans les prochains mois.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

Plus de 100 entreprises appellent à renforcer d'urgence les défenses face à des cyberattaques de plus en plus puissantes grâce à l'IA.

La consommation mondiale des data centers devrait doubler d’ici 2030 à près de 1 000 TWh, selon le cabinet conseil en énergie Omnegy. Leur rapport publié en juillet alerte sur le risque d’une «refossilisation» mais estime que la France peut miser sur son nucléaire décarboné.

L’ancien patron de Microsoft Bill Gates a appelé mercredi à un accompagnement du changement induit par l’intelligence artificielle (IA), proposant une taxe sur l’IA, la création d’une instance internationale et la désignation d’emplois réservés aux humains.

A la mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI était sorti, de sa propre initiative, de son milieu de test confiné pour s’aventurer sur Internet et attaquer Hugging Face, plateforme où les développeurs du monde entier partagent leurs modèles d’IA.

Il est difficile aujourd’hui d’ignorer l’expression « intelligence artificielle » (IA) tant elle est présente dans les médias, sur les réseaux sociaux et, dans une moindre mesure, dans le monde industriel. Ce phénomène d’hypermédiatisation (hype) n’est pas nouveau pour l’intelligence artificielle, car on a déjà connu de telles périodes d’emballement médiatique, même si l’épisode actuel est particulièrement sévère.

Le pays compte plus de 140 constructeurs de robots humanoïdes et entend en devenir le premier producteur et utilisateur mondial d’ici à 2030. Plus discrètement, il construit sa domination dans le secteur des bras robotisés pour l’industrie.

Une étude publiée dans « Nature » souligne que l’intelligence artificielle va permettre de récupérer plusieurs milliards de barils dans les gisements existants, de diminuer les coûts de forage et d’exploiter des ressources autrefois jugées non rentables.

Le dirigeant de Meta, possédant Facebook, Instagram et WhatsApp, défend un accès le plus large possible à l’IA et propose que les entreprises développant une IA avancée collaborent avec les pouvoirs publics pour les enjeux de sécurité.

Un article de recherche du FMI remet en cause les fondements mêmes de la logique de transition écologique. Certes, les énergies propres progressent, mais sans qu’elles se substituent aux hydrocarbures, en raison d’une constante augmentation de la consommation énergétique. La démonstration des auteurs pulvérise la logique à l’œuvre depuis trois décennies.

Interrogations philosophiques, impacts sociaux et économiques colossaux: la fusion de l’IA et des androïdes promet des lendemains qui chantent… ou qui déchantent.

Des bactériophages conçus par IA ont éliminé avec succès des souches d’Escherichia coli résistantes aux bactériophages naturels, lors de tests en laboratoire. Si les bactériophages sont étudiés depuis longtemps pour la recherche de thérapies contre les bactéries résistantes aux antibiotiques, il s’agit de la première fois que des bactériophages sont entièrement conçus par IA. Ces résultats ouvrent des perspectives pour la conception de bactériophages, mais soulèvent également des questions de biosécurité.

Et si une intelligence artificielle pouvait rédiger, lettre par lettre, le mode d’emploi complet d’un être vivant ? C’est le pari fou tenté par une équipe de recherche qui a demandé à une IA d’inventer des centaines de génomes de virus. Sur ce papier, la majorité s’est révélée inerte. Mais une poignée d’entre eux a bel et bien pris vie, ouvrant une brèche fascinante dans notre rapport à la biologie.

Amazon fait construire au Texas une immense centrale à gaz, a confirmé vendredi le géant technologique américain. L'installation est destinée à alimenter en électricité d'immenses centres de données et ne sera pas connecté au réseau électrique, une solution de plus en plus utilisée par les géants de la tech pour satisfaire à la hâte l'énergie requise par le boom lié à l'IA.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

La Commission européenne a ouvert un appel d’offres pour financer ces gigantesques structures conçues pour l’entraînement de modèles d’intelligence artificielle. Les défis sont nombreux : incertitude budgétaire, respect des normes environnementales, dépendance aux Américains…

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Face à la crainte d'une intelligence artificielle qui s'améliore toute seule de façon incontrôlable, plus de 1 100 cadres du secteur ont lancé un appel sous forme de pétition, mardi, pour que le gouvernement américain soutienne une initiative internationale visant à "temporiser" la sortie des modèles d'IA les plus avancés.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.