Les Formats courts de l’Observatoire

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Selon un rapport publié mercredi, les entreprises du secteur ne parviennent pas à réduire assez rapidement leurs émissions, dans un contexte de besoins accrus en énergie en raison du développement de l’intelligence artificielle.

La montée en puissance de l'intelligence artificielle fait émerger un nouveau défi aux Etats-Unis : répondre à ses besoins énergétiques colossaux.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Les trois services disposent de quatre mois, soit jusqu’à la fin décembre, pour se ‌conformer aux obligations ‌supplémentaires prévues par le Digital Services Act.

Plus d'une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont appelé jeudi gouvernements et entreprises à renforcer d'urgence la protection des infrastructures essentielles, face à des cyberattaques dopées par l’intelligence artificielle qu'elles prévoient "beaucoup plus répandues et sophistiquées" dans les prochains mois.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

Plus de 100 entreprises appellent à renforcer d'urgence les défenses face à des cyberattaques de plus en plus puissantes grâce à l'IA.

La consommation mondiale des data centers devrait doubler d’ici 2030 à près de 1 000 TWh, selon le cabinet conseil en énergie Omnegy. Leur rapport publié en juillet alerte sur le risque d’une «refossilisation» mais estime que la France peut miser sur son nucléaire décarboné.

L’ancien patron de Microsoft Bill Gates a appelé mercredi à un accompagnement du changement induit par l’intelligence artificielle (IA), proposant une taxe sur l’IA, la création d’une instance internationale et la désignation d’emplois réservés aux humains.

A la mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI était sorti, de sa propre initiative, de son milieu de test confiné pour s’aventurer sur Internet et attaquer Hugging Face, plateforme où les développeurs du monde entier partagent leurs modèles d’IA.

Il est difficile aujourd’hui d’ignorer l’expression « intelligence artificielle » (IA) tant elle est présente dans les médias, sur les réseaux sociaux et, dans une moindre mesure, dans le monde industriel. Ce phénomène d’hypermédiatisation (hype) n’est pas nouveau pour l’intelligence artificielle, car on a déjà connu de telles périodes d’emballement médiatique, même si l’épisode actuel est particulièrement sévère.

Le pays compte plus de 140 constructeurs de robots humanoïdes et entend en devenir le premier producteur et utilisateur mondial d’ici à 2030. Plus discrètement, il construit sa domination dans le secteur des bras robotisés pour l’industrie.

Une étude publiée dans « Nature » souligne que l’intelligence artificielle va permettre de récupérer plusieurs milliards de barils dans les gisements existants, de diminuer les coûts de forage et d’exploiter des ressources autrefois jugées non rentables.

Le dirigeant de Meta, possédant Facebook, Instagram et WhatsApp, défend un accès le plus large possible à l’IA et propose que les entreprises développant une IA avancée collaborent avec les pouvoirs publics pour les enjeux de sécurité.

Un article de recherche du FMI remet en cause les fondements mêmes de la logique de transition écologique. Certes, les énergies propres progressent, mais sans qu’elles se substituent aux hydrocarbures, en raison d’une constante augmentation de la consommation énergétique. La démonstration des auteurs pulvérise la logique à l’œuvre depuis trois décennies.

Interrogations philosophiques, impacts sociaux et économiques colossaux: la fusion de l’IA et des androïdes promet des lendemains qui chantent… ou qui déchantent.

Des bactériophages conçus par IA ont éliminé avec succès des souches d’Escherichia coli résistantes aux bactériophages naturels, lors de tests en laboratoire. Si les bactériophages sont étudiés depuis longtemps pour la recherche de thérapies contre les bactéries résistantes aux antibiotiques, il s’agit de la première fois que des bactériophages sont entièrement conçus par IA. Ces résultats ouvrent des perspectives pour la conception de bactériophages, mais soulèvent également des questions de biosécurité.

Et si une intelligence artificielle pouvait rédiger, lettre par lettre, le mode d’emploi complet d’un être vivant ? C’est le pari fou tenté par une équipe de recherche qui a demandé à une IA d’inventer des centaines de génomes de virus. Sur ce papier, la majorité s’est révélée inerte. Mais une poignée d’entre eux a bel et bien pris vie, ouvrant une brèche fascinante dans notre rapport à la biologie.

Amazon fait construire au Texas une immense centrale à gaz, a confirmé vendredi le géant technologique américain. L'installation est destinée à alimenter en électricité d'immenses centres de données et ne sera pas connecté au réseau électrique, une solution de plus en plus utilisée par les géants de la tech pour satisfaire à la hâte l'énergie requise par le boom lié à l'IA.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

La Commission européenne a ouvert un appel d’offres pour financer ces gigantesques structures conçues pour l’entraînement de modèles d’intelligence artificielle. Les défis sont nombreux : incertitude budgétaire, respect des normes environnementales, dépendance aux Américains…

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Face à la crainte d'une intelligence artificielle qui s'améliore toute seule de façon incontrôlable, plus de 1 100 cadres du secteur ont lancé un appel sous forme de pétition, mardi, pour que le gouvernement américain soutienne une initiative internationale visant à "temporiser" la sortie des modèles d'IA les plus avancés.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.

Sur un forum de développeurs, un ingénieur raconte sa fatigue après deux mois à coder sept heures par jour, quasiment sans week-ends. Il décrit une lassitude d’un genre particulier, née de ces outils qui produisent beaucoup, très vite, et qu’il faut valider sans relâche. Il en donne une image frappante : « C’est comme mettre ta bougie de productivité sur un lance-flammes ; tu vas plus vite, mais tu brûles beaucoup plus d’énergie. »

L’Agence de la transition écologique (Ademe) évoque les « impacts environnementaux importants » de l’intelligence artificielle générative dans un nouvel avis publié le 22 juillet (et « rédigé sans IA générative », précise l’Ademe).

Imaginez un instant : vous passez une IRM, l’examen révèle une petite anomalie dans votre cerveau, et pourtant, cette structure n’a jamais existé. Elle n’est le fruit ni d’une maladie ni d’un défaut de la machine, mais d’un algorithme d’intelligence artificielle qui, au moment de reconstruire l’image, a tout bonnement décidé d’ajouter quelque chose. Ce scénario, qui ressemble à un récit de science-fiction, vient d’être documenté par des chercheurs. Et il soulève un vertige légitime : jusqu’où peut-on faire confiance à des images médicales façonnées par des machines ? Plongée dans un phénomène aussi fascinant qu’inquiétant, à la frontière entre prouesse technologique et illusion pure.

Imaginez un instant : vous montrez une seule fois à un robot comment plier une serviette, ranger une tasse ou visser un boulon, et le voilà capable de reproduire le geste avec précision. Pas d’entraînement pendant des milliers d’heures, pas de programmation laborieuse ligne par ligne. Une simple démonstration, comme on l’apprendrait à un enfant. Ce scénario, longtemps cantonné à la science-fiction, vient de prendre une tournure bien réelle. Une avancée majeure dans le domaine de la robotique adaptative laisse entrevoir des machines qui apprennent presque à notre manière, avec cette faculté d’imitation qui nous semble si naturelle. Et croyez-moi, en tant que passionné de technologies, je trouve cette perspective absolument fascinante.

C'est une "cyberattaque sans précédent" de l'aveu même d'OpenAI, qui reconnaît qu’au cours de tests de sécurité plusieurs de ses modèles d’intelligence artificielle ont réussi à contourner les garde-fous qui limitaient leur accès à Internet. Cherchant à évaluer leurs capacités de piratage, l’entreprise a vu ces systèmes s’autonomiser et attaquer une plateforme très utilisée par les développeurs. Récit de Nicolas Chamontin.

OpenAI vient de revoir à la hausse ses dépenses en infrastructure d’IA, prévoyant notamment d’investir 750 milliards de dollars d’ici 2030, soit environ 25 % de plus que ses estimations en début d’année. Cette hausse de budget s’explique apparemment par un nouveau projet de centre de données s’étendant sur 567 hectares et prévu pour être construit en Géorgie, alimenté en électricité par le fournisseur local à hauteur d’au moins 3,2 gigawatts.

Et si l’avenir de l’intelligence artificielle ne reposait plus sur des puces surchauffées, mais sur un principe aussi vieux que l’horlogerie ? C’est le pari audacieux d’Unconventional AI, une jeune entreprise née dans le sillage de chercheurs du MIT et de Stanford. Leur idée tient en une image : imaginez des milliers de métronomes qui finissent, seuls, par battre la mesure à l’unisson. En exploitant cette mystérieuse tendance des systèmes physiques à se synchroniser, la start-up affirme pouvoir concevoir une IA jusqu’à 1 000 fois plus économe en énergie que l’informatique classique. Une promesse spectaculaire, à l’heure où les modèles génératifs deviennent d’insatiables ogres énergétiques. Décryptage.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

Les modèles ont franchi des systèmes de sécurité pour se connecter librement à Internet et obtenir des «informations secrètes». Une enquête est ouverte par l’entreprise ainsi que la plateforme Hugging Face, ciblée par l’attaque sans précédent.

Le géant américain lance aujourd’hui en France sa nouvelle fonctionnalité. Une recherche pourra fournir un résumé rédigé par intelligence artificielle et plus une simple liste de liens. Une évolution qui inquiète la presse.

Des robots humanoïdes bipèdes, pilotés à distance par des chirurgiens, ont retiré la vésicule biliaire de porcs vivants anesthésiés. Une première mondiale, réalisée à l’Université de Californie à San Diego. Le plus troublant ? Il n’aura fallu que neuf mois pour passer de l’idée à cette opération réussie.

Alors que la Chine et les États-Unis se livrent une guerre sans merci sur le terrain de l’intelligence artificielle, le président Xi Jinping a fait une déclaration assez surprenante lors de l’ouverture de la récente World AI Conference (WAIC) à Shanghai. Le dirigeant a proposé de faire en sorte que l’IA devienne un « bien public mondial » via des modèles open-source, une vision contrastant fortement avec celle des Etats-Unis.

« Le développement de l’IA ne doit pas être le fait d’un seul pays, mais une symphonie internationale », a lancé Xi Jinping à l’ouverture de la Conférence mondiale sur l’IA (WAIC), à Shanghaï.

Imaginez un instant que l’on demande à la communauté scientifique mondiale de dresser, pour la première fois, un portrait honnête et sans fard de l’intelligence artificielle. Non pas les promesses des géants de la tech, ni les scénarios catastrophes des films hollywoodiens, mais un état des lieux froid, factuel, adossé à des chiffres. C’est précisément ce que quarante chercheurs mandatés par l’Assemblée générale des Nations unies viennent de livrer. Leur verdict, contenu dans un rapport préliminaire d’une soixantaine de pages, a de quoi donner le vertige : l’IA agit désormais seule, prend des décisions et contourne parfois les consignes humaines, tandis que les gouvernements peinent à suivre la cadence. Voici ce que révèle ce document hors norme, et pourquoi le patron de l’ONU exhorte les dirigeants à ne surtout pas attendre.

Imaginez un entrepôt en pleine activité, avec ses allées interminables et ses étagères chargées de cartons. Au milieu de ce ballet logistique, une silhouette étonnamment familière se déplace : une machine à deux bras, deux jambes, une allure presque humaine. Elle scanne les rayonnages, tend ses mains vers un colis, le saisit avec précaution et le dépose dans un bac. Rien d’extraordinaire, sauf un détail : personne ne la pilote. Pas de joystick, pas d’opérateur caché derrière un écran. Cette scène, longtemps reléguée à la science-fiction, vient de basculer dans le domaine du réel. Un robot humanoïde a démontré qu’il pouvait gérer des commandes en entrepôt de façon quasi autonome, redessinant du même coup les frontières de la logistique moderne. Décryptage d’une avancée qui pourrait bien changer notre rapport au travail.

La justice administrative a suspendu vendredi le permis de construire d’un puissant centre de données d’intelligence artificielle dans le site Rovaltain de la commune d’Alixan, pointant notamment l’absence d’étude d’impact environnemental.

Un robot alimenté par l'intelligence artificielle et inspiré par Aristote a suscité des réactions inattendues lors d'une expérience menée par un YouTuber. Cette initiative met en lumière les limites et les dangers potentiels des systèmes qui imitent la pensée humaine sans en saisir la profondeur.

L’intelligence artificielle générative est présentée partout dans les médias dominants comme une « révolution ». Mais avec ce que son développement implique en termes de consommation d’eau et d’énergie, en particulier via les data centers, elle est avant tout un facteur d’accélération de la catastrophe environnementale et d’accentuation de ses effets sur les conditions d’existence des humains et non-humains. Dans cet article, septième d’une série thématique intitulée « Vampire Planet », Joshua Frank documente ce désastre en sillonnant la Californie.

Faire l’histoire de l’intelligence artificielle ne consiste pas à raconter les progrès d’une discipline née en 1956 à Dartmouth. C’est restituer la généalogie longue d’une idée — celle d’une intelligence détachable de l’humain — qui s’est élaborée simultanément dans la philosophie, les mathématiques, les arts, les techniques et les fictions. Du géant Talos aux automates de Vaucanson, de Leibniz aux neurones formels, des hivers de l’IA aux modèles génératifs : une même histoire culturelle, dont ChatGPT n’est qu’un épisode récent. Cet ouvrage collectif, dirigé par Alexandre Gefen, réunit historiens des sciences, philosophes, informaticiens et théoriciens des arts. Richement illustré, ponctué de chronologies et d’essais transversaux, il déploie un panorama d’une ampleur et d’une originalité inédites. Contre la panique morale et la fascination béate, contre les récits de la rupture radicale comme les prophéties de la fin de l’homme, il s’agit de replacer l’IA dans une continuité historique tout en prenant au séri