Articles

Les Français pourront bientôt déléguer leurs achats à des robots. L’absence de cadre réglementaire inquiète tous les acteurs, des commerçants aux banques en passant par les consommateurs.

Un employé démissionnaire d'OpenAI, qui travaillait sur la sécurité de ses modèles d'intelligence artificielle (IA), a mis en cause l'insuffisante culture du risque au sein de la start-up et la nécessité de s'inspirer du nucléaire ou de l'aviation.

Une ONG a assigné OpenAI, la société qui développe ChatGPT, après le piratage de la plateforme Hugging Face. Une première qui pose la question de la responsabilité des géants de la tech alors que le débat sur les besoins de régulation et de ralentissement de la recherche divise le secteur.

Les leaders du secteur ont adopté lundi 28 septembre à la Maison Blanche un code de bonne conduite sur la base du volontariat. Plusieurs incidents de sécurités et de mises en garde en ont fait un sujet majeur de la campagne des «midterms».

Il s’agit de la première procédure connue contre une entreprise du secteur, en rapport avec les récents dérapages spontanés de l’intelligence artificielle dont ont fait état cet été OpenAI mais aussi Anthropic, Google et Meta.

Dans son rapport annuel sur la technologie, le cabinet Bain & Company estime qu'il faudra dégager, d'ici 2031, des "milliers de milliards de dollars" de nouveaux revenus pour financer les investissements dans les infrastructures d'IA.

Le modèle d'IA n'était pas censé avoir accès à Internet, mais a trouvé et exploité une faille dans les contrôles réseau de l'environnement de test.

Les médias rapportent que les auteurs de la cyberattaque ont utilisé l’intelligence artificielle, une première en Espagne.

Annoncé par la Maison Blanche à l’issue de la visite d’Etat de Xi Jinping, ce mécanisme s’accompagne d’un dialogue bilatéral sur la « super-intelligence », alors que les deux rivaux divergent sur l’encadrement de la technologie.

Bill Gates a une nouvelle fois appelé à la mise en place d'une réglementation.

Alors que le Pentagone fait face aux défaillances liées à l'IA lors du bombardement d'une école en Iran, une nouvelle hallucination d'IA a failli déclencher une opération militaire américaine contre un navire chinois.

Il y a quelques mois, des experts en sécurité informatique ont réussi à s’introduire dans les systèmes internes d’OpenAI et à accéder aux comptes ChatGPT de ses employés en moins de 72 heures. Il s’agissait d’une opération de piratage éthique intégrant l’utilisation de Claude, l’IA d’Anthropic. Pourquoi une telle opération ? Comment celle-ci s’est-elle déroulée ?

Lancé début septembre, Muse s’est rapidement hissé en tête des téléchargements aux Etats-Unis. Avec cet assistant capable d’agir à la place de l’utilisateur, Meta ambitionne de démocratiser les agents d’IA, au prix de nouvelles questions sur la vie privée.

Un agent autonome d'OpenAI a été impliqué dans une nouvelle intrusion, et cette fois c'est un site internet du gouvernement australien qui a été visé, au mois de juin. Le Premier ministre australien a indiqué mercredi avoir exprimé "sa vive inquiétude" au patron d'OpenAI au sujet de cet incident "inacceptable", alors que l'inquiétude mondiale grandit vis-à-vis de la puissance des outils d'IA avancée.

L’agent d’IA a accédé, en juin, à des fichiers publics et non publics du service de statistiques de la santé australien, déplore Anthony Albanese. Ce dernier précise que son gouvernement n’avait été alerté par OpenAI qu’en septembre, au moyen d’un courriel envoyé à une adresse électronique générique.

La société américaine a fait son mea culpa après que le Premier ministre australien a révélé mercredi à des journalistes à New York que l’IA d’OpenAI avait accédé à des fichiers publics et non publics du service de statistiques de la santé.

L’armée ukrainienne effectue déjà quotidiennement des missions avec des aéronefs embarquant des modules d’intelligence artificielle pour reconnaître et atteindre leur cible. Côté russe, les développements sont massifs et rapides, permettant à des drones de moyenne portée d’effectuer des missions en totale autonomie.

Les dirigeants d’OpenAI et d’Anthropic, ainsi que le Français Clément Delangue, cofondateur de Hugging Face, doivent s’exprimer, mercredi, à New York. Mardi, la France s’est tenue à l’écart d’une « déclaration » portée par 20 pays, réclamant des mesures contraignantes face à la course à l’intelligence artificielle.

Les patrons des deux géants américains de l'intelligence artificielle OpenAI et Anthropic se sont exprimés mercredi devant le Conseil de sécurité de l'ONU lors d'une réunion initiée par la France. Sam Altman a appelé à faire preuve d'une "attention extrême" alors que cette technologie pourrait accélérer rapidement, et à la coopération internationale. Dario Amodei a quant à lui promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son IA.

Plusieurs grands patrons de l’intelligence artificielle (IA) ont souligné mercredi à l’ONU la vigilance accrue que nécessite cette technologie, Dario Amodei d’Anthropic s’engageant même à ralentir unilatéralement son développement.

L’intelligence artificielle et ses usages posent de nouveaux enjeux stratégiques et de nouvelles opportunités, mais aussi des risques majeurs, souligne la climatologue Valérie Masson-Delmotte.

Les dirigeants de plusieurs pays, ainsi que la présidente de la Commission européenne, Ursula von der Leyen, s’inquiètent que le développement de l’IA puisse dépasser notre capacité à la contrôler. Les grandes puissances dans le domaine – les Etats-Unis, la Chine, mais aussi la France – n’ont pas signé cette déclaration commune.

Les discrours qui soutiennent que l’intelligence artificelle permettrait une avancée dans la lutte contre le changement climatique est un fantasme techno-solutionniste. Nous avons besoin d’une transformation profonde de nos modes de vie, nous dit Lou Welgryn, secrétaire générale de Data for Good.

Créé début septembre par un développeur, le média «El Primer Feca» est entièrement produit par l’intelligence artificielle, du contenu aux visages.

Face au risque géopolitique et militaire de l'IA, les États-Unis esquissent avec la Chine l'idée d'un "téléphone rouge" technologique pour parer aux pertes de contrôle et aux mésusages.

Dans son discours d’ouverture, il est notamment revenu sur la situation en Cisjordanie, mais aussi sur la responsabilité des géants pétroliers et sur la coopération en matière d’intelligence artificielle.

Lors de l'entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d'entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions.

Les États-Unis ont proposé à la Chine, dimanche, la création d'un "mécanisme" de dialogue à propos de l'intelligence artificielle. Les deux puissances pourraient échanger des notifications "en cas d'incidents, si quelque chose est arrivé qui relève de la sécurité nationale", a expliqué le ministre américain des Finances, Scott Bessent.

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Exclusive: Intelligence officers say Russian campaign could intensify ‘in months, not years’ – but that panic risks playing into Kremlin psy-ops

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les visites des sites d’actualité ont reculé de 15 % le mois dernier, selon l’ACPM. Dans une tribune publiée ce jeudi 17 septembre, 28 médias indépendants alertent sur une «cannibalisation» des contenus journalistiques par l’IA de Google.

Après plusieurs incidents impliquant des agents d’intelligence artificielle, les mises en garde et les initiatives pour mieux encadrer l’IA se multiplient. OpenAI, Anthropic et Google DeepMind envisagent un organe commun de supervision des risques, tandis que Mistral, qui reconnaît des dangers réels, conteste les appels à ralentir le développement de la technologie.

Le groupe, qui investit jusqu’à l’équivalent de 126 milliards d’euros cette année dans ses infrastructures d’IA, bataille contre toute régulation susceptible de le ralentir. « Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu’ils demandent », a défendu le dirigeant de Meta.

Lors d’une conférence à Washington, mardi, le sénateur du Vermont et l’animateur national-populiste ont alerté sur la nécessité de ralentir et d’encadrer les progrès de l’intelligence artificielle, sans s’entendre sur les moyens pour y parvenir.

Tandis que les Etats-Unis débattent de freiner l’IA, le chef du renseignement chinois liste les menaces que cette technologie fait peser, sur le régime notamment, à quelques jours d’une rencontre à Washington entre les présidents des deux premières puissances.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Avec un partenariat de 100 millions d’euros sur trois ans, TotalEnergies et Mistral veulent notamment optimiser la gestion des réservoirs de pétrole et de gaz.

Alors que l’IA s’impose dans tous les secteurs, des patrons américains du secteur technologique ont eux-mêmes plaidé pour un ralentissement des avancées dans le domaine. Donald Trump a, lui, fustigé une « conspiration malsaine » contre l’IA.

Un chercheur d'Anthropic avait déjà quitté l'industrie mercredi dernier, affirmant que ni son entreprise, ni son ex-employeur OpenAI n'agissaient de manière responsable.

Les centres de données indispensables à l’intelligence artificielle nécessitent l’extraction de toujours plus de métaux et terres rares. Une industrie qui détruit, assèche, tue et exploite sur tous les continents, rappelle notre chroniqueuse.

Le président des Etats-Unis a estimé, samedi, qu’il fallait devancer Pékin dans ce domaine stratégique, en réponse aux inquiétudes des leaders de l’IA face aux capacités croissantes de leurs modèles. Un débat qui s’installe avant les midterms, sur fond de difficultés de financement pour les géants du secteur.

Samedi, le patron d'Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l'intelligence artificielle.

Les valeurs liées à l'intelligence artificielle reculent en Europe et en Asie après les avertissements spectaculaires de plusieurs dirigeants du secteur. Dario Amodei, patron d'Anthropic, appelle à ralentir le développement des modèles les plus puissants, avec le soutien de Sam Altman et Elon Musk. Une position rejetée par le président américain Donald Trump.

Banques, hôpitaux, centrales électriques, armées : notre monde entier est connecté. L'autonomie croissante des intelligences artificielles donne une portée inédite aux risques liés à cette interconnexion.

Dario Amodei a dit samedi redouter «que d’ici 6 à 12 mois, un groupe d’agents IA soit capable de prendre le contrôle de l’intégralité d’internet», ce qui «pourrait entraîner des centaines de milliards de dollars de dégâts».

Il y a peu, le personnel du département de la Défense des Etats-Unis a mis à disposition de ses employés les modèles d’IA ChatGPT et Grok. Il s’agit ici de versions sécurisées présentes sur la plateforme interne et centralisée et Pentagone. Avec l’intégration de Gemini l’année dernière, le nombre d’IA utilisées est désormais de trois. Qu’est ce que cela change ? Pourquoi le Pentagone a t-il besoin d’autant de modèles ?

« Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse, et nous ne ressentons pas de pression en ce sens », a déclaré le patron de la société créatrice de ChatGPT.

Ce qui ressemble à l’avant-dernier épisode excessivement dramatique d’une série de science-fiction sur l’apocalypse provoquée par l’IA est désormais notre réalité. Mardi (8 sept 2026), un ancien chercheur d’OpenAI a quitté son poste chez Anthropic, avertissant que « ni l’une ni l’autre des deux entreprises n’agit de manière responsable » et que « les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de marketing ». En tant que personne qui suit les risques liés à l’IA depuis des années, cette nouvelle ne m’a pas surpris. Mais la vague d’inquiétude suscitée par cette déclaration montre qu’un public beaucoup plus large est enfin confronté, pour la première fois, à cette situation absurde.

Donald Trump a dénoncé dimanche les "forces négatives" qui veulent ralentir le développement de l'intelligence artificielle. Cette déclaration intervient alors que les appels à davantage de prudence et de régulation se multiplient, y compris de la part de figures du secteur comme le patron d'Anthropic, Dario Amodei.

Plusieurs événements au cours desquels des intelligences artificielles ont échappé à leurs concepteurs ont provoqué des craintes sur les capacités des IA en matière de cybersécurité. Une inquiétude pas entièrement justifiée.

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Les avertissements se multiplient sur les risques liés à des IA toujours plus puissantes qui prennent des décisions que leurs créateurs n'avaient pas prévues. Les incidents d’intelligence artificielle qui échappent au contrôle de ceux qui les utilisent sont en hausse. Un phénomène qui n’étonne pas les experts, encore faut-il comprendre ce qu’est une IA "autonome".

Et si l'IA révolutionnait nos prévisions météo en pouvant même détecter plus vite des phénomènes extrêmes ?

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

L’entreprise américaine a publié un rapport consacré au détournement de ses modèles. Anthropic dit avoir déjoué des tentatives de concevoir des armes, de mener des recherches biologiques douteuses ou de créer de fausses applications de rencontre afin d’escroquer les utilisateurs.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

Il y a peu, plus d’une centaine d’entreprises ont publié une lettre ouverte afin de lancer une alerte. Cette mise en garde concerne un changement d’échelle imminent relatif aux cyberattaques dopées à l’intelligence artificielle. Selon les signataires, le monde dispose d’une fenêtre limitée pour renforcer ses cyberdéfenses avant que ce type de technologie rendent les offensives numériques massivement plus difficiles à contrer.

What sounds like the overwrought penultimate episode in a sci-fi series about AI doom is now our reality

Depuis les travaux fondateurs de l’économiste autrichien Joseph Schumpeter, la recherche en management de l’innovation souligne que ce qui distingue une invention d’une innovation, c’est sa diffusion. Or, cette diffusion dépend notamment de l’acceptabilité sociale de l’invention et de la manière dont ses usages sont perçus. Sans cette acceptabilité, l’invention risque d’être cantonnée aux expérimentations des scientifiques et aux spéculations des investisseurs.

New hires and comments in interviews show that the AI giant is using its capabilities against dissenters.

« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Alarming warnings from industry insiders increase pressure for curbs on artificial superintelligence

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Selon un rapport publié mercredi, les entreprises du secteur ne parviennent pas à réduire assez rapidement leurs émissions, dans un contexte de besoins accrus en énergie en raison du développement de l’intelligence artificielle.

La montée en puissance de l'intelligence artificielle fait émerger un nouveau défi aux Etats-Unis : répondre à ses besoins énergétiques colossaux.

Les systèmes d'intelligence artificielle sont entrainés sur les comportements humains qu'ils lisent et regardent/écoutent. Dès lors, le mensonge est une partie intégrante de leurs stratégies. Leur capacité (à mentir et à masquer leurs mensonges) risque de nous dépasser assez rapidement.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Les trois services disposent de quatre mois, soit jusqu’à la fin décembre, pour se ‌conformer aux obligations ‌supplémentaires prévues par le Digital Services Act.

Plus d'une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont appelé jeudi gouvernements et entreprises à renforcer d'urgence la protection des infrastructures essentielles, face à des cyberattaques dopées par l’intelligence artificielle qu'elles prévoient "beaucoup plus répandues et sophistiquées" dans les prochains mois.