Flux continu

New hires and comments in interviews show that the AI giant is using its capabilities against dissenters.

Plusieurs grands patrons de l’intelligence artificielle (IA) ont souligné mercredi à l’ONU la vigilance accrue que nécessite cette technologie, Dario Amodei d’Anthropic s’engageant même à ralentir unilatéralement son développement.

Les patrons des deux géants américains de l'intelligence artificielle OpenAI et Anthropic se sont exprimés mercredi devant le Conseil de sécurité de l'ONU lors d'une réunion initiée par la France. Sam Altman a appelé à faire preuve d'une "attention extrême" alors que cette technologie pourrait accélérer rapidement, et à la coopération internationale. Dario Amodei a quant à lui promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son IA.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Dario Amodei a dit samedi redouter «que d’ici 6 à 12 mois, un groupe d’agents IA soit capable de prendre le contrôle de l’intégralité d’internet», ce qui «pourrait entraîner des centaines de milliards de dollars de dégâts».

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

L’entreprise américaine a publié un rapport consacré au détournement de ses modèles. Anthropic dit avoir déjoué des tentatives de concevoir des armes, de mener des recherches biologiques douteuses ou de créer de fausses applications de rencontre afin d’escroquer les utilisateurs.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Le ministère du commerce avait brutalement contraint Anthropic à couper l’accès à ces deux modèles de pointe, le 12 juin, invoquant la sécurité nationale après la détection de failles.

L’interdiction d’accès aux modèles les plus avancés d’Anthropic a créé une onde de choc en Europe. Alors que Paris annonce 655 millions d’euros supplémentaires pour l’intelligence artificielle. L’épisode rappelle la dépendance du continent aux technologies américaines.

Anthropic vient d’annoncer qu’elle va être contrainte de suspendre les accès à Fable 5 et Mythos 5, ses modèles d’IA les plus avancés, pour tous ses utilisateurs, après que le gouvernement américain lui a ordonné d’en interdire l’accès aux ressortissants étrangers. Si le gouvernement a évoqué des raisons de sécurité nationale, l’entreprise affirme qu’il n’a donné aucun détail précis quant à la manière exacte dont ses modèles pourraient constituer une menace.

L’IA progresse si rapidement qu’elle serait bientôt capable de s’auto-améliorer ou de former de manière autonome des successeurs encore plus performants, selon un récent rapport d’Anthropic. Si cette capacité pourrait être particulièrement intéressante pour des domaines tels que la médecine, elle nécessite également un encadrement législatif rigoureux compte tenu des risques de perte de contrôle sur la technologie.

L’entreprise américaine dirigée par Dario Amodei publie un nouvel essai alertant sur les dangers de l’intelligence artificielle, pointant la possibilité, à terme, de modèles qui « s’auto-améliorent ».

L’entreprise américaine plaide en faveur d’un système permettant aux acteurs de cette technologie de se mettre d’accord pour en ralentir ou en suspendre le développement. Elle souligne le risque de « perte de contrôle », et le besoin pour les structures sociétales d’être à même de pouvoir « suivre le rythme des progrès de la technologie ».

Chris Olah, le cofondateur d’Anthropic, à l’origine du logiciel Claude, a alerté sur les risques liés à l’intelligence artificielle. Il était l’invité du pape Léon XIV ce 25 mai 2026, au Vatican.

Conscients du potentiel ravageur de leur technologie sur l’emploi, les dirigeants d’OpenAI et d’Anthropic développent des idées progressistes pour maintenir la cohésion sociale, telles que la taxation du capital, le revenu universel et la réduction du temps de travail.

Cet accord permettra sans délai à l’entreprise, rivale d’OpenAI, d’augmenter les quotas d’utilisation de son modèle Claude.

SpaceX, OpenAI, Google, Reflection, Nvidia, Microsoft et AWS vont travailler avec le ministère de la Défense tandis que la start-up, à l’origine du modèle Claude, a été écartée à la suite d’un litige avec l’administration Trump.

Face à l’exclusion d’Anthropic, le Pentagone diversifie ses partenaires IA pour renforcer la sécurité nationale tout en cherchant à éviter toute dépendance technologique.

Une chronique signée Charles Cuvelliez, Ecole Polytechnique de Bruxelles (ULB), Gaël Hachez, Haute-Ecole Libre de Bruxelles (HELB) et David Vanderoost, CEO d'Approach-Cyber.

Boris Cherny a posé les mains sur son clavier pour la dernière fois en novembre 2025. Depuis, chaque ligne de code qu’il livre est écrite par Claude, l’IA qu’il a lui-même conçue. Pas une ébauche retouchée. Pas un bout de code corrigé à la marge. Zéro édition manuelle, pendant plus de deux mois consécutifs.

Anthropic vient de prendre une décision rare et très forte. Il y a quelques jours, l’entreprise a annoncé qu’elle retardait la sortie publique de son nouveau modèle, baptisé Mythos. La raison officielle est claire : ce modèle est trop puissant et trop dangereux pour être mis à la disposition de tous.

Un tribunal californien a suspendu jeudi 26 mars les mesures prises par l’administration contre l’entreprise d’intelligence artificielle de San Francisco, qui avait exprimé des réserves sur l’usage de sa technologie à des fins militaires.

La start-up d’intelligence artificielle californienne a refusé l’accès illimité de l’armée américaine à son modèle de langage Claude. En rétorsion, le gouvernement l’a placée sur une liste d’entreprises «à risque».

C’est un court-circuit inédit au sommet de l’État américain qui illustre la dépendance technologique du Pentagone. Quelques heures seulement après que le président Donald Trump ait ordonné le bannissement total de la société Anthropic des agences fédérales, l’armée américaine aurait continué à déployer l’intelligence artificielle Claude lors d’opérations actives contre l’Iran. Ce déploiement en plein cœur d’un bombardement conjoint avec Israël souligne une réalité brutale : une fois intégrés aux cycles de décision militaire, ces outils de pointe sont devenus presque impossibles à débrancher instantanément, même sur ordre présidentiel.

Amerikaanse AI-bedrijven OpenAI en Anthropic hebben een akkoord met het Pentagon om hun modellen te gebruiken in militaire netwerken, al doet Anthropic dat onder bepaalde voorwaarden. Maar wie bepaalt de grenzen van militaire AI: de overheid of de maker?

Le président des Etats-Unis a ordonné à son administration de « cesser immédiatement » toute collaboration avec la start-up, qui a refusé d’ouvrir son modèle sans restriction à l’armée. OpenAI, de son côté, a annoncé un accord avec le Pentagone.

Donald Trump a ordonné à toutes les agences fédérales de cesser immédiatement d'utiliser l'IA d'Anthropic, après que la start-up a refusé de la rendre totalement accessible à l'armée américaine.

Le ministre de la Défense avait fixé un ultimatum à la société qui refuse que son outil serve à la surveillance de masse des citoyens américains et à l’usage d’armes mortelles entièrement autonomes. Ce vendredi soir, Donald Trump a ordonné aux agences fédérales de cesser d’y avoir recours.

Le dirigeant a refusé la demande de lever toute limite à l’utilisation de son modèle Claude par l’armée américaine. « Le Monde » reproduit et traduit son communiqué, diffusé jeudi.

Dario Amodei, le PDG de l’entreprise d’intelligence artificielle, assume des désaccords avec la Maison Blanche sur la régulation ou l’utilisation militaire de sa technologie. Une posture rare aux Etats-Unis, où le monde de la tech a plutôt fait allégeance au président américain.

Il y a peu, le PDG de la société Anthropic a publié un long essai dans lequel il évoque les dangers que l’on peut associer à l’intelligence artificielle. Si Dario Amodei propose également quelques solutions, la publication fait plutôt froid dans le dos. En effet, l’intéressé qualifie notamment les IA d’imprévisibles et difficiles à contrôler.

Dario Amodei questions if human systems are ready to handle the ‘almost unimaginable power’ that is ‘potentially imminent’