Flux continu

Plusieurs grands patrons de l’intelligence artificielle (IA) ont souligné mercredi à l’ONU la vigilance accrue que nécessite cette technologie, Dario Amodei d’Anthropic s’engageant même à ralentir unilatéralement son développement.

Les patrons des deux géants américains de l'intelligence artificielle OpenAI et Anthropic se sont exprimés mercredi devant le Conseil de sécurité de l'ONU lors d'une réunion initiée par la France. Sam Altman a appelé à faire preuve d'une "attention extrême" alors que cette technologie pourrait accélérer rapidement, et à la coopération internationale. Dario Amodei a quant à lui promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son IA.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Dario Amodei a dit samedi redouter «que d’ici 6 à 12 mois, un groupe d’agents IA soit capable de prendre le contrôle de l’intégralité d’internet», ce qui «pourrait entraîner des centaines de milliards de dollars de dégâts».

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

L’entreprise américaine a publié un rapport consacré au détournement de ses modèles. Anthropic dit avoir déjoué des tentatives de concevoir des armes, de mener des recherches biologiques douteuses ou de créer de fausses applications de rencontre afin d’escroquer les utilisateurs.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Le ministère du commerce avait brutalement contraint Anthropic à couper l’accès à ces deux modèles de pointe, le 12 juin, invoquant la sécurité nationale après la détection de failles.

L’interdiction d’accès aux modèles les plus avancés d’Anthropic a créé une onde de choc en Europe. Alors que Paris annonce 655 millions d’euros supplémentaires pour l’intelligence artificielle. L’épisode rappelle la dépendance du continent aux technologies américaines.

Anthropic vient d’annoncer qu’elle va être contrainte de suspendre les accès à Fable 5 et Mythos 5, ses modèles d’IA les plus avancés, pour tous ses utilisateurs, après que le gouvernement américain lui a ordonné d’en interdire l’accès aux ressortissants étrangers. Si le gouvernement a évoqué des raisons de sécurité nationale, l’entreprise affirme qu’il n’a donné aucun détail précis quant à la manière exacte dont ses modèles pourraient constituer une menace.

L’IA progresse si rapidement qu’elle serait bientôt capable de s’auto-améliorer ou de former de manière autonome des successeurs encore plus performants, selon un récent rapport d’Anthropic. Si cette capacité pourrait être particulièrement intéressante pour des domaines tels que la médecine, elle nécessite également un encadrement législatif rigoureux compte tenu des risques de perte de contrôle sur la technologie.

L’entreprise américaine dirigée par Dario Amodei publie un nouvel essai alertant sur les dangers de l’intelligence artificielle, pointant la possibilité, à terme, de modèles qui « s’auto-améliorent ».

L’entreprise américaine plaide en faveur d’un système permettant aux acteurs de cette technologie de se mettre d’accord pour en ralentir ou en suspendre le développement. Elle souligne le risque de « perte de contrôle », et le besoin pour les structures sociétales d’être à même de pouvoir « suivre le rythme des progrès de la technologie ».