Mastodon

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les visites des sites d’actualité ont reculé de 15 % le mois dernier, selon l’ACPM. Dans une tribune publiée ce jeudi 17 septembre, 28 médias indépendants alertent sur une «cannibalisation» des contenus journalistiques par l’IA de Google.

Après plusieurs incidents impliquant des agents d’intelligence artificielle, les mises en garde et les initiatives pour mieux encadrer l’IA se multiplient. OpenAI, Anthropic et Google DeepMind envisagent un organe commun de supervision des risques, tandis que Mistral, qui reconnaît des dangers réels, conteste les appels à ralentir le développement de la technologie.

Le groupe, qui investit jusqu’à l’équivalent de 126 milliards d’euros cette année dans ses infrastructures d’IA, bataille contre toute régulation susceptible de le ralentir. « Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu’ils demandent », a défendu le dirigeant de Meta.

Lors d’une conférence à Washington, mardi, le sénateur du Vermont et l’animateur national-populiste ont alerté sur la nécessité de ralentir et d’encadrer les progrès de l’intelligence artificielle, sans s’entendre sur les moyens pour y parvenir.

Tandis que les Etats-Unis débattent de freiner l’IA, le chef du renseignement chinois liste les menaces que cette technologie fait peser, sur le régime notamment, à quelques jours d’une rencontre à Washington entre les présidents des deux premières puissances.