Articles 2020

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les visites des sites d’actualité ont reculé de 15 % le mois dernier, selon l’ACPM. Dans une tribune publiée ce jeudi 17 septembre, 28 médias indépendants alertent sur une «cannibalisation» des contenus journalistiques par l’IA de Google.

Après plusieurs incidents impliquant des agents d’intelligence artificielle, les mises en garde et les initiatives pour mieux encadrer l’IA se multiplient. OpenAI, Anthropic et Google DeepMind envisagent un organe commun de supervision des risques, tandis que Mistral, qui reconnaît des dangers réels, conteste les appels à ralentir le développement de la technologie.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Un chercheur d'Anthropic avait déjà quitté l'industrie mercredi dernier, affirmant que ni son entreprise, ni son ex-employeur OpenAI n'agissaient de manière responsable.

Les centres de données indispensables à l’intelligence artificielle nécessitent l’extraction de toujours plus de métaux et terres rares. Une industrie qui détruit, assèche, tue et exploite sur tous les continents, rappelle notre chroniqueuse.

Samedi, le patron d'Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l'intelligence artificielle.

Plusieurs événements au cours desquels des intelligences artificielles ont échappé à leurs concepteurs ont provoqué des craintes sur les capacités des IA en matière de cybersécurité. Une inquiétude pas entièrement justifiée.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.