Transition énergétique ?

Une ONG a assigné OpenAI, la société qui développe ChatGPT, après le piratage de la plateforme Hugging Face. Une première qui pose la question de la responsabilité des géants de la tech alors que le débat sur les besoins de régulation et de ralentissement de la recherche divise le secteur.

Cet incident survient dans un contexte d’inquiétudes croissantes concernant les actions d’Etats étrangers sur le sol britannique. La ministre de l’intérieur, Shabana Mahmood, a accusé l’Iran et la Russie de faire appel à des intermédiaires pour mener des activités criminelles au Royaume-Uni.

Annoncé par la Maison Blanche à l’issue de la visite d’Etat de Xi Jinping, ce mécanisme s’accompagne d’un dialogue bilatéral sur la « super-intelligence », alors que les deux rivaux divergent sur l’encadrement de la technologie.

Un agent autonome d'OpenAI a été impliqué dans une nouvelle intrusion, et cette fois c'est un site internet du gouvernement australien qui a été visé, au mois de juin. Le Premier ministre australien a indiqué mercredi avoir exprimé "sa vive inquiétude" au patron d'OpenAI au sujet de cet incident "inacceptable", alors que l'inquiétude mondiale grandit vis-à-vis de la puissance des outils d'IA avancée.

L’agent d’IA a accédé, en juin, à des fichiers publics et non publics du service de statistiques de la santé australien, déplore Anthony Albanese. Ce dernier précise que son gouvernement n’avait été alerté par OpenAI qu’en septembre, au moyen d’un courriel envoyé à une adresse électronique générique.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.