Jean-Pascal Van Ypersele

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

Les modèles ont franchi des systèmes de sécurité pour se connecter librement à Internet et obtenir des «informations secrètes». Une enquête est ouverte par l’entreprise ainsi que la plateforme Hugging Face, ciblée par l’attaque sans précédent.

Un échantillon de courriels a été mis en ligne par le groupe Handala.

D’après «Mediapart», Guillaume Lample, qui a participé à développer l’IA de Meta avant de lancer Mistral AI, aurait eu recours à LibGen, un site Internet pirate qui recense des millions de livres, pour entraîner le grand modèle de langage du groupe.

Des milliers de formulaires de candidature ont été dérobés. Parmi eux : le dossier de l’actuel prétendant démocrate à la mairie de New York, qui a été transmis à des médias.

Le dispositif n'incite pas au piratage malveillant et ce bien au contraire, puisqu'il s'agit de révolutionner le secteur de la cybersécurité.

Ils sont dans le collimateur des espions américains, français, danois, allemands, suédois, estoniens... En tout, onze agences de renseignement et de sécurité informatique occidentales ont publié un rapport conjoint, mercredi 21 mai, sur la menace représenté par Fancy Bear, un groupe de pirates informatiques russes lié au GRU, le service russe de renseignement militaire.

Si d’autres pays ont déjà évoqué la responsabilité de ce groupe dans des cyberattaques, c’est la première fois que la France, s’appuyant sur sa propre collecte de renseignements, accuse directement l’Etat russe.