Coming-out

Il y a quelques mois, des experts en sécurité informatique ont réussi à s’introduire dans les systèmes internes d’OpenAI et à accéder aux comptes ChatGPT de ses employés en moins de 72 heures. Il s’agissait d’une opération de piratage éthique intégrant l’utilisation de Claude, l’IA d’Anthropic. Pourquoi une telle opération ? Comment celle-ci s’est-elle déroulée ?

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Les modèles ont franchi des systèmes de sécurité pour se connecter librement à Internet et obtenir des «informations secrètes». Une enquête est ouverte par l’entreprise ainsi que la plateforme Hugging Face, ciblée par l’attaque sans précédent.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

Les Etats-Unis doivent commencer à bloquer lundi après-midi les ports iraniens au lendemain de l'échec de pourparlers avec l'Iran, qui crie à la "piraterie" et menace de s'en prendre aux ports de la région. C'est à 14H00 GMT que Donald Trump a prévu d'imposer ce blocus aux navires "entrant ou sortant des ports et zones côtières iraniens", une perspective qui refait flamber les cours du pétrole et inquiète particulièrement la Chine. L'Iran a dénoncé un acte "illégal", qui relève de la "piraterie", et menacé de représailles chez ses voisins du Golfe, déjà ciblés par des frappes iraniennes lors de la guerre déclenchée fin février par l'offensive israélo-américaine sur l'Iran. "Si la sécurité des ports de la République islamique (...) est menacée, aucun port dans le Golfe persique et la mer d'Arabie ne sera en sécurité", a averti le commandement militaire iranien.

Ces acteurs qui ont doublé des stars comme Julia Roberts, Richard Gere ou Angelina Jolie ont sommé vendredi 30 janvier deux plateformes américaines de retirer de leur catalogue sous huit jours leur voix, clonée sans leur consentement.

D’après «Mediapart», Guillaume Lample, qui a participé à développer l’IA de Meta avant de lancer Mistral AI, aurait eu recours à LibGen, un site Internet pirate qui recense des millions de livres, pour entraîner le grand modèle de langage du groupe.