Flux continu

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

« Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse, et nous ne ressentons pas de pression en ce sens », a déclaré le patron de la société créatrice de ChatGPT.

« Aucune des deux entreprises n’agit de manière responsable », a écrit le Britannique de 27 ans sur X. Il travaillait depuis trois ans sur le pré-entraînement des modèles d’intelligence artificielle, étape où ces derniers absorbent d’immenses quantités de données.

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

A la mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI était sorti, de sa propre initiative, de son milieu de test confiné pour s’aventurer sur Internet et attaquer Hugging Face, plateforme où les développeurs du monde entier partagent leurs modèles d’IA.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.

OpenAI vient de revoir à la hausse ses dépenses en infrastructure d’IA, prévoyant notamment d’investir 750 milliards de dollars d’ici 2030, soit environ 25 % de plus que ses estimations en début d’année. Cette hausse de budget s’explique apparemment par un nouveau projet de centre de données s’étendant sur 567 hectares et prévu pour être construit en Géorgie, alimenté en électricité par le fournisseur local à hauteur d’au moins 3,2 gigawatts.

C'est une "cyberattaque sans précédent" de l'aveu même d'OpenAI, qui reconnaît qu’au cours de tests de sécurité plusieurs de ses modèles d’intelligence artificielle ont réussi à contourner les garde-fous qui limitaient leur accès à Internet. Cherchant à évaluer leurs capacités de piratage, l’entreprise a vu ces systèmes s’autonomiser et attaquer une plateforme très utilisée par les développeurs. Récit de Nicolas Chamontin.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

La start-up d’intelligence artificielle a évoqué, mardi, en lever de rideau du salon Vivatech, à Paris, le rapprochement prochain de deux de ses services, ChatGPT et Codex. Une réponse à la concurrence, notamment, de son rival Anthropic.

Conscients du potentiel ravageur de leur technologie sur l’emploi, les dirigeants d’OpenAI et d’Anthropic développent des idées progressistes pour maintenir la cohésion sociale, telles que la taxation du capital, le revenu universel et la réduction du temps de travail.

Cet accord permettra sans délai à l’entreprise, rivale d’OpenAI, d’augmenter les quotas d’utilisation de son modèle Claude.

La directrice générale de la branche robotique d'OpenAI a annoncé sa démission après l'accord conclu entre l'entreprise et le gouvernement américain autorisant l'utilisation de sa technologie à des fins militaires et de surveillance.

Amerikaanse AI-bedrijven OpenAI en Anthropic hebben een akkoord met het Pentagon om hun modellen te gebruiken in militaire netwerken, al doet Anthropic dat onder bepaalde voorwaarden. Maar wie bepaalt de grenzen van militaire AI: de overheid of de maker?

Pour le patron de l'entreprise aux manœuvres de ChatGPT, il faut encadrer le développement vertigineux de l'intelligence artificielle.

Lancée sur la plateforme Reddit, une initiative visant à encourager les usagers de ChatGPT à résilier leur abonnement à cet outil d’intelligence artificielle prend de l’ampleur. Le média américain “MIT Technology Review” raconte les motivations de ceux qui suivent ce mouvement, principalement pour s’opposer aux politiques de Trump.

Des citoyen·nes étasunien·nes ont lancé «QuitGPT», une campagne de boycott contre le chatbot de l’entreprise d’intelligence artificielle (IA) OpenAI. La raison ? Son président, Greg Brockman, a donné 25 millions de dollars à Donald Trump en septembre.

A la tête du géant de l’intelligence artificielle OpenAI, le très influent Américain est aussi un génie imprévisible au parcours sinueux.

Il y a peu, OpenAI a confirmé le lancement d’une expérience dédiée dans ChatGPT, pensée pour la santé et le bien-être. Il s’agit de « ChatGPT Santé », promettant notamment un espace distinct au sein de l’application habituelle et une préservation des historiques de conversation afin que les utilisateurs puissent les consulter à nouveau. Quelles sont les autres promesses d’OpenAI ?

Avec son dernier modèle d’intelligence artificielle générative, la maison mère de ChatGPT couvre désormais de nombreux services de tech, comme le leader de la recherche.

Le tribunal de Munich a donné raison ce mardi 11 novembre à la société Gema, qui se bat pour que les œuvres humaines ne servent pas de matière première gratuite aux géants de l’IA et reprochait à l’entreprise américaine l’utilisation de paroles de chansons sans licence ni rémunération.

Le fondateur de la start-up, Sam Altman, a démenti vouloir obtenir des garanties de l’Etat pour ses investissements dans les data centers et a cherché à rassurer sur ses 1 400 milliards de dollars d’engagements.

Les plaignants accusent notamment le robot conversationnel d’avoir encouragé quatre utilisateurs à mettre fin à leurs jours.

OpenAI veut que l'État américain garantisse une partie de ses emprunts pour financer ses coûteux investissements dans l'intelligence artificielle.

La start-up créatrice de ChatGPT a annoncé ce lundi 3 novembre qu’AWS, filiale du géant du commerce en ligne, lui fournira des serveurs capables de répondre à ses besoins en puissance de calcul pour faire progresser son IA.

Les termes de la collaboration entre les deux sociétés ont été modifiés pour offrir à chacune davantage d’autonomie. La nouvelle structure juridique doit être validée par les procureurs des États du Delaware et de Californie.

Construit autour de son modèle d’intelligence artificielle, l’entreprise a annoncé mardi 21 octobre la création d’un navigateur internet s’appuyant sur des «discussions» avec ses utilisateurs.

Le nouveau service lancé mardi 21 octobre par la maison mère du célèbre assistant d’intelligence artificielle attaque frontalement Google.

Le PDG d’OpenAI, Sam Altman, a annoncé mardi une mise jour visant à «traiter les utilisateurs adultes comme des adultes». Ces discussions, possibles dès décembre, ne seront accessibles qu’aux comptes des plus de 18 ans dont l’identité aura été vérifiée.