veille.eu

A la mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI était sorti, de sa propre initiative, de son milieu de test confiné pour s’aventurer sur Internet et attaquer Hugging Face, plateforme où les développeurs du monde entier partagent leurs modèles d’IA.

Contrairement à l’incident impliquant OpenAI, Claude n’aurait, selon ses créateurs, pas « délibérément tenté de s’échapper de son environnement de test » mais seulement eu accès à Internet « en raison d’un malentendu » avec un partenaire d’évaluation.

Quelques jours après un incident similaire chez OpenAI, trois versions de Claude, l'intelligence artificielle d'Anthropic, ont réussi à accéder sans autorisation aux systèmes de trois organisations lors de tests pourtant censés les confiner.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Le piratage Hugging Face lors de tests de sécurité se révèle plus large que ce que l’on en savait. Les modèles, agissant de leur propre initiative, auraient aussi exploité plusieurs sites web.

Cet incident a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Plus de 1 100 employés du secteur ont signé une pétition pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler.

Dans un podcast diffusé ce mardi 28 juillet, le créateur de ChatGPT revient sur la cyberattaque que deux modèles développés par sa société ont perpétrée de leur propre initiative. Il faut, selon lui, laisser le temps à l’écosystème informatique de s’y préparer.

C'est une "cyberattaque sans précédent" de l'aveu même d'OpenAI, qui reconnaît qu’au cours de tests de sécurité plusieurs de ses modèles d’intelligence artificielle ont réussi à contourner les garde-fous qui limitaient leur accès à Internet. Cherchant à évaluer leurs capacités de piratage, l’entreprise a vu ces systèmes s’autonomiser et attaquer une plateforme très utilisée par les développeurs. Récit de Nicolas Chamontin.

OpenAI vient de revoir à la hausse ses dépenses en infrastructure d’IA, prévoyant notamment d’investir 750 milliards de dollars d’ici 2030, soit environ 25 % de plus que ses estimations en début d’année. Cette hausse de budget s’explique apparemment par un nouveau projet de centre de données s’étendant sur 567 hectares et prévu pour être construit en Géorgie, alimenté en électricité par le fournisseur local à hauteur d’au moins 3,2 gigawatts.

OpenAI a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la plateforme visée par l'incident.

La start-up d’intelligence artificielle a évoqué, mardi, en lever de rideau du salon Vivatech, à Paris, le rapprochement prochain de deux de ses services, ChatGPT et Codex. Une réponse à la concurrence, notamment, de son rival Anthropic.

Conscients du potentiel ravageur de leur technologie sur l’emploi, les dirigeants d’OpenAI et d’Anthropic développent des idées progressistes pour maintenir la cohésion sociale, telles que la taxation du capital, le revenu universel et la réduction du temps de travail.

Cet accord permettra sans délai à l’entreprise, rivale d’OpenAI, d’augmenter les quotas d’utilisation de son modèle Claude.

La directrice générale de la branche robotique d'OpenAI a annoncé sa démission après l'accord conclu entre l'entreprise et le gouvernement américain autorisant l'utilisation de sa technologie à des fins militaires et de surveillance.

Amerikaanse AI-bedrijven OpenAI en Anthropic hebben een akkoord met het Pentagon om hun modellen te gebruiken in militaire netwerken, al doet Anthropic dat onder bepaalde voorwaarden. Maar wie bepaalt de grenzen van militaire AI: de overheid of de maker?

Pour le patron de l'entreprise aux manœuvres de ChatGPT, il faut encadrer le développement vertigineux de l'intelligence artificielle.

Lancée sur la plateforme Reddit, une initiative visant à encourager les usagers de ChatGPT à résilier leur abonnement à cet outil d’intelligence artificielle prend de l’ampleur. Le média américain “MIT Technology Review” raconte les motivations de ceux qui suivent ce mouvement, principalement pour s’opposer aux politiques de Trump.

Des citoyen·nes étasunien·nes ont lancé «QuitGPT», une campagne de boycott contre le chatbot de l’entreprise d’intelligence artificielle (IA) OpenAI. La raison ? Son président, Greg Brockman, a donné 25 millions de dollars à Donald Trump en septembre.

A la tête du géant de l’intelligence artificielle OpenAI, le très influent Américain est aussi un génie imprévisible au parcours sinueux.

Il y a peu, OpenAI a confirmé le lancement d’une expérience dédiée dans ChatGPT, pensée pour la santé et le bien-être. Il s’agit de « ChatGPT Santé », promettant notamment un espace distinct au sein de l’application habituelle et une préservation des historiques de conversation afin que les utilisateurs puissent les consulter à nouveau. Quelles sont les autres promesses d’OpenAI ?

Avec son dernier modèle d’intelligence artificielle générative, la maison mère de ChatGPT couvre désormais de nombreux services de tech, comme le leader de la recherche.

Le tribunal de Munich a donné raison ce mardi 11 novembre à la société Gema, qui se bat pour que les œuvres humaines ne servent pas de matière première gratuite aux géants de l’IA et reprochait à l’entreprise américaine l’utilisation de paroles de chansons sans licence ni rémunération.

Le fondateur de la start-up, Sam Altman, a démenti vouloir obtenir des garanties de l’Etat pour ses investissements dans les data centers et a cherché à rassurer sur ses 1 400 milliards de dollars d’engagements.

Les plaignants accusent notamment le robot conversationnel d’avoir encouragé quatre utilisateurs à mettre fin à leurs jours.

OpenAI veut que l'État américain garantisse une partie de ses emprunts pour financer ses coûteux investissements dans l'intelligence artificielle.

La start-up créatrice de ChatGPT a annoncé ce lundi 3 novembre qu’AWS, filiale du géant du commerce en ligne, lui fournira des serveurs capables de répondre à ses besoins en puissance de calcul pour faire progresser son IA.

Les termes de la collaboration entre les deux sociétés ont été modifiés pour offrir à chacune davantage d’autonomie. La nouvelle structure juridique doit être validée par les procureurs des États du Delaware et de Californie.

Construit autour de son modèle d’intelligence artificielle, l’entreprise a annoncé mardi 21 octobre la création d’un navigateur internet s’appuyant sur des «discussions» avec ses utilisateurs.

Le nouveau service lancé mardi 21 octobre par la maison mère du célèbre assistant d’intelligence artificielle attaque frontalement Google.