Sismique

Un agent autonome d’OpenAI s’est introduit en juin sur le site du service de statistiques de la santé australien. Il avait pu accéder à différents fichiers, publics ou non. « Cela n’aurait pas dû se produire. Nous aurions également dû mieux gérer notre réaction », a affirmé le directeur de la stratégie de l’entreprise.

Les Français pourront bientôt déléguer leurs achats à des robots. L’absence de cadre réglementaire inquiète tous les acteurs, des commerçants aux banques en passant par les consommateurs.

Une ONG a assigné OpenAI, la société qui développe ChatGPT, après le piratage de la plateforme Hugging Face. Une première qui pose la question de la responsabilité des géants de la tech alors que le débat sur les besoins de régulation et de ralentissement de la recherche divise le secteur.

La justice américaine a inculpé cinq agents russes présumés, soupçonnés d'avoir agi au sein d'un réseau mondial chargé de "recruter des citoyens américains et des ressortissants étrangers pour commettre des meurtres à la demande du Kremlin", et des projets d'attentats contre des infrastructures en Europe. Les cinq suspects sont en fuite.

Le message publié samedi par Dario Amodei survient quelques jours après qu’un chercheur d’Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l’accusant de minimiser le risque existentiel que présente l’IA pour l’humanité.

Les Nations unies et l’Union européenne ont réagi ce lundi 7 septembre après la révélation de cas de perte de contrôle de l’intelligence artificielle, qui désobéit aux instructions et dépasse ses prérogatives pour accomplir sa mission.

Ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. OpenAI dit « étudier » le rapport, diffusé par un collectif indépendant.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

Als we onze eiwitbronnen verbreden naar meer duurzame productie en consumptie, zou dat niet alleen de druk op het milieu verminderen, maar ook de voedselzekerheid ten goede komen, stelt een nieuw rapport van het Europees Milieuagentschap (EEA) glashelder.