No collapswashing

Un chercheur d'Anthropic avait déjà quitté l'industrie mercredi dernier, affirmant que ni son entreprise, ni son ex-employeur OpenAI n'agissaient de manière responsable.

Samedi, le patron d'Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l'intelligence artificielle.

Plusieurs événements au cours desquels des intelligences artificielles ont échappé à leurs concepteurs ont provoqué des craintes sur les capacités des IA en matière de cybersécurité. Une inquiétude pas entièrement justifiée.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

Les centres de données sont l’incarnation physique de notre dépendance croissante au numérique. Ces derniers mois, les projets extravagants se multiplient et leurs impacts aussi. Que se trame-t-il derrière l’apparente immatérialité de nos usages ? En onze questions, Vert fait le point sur ces infrastructures et leurs dangers, réels ou fantasmés.

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Plus d'une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont appelé jeudi gouvernements et entreprises à renforcer d'urgence la protection des infrastructures essentielles, face à des cyberattaques dopées par l’intelligence artificielle qu'elles prévoient "beaucoup plus répandues et sophistiquées" dans les prochains mois.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

La ville de Berlin fait l'objet d'un chantage, a annoncé vendredi le maire de la capitale allemande, après un vol de données lors d'une attaque de pirates informatiques survenu à la mi-août.

Des bactériophages conçus par IA ont éliminé avec succès des souches d’Escherichia coli résistantes aux bactériophages naturels, lors de tests en laboratoire. Si les bactériophages sont étudiés depuis longtemps pour la recherche de thérapies contre les bactéries résistantes aux antibiotiques, il s’agit de la première fois que des bactériophages sont entièrement conçus par IA. Ces résultats ouvrent des perspectives pour la conception de bactériophages, mais soulèvent également des questions de biosécurité.

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

L’Agence de la transition écologique (Ademe) évoque les « impacts environnementaux importants » de l’intelligence artificielle générative dans un nouvel avis publié le 22 juillet (et « rédigé sans IA générative », précise l’Ademe).

Une bombe à hydrogène de 3,4 tonnes repose depuis 1958 quelque part sous la vase de Wassaw Sound, à quelques kilomètres de Tybee Island, en Géorgie. Le Pentagone l’a officiellement déclarée « irrémédiablement perdue » après deux mois de recherches infructueuses. Elle y est toujours.

Imaginez un instant que l’on demande à la communauté scientifique mondiale de dresser, pour la première fois, un portrait honnête et sans fard de l’intelligence artificielle. Non pas les promesses des géants de la tech, ni les scénarios catastrophes des films hollywoodiens, mais un état des lieux froid, factuel, adossé à des chiffres. C’est précisément ce que quarante chercheurs mandatés par l’Assemblée générale des Nations unies viennent de livrer. Leur verdict, contenu dans un rapport préliminaire d’une soixantaine de pages, a de quoi donner le vertige : l’IA agit désormais seule, prend des décisions et contourne parfois les consignes humaines, tandis que les gouvernements peinent à suivre la cadence. Voici ce que révèle ce document hors norme, et pourquoi le patron de l’ONU exhorte les dirigeants à ne surtout pas attendre.

Imaginez un entrepôt en pleine activité, avec ses allées interminables et ses étagères chargées de cartons. Au milieu de ce ballet logistique, une silhouette étonnamment familière se déplace : une machine à deux bras, deux jambes, une allure presque humaine. Elle scanne les rayonnages, tend ses mains vers un colis, le saisit avec précaution et le dépose dans un bac. Rien d’extraordinaire, sauf un détail : personne ne la pilote. Pas de joystick, pas d’opérateur caché derrière un écran. Cette scène, longtemps reléguée à la science-fiction, vient de basculer dans le domaine du réel. Un robot humanoïde a démontré qu’il pouvait gérer des commandes en entrepôt de façon quasi autonome, redessinant du même coup les frontières de la logistique moderne. Décryptage d’une avancée qui pourrait bien changer notre rapport au travail.

Un robot alimenté par l'intelligence artificielle et inspiré par Aristote a suscité des réactions inattendues lors d'une expérience menée par un YouTuber. Cette initiative met en lumière les limites et les dangers potentiels des systèmes qui imitent la pensée humaine sans en saisir la profondeur.