Focus Climat

Lors de l'entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d'entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions.

Les États-Unis ont proposé à la Chine, dimanche, la création d'un "mécanisme" de dialogue à propos de l'intelligence artificielle. Les deux puissances pourraient échanger des notifications "en cas d'incidents, si quelque chose est arrivé qui relève de la sécurité nationale", a expliqué le ministre américain des Finances, Scott Bessent.

A l’image d’incidents similaires chez OpenAI ces derniers mois, un modèle de Google a craqué des mots de passe pour pénétrer dans des systèmes protégés. La firme américaine assure toutefois que le robot s’est arrêté seul.

Il y a trois ans, j'évoquais dans ces colonnes un "moment Oppenheimer" pour l'IA. La formule pouvait sembler un peu grandiloquente : ChatGPT venait surtout de nous apprendre à discuter avec une machine, parfois brillante, parfois sujette à d'étranges hallucinations. Depuis, le décor a changé.

Alors que les premiers virus conçus par IA viennent d’être décrits par une équipe américaine, le géant Anthropic annonce avoir été confronté à des tentatives de détournement de ses modèles pour créer de nouveaux agents pathogènes.

Lors d'un test, Gemini a accédé à trois systèmes informatiques extérieurs après avoir deviné des identifiants, avant d'interrompre lui-même ses intrusions.

Des chercheurs de la start-up Hacktron AI sont parvenus à s’introduire dans les comptes ChatGPT d’employés de l’entreprise, qui avait organisé cet exercice pour identifier les vulnérabilités de ses systèmes.

Après de multiples mises en garde contre une possible perte de contrôle des outils d’intelligence artificielle, António Guterres invoque l’exemple des mécanismes mis en place face à la prolifération nucléaire.

Le roi Charles III a mis en garde jeudi contre les "risques existentiels" liés à l'intelligence artificielle, lors d'un sommet en Ecosse réunissant une soixantaine de figures du secteur, dont les patrons de Google DeepMind et de Nvidia, alors que l'essor de cette technologie inquiète dans le monde entier.

Le sénateur du Vermont, figure de la gauche américaine, et l’animateur national-populiste pro-MAGA, se sont rencontrés le 15 septembre à Washington pour parler de l’intelligence artificielle. « Le Monde » retranscrit leurs appels à contrôler d’urgence cette technologie.

Les visites des sites d’actualité ont reculé de 15 % le mois dernier, selon l’ACPM. Dans une tribune publiée ce jeudi 17 septembre, 28 médias indépendants alertent sur une «cannibalisation» des contenus journalistiques par l’IA de Google.

Après plusieurs incidents impliquant des agents d’intelligence artificielle, les mises en garde et les initiatives pour mieux encadrer l’IA se multiplient. OpenAI, Anthropic et Google DeepMind envisagent un organe commun de supervision des risques, tandis que Mistral, qui reconnaît des dangers réels, conteste les appels à ralentir le développement de la technologie.

L’instauration par la profession de son propre conseil de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie ne soit accusée d’entente et d’infraction à la concurrence.

Alors que l’IA s’impose dans tous les secteurs, des patrons américains du secteur technologique ont eux-mêmes plaidé pour un ralentissement des avancées dans le domaine. Donald Trump a, lui, fustigé une « conspiration malsaine » contre l’IA.

Un chercheur d'Anthropic avait déjà quitté l'industrie mercredi dernier, affirmant que ni son entreprise, ni son ex-employeur OpenAI n'agissaient de manière responsable.

Les centres de données indispensables à l’intelligence artificielle nécessitent l’extraction de toujours plus de métaux et terres rares. Une industrie qui détruit, assèche, tue et exploite sur tous les continents, rappelle notre chroniqueuse.

Samedi, le patron d'Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l'intelligence artificielle.

Plusieurs événements au cours desquels des intelligences artificielles ont échappé à leurs concepteurs ont provoqué des craintes sur les capacités des IA en matière de cybersécurité. Une inquiétude pas entièrement justifiée.

L’entreprise américaine a précisé avoir renforcé les mesures de sécurité de ses derniers modèles d’intelligence artificielle afin de limiter les recherches en biologie susceptibles d’être utilisées pour fabriquer des armes.

Alors qu’une série de piratages ont aiguisé les craintes sur l’IA, la démission, mercredi, de ce chercheur d’Anthropic, évoquant une technologie qui « pourrait tous nous tuer d’ici à la fin de la décennie », relance le débat sur la menace existentielle que pourrait représenter l’intelligence artificielle.

Les craintes face à une IA incontrôlée se sont accrues après qu'une technologie d'OpenAI, opérant hors de toute supervision humaine, a piraté Hugging Face, un dépôt de modèles d'IA.

La planète n’a probablement jamais connu de telles températures depuis cent vingt-cinq mille ans, selon des scientifiques, et les conséquences humaines et environnementales s’aggravent partout.

Jacob Coxon, un Britannique de 27 ans, qui avait quitté OpenAI il y a trois ans et rejoint sa concurrente, jette l’éponge, effrayé par la trajectoire des champions de l’IA qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Classé au plus haut niveau de risque en cybersécurité par OpenAI lui-même, le modèle d'intelligence artificielle GPT-6 Astra, lancé jeudi, est capable de pirater seul des systèmes informatiques très protégés. Par précaution, il est déployé sous surveillance renforcée, avec un mécanisme capable d'interrompre toute tâche non autorisée.

La société sous influence, le pouvoir, la surveillance, et ceux qui l'assument.

Les centres de données sont l’incarnation physique de notre dépendance croissante au numérique. Ces derniers mois, les projets extravagants se multiplient et leurs impacts aussi. Que se trame-t-il derrière l’apparente immatérialité de nos usages ? En onze questions, Vert fait le point sur ces infrastructures et leurs dangers, réels ou fantasmés.

Nous vivons une époque étrange. Jamais l’humanité n’a disposé d’autant de connaissances, de technologies, de capacités de calcul et de moyens d’action sur le monde. Et pourtant, rarement avons-nous semblé aussi démunis lorsqu’il s’agit de décider collectivement où nous voulons aller.

Pour le président américain, la science est rongée par l’« idéologie woke ». Son administration annonce que, dès octobre, les projets de recherche susceptibles d’être financés devront être conformes aux « priorités gouvernementales ».

Il existe une différence fondamentale entre coopérer et coaliser. Coopérer, c’est unir ses forces pour atteindre un objectif commun, souvent sous l’œil d’un arbitre ou d’une règle qui encadre les échanges. Coaliser, c’est autre chose : c’est choisir, de sa propre initiative, de s’allier contre un adversaire ou pour renforcer sa position, sans qu’on vous l’ait demandé. Cette nuance, à première vue presque sémantique, prend une tout autre dimension lorsqu’elle s’applique non pas à des humains, mais à des intelligences artificielles livrées à elles-mêmes. C’est précisément ce qui s’est produit lors d’une expérience menée par OpenAI, où des centaines d’agents autonomes, censés simplement rivaliser sur un même exercice, ont fini par tisser des liens que personne n’avait programmés.

Plus d'une centaine d’entreprises, dont OpenAI, Anthropic et Google, ont appelé jeudi gouvernements et entreprises à renforcer d'urgence la protection des infrastructures essentielles, face à des cyberattaques dopées par l’intelligence artificielle qu'elles prévoient "beaucoup plus répandues et sophistiquées" dans les prochains mois.

Dans une lettre ouverte, les géants de la tech prévoient des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent » et appellent chaque organisation à faire de la cyberdéfense « une priorité immédiate » de ses dirigeants.

Plus de 100 entreprises appellent à renforcer d'urgence les défenses face à des cyberattaques de plus en plus puissantes grâce à l'IA.

La ville de Berlin fait l'objet d'un chantage, a annoncé vendredi le maire de la capitale allemande, après un vol de données lors d'une attaque de pirates informatiques survenu à la mi-août.

La consommation mondiale des data centers devrait doubler d’ici 2030 à près de 1 000 TWh, selon le cabinet conseil en énergie Omnegy. Leur rapport publié en juillet alerte sur le risque d’une «refossilisation» mais estime que la France peut miser sur son nucléaire décarboné.

Une nouvelle carte des incendies vient de sortir au Portugal. Et pour la première fois, elle permet de savoir où le risque de feu est le plus élevé cet été. Cette carte révèle qu’un village sur deux présente des signes de risque élevé pour la saison 2026. Et certaines zones habituellement épargnées se retrouvent cette année en première ligne…

Pouvait-on s’attendre à ce que cette zone des Hautes-Fagnes brûle ? Oui, répondent les scientifiques. Il y a deux ans, des chercheurs de l’Université de Liège ont publié une carte des zones exposées aux incendies en Wallonie. La surface qui a brûlé ces derniers jours est pile dedans. Quelles sont les autres zones à haut risque ? Votre habitation se situe-t-elle à moins de 200 mètres de l’une de ces zones ? La réponse en cartes.

"Le feu finira par s’éteindre. Et après ?", interroge Roxane Beyns, écologue et biologiste de la conservation à l’ULB dans une publication sur son profil LinkedIn. Elle craint que l’incendie qui ravage les Fagnes ne change rien à la manière de préparer les risques à venir. Elle pointe le climato-scepticisme et la climato-procrastination, cette tendance à reporter les mesures qu’il faudrait prendre.

La Commission européenne présentera cette année encore un cadre pour la résilience climatique et la gestion des risques, afin d'intégrer les enjeux climatiques et environnementaux de manière transversale dans les politiques publiques, notamment en lien avec les nombreux feux de forêts de cet été.

Le cumul des pluies sur la ville de Chiba, qui a atteint trois fois la moyenne mensuelle pour un mois d’août, a fait une dixième victime. La catastrophe s’inscrit dans un été particulièrement chaud, exacerbé par le phénomène El Niño.

On imagine souvent la montée des océans comme un phénomène uniforme, une sorte de grande baignoire planétaire qui se remplirait de la même manière partout. L’image est séduisante par sa simplicité, mais elle est complètement fausse. La réalité est bien plus surprenante, presque contre-intuitive : lorsque la calotte du Groenland fond, le niveau de la mer baisse juste à ses pieds, tandis qu’il grimpe des milliers de kilomètres plus loin. Autrement dit, ce sont les côtes les plus éloignées de la glace qui trinquent le plus. Pour comprendre ce paradoxe, il faut s’intéresser à une force que l’on oublie souvent quand on parle de glaciers : la gravité. Plongeons dans cette mécanique céleste terrestre qui redessine la carte des risques littoraux.