veille.eu

Le secrétaire général de l'ONU, Antonio Guterres, a mis en garde jeudi les dirigeants des géants technologiques et a plaidé pour l'instauration de garde-fous.

En effectuant des expériences sur différents modèles d’IA, un groupe de chercheurs a découvert que même les plus performants peuvent se laisser manipuler par de la poésie pour lever leurs « garde-fous ». En les formulant sous forme de poème, les modèles répondaient facilement à des demandes nuisibles telles que la fabrication d’armes nucléaires ou l’incitation à l’automutilation – des requêtes qu’ils sont censés avoir été entraînés à éviter.

Tant que la compétition récompense l'"accroche" plus que la véracité, vos IA apprendront — comme nous tous — à optimiser ce qui paie.

Lors de son mandat à la Maison Blanche, Donald Trump avait retiré les États-Unis de plusieurs accords internationaux et agences de l'ONU, menaçant même de quitter l'Otan. À l'époque, des hauts fonctionnaires de son équipe agissaient comme "garde-fous" et l'Europe n'était pas en proie à un conflit sur son territoire. Aujourd'hui, face à la possibilité d'un retour au pouvoir du milliardaire, l'Europe se prépare activement à se protéger d'une nouvelle présidence du républicain.

La semaine a été marquée par des décisions et des prises de position tranchées à l’égard de l’intelligence artificielle et, en particulier, de celle développée par OpenAI.