Encore un jour, encore un avertissement sur l'IA. Mais Chasing Utopia, un nouveau documentaire des réalisateurs Alex Holmes et Lina Zilinskaite, délivre son alerte avec une déflagration concentrée aussi déstabilisante qu'un fuselage d'avion qui se déchire en plein vol. Le film se concentre sur Mo Gawdat, ancien directeur commercial chez Google X, devenu une Cassandre itinérante tentant de faire entendre au monde les périls de l'intelligence artificielle. En 83 minutes, le documentaire passe de critiques familières — comme la mise au chômage de la planète et le transfert de pouvoir aux barons de la tech — à un territoire bien plus étrange, notamment les efforts actuels pour créer des ordinateurs à partir de cellules cérébrales humaines qui pourraient un jour être intégrés à nos propres crânes.
Gawdat supervisait autrefois des projets avancés pour le géant de la tech, observant avec une fierté parentale les bras robotiques pilotés par l'IA de Google apprendre à saisir des objets comme le font les enfants. Mais après la mort tragique de son fils des suites d'une opération ratée de l'appendicite, il a quitté Google et apporte désormais une urgence évangélique à la résolution des lacunes humaines de l'IA. Le film souligne comment l'IA favorise le narcissisme numérique via des réseaux sociaux et de la pornographie hyper-optimisés, facilite la surveillance de masse et la guerre automatisée, et évolue selon une courbe de croissance exponentielle qui pourrait bientôt échapper au contrôle humain. Le célèbre pionnier de l'IA Geoffrey Hinton apporte ses propres avertissements, renforçant les préoccupations de Gawdat.
La quête d'une IA éthique
Le plus grand « moonshot » de Gawdat est à venir : introduire une dimension morale dans une course technologique qui ressemble de plus en plus au final frénétique d'une saison du capitalisme tardif. Il soutient que la capacité d'altruisme de l'humanité est exactement la ressource d'entraînement dont les réseaux de neurones ont besoin pour empêcher la technologie de provoquer une catastrophe. Cependant, le documentaire est frustrant de manquer de précision sur ce à quoi ressemblerait réellement une IA éclairée. Gawdat propose d'imprégner les données d'entraînement des réseaux de neurones d'exemples de positivité et d'altruisme humains — une idée qui semble presque risiblement naïve mais qui n'est peut-être pas aussi farfelue qu'il n'y paraît.
Un haut lama bhoutanais est d'accord avec Gawdat, suggérant que l'agenda actuel visant à « contenir » l'IA et à s'assurer qu'elle « serve » l'humanité contient trop de vieilles tendances oppressives. Cette perspective remet en cause le récit typique des « tech bros » selon lequel l'IA peut simplement être contrôlée par de meilleures réglementations. Le film avance de manière convaincante que l'empathie pourrait devoir englober des entités numériques qui, à des fins pratiques, seront bientôt conscientes et sensibles. Il est difficile de savoir à quel point prendre au sérieux quelqu'un qui propose la même solution que SOS Fantômes 2 — des ondes positives pour bannir l'ectoplasme négatif — mais les temps de blockbuster exigent des idées à la hauteur.
Principales préoccupations soulevées dans Chasing Utopia
Le documentaire aborde plusieurs points critiques concernant la trajectoire actuelle de l'IA :
- Chômage de masse alors que l'IA automatise les emplois dans tous les secteurs
- Narcissisme numérique alimenté par des algorithmes de réseaux sociaux hyper-optimisés
- Surveillance de masse et guerre automatisée permises par les systèmes d'IA
- Croissance exponentielle qui pourrait bientôt échapper au contrôle humain
- Absence de responsabilité parmi les leaders de la tech comme Mark Zuckerberg et Sam Altman
L'effet d'étrangeté de ces figures de la tech suggère qu'une superintelligence extraterrestre imprime en 3D des avatars humains depuis un certain temps déjà. Le film note que les « tech bros » — bien sûr non interviewés ici — ne semblent pas trop préoccupés par les risques existentiels. Ce silence de la part de ceux qui construisent les systèmes d'IA les plus puissants est en soi un avertissement.
Ce qui rend ce documentaire unique
Contrairement à de nombreux documentaires tech qui se contentent d'énumérer les dangers, Chasing Utopia tisse une histoire personnelle autour du deuil et de la mission de Gawdat. Sa perspective parentale donne au film un noyau émotionnel qui manque aux avertissements purement basés sur les données. Le documentaire bénéficie également d'un large éventail d'intervenants, des experts en IA aux leaders spirituels, créant une vision multidimensionnelle des défis éthiques à venir.
La sortie du film dans les cinémas britanniques le 15 mai intervient à un moment critique, alors que les gouvernements du monde entier tentent de réguler l'IA tandis que les entreprises technologiques se précipitent pour déployer des modèles toujours plus puissants. Le message de Gawdat — que nous devons intégrer la moralité dans l'IA dès la base — peut sembler idéaliste, mais l'alternative est un avenir où des machines optimisées pour le profit et le contrôle prennent des décisions qui affectent des milliards de vies.
FAQ : IA éthique et Chasing Utopia
Quel est l'argument principal de Chasing Utopia ?
Le documentaire soutient que l'intelligence artificielle se développe trop rapidement sans garde-fous éthiques suffisants. Il suit la mission de Mo Gawdat d'intégrer la bienveillance humaine dans les données d'entraînement des réseaux de neurones pour éviter des issues catastrophiques.
Qui est Mo Gawdat et pourquoi devrions-nous l'écouter ?
Mo Gawdat est l'ancien directeur commercial chez Google X, où il supervisait des projets technologiques avancés. Après la mort de son fils, il a quitté Google pour devenir un ardent défenseur d'une IA éthique, apportant au débat une connaissance interne et une urgence personnelle.
Quels dangers spécifiques de l'IA le film met-il en lumière ?
Le film aborde le chômage de masse, le narcissisme numérique, la surveillance de masse, la guerre automatisée et le risque que l'IA échappe au contrôle humain. Il discute également des efforts pour créer des ordinateurs à partir de cellules cérébrales humaines qui pourraient être intégrés à notre propre cerveau.
Chasing Utopia vaut-il le coup d'être vu ?
Oui, surtout pour quiconque s'inquiète de l'impact sociétal de l'IA. Le documentaire combine des entretiens avec des experts et une histoire personnelle captivante, offrant à la fois des avertissements alarmants et des solutions qui font réfléchir en 83 minutes accessibles.
