Imaginez un monde où votre assurance est entièrement personnalisée, la formation de vos enfants se fait grâce à un tuteur virtuel en réalité augmentée et nous transformons les camionneurs en robots réparateurs. Une dystopie pour certains, c’est au contraire pour Kai-Fu Lee une utopie qu’il faut tendre à réaliser. Mieux encore, selon lui, nombre de ces technologies, issues de l’IA, seront disponibles dans vingt ans. C’est le sujet de son dernier livre, IA 2042 : 10 scénarios pour notre avenir (Les Arènes), écrit avec le romancier de science-fiction Chen Qiufan.
Après le retentissant A.I. Plus grande mutation de l’histoire (Les Arènes, 2019), l’ancien premier président de Google en Chine, qui a débuté sa carrière d’informaticien dans la Silicon Valley après des études à l’université de Columbia et à Carnegie Mellon, nous emmène dans un futur proche. L’Express a rencontré en exclusivité ce leader visionnaire mais aussi surprenant, à la fois dur avec les opposants à la technologie et convaincu des bénéfices collectifs de l’IA pour l’humanité. Pour lui, grâce à elle, l’éradication de la pauvreté et même de la « plénitude » est proche. La transition ne sera pas facile et il ne cache pas que l’IA détruira des emplois à court terme, mais elle profitera à une véritable « renaissance » pour nos sociétés. En chemin, il encourage l’Europe à être plus courageuse dans sa politique d’innovation.
L’Express : Au début du livre, vous citez un extrait saisissant de votre dossier de candidature au doctorat : « L’IA est pour l’homme l’ultime étape sur le chemin qui mène à la découverte de sa nature profonde, et le plus précieux est pouvoir contribuer à cette science nouvelle, mais prometteuse. » Pouvez-vous nous en dire plus ?
Offre limitée. 2 mois pour 1€ sans engagement
Kai-Fu Lee : Depuis l’enfance, je suis fasciné par les problèmes complexes. Lorsque j’ai rencontré l’IA pour la première fois, je pensais qu’il n’y avait pas de plus grand défi que de comprendre le processus cognitif humain. J’ai pensé qu’en rendant possible la construction d’un outil qui reproduit notre cerveau ou l’augmente, ce serait une merveilleuse façon de comprendre comment nous pensons et donc qui nous sommes. Bien sûr, c’était une compréhension naïve, et quelques années plus tard, nous n’avons toujours pas, collectivement, atteint cet objectif. Mais nous avons fait de grands progrès dans ce domaine.
Dans le même temps, vous insistez sur le fait que l’IA ne doit pas être évaluée sur la base de l’intelligence humaine.
Le narcissisme humain nous pousse à tout comparer à nous-mêmes. Cela explique pourquoi nous ne comprenons toujours pas le problème de l’IA. Il y a une tendance à considérer l’intelligence humaine et artificielle comme deux ensembles distincts qui peuvent se chevaucher, ce qui soulève des questions sur la quantité d’activités humaines que l’IA peut prendre en charge – en d’autres termes, on se demande dans quelle mesure l’IA pourra rendre esclaves nous. C’est la mauvaise façon de voir l’IA. Ce qui se passe plutôt, c’est qu’il peut faire un nombre énorme de choses, et de plus en plus, que nous ne pouvons pas faire. Mais cela ne signifie pas qu’elle peut faire tout ce que les humains peuvent faire. Si nous pensons que l’homme devient inutile, il le sera.
Vous explorez plusieurs prédictions possibles après vingt ans. Comment est-il possible de réaliser cet exercice alors que la technologie implique souvent des avancées imprévisibles ?
Bien sûr, les prédictions que je propose ne sont jamais certaines à 100 %. Ma façon de procéder est la suivante : je pars des tendances et des trajectoires. Par exemple, nous connaissons désormais la qualité de la vision par ordinateur, et la compréhension du langage et de l’écriture par l’IA, par rapport à celle des humains. Par conséquent, cela permet de tracer une voie pour l’avenir où ces capacités sont améliorées. On peut conclure que si cette tendance se poursuit, à un moment donné, ils seront égaux à la capacité humaine. Ensuite, le temps de développement industriel d’un produit est pris en compte – la vitesse d’amélioration du produit, le temps de production industrielle et la durée pour parvenir à un produit populaire. Chaque étape dure quelques années. C’est ainsi que nous décidons de nos investissements. Ainsi, en 2012, j’ai investi dans de nombreuses sociétés de vision par ordinateur.
Cela reste une prédiction et nous pouvons faire des erreurs. Donc, dans mon livre, une approche conservatrice : je suis sûr à 100% que ce que je décris dans les premiers chapitres se produira, et ce dans moins de vingt ans. Dans le dernier, je suis sûr à 70% et cela pourrait prendre plus de vingt ans. Les technologies que je décris vont donc des plus simples aux plus avancées. Le premier est mis en scène dans des endroits moins avancés technologiquement, comme l’Inde, le Nigeria et le Sri Lanka, le second en Europe, aux États-Unis et en Chine.
Tout compte fait, je pense que les prédictions du livre ont 80% de chances de se produire entre cinq et vingt-cinq ans. Mais je ne peux pas mentionner les technologies qui n’existent pas encore. Les prédictions telles que je les pratique couvrent la plupart des technologies, mais certaines nous surprendront toujours. Quand Internet est né, il n’était pas possible de prévoir toutes les façons dont il allait changer nos vies. À l’époque, j’aurais prédit les jeux vidéo, les sites Web, les sites Web, les applications, le commerce électronique et les médias sociaux, mais je n’aurais pas prédit Uber. Souvent, les gens conservent les mêmes activités mais les exécutent différemment. Par exemple, l’information était transmise hier par les journaux papier, maintenant c’est par Internet. Nous avions l’habitude d’acheter des produits dans les magasins, maintenant nous les commandons en ligne. Uber est différent : personne n’aurait pensé que nous commanderions des taxis via Internet.
Parfois la technologie existe mais ne trouve pas son public. C’est actuellement le cas des MOOC, ces cours en ligne qui n’ont jamais eu le succès espéré.
Nous avons tendance à surestimer ce que la technologie peut faire à court terme et à sous-estimer ce qu’elle peut faire à long terme. Les MOOC sont apparus il y a quelques années, et en fait ils ne fonctionnent toujours pas très bien. Si nous prenons une perspective de vingt ou trente ans, cela peut être différent. A cette époque, si l’expérience en ligne est devenue immersive grâce à la réalité virtuelle et au métavers, on utilisera des lunettes ou des lentilles de contact pour se transporter dans une autre époque pour apprendre l’histoire, par exemple. Dans ce contexte, les MOOC peuvent devenir partie intégrante de cette immersion.
Lorsque vous faites une prédiction, y investissez-vous ?
Je parle toujours ! Je n’écris pas juste pour le plaisir. La seule technologie du livre dans laquelle nous n’investissons pas est l’informatique quantique, car c’est la plus embryonnaire. Peut-être que nous le ferons dans cinq ans. Nous venons de commencer à investir dans le métaverse. Et bien sûr, nous investissons depuis un certain temps dans les véhicules autonomes ou la découverte de médicaments.
Le livre contient dix chapitres, chacun racontant une histoire centrée sur une technologie et son application future. Certains semblent attendus comme véhicules autonomes. D’autres sont frappantes, comme la première, où l’IA prend un caractère intrusif.
La première histoire est inspirée du documentaire The Social Dilemma (Derrière nos écrans de fumée), réalisé par mon ami Tristan Harris [NDLR ; un ancien Googleur, aujourd’hui spécialiste de l’éthique technologique]. Comme lui, je suis très préoccupé par le fait que l’IA puisse être utilisée à de bonnes et de mauvaises fins – et dans ce dernier cas éventuellement sans mauvaises intentions, par exemple lors de la construction d’applications dont le modèle économique est basé sur le simple clic et non sur la qualité, ce qui rend le l’utilisateur est accro et l’expose à des contenus inappropriés, erronés ou violents.
L’histoire de ce chapitre va plus loin et montre un phénomène encore pire : le développement d’un programme bien intentionné dans un environnement où les intérêts semblent initialement alignés. La compagnie d’assurance au centre de l’histoire doit tenir compte des intérêts des personnages principaux : elle ne veut pas qu’ils tombent malades, et eux non plus. Il met donc en avant les produits et conseille les comportements qui maintiendront leur bonne santé. Mais elle va contrôler trop de données personnelles et se mêler de la vie des héros. La fille de l’histoire a un petit ami dont le statut social peut avoir un impact négatif sur sa santé et donc sur sa prime d’assurance, et donc l’assurance veut s’immiscer dans cette relation.
Je me demande généralement ce qui peut être fait pour minimiser l’impact de ce type d’IA. On peut, par exemple, mesurer l’effet à long terme de la technologie – le gain de connaissances ou l’amélioration de la santé – par opposition à l’objectif à court terme – le clic. Ensuite, nous pouvons apprendre à l’IA comment montrer aux utilisateurs des pratiques qui l’aideront et, finalement, lui permettront d’être plus heureux, car c’est ce que nous recherchons tous. Nous devons aligner les intérêts de ceux qui développent les applications et de ceux qui les utilisent.
Une autre histoire montre qu’à l’avenir, la formation personnelle via l’IA se développera. Est-ce que ça marche vraiment ? Au contraire, la pandémie de Covid-19 a montré les difficultés de ce type d’enseignement.
En ce qui concerne la distinction entre apprentissage réel et virtuel, le défi de l’enseignement à distance pendant la pandémie est que nous avons soudainement transposé un monde en trois dimensions sur un écran en deux dimensions. Les gens parlent, on ne voit que leurs têtes et éventuellement des PowerPoint. Ce n’est pas très attrayant. Au contraire, il faut aller vers une expérience immersive, aussi vivante que celle du monde réel, et qui permettrait même de faire des choses qui y sont impossibles, surtout pour les plus jeunes. Un enseignant peut utiliser un tableau noir pour raconter ou expliquer, mais il ne peut pas amener, par exemple, un personnage historique dans sa classe, ni un personnage de dessin animé, ce qui rendra l’apprentissage amusant.
Lorsqu’il s’agit de personnaliser l’enseignement, les professeurs virtuels offrent un service complètement différent des vrais professeurs et ne sont pas là pour les remplacer. Ils peuvent changer d’apparence : devenir Donald Duck ou Cendrillon, ou un personnage historique. L’enseignement prend vie et peut vous faire plonger dans l’histoire comme si vous y étiez. Ensuite, l’IA peut prendre la forme du personnage préféré d’un enfant pour piquer son intérêt. Enfin, cela permet d’adapter l’enseignement au rythme d’apprentissage de l’élève. L’IA est comme un partenaire d’apprentissage. L’enseignant humain, en revanche, est important pour la connexion humaine, l’orientation et la confiance, pour inculquer tout ce qui n’est pas tout à fait la connaissance – la communication, le respect, le bien et le mal, la créativité, la curiosité, le bon sens ou même le travail d’équipe. Cette forme d’enseignement deviendra alors beaucoup plus intéressante et enrichissante pour les enseignants. En alliant le virtuel et le réel, la symbiose sera parfaite.
Vous mentionnez également la « réalité étendue » ou XR. Pouvez-vous détailler les applications ?
La réalité augmentée comprend la réalité virtuelle, augmentée et mixte. La première consiste à s’immerger dans un monde complètement différent qui n’a rien à voir avec le vôtre, via des lentilles de contact ou des lunettes. Vous y jouez, vous apprenez… La réalité augmentée fonctionne comme un écran transparent. Via des lentilles ou des lunettes, vous voyez toujours le monde réel, mais d’autres images s’y superposent et avec lesquelles vous pouvez même interagir. De cette façon, nous pourrions amener Napoléon dans une salle de classe et lui poser des questions ! Il peut également être utilisé dans des films ou en thérapie. Ici on reste dans le monde réel, mais des éléments non réels s’y ajoutent. La réalité mixte est une forme avancée de réalité augmentée.
Pouvez-vous nommer certains des effets pervers de l’IA ?
Dans le livre, j’évoque des cas d’addiction, de manipulation, d’inégalité ou de deep fake. Mais si ces problèmes viennent de ces nouvelles technologies, ils peuvent aussi être résolus par elles. Si cela échoue, il y a toujours des solutions sociales ou publiques. Plusieurs technologies créent de l’addiction, notamment les plateformes vidéo où l’IA connaît si bien l’humain qu’elle montre en permanence à l’utilisateur un contenu qu’il appréciera, même s’il provoque une dépendance. Beaucoup de ces applications sont financées par la publicité, ce qui les incite à vous faire regarder autant de contenu que possible.
En comparaison, nous pouvons développer plusieurs applications basées sur d’autres modèles économiques, par exemple sur l’abonnement. C’est ce que fait Netflix : quand on s’abonne, ce n’est pas dans l’intérêt de Netflix qu’on regarde quatre heures de vidéo d’un coup, mais qu’on puisse profiter du contenu et continuer notre abonnement. C’est un cercle vertueux. J’évoque également la possibilité d’utiliser certaines institutions comme les journaux qui, par exemple, peuvent décider de créer une série de fausses nouvelles ou profondément fausses liées aux grandes plateformes. On peut même imaginer que cela soit intégré dans les critères environnementaux, sociaux et de gouvernance, et que pour faire partie d’un indice donné, une entreprise technologique doit avoir un très bon score dans ce domaine. Cela créera une double incitation : les entreprises qui ne respecteront pas ces exigences perdront des utilisateurs et des investisseurs.
Le monde s’inquiète de voir l’IA supprimer des emplois humains. Vous reconnaissez également cela en termes de court-termisme.
L’IA prendra-t-elle des emplois aux humains ? Oui. Elle n’exercera pas forcément un métier entier, mais bien des tâches qui le composent. Prenez le métier de réceptionniste : l’IA peut effectuer la plupart des tâches, comme la vérification d’identité, mais elle ne peut pas représenter l’image de l’entreprise. Il y aura donc à terme moins de réceptionnistes. Professions comptables ou juridiques équivalentes en début de carrière. Tant que l’IA peut faire 30 % à 50 % d’un travail, cela signifie que moins de personnes le feront.
Les tâches routinières seront les plus touchées : chaînes de montage, chauffeurs, travail de bureau de base qui ne demande pas de créativité, de complexité ou d’interaction humaine. Ceux-ci deviendront le cœur de l’excellence humaine, ce que l’IA aujourd’hui et au moins dans les vingt prochaines années ne sera pas en mesure d’atteindre. Le résultat très probable est que nous devons adapter l’éducation et la formation pour amener plus de personnes dans les matières complexes. Cela comprend les emplois difficiles tels que les écrivains et les artistes, les chercheurs, les gestionnaires, mais aussi les emplois de services personnels. Pour ces fonds, il faudra un changement de statut social : aujourd’hui un camionneur gagne beaucoup plus d’argent qu’un accompagnateur d’une personne âgée. Cela changera au fil du temps à mesure que le besoin de préposés augmentera et, par conséquent, leurs salaires. Mais il faudra du temps pour que ces ajustements aient lieu.
Enfin, l’IA va créer de nouveaux métiers à différents niveaux : par exemple des réparateurs de robots, des data scientists, des data taggers et bien d’autres que nous ne connaissons pas encore !
La transition ne risque-t-elle pas d’être très douloureuse ?
Historiquement, chaque nouvelle technologie a fini par créer suffisamment d’emplois. Le chômage n’a jamais explosé, il y a plutôt eu des hauts et des bas. Dans les cinq à dix prochaines années, la substitution de l’IA aux hommes se fera de plus en plus forte et la création d’emplois prendra du temps, le temps que les métiers émergent et que la formation soit effective. C’est aussi parce que ceux qui perdent leur emploi ne savent pas nécessairement qu’ils peuvent suivre cette formation. Si quelqu’un perd son emploi de chauffeur, il voudra peut-être devenir mécanicien. Mais cinq ans plus tard, quand les voitures seront devenues électriques, son métier va encore changer et il va devoir en trouver un autre. La société et les pouvoirs publics doivent donc aider ceux qui perdent leur emploi à cause de l’IA via l’aide sociale ou le revenu universel, mais aussi via la formation. Les emplois qui disparaissent sont ceux qui nécessitent le moins de formation ; ceux qui sont représentés sont ceux qui en ont le plus besoin. Sinon, la transition ne sera pas fluide. Amazon a donc créé un vaste programme qui propose jusqu’à quatre ans de reconversion pour ceux qui occupent des emplois peu qualifiés comme les caissiers ou ceux qui emballent des cartons, car Jeff Bezos sait que ces emplois vont disparaître. Davantage de pays et d’entreprises devraient faire de même.
A moyen terme, la transition sera chaotique. Mais à terme, il y aura une renaissance, car l’IA pourra faire tous les travaux routiniers, ce qui nous en libérera. Nous pourrons nous concentrer sur les tâches intéressantes que nous apprécions au lieu de devoir perdre beaucoup de temps sur des tâches ingrates.
Le chapitre « Plénitude » explore cette satisfaction. N’est-ce pas idéaliste ? Vous expliquez que ce monde idéal permis par l’IA est un monde sans rareté. Est-il possible ?
Ce sont des questions que je me pose. Je peux choisir d’écrire deux histoires : une, que nous avons la capacité de produire assez pour tout le monde, mais nous sommes tellement égoïstes que ça ne marche pas ; l’autre, qui décrit un monde où l’on y parvient, même si c’est très difficile car les individus, les entreprises et les pays sont égoïstes. La plupart des histoires de science-fiction choisissent le premier scénario ; Je choisis le deuxième. Je choisis l’utopie plutôt que la dystopie car cela peut arriver, à mon avis, avec une probabilité de 50%. J’aimerais que les gens prennent du recul et se demandent s’ils sont prêts à laisser leur égoïsme prendre le dessus et empêcher l’humanité de résoudre, peut-être, l’un de ses problèmes les plus importants, la pauvreté et la faim.
Ces avancées technologiques majeures conduiront à terme à un effondrement du coût des marchandises. Imaginons que nous sommes des extraterrestres atterrissant sur Terre. Nous découvrons que l’IA peut produire des biens à un coût presque nul. Ne chercherions-nous pas un moyen de vivre ensemble dans une relative harmonie, et au moins d’éradiquer la pauvreté ? Je pense que oui, si nous n’étions pas retenus par nos mauvaises habitudes. Alors, allons-nous les laisser nous ralentir et continuer à faire souffrir certains d’entre nous ? C’est le cœur de mon message.
Pendant la révolution industrielle anglaise, les travailleurs, les luddites, ont commencé à casser leurs machines pour protester contre le progrès. Pouvez-vous imaginer que les gens soient tellement préoccupés par l’IA qu’ils essaient de détruire les applications d’IA ou du moins de ne pas les utiliser ?
C’est une possibilité. Mais ici, je suis un adepte du darwinisme : ceux qui refusent d’adopter les nouvelles technologies seront laissés pour compte et deviendront inutiles. Si un journaliste, par exemple, refuse d’utiliser un ordinateur et insiste pour écrire à la main et à la machine, il perdra 80 % de son temps. Certains pays pourraient réagir de cette manière en disant vouloir protéger leurs emplois de l’automatisation. Ils peuvent le faire, mais cela aura un coût : une perte de richesse. L’inquiétude suscitée par l’IA peut entraîner deux types de comportement : soit adopter la technologie et gérer les problèmes qu’elle cause, soit la bloquer. Cette dernière attitude est toujours perdante car elle ne va pas à l’encontre de la technologie, mais de la capacité de progrès.
C’est aussi oublier que dans l’histoire la technologie est neutre, qu’elle a toujours apporté à la fois des avantages et des problèmes, et que nous avons toujours réussi à résoudre la plupart d’entre eux, souvent grâce à la technologie elle-même. Cela devrait nous rendre optimistes. Par exemple, lorsque l’électricité a été inventée, des gens se sont électrocutés et nous avions peur d’électrifier notre maison pour cette raison. Le développement du disjoncteur a permis de pallier ce problème. Quand Internet est apparu, les virus se sont propagés, mais les antivirus ont permis de s’en protéger. La plupart sont bienveillants et veulent développer un bon usage de la technologie. Il y en aura toujours de mauvais, mais ils seront gérables.
Vous mentionnez l’utilisation plus restrictive des données personnelles en Europe par rapport aux États-Unis ou à la Chine. Est-ce un obstacle pour nous ?
Chaque pays doit avoir une réglementation qui corresponde à ses valeurs, et j’ai un grand respect pour les Européens qui ont légiféré en conséquence. Vous estimez que les données sont votre propriété et qu’elles font partie des droits humains inaliénables. En même temps, je vous encourage à ne pas pousser trop loin cette logique pour dire que vous voulez freiner l’IA et le progrès technologique. Au lieu de vouloir systématiquement empêcher les Gafa, vous pouvez gagner à être constructif dans la recherche des nouvelles technologies qui pourraient émerger dans votre système de régulation. Le Web3, par exemple, est une opportunité intéressante pour l’Europe. Votre règlement général sur la protection des données (RGPD) rend un peu plus difficile l’obtention de données, mais cela n’empêche pas Web3 de se développer dans ce contexte. L’objectif doit rester constructif et engageant : réussir à construire une application conforme au RGPD qui respecte les données des utilisateurs et offre un meilleur service que les autres.
J’ajouterais que le financement des technologies compte autant que la réglementation. Les solutions technologiques peuvent avoir le même effet que le RGPD. Les deux devraient aller ensemble. On peut imaginer, par exemple, que les données personnelles soient utilisées par un hôpital qui n’a pas le droit de les diffuser à l’extérieur, mais qu’une IA puisse utiliser sur place pour améliorer les soins que vous recevez et la connaissance du sujet.
Entre les États-Unis et la Chine, qui est le meilleur en IA aujourd’hui ?
Les deux sont excellents. Les États-Unis sont meilleurs en recherche, l’Europe aussi. La Chine est à la traîne même si elle progresse. L’Occident est plus prêt à adopter certaines applications, comme le SaaS [NDLR : software as a service], un modèle d’exploitation commerciale de logiciels où ceux-ci sont installés sur des serveurs distants plutôt que sur la machine de l’utilisateur. ‘Utilisateur) . L’avantage de la Chine est sa persévérance, son travail acharné et sa rapidité dans la construction de solutions technologiques. D’où l’intérêt de nos entreprises pour l’IA ou la robotique. C’est aussi parce que la proportion de cols bleus est plus importante en Chine qu’aux États-Unis. Il est donc naturel que nous utilisions l’IA pour l’industrie – c’est ce que nous faisons bien. Les deux pays font ce qu’ils savent le mieux.
Si l’on compte le nombre de licornes [NDLR : une startup qui vaut plus d’un milliard de dollars] dans chaque pays et les retombées économiques de l’IA, la Chine arrive en tête. C’est ce que j’explique dans IA. Le plus grand changement de l’histoire (Les Arènes, 2019) : les entreprises chinoises sont davantage portées par les opportunités commerciales, les américaines par la vision. Lorsqu’une entreprise américaine réussit, sa nature visionnaire peut être un facteur de réalisations extraordinaires. Google pense que sa mission est de changer le monde en rendant l’information accessible à tous. Cela ne s’arrête pas au seul profit. Parce qu’ils veulent changer le monde, ils misent sur le long terme. Les entreprises chinoises sont plus intéressées par le court terme, les revenus et les bénéfices. C’est pourquoi il y a aujourd’hui plus d’entreprises de plusieurs billions de dollars aux États-Unis qu’en Chine, mais pourquoi il y a plus d’entreprises de 10 milliards de dollars en Chine. Il y a donc deux exemples incroyables de réussite technologique. En IA, les deux pays gouverneront le monde ensemble : ils ne se font pas concurrence, ils empruntent des chemins différents.
Opinions
La chronique de Christophe Donner
La chronique d’Aurélien Saussay