[Français]
[musique]
[musique]
>> Les gens s'inquiètent de l'IA pour toutes sortes de
raisons. C'est polarisant, cela diffuse
désinformations, cela s'en prend à nos
emplois. Et ce sont toutes de bonnes raisons d'être
nerveux.
Mais ce qui m'empêche vraiment de dormir la nuit, c'est
autre chose. Quelque chose qui semble
plus personnel et peut-être encore plus
préoccupant pour l'expérience humaine
elle-même.
J'ai peur que l'IA nous rende ennuyeux.
Vous, moi, nous tous.
En effet, plus nous sous-traitons nos
décisions à l'IA, plus nous abandonnons
quelque chose de profondément humain.
Notre capacité à explorer, à prendre des risques,
à tomber sur l'inconnu, et
parfois à nous surprendre nous-mêmes.
Je m'inquiète sans cela, sans le
potentiel de découverte, par
hasard, nous risquons de devenir des
versions plus superficielles et unidimensionnelles de
qui nous sommes et qui nous pourrions être.
Pas seulement en tant qu'humains, en tant qu'individus, mais
en tant qu'humanité.
Maintenant, permettez-moi de rendre cette idée un peu plus
concrète et de vous emmener dans un endroit peut-être
inattendu, mais aussi totalement pertinent.
Imaginez entrer dans un Baskin Robbins.
Ce que vous verrez est un illustre
assortiment de 31 saveurs différentes de glaces
. Il y a des pépites de chocolat, des
pistaches et amandes, du sorbet au citron et bien d'autres
.
Vous êtes maintenant confronté à un choix difficile.
Allez-vous opter pour un vieux
favori, le chocolat peut-être, ou allez-vous
prendre un risque avec quelque chose de génial
et de nouveau comme un sorbet sauvage et imprudent ?
Et oui, c'est une vraie saveur.
Le choix auquel vous êtes confronté est un
dilemme humain classique que les scientifiques appellent le compromis
d'exploration et d'exploitation.
Allez-vous jouer la sécurité et
capitaliser sur ce que vous savez aimer, ou
allez-vous prendre un risque dans l'espoir
de trouver quelque chose d'encore mieux ?
Et nos vies sont pleines de ces
compromis. Restez avec votre favori
restaurant ou essayez un nouvel endroit chic au
coin. Gardez votre coupe de cheveux habituelle ou
demandez quelque chose de nouveau et d'audacieux. Restez dans
votre emploi stable ou essayez enfin de devenir
un champion de pickleball.
Nous différons tous par notre appétit pour
l'exploitation par rapport à l'exploration, mais
nous sommes également tous programmés par l'évolution pour
trouver un certain équilibre entre les
deux.
Parce que pour nos ancêtres de la savane africaine
, le compromis était en fait
assez simple. S'en tenir trop à
ce qui est sûr et vous risquez de mourir de faim lorsque
le bosquet s'assèche. S'éloigner trop loin dans
l'inconnu et vous pourriez être empoisonné
ou mangé par des lions.
Heureusement pour vous et moi, les compromis
auxquels nous sommes confrontés aujourd'hui concernent bien moins la
survie.
Mais nos choix sont toujours régis par
cet instinct de trouver un équilibre entre prudence et
curiosité.
Si tout ce que vous aviez fait dans la vie était de jouer
prudemment et d'exploiter, vous ne seriez jamais
déçu. Mais vous n'auriez jamais non plus une
chance d'avancer et de grandir.
Si vous ne faisiez que découvrir et
explorer, vous collecteriez des
expériences sans fin, mais vous n'auriez jamais non plus la
chance de capitaliser sur vos apprentissages.
C'est donc vraiment cet équilibre entre
exploitation et exploration qui alimente
notre croissance.
Pas seulement en tant qu'espèce, mais aussi en tant qu'
individus.
Mais c'est exactement là que l'IA met un frein
aux travaux.
Parce que l'IA déteste le risque.
Et ce n'est pas à cause de son
ADN algorithmique, c'est parce que les
systèmes sur lesquels nous comptons pour naviguer dans notre monde
de Spotify à Netflix en passant par ChatGPT sont
en grande majorité formés pour optimiser l'exploitation
.
Ou plus spécifiquement pour l'engagement et la satisfaction
à court terme.
Avez-vous cliqué sur le lien, regardé la vidéo,
aimé la chanson ? Si oui, l'IA reçoit une tape sur
l'épaule. Si non, reçoit une tape sur la main
.
Le risque, la découverte et l'exploration ne font
tout simplement pas partie de leur programmation.
Pensez à Baskin Robbins. Si 60 % des
personnes préfèrent la saveur Pralines 'n
Cream, qui est leur saveur
la plus vendue, alors c'est ce que l'IA va
recommander.
Ce n'est pas que l'IA manque d'imagination, mais
manque d'incitation.
Les valeurs sûres protègent contre
déceptions, ce qui réduit le taux de désabonnement de
clients.
Ainsi, au lieu de prendre ce pari risqué
qui vous aide à explorer, les entreprises ont tendance
à pécher par excès d'exploitation lorsqu'elles
entraînent leurs systèmes d'IA.
Et pour être clair, il n'y a rien
de mal en soi à cela. J'ai passé
les 15 dernières années en tant que spécialiste des sciences sociales
en informatique travaillant à l'intersection
de la psychologie, de l'informatique
et des affaires. Et je sais que
récompenser l'IA de cette façon peut être extrêmement
précieux.
D'une certaine manière, les algorithmes ne deviennent efficaces que
pour déterminer ce que vous pourriez apprécier ou
recherchez actuellement, car ils
se concentrent sur l'exploitation.
Et ce n'est pas seulement bon pour les affaires,
c'est aussi bon et parfois même
nécessaire pour nous en tant que consommateurs.
Pour moi, la simple pensée de devoir
choisir entre 31 saveurs de glace différentes
me donne le vertige.
Et pourtant, la plupart des choix auxquels nous
sommes confrontés au quotidien sont bien plus complexes
que cela.
Netflix, par exemple, propose plus de 5 500
films parmi lesquels choisir.
Spotify, plus de 100 millions de chansons.
La vérité est donc que sans un peu
d'aide de nos amis IA
amoureux de l'exploitation, nous n'avons tout simplement aucune chance
de naviguer dans la vie moderne.
Mais je suis également de plus en plus
préoccupé par le fait que cette hausse ait un
coût quelque peu existentiel.
Et pour vous donner une première idée de ce que
je veux dire par là, revenons à Baskin
Robbins.
Avant de venir ici, j'ai exécuté un simple
expérience. J'ai demandé à ChatGPT de recommander
l'une de leurs saveurs de glace. J'ai fait
cela 100 fois, à chaque tour en faisant semblant d'être
un nouveau client.
96 fois, il a recommandé l'une de leurs
deux saveurs les plus populaires, Pralines 'n
Cream et Mint Chocolate Chip.
Ce qui, je le réalise et je suis sûr que vous seriez
d'accord, n'est pas exactement un ensemble de choix
très diversifié.
Et cela pourrait signifier que nous nous retrouverons bientôt
dans un monde où Baskin
Robbins ne propose que ces deux saveurs.
Si personne ne choisit les 29 autres, pourquoi
se donner la peine de les proposer en premier lieu ?
Maintenant, cela peut paraître trivial et
pas vraiment existentiel du tout.
Mais ce n'est que jusqu'à ce que vous réalisiez que
cet aplatissement de l'expérience humaine
se produit dans tous les aspects de la vie.
Dans des études menées avec mes collaborateurs et
étudiants, nous avons montré que lorsque les gens
utilisent l'IA pour se guider,
leurs préférences deviennent plus normatives
et moins diversifiées. Leur production créative
devient moins unique. Et leur choix des
scientifiques, athlètes,
et personnages historiques les plus importants devient le même
que celui de tous les autres.
En résumé, l'IA transforme cette
diversité infinie d'opinions, de croyances,
et de préférences humaines en une uniformité
statistiquement sûre.
Et ce n'est qu'une partie du problème
parce que même lorsque l'IA apprend vos bizarreries,
dit qu'elle découvre que vous aimez mieux la noix de coco
que les pralines et la crème,
elle jouera toujours en toute sécurité dans vos préférences
. Cela signifie qu'il va
optimiser ce que vous êtes le plus susceptible d'aimer
.
Je suis retourné sur ChatGPT pour une deuxième
expérience et cette fois je lui ai parlé de
mes préférences personnelles en matière de glaces. J'ai
dit que lors de mes 100 dernières visites, j'ai
cueilli de la noix de coco aux noix 70 % du temps.
Les 30 % restants, je les ai répartis également entre
trois de mes autres favoris.
Je lui ai ensuite demandé de faire les 100
choix suivants en mon nom.
Et devinez ce que ça a fait.
Il cueillait de la noix de coco aux noisettes à chaque
fois.
Fini
mes aventures occasionnelles avec
de la pâte à biscuits au fondant au chocolat ou à la mangue.
Tout ce que je suis à ce stade est littéralement une
noix de coco aux noisettes.
Mais oubliez la glace. Mes élèves
et moi avons montré à plusieurs reprises les mêmes
schémas en étudiant les préférences réelles
des gens.
L'IA restreint vos goûts, elle aplatit votre
personnalité et elle élimine les
bords qui vous rendent intéressant et
vous maintiennent dynamique.
Et la partie insidieuse de tout cela est
que l'impact de l'IA sur la complexité humaine
est subtil. Vous ne remarquerez pas
que cela se produit du jour au lendemain.
C'est plutôt une mort par mille
recommandations algorithmiques. Un
film légèrement plus sûr, un peu plus de
livre populaire, un peu plus de
vacances grand public à la fois.
À chaque décision que vous confiez à l'IA,
vous devenez plus restreint. Ensuite, l'IA apprend
de cette version moins profonde de vous et
affine encore plus ses recommandations.
La journaliste du New York Times Kashmir Hill
a parfaitement décrit ce dilemme dans l'un
de ses articles.
Après avoir confié ses décisions à l'IA
pendant une semaine, elle s'est plainte de son
agenda caché visant à la transformer en une basique
...
Et le plus drôle, c'est que c'est le mot
basique ici qui est la plus grande insulte.
Parce qu'être basique signifie être
sans originalité, sans exception et
sans intérêt.
C'est offensant non pas parce que cela suggère
un échec, mais parce que cela implique
la médiocrité.
Une absence de complexité.
Et qui veut vraiment ça pour
eux-mêmes ?
Personne. Nous aimons tous le sentiment d'être
unique, d'être spécial, d'être
quelqu'un qui ne rentre pas facilement dans une
case.
Pour ma part, je ne veux pas devenir exactement
comme tout le monde. Et je ne veux pas non plus
devenir moi-même une version singulière de
.
Alors, que pouvons-nous faire pour corriger le cap et
éviter la destination de base
Nous ne pouvons pas appuyer sur le bouton de réinitialisation de l'IA et
nous ne devrions pas. Comme je l'ai déjà dit, ces
outils sont incroyablement précieux pour
naviguer dans la vie moderne et ils nous améliorent
à bien des égards.
Mais nous devons retrouver notre capacité à
prendre des risques et découvrir.
Nous devons trouver un moyen de rééquilibrer
l'exploitation et l'exploration.
Et ironiquement, l'IA pourrait en fait nous aider
à accomplir exactement cela.
Mais seulement si nous lui posons les bonnes
questions et le récompensons pour les
bonnes actions.
Ainsi, au lieu de lui demander de nous aider à trouver
quelque chose que nous aimons, nous pourrions commencer à
lui demander de nous aider à trouver quelque chose de nouveau.
Quelque chose que nous allons probablement adorer même
même si nous ne l'avons jamais essayé auparavant.
Et par là, je ne veux pas nécessairement
que vous tapiez vous-même cette question dans ChatGPT
.
Même si vous devriez certainement essayer.
Ce que je veux dire, c'est amener les entreprises à
exploiter la superpuissance de l'IA. C'est la capacité de
détecter des modèles dans de grandes quantités de données humaines
à des fins d'exploration.
Parce que l'IA a vu l'univers entier
des préférences, elle sait non seulement ce que
vous aimez actuellement, mais aussi ce qui se trouve
juste au-delà des limites de vos
préférences typiques.
Ce qui signifie qu'il peut vous aider à explorer
intelligemment. Pour prendre des risques organisés quand vous
le souhaitez.
Maintenant, voici à quoi cela pourrait ressembler.
Imaginez un cadran sur votre compte Netflix
ou sur votre barre de recherche Google qui vous permet
de décider jusqu'où vous souhaitez vous éloigner de vos
préférences habituelles à un moment
donné.
Au cours d'une journée normale, vous garderez probablement
le cadran proche du réglage parfait
parce que vous souhaitez obtenir immédiatement les
hits les plus pertinents.
Mais d'autres jours, vous pourriez avoir l'impression
assez aventureux pour le rapprocher un peu
de moi avec un paramètre différent
et demander du contenu qui est un peu
en dehors de votre zone de confort, mais qui reste
pertinent.
Et puis, les autres jours, pour ces rares
moments où vous sentez que vous êtes vraiment
prêt à conquérir le monde, vous pourriez
pousser le cadran jusqu'au paramètre joker
et lui demander de vous aider
à découvrir quelque chose d'entièrement nouveau.
Pour ma part, j'adorerais avoir un tel
cadran. Cela ne m'oblige pas à quitter ma zone de confort
. Je peux toujours le laisser sur
le réglage parfait et bénéficier de la
commodité qui l'accompagne.
Mais cela me donne le choix et la
liberté de sortir de ma petite bulle
quand je le veux ou quand je sens que je dois
le faire.
Mais voici le problème. Pour que l'IA puisse basculer
son super pouvoir entre l'exploitation et
l'exploration, nous devons l'inciter
à le faire.
Lui demander simplement d'être plus créatif ou
de vous aider à devenir plus aventureux n'est pas
faire l'affaire.
Dans la plupart des cas, il sera toujours par défaut
la sortie éprouvée car il
a envie de taper sur l'épaule.
Ainsi, au lieu de punir l'IA à chaque fois
qu'elle effectue un swing et qu'elle rate son coup, nous devons
commencer à la récompenser pour ses
swings intelligents.
Pour faire des paris un peu audacieux,
un peu inhabituels peut-être, mais toujours
fondés sur ce qu'il sait de nous.
L'IA n'est pas obligée de lancer des fléchettes dans le
noir. Elle peut prendre des risques en connaissance de cause. Cela peut
nous aider à optimiser notre exploration.
Et lorsque cela se produit, nous devrions le considérer
comme un succès et non comme un échec.
Maintenant, il ne s'agit pas de desserts ou de
playlists. Il s'agit de préserver ce
qui nous rend uniques, désordonnés et
glorieusement humains.
C'est votre passion fortuite pour les souvenirs ET
, votre étrange détour par le
géocaching ou votre préférence obstinée
pour une voiture à levier de vitesse.
Il s'agit de toutes les contradictions que
l'IA ne peut pas vraiment expliquer et de la beauté de
nous qui sommes juste un peu bizarres de temps en temps
.
Et si nous pensons que la complexité humaine
mérite d'être préservée, alors le moment est venu
d'agir.
Parce que nous sommes à ce point d'inflexion
où l'IA ne se contente plus de recommander,
mais commence à agir en notre nom.
Il s'agit de choisir, pas de suggérer.
Et c'est là que les enjeux deviennent
vraiment existentiels.
Alors, la prochaine fois que l'IA vous proposera des pralines et de la
crème, dites peut-être non et demandez-lui de vous aider
, vous deviendrez plutôt fou et imprudent.
Merci.
>> [musique]