[Português]
[música]
[música]
>> As pessoas se preocupam com IA por todos os tipos de
razões. Está polarizando, espalha
desinformação, está atacando nossos
empregos. E todos esses são bons motivos para
ficar nervoso.
Mas o que realmente me mantém acordado à noite é
outra coisa. Algo que parece
mais pessoal e talvez ainda mais
preocupante para a própria experiência humana
.
Preocupo-me que a IA nos torne chatos.
Você, eu, todos nós.
Isso porque quanto mais terceirizamos nossas
decisões para a IA, mais entregamos
algo profundamente humano.
Nossa capacidade de explorar, de correr riscos,
de tropeçar no desconhecido e
às vezes de surpreender até a nós mesmos.
Preocupo-me sem isso, sem o
potencial de descoberta, por
acaso, corremos o risco de nos tornarmos versões mais
superficiais e unidimensionais de
quem somos e quem poderíamos ser.
Não apenas como humanos, como indivíduos, mas
como humanidade.
Agora, deixe-me tornar essa ideia um pouco mais
concreta e levá-lo a algum lugar talvez
inesperado, mas também totalmente identificável.
Imagine entrar em um Baskin Robbins.
O que você verá é uma ilustre
variedade de 31 sabores diferentes de sorvete
. Há pedaços de chocolate,
amêndoas de pistache, sorvete de limão e muito mais
.
Agora você está enfrentando uma escolha difícil.
Você vai escolher um antigo
favorito, talvez chocolate, ou você
vai se arriscar em algo descolado
e novo como um sorvete selvagem e imprudente?
E sim, é um verdadeiro sabor.
A escolha que você está enfrentando é um clássico
dilema humano que os cientistas chamam de
trade-off exploração exploração.
Você vai jogar pelo seguro e
aproveitar o que você sabe que gosta, ou
você vai correr um risco com a
esperança de encontrar algo ainda melhor?
E nossas vidas estão cheias dessas
compensações. Fique com o seu favorito
restaurante ou experimente um novo local na
esquina. Mantenha seu corte de cabelo habitual ou
peça algo novo e ousado. Mantenha
seu emprego estável ou finalmente tente se tornar
um campeão de pickleball.
Todos nós diferimos em nosso apetite por
exploração versus exploração, mas
também somos todos programados pela evolução para
encontrar um certo equilíbrio entre os
dois.
Porque para nossos ancestrais na savana
africana, a compensação era na verdade
bem simples. Atenha-se muito
ao que é seguro e você corre o risco de morrer de fome quando
o bosque secar. Se você se afastar demais do
desconhecido, poderá ser envenenado
ou comido por leões.
Felizmente para você e para mim, as compensações
que enfrentamos hoje têm muito menos a ver com
sobrevivência.
Mas nossas escolhas ainda são regidas por
esse instinto de equilibrar cautela com
curiosidade.
Se tudo o que você fizesse na vida fosse jogar
pelo seguro e explorar, você nunca ficaria
desapontado. Mas você também nunca teria
chance de avançar e crescer.
Se tudo o que você fizesse fosse descobrir e
explorar, você acumularia
experiências infinitas, mas também nunca teria a
chance de capitalizar seu aprendizado.
Então é realmente esse equilíbrio entre
exploração e exploração que alimenta
nosso crescimento.
Não apenas como espécie, mas também como
indivíduos.
Mas é exatamente aí que a IA lança uma
chave inglesa no trabalho.
Porque a IA odeia riscos.
E isso não é por causa de seu
DNA algorítmico, mas porque os
sistemas dos quais confiamos para navegar em nosso mundo
do Spotify ao Netflix e ao ChatGPT são
esmagadoramente treinados para otimizar para
exploração.
Ou mais especificamente para engajamento e satisfação
de curto prazo.
Você clicou no link, assistiu ao vídeo,
gostou da música? Se sim, a IA recebe um tapinha no ombro
. Se não, leva um tapa na mão
.
Risco, descoberta e exploração
simplesmente não fazem parte de sua programação.
Pense em Baskin Robbins. Se 60% de
pessoas preferem o sabor Pralines 'n
Cream, que é o sabor
mais vendido, então é isso que a IA irá
recomendar.
Não é que falte imaginação à IA, ela
carece de incentivo.
Apostas seguras protegem contra
decepções, o que, por sua vez, reduz
a rotatividade de clientes.
Portanto, em vez de fazer essa aposta arriscada
que ajuda você a explorar, as empresas tendem
a errar no lado da exploração ao
treinar seus sistemas de IA.
E para ser claro, não há nada
inerentemente errado com isso. Passei
os últimos 15 anos como cientista social
computacional trabalhando na
intersecção entre psicologia, ciência da computação
e negócios. E eu sei que
recompensar a IA dessa forma pode ser extremamente
valiosa.
De certa forma, os algoritmos só se tornam tão bons
em descobrir o que você pode gostar ou
estar procurando atualmente porque eles
se concentram na exploração.
E isso não é bom apenas para os negócios,
também é bom e às vezes até
necessário para nós como consumidores.
Para mim, a simples ideia de ter que
escolher entre 31 sabores diferentes de sorvete
me deixa tonto.
E ainda assim, a maioria das escolhas que
enfrentamos diariamente são muito mais complexas
do que isso.
A Netflix, por exemplo, tem mais de 5.500
filmes para você escolher.
Spotify, mais de 100 milhões de músicas.
Portanto, a verdade é que sem uma pequena
ajuda de nossos amigos da IA
amantes da exploração, simplesmente não temos a menor chance
de navegar na vida moderna.
Mas também estou cada vez mais
preocupado com o fato de que essa vantagem tenha um
custo existencial.
E para lhe dar uma primeira ideia do que quero dizer
com isso, vamos voltar a Baskin
Robbins.
Antes de vir aqui, fiz um simples
experimento. Pedi ao ChatGPT que recomendasse
um de seus sabores de sorvete. Fiz
isso 100 vezes, em cada rodada fingindo ser
um novo cliente.
96 vezes, ela recomendou um dos
dois sabores mais populares, Pralines 'n
Cream e Mint Chocolate Chip.
O que, eu percebo e tenho certeza que você
concordará, não é exatamente um conjunto muito diversificado
de escolhas.
E isso pode significar que em breve nos encontraremos
em um mundo onde Baskin
Robbins oferece apenas esses dois sabores.
Se ninguém escolhe os outros 29, por que
se preocupar em oferecê-los?
Agora, isso pode parecer trivial e não
realmente existencial.
Mas isso só até você perceber que
esse achatamento da experiência humana
acontece em todos os aspectos da vida.
Em estudos com meus colaboradores e
alunos, mostramos que quando as pessoas
usam IA para orientação,
suas preferências se tornam mais normativas
e menos diversas. Sua produção criativa
torna-se menos exclusiva. E a escolha dos
cientistas, atletas,
e figuras históricas mais importantes torna-se a mesma
que a de todos os outros.
Resumindo, a IA transforma essa
diversidade infinita de opiniões, crenças,
e preferências humanas em uniformidade
estatisticamente segura.
E isso é apenas parte do problema
porque mesmo quando a IA aprende suas peculiaridades,
diz que descobre que você gosta mais de nozes
de coco do que de Pralines 'n Cream,
ela ainda estará segura dentro de suas
preferências. O que significa que será
otimizado para o que você provavelmente
gostará.
Voltei ao ChatGPT para uma segunda
experiência e desta vez contei sobre
minhas preferências pessoais de sorvete. Eu
disse que durante minhas últimas 100 visitas,
colhi coco com nozes em 70% das vezes.
Os 30% restantes eu divido igualmente entre
três dos meus outros favoritos.
Pedi então que ele fizesse as próximas 100
escolhas em meu nome.
E adivinhe o que aconteceu.
Ele colheu coco com nozes todas as
vezes.
Já se foram
minhas aventuras ocasionais
com massa de biscoito com calda de chocolate ou manga.
Tudo o que sou nesse momento é literalmente um
coco com nozes.
Mas esqueça o sorvete. Meus alunos
e eu mostramos repetidamente os mesmos
padrões ao estudar as
preferências reais das pessoas.
A IA restringe seu gosto, nivela sua
personalidade e elimina as
arestas que o tornam interessante e o mantêm
dinâmico.
E a parte insidiosa de tudo isso é
que o impacto da IA na
complexidade humana é sutil. Você não notará
que isso acontecerá durante a noite.
Em vez disso, é uma morte por mil
recomendações algorítmicas. Um filme
um pouco mais seguro, um livro um pouco mais
popular, umas férias um pouco mais
populares por vez.
A cada decisão que você terceiriza para IA,
você se torna mais restrito. Então a IA aprende
com essa versão mais superficial de você e
restringe ainda mais suas recomendações.
A repórter Kashmir Hill
do New York Times capturou esse dilema perfeitamente em um
de seus artigos.
Depois de terceirizar suas decisões para a IA
por uma semana, ela reclamou da
agenda oculta para transformá-la em uma
...
básica E a parte engraçada é que a palavra
básica aqui é o maior insulto.
Porque ser básico significa ser
banal, banal e
desinteressante.
É ofensivo não porque sugere
fracasso, mas porque implica
mediocridade.
Ausência de complexidade.
E quem realmente quer isso para
si mesmo?
Ninguém. Todos nós gostamos da sensação de ser
único, de ser especial, de ser
alguém que não cabe facilmente em uma caixa
.
Eu, pelo menos, não quero me tornar exatamente
como todo mundo. E também não
quero me tornar uma versão singular de
mim mesmo.
Então, o que podemos fazer para corrigir o curso e
evitar o destino básico
Não podemos apertar o botão de reset na IA e
não deveríamos. Como eu disse antes, essas
ferramentas são incrivelmente valiosas para
navegar na vida moderna e nos deixam
em melhor situação de muitas maneiras.
Mas precisamos recuperar nossa capacidade de
assumir riscos e descobrir.
Precisamos encontrar uma maneira de reequilibrar
exploração e exploração.
E, ironicamente, a IA poderia realmente nos ajudar
a conseguir exatamente isso.
Mas somente se fizermos as
perguntas certas e o recompensarmos pelas
ações corretas.
Então, em vez de pedir para nos ajudar a encontrar
algo que gostamos, poderíamos começar a perguntar
para nos ajudar a encontrar algo novo.
Algo que provavelmente adoraremos, mesmo
embora nunca tenhamos experimentado antes.
E com isso não quero dizer necessariamente
você mesmo digitando essa pergunta no ChatGPT
.
Embora você certamente deva tentar.
O que quero dizer é fazer com que as empresas
aproveitem o superpoder da IA. É a capacidade de
detectar padrões em grandes quantidades de
dados humanos para fins de exploração.
Como a IA viu todo o universo
de preferências, ela sabe não apenas o que
você gosta atualmente, mas também o que está
logo além dos limites de suas
preferências típicas.
O que significa que pode ajudá-lo a explorar
de maneira inteligente. Para assumir riscos selecionados quando você
quiser.
Agora, aqui está como isso poderia ser.
Imagine um dial na sua conta Netflix
ou na barra de pesquisa do Google que permite que você
decida o quão longe de suas
preferências típicas você deseja se afastar em qualquer
determinado momento.
Em um dia normal, você provavelmente manterá
o dial próximo à configuração exata
porque deseja obter o máximo de
hits relevantes imediatamente.
Mas em outros dias, você pode sentir
aventureiro o suficiente para aproximá-lo um pouco
de mim com uma configuração diferente
e pedir conteúdo que esteja um pouco
fora da sua zona de conforto, mas ainda assim
relevante.
E então, em outros dias, para aqueles raros
momentos em que você sente que está realmente
pronto para enfrentar o mundo, você pode
empurrar o dial até a configuração da carta curinga
e pedir que ela o ajude a
descobrir algo totalmente novo.
Eu adoraria ter esse
dial. Isso não me obriga a sair da minha
zona de conforto. Sempre posso deixá-lo
na configuração correta e me beneficiar da
conveniência que vem com ele.
Mas isso me dá a escolha e a
agência para sair da minha pequena bolha
sempre que eu quiser ou sentir que preciso
.
Mas aqui está o problema. Para que a IA alterne
seu superpoder entre exploração e
exploração, precisamos incentivá-la
a fazer isso.
Apenas pedir para ser mais criativo ou
ajudá-lo a se tornar mais aventureiro não
vai resolver o problema.
Na maioria dos casos, o padrão ainda será
a saída experimentada e testada porque
anseia por aquela palmada no ombro.
Portanto, em vez de punir a IA toda vez que
ela dá um golpe e erra, precisamos
começar a recompensá-la por dar golpes inteligentes
.
Por fazer apostas um pouco ousadas,
talvez um pouco incomuns, mas ainda
baseadas no que sabe sobre nós.
A IA não precisa lançar dardos no
escuro. Pode assumir riscos informados. Pode
nos ajudar a otimizar nossa exploração.
E quando isso acontecer, devemos tratá-lo como
um sucesso, não um fracasso.
Agora, não se trata de sobremesas ou
playlists. Trata-se de preservar o que
nos torna únicos, confusos e
gloriosamente humanos.
É a sua paixão aleatória por memorabilia do ET
, seu estranho desvio para
geocaching ou sua preferência teimosa
para um carro com câmbio manual.
É sobre todas as contradições que
a IA não consegue explicar e a beleza de
sermos um pouco estranhos de vez em quando
.
E se acreditamos que vale a pena preservar a complexidade humana
, então a hora de
agir é agora.
Porque estamos neste ponto de inflexão
onde a IA não está mais apenas recomendando,
mas começando a agir em nosso nome.
É escolher, não sugerir.
E é aí que o que está em jogo se torna
realmente existencial.
Então, da próxima vez que a IA lhe oferecer bombons e
creme, talvez diga não e peça ajuda
para que você fique selvagem e imprudente.
Obrigado.
>> [música]