Filtro-bolha

Naquele fim de 2012, num congresso de lideranças do YouTube em Los Angeles, um executivo puxou Goodrow e alguns outros de lado para dizer

que ia fazer um comunicado surpresa. [8] A empresa ia se reorganizar para uma meta exaustiva: aumentar o tempo assistido diariamente em dez vezes. Os servidores deles já registravam 100 milhões de horas de tempo assistido por dia. Mas mesmo que o YouTube estivesse se ampliando para novos países e espectadores de TV paulatinamente migrassem para a internet, a audiência só podia crescer até certo ponto. Usuários que pretendiam assistir a um vídeo teriam que ser seduzidos a ficar para ver muitos outros. O poder de persuasão do algoritmo teria que aumentar de forma drástica.

Quando eles conseguiriam entregar isso?, quis saber o executivo. Qual era o cronograma? Goodrow respondeu que 2015 seria muito cedo. Mas 2017, escreveu, “soava estranho” por ser número primo. Eles fecharam no final de 2016, dali a quatro anos. Posteriormente, Goodrow se comprometeu a pedir demissão se desse errado. Foi o que fez o YouTube correr atrás de um prazo que ele mesmo impôs, com seus executivos e engenheiros decididos a impulsionar conteúdo que fosse prender a atenção dos usuários pelo maior tempo possível, em paralelo a uma eleição presidencial na qual sua influência se provaria fatídica.

Filtro-bolha

Chaslot não era o único no Vale preocupado com as consequências dos algoritmos. Havia uma expressão que vinha circulando desde meados de 2011 e que resumia essas preocupações. Numa manhã de maio, enquanto Chaslot trabalhava em sua mesa na sede do Google em Los Angeles, seus chefes faziam fila do outro lado da cidade para um congresso em que um ativista de trinta anos chamado Eli Pariser subiu ao palco para alertar o público de executivos e engenheiros do ramo de que seus algoritmos ameaçavam a própria democracia. “Há uma guinada no jeito como a informação está fluindo na internet e que é invisível”, disse ele. “Se não

prestarmos atenção, ela pode virar um problema sério.” [9]

Um dia, disse Pariser, as postagens de seus amigos conservadores haviam sumido do seu feed de notícias no Facebook, e postagens de progressistas começaram a aparecer com mais destaque. O algoritmo da plataforma provavelmente notara que Pariser interagia com conteúdo progressista com mais frequência. O que não era surpresa: ele é um ativista progressista que passou anos cuidando do site de mobilização de esquerda MoveOn.org. A mudança provavelmente aumentou o tempo que ele passava no Facebook. Mas isso era bom para ele? Que o site só lhe mostrasse postagens que combinassem com seus vieses preexistentes? Isso era bom para a sociedade? Eles tinham um nome para esse efeito: filtro-bolha.

A triagem mais simples do algoritmo pode mexer com os costumes das pessoas a ponto de virar o resultado das eleições. Em um experimento de 2015, convidou-se norte-americanos a escolherem entre dois candidatos fictícios a partir do que achavam sobre eles na internet. Cada participante encontrava os mesmos trinta resultados de busca em uma versão armada do Google, mas cada um encontrava esses resultados em ordens distintas. Os participantes deram maior peso psicológico aos resultados com ranking mais alto, mesmo quando liam todos os trinta. O efeito, concluíram os pesquisadores, podia mexer com até 20% das intenções de voto dos

participantes indecisos. [10] O autor do estudo, Robert Epstein, psicólogo e fundador do Centro de Estudos do Comportamento de Cambridge, observou em um artigo de 2015: “O próximo presidente dos Estados Unidos pode começar o mandato tranquilamente não só através de propaganda na TV ou

discursos, mas das decisões secretas do Google”. [11] Ele observou que Donald Trump, extravagante e chamando a atenção, mesmo que ignorado por praticamente toda a imprensa e pelas elites políticas até do próprio partido, estava “surrando todos os outros candidatos em movimentação de buscas em 47 dos cinquenta estados”.

O medo de Pariser, muitos anos antes, era mais fundamental. “Está acontecendo um embate épico entre nossos eus futuros e aspiracionais e

nossos eus mais presentes e impulsivos”, disse ele. [12] Mesmo em 2011, anos antes do YouTube ou Facebook superequiparem seus sistemas até chegarem a resultados destrutivos, esses algoritmos iniciais e mais simples já tomavam o lado desses impulsos. E geralmente venciam, levando à proliferação de “autopropaganda invisível, doutrinando-nos com nossas próprias ideias”.

No ano seguinte, 2012, ele fundou o Upworthy, um site dedicado a narrativas positivas, que lançava artigos-listas carregados de emoção e vídeos projetados para bombar no Facebook e no Twitter. Mas, em vez de explorar o poder do algoritmo para espalhar conteúdo que promovesse o bem social, como Pariser queria, o Upworthy foi corrompido por esses sistemas, pois os criadores de vídeos buscavam as preferências do algoritmo quanto a conteúdo que agradasse à identidade e às posturas políticas dos usuários sem a preocupação de ensinar ou esclarecer, entupindo a internet de junk food informacional. Mais tarde, o Facebook mexeu no algoritmo e

o tráfego do Upworthy foi para as cucuias. [13] Dezenas de milhões de pessoas não tinham exatamente escolhido o Upworthy, como se descobriu, mas haviam sido manipulados pelas máquinas para ler o Upworthy.

Porém isso causava pouca preocupação entre empresas de mídias sociais. No YouTube, conforme o algoritmo passava por uma atualização depois da outra, havia gente nas trincheiras da empresa, como Chaslot, que passou a temer que o sistema estivesse levando os usuários a câmaras de eco da desinformação, tais como as que ele vira promovendo a viralização da misoginia entre vídeos de gamers. “Eu não queria ser o francesinho que não para de reclamar”, contou, “eu queria dar soluções” — construindo um algoritmo que atraísse usuários porque servia a seus interesses e necessidades, em vez de explorar seus impulsos. “Eu queria fazer do jeito americano”, disse, “focar nas oportunidades, e não nos problemas.”

Mas seus chefes repetidamente interrompiam seu trabalho em um algoritmo alternativo, disse ele, ou insistiam que aquilo nunca veria a luz. Ele continuou trabalhando mesmo assim, encaixando horas do projeto em seu tempo livre. Apresentou os resultados aos chefes, mas foi recusado de novo. Por fim, começou a trabalhar numa terceira versão. “Meu gerente disse: ‘Bom, Guillaume, se eu fosse você, não faria esse projeto de 20%, porque sua performance não anda muito boa'.”