Convergência

titulares [11] se agarrando a uma autoridade que não era mais deles.

Essa concepção de missão divina guiou os investidores-anjo da geração PayPal, que escolheram as startups e fundadores para reformatar o mundo em torno da visão deles. Eram o que denominavam titulares tumultuadoras. Uber e Lyft iam propor não só um jeito novo de chamar o táxi, elas iam abolir o jeito que existia até então. O Airbnb ia tumultuar o aluguel de curto prazo. As três eram empresas que tiveram investimento de egressos do PayPal. Muitas outras buscaram a mesma ruptura, e com violência. A Amazon com o varejo físico, o Napster com a música. Só alguns, como Thiel, sugeriram a sério fazer com a governança global o que a Uber havia feito com as viagens de carro. Mas assim que as plataformas sociais se encaixaram nessa função, a sensação foi de uma continuidade da posição que tinham por direito. Da crença de que a sociedade é um problema de engenharia apenas à espera da solução.

Convergência

Dois anos depois de a eleição de Trump chocar os norte-americanos e levá-los a questionar a influência das mídias sociais na sua política, Renée DiResta e outros quatro especialistas se sentaram diante das câmeras de TV e de púlpitos de madeira da Comissão Especial do Senado sobre Espionagem, dispostos a dar respostas. “O problema é uma das ameaças que estão definindo nossa geração”, afirmou DiResta aos dezesseis

senadores dispostos à sua frente. [12]

A audiência, em termos nominais, devia tratar da instrumentalização digital russa. Mas os investigadores do Congresso, assim como muita gente, estavam começando a crer que a incursão russa, embora nociva, havia revelado um perigo mais profundo e corrente. Era “não mais uma questão de arbitrar a verdade, tampouco uma questão de liberdade de expressão”, disse DiResta. Tinha a ver com a amplificação que os algoritmos davam, os estímulos online que levavam usuários involuntários a espalhar propaganda e a facilidade que agentes malignos tinham para “potencializar todo o ecossistema informacional a fabricar a aparência de consenso popular”. Como DiResta vinha fazendo havia anos, ela direcionou a atenção do seu público de Moscou para o Vale do Silício. “Boa parte da responsabilidade pela integridade do discurso público está nas mãos de plataformas sociais

privadas”, disse. [13] Para o bem público, complementou, falando em nome de sua equipe, “acreditamos que as plataformas de tecnologia privadas devem ser responsabilizadas”.

De início ela fora relutante em falar diante do Senado. “Achei que era um jogo político”, contou, referindo-se à interferência russa. “Será que vão ser só pegadinhas? Será que vai ser eu lutando com senadores do Partido Republicano que, naquele momento, estavam só fazendo as vontades do Trump?” Mas a reunião a portas fechadas que ela teve com o comitê havia sido “profissionalíssima”, disse. “Era só checagem de fatos.” Impressionada e surpresa com a sinceridade de alguns senadores que considerava hipersectários, ela concordou. “Eu queria muito, mas muito, deixar claro que achava que era apenas um problema do sistema”, contou, “e que a Rússia talvez fosse a melhor em manipular o sistema, mas que outros iam continuar manipulando.”

Quanto mais sua equipe analisava minuciosamente os gigas de dados que as plataformas forneciam, disse DiResta, mais certa ela ficava de que “não importava tanto se era a Rússia, antivaxxers ou terroristas. Era só a dinâmica que estava tomando corpo por conta do sistema”. Durante meses, houve sinais de uma grande convergência no que antes havia sido chamado de “Manual Russo”, mas cada vez mais parecia usuários e grupos simplesmente seguindo os estímulos e proveitos das redes sociais. A fronteira estava borrada, talvez para sempre, entre grupos que promoviam estrategicamente a desinformação ao estilo russo e usuários que se dispunham àquele tipo de ação de modo orgânico. Os propagandistas tinham se tornado desnecessários; o sistema, temia DiResta, é que verdadeiramente fazia o trabalho.

Algumas semanas depois da audiência de DiResta, numa tentativa de responder às preocupações do público, Zuckerberg publicou um ensaio.

“Um dos maiores problemas que as redes sociais enfrentam”, escreveu, “é que, quando deixadas sem controle, as pessoas se envolverão de modo

desproporcional com conteúdo mais sensacionalista e provocador.” [14] Ele incluiu no ensaio uma tabela que mostrava o engajamento em curva ascendente conforme o conteúdo do Facebook ficava mais extremado, até o ponto em que chegava no limite do que a plataforma permitia. “Nossas pesquisas sugerem que, independentemente de onde definirmos os limites do que é permitido, conforme um conteúdo ficar mais perto dessa fronteira, mais o público vai, em média, se engajar com esse conteúdo”, escreveu. “Em grande escala”, complementou, esse efeito “pode minar a qualidade do discurso público e levar à polarização.”

Guillaume Chaslot, o ex-integrante do YouTube, ficou pasmo. Ele havia passado anos tentando provar o que Zuckerberg, na prática, acabara de reconhecer. Conteúdo mais extremado ganha mais engajamento, ganha mais promoção e polariza os usuários. “É loucura quando você para pra pensar”, Chaslot disse.

Zuckerberg dera um detalhe revelador: em sua pesquisa interna, eles tinham descoberto que as pessoas se envolvem mais com conteúdo extremo

“mesmo se depois nos dizem que não gostaram dele”. [15] Em outras palavras, como especialistas e fontes internas preocupados estavam com dificuldade de demonstrar havia anos, não era por vontade consciente que os usuários estavam atuando; tratava-se de alguma coisa entre o impulso, a tentação e cutucadas dadas pelo sistema. O conserto que Zuckerberg propunha, naturalmente, eram mais ajustes no algoritmo. Eles iam adestrá-lo para reconhecer conteúdo que não era exatamente proibido e reduzir sua promoção — como que um meio-termo do banimento. Mas a natureza básica do sistema ia se manter.

“Não foi muita coisa que mudou”, disse Chaslot. “Se conferir as postagens políticas mais compartilhadas no Facebook, você ainda vai ver que são as que têm mais discórdia, seja da extrema direita, seja da extrema esquerda.” Ele complementou: “Se o Facebook está sempre empurrando as pessoas em direção ao extremismo, não interessa se os grupos mais extremos são banidos, pois o Facebook cria mais.” É por isso que, para ele, o problema não era a moderação, mas a amplificação.

E esse problema, fora o ajuste que Zuckerberg prometia, estava crescendo. A empresa reformulara seu algoritmo no início de 2018: o engajamento havia caído no ano anterior e a meta da reformulação era fazê-

lo subir de novo. [16] A nova versão ia promover ou abafar cada postagem com base em uma nota atribuída automaticamente. Curtidas valiam um ponto, mas emojis de reação — amor, tristeza, raiva — valiam cinco, de modo que uma postagem que provocasse mais emoção teria pontuação

cinco vezes maior. [17] Comentários curtos ganhavam quinze pontos, recompartilhamentos e comentários longos ganhavam trinta, recompensando tudo que provocasse uma discussão longa e emotiva.

O engajamento imediatamente se reavivou. Mas os usuários expressaram menos alegria com a experiência. O tráfego de quem publicava notícias no feed caiu. “Os conteúdos com desinformação, veneno e violência são excessivamente predominantes entre os

recompartilhamentos”, [18] alertou um relatório interno que tratava da mudança, enquanto outro descobriu “efeitos colaterais insalubres em fatias

importantes do conteúdo público, tais como política e notícias”. [19] Invectivas e boatos proliferavam ainda mais do que antes, desbancando notícias ou moderação. Partidos políticos de toda a Europa reclamaram em privado com a empresa que a inclinação sensacionalista de seus algoritmos os havia “forçado a pender para o tom negativo em seus comunicados via

Facebook, o que os levou a posição políticas mais extremadas”, [20] segundo um memorando interno.

Por volta da mesma época do ensaio de Zuckerberg, uma equipe de economistas da Universidade Stanford e da Universidade de Nova York conduziu um experimento que testava, da forma mais direta e rigorosa que já se havia feito, como o uso do Facebook muda o perfil político de uma

pessoa. [21] Eles recrutaram um número próximo de 1700 usuários, depois os dividiram em dois grupos. Exigiu-se aos integrantes de um deles que desativassem suas contas por quatro semanas. Aos integrantes do outro não. Os economistas, usando métodos sofisticados de levantamento, monitoraram o humor, o consumo de notícias, a exatidão quanto ao entendimento delas e sobretudo a visão política de cada participante, diariamente.

As mudanças foram drásticas. Pessoas que deletaram o Face book se sentiram mais felizes, mais satisfeitas com a vida e menos nervosas. A mudança emocional era equivalente a 25% a 40% do efeito de fazer terapia — queda impressionante para uma pausa de quatro semanas. Quatro em cinco disseram, depois, que a desativação lhes tinha feito bem. Os desistentes da plataforma também passaram 15% de tempo a menos consumindo notícias. Por conta disso, ficaram mais desinformados quanto aos acontecimentos recentes — o único efeito negativo. Mas boa parte do conhecimento que haviam perdido vinha, aparentemente, do conteúdo polarizante; a informação acondicionada de modo a favorecer antagonismos tribais. No geral, escreveram os economistas, a desativação “reduziu significativamente a polarização das visões sobre questões políticas e o grau de exposição a notícias polarizantes”. O nível de polarização deles caiu quase pela metade da taxa média de crescimento da polarização norte-americana média entre 1996 e 2018 — o período exato durante o qual ocorrera a crise de polarização que era prejudicial à democracia. Mais uma vez: quase pela metade.

Conforme as provas se acumularam ao longo de 2018, providências começaram a ser tomadas. Naquele ano, a Alemanha impôs que plataformas sociais apagassem qualquer discurso de ódio em até 24 horas após ser assinalado, ou teriam que pagar multas. A Austrália anunciou uma investigação “pioneira no mundo” para regulamentar as redes sociais e a

chamou de “ponto de virada” [22] em meio ao “reconhecimento global de que a internet não pode ser outro lugar, onde as regras da comunidade e o estado de direito não se aplicam”. A União Europeia impôs uma série de multas ao Google, acima do bilhão de dólares, por abusos antitruste, depois ameaçou regulamentações contra o Facebook por discurso de ódio, influência nas eleições e desinformação — o pacote completo. “Não vou esconder que estou ficando muito impaciente”, disse a comissária de Justiça da União Europeia Věra Jourová ao tratar do Facebook em uma entrevista coletiva. “Se não constatarmos avanços, sanções virão. Não quero ficar