Um mundo enlouquecendo

precisão.” [54]

Quando vemos pessoas compartilharem desinformação, principalmente pessoas pelas quais não temos simpatia, é fácil supor que elas são desonestas ou que não são inteligentes. Mas muitas vezes são apenas humanas, sobrepujadas por instintos sociais para ver verdade em histórias que, se estivessem em um contexto mais neutro, optariam por recusar. O problema nesse experimento não foi ignorância ou falta de alfabetização midiática. As mídias sociais, ao bombardearem usuários com estímulo social em ritmo acelerado, os incentivaram a confiar mais na resposta rápida da intuição social do que na lógica pensada. Todas as pessoas têm capacidade de seguir pelas duas opções, assim como o potencial para a primeira sobrepujar a segunda, e é geralmente assim que a desinformação se espalha. As plataformas agravam o efeito ao enquadrar todas as notícias e informações dentro de contextos sociais de alto risco.

Políticos estavam se adaptando a essa regra. Matt Gaetz, deputado recém-eleito da Flórida, tuitou que poderes sombrios estavam pagando a refugiados para “avassalar” a fronteira e perturbar as eleições legislativas e que o filantropo judeu George Soros podia ser o responsável. Gaetz foi retuitado mais de 30 mil vezes. Os russos deixavam de ser o problema.

Um mundo enlouquecendo

Chaslot, ainda na França, decidiu repetir o acompanhamento que havia feito nas eleições norte-americanas, dessa vez com a campanha presidencial do seu país, com quatro candidatos. Tal como antes, ele descobriu que o algoritmo do YouTube favorecia fortemente os candidatos nos extremos: Marine Le Pen, da extrema direita, e Jean-Luc Mélenchon, da extrema

esquerda. [55] Estava surgindo um novo truísmo na política: as mídias sociais exaltavam políticos antiestablishment versados na linguagem moral-emocional exagerada. Mélenchon, embora impopular entre os eleitores, ganhava milhões de visualizações no YouTube, onde seus fãs mais dedicados aparentemente se congregavam.

Isso havia começado como um ponto positivo: a internet oferecia aos forasteiros da política uma maneira de contornar os veículos tradicionais que os evitavam. Como os apoiadores autênticos de tais candidatos passavam um tempo desproporcional no YouTube, o sistema aprendeu a impulsionar esses vídeos, o que rendeu mais fãs, fazendo o tempo assistido subir ainda mais. Mas, graças às preferências dos algoritmos por conteúdo extremado e de discórdia, quem se beneficiava mais eram sobretudo os candidatos marginais, e não os candidatos do meio do espectro.

Com apoio de colegas pesquisadores, Chaslot levou suas conclusões sobre as eleições norte-americanas e francesas ao Guardian , o que resultou em um relatório explosivo que aparentemente dava provas de uma ameaça à estabilidade política global da qual se suspeitava havia muito tempo. O YouTube contestou “a metodologia, os dados e, sobretudo, as conclusões”

da pesquisa. [56] Chaslot não escondera que suas conclusões eram estimativas, usando milhares de pontos de referência para inferir os bilhões de decisões que o algoritmo tomava diariamente. Mas as conclusões eram tão consistentes, pensou ele, e tão consistentemente alarmantes, e a empresa não se interessava em pelo menos checar se eram verdadeiras? Ou compartilhar os dados internos que, em teoria, podiam deixar tudo às claras? E ele não estava só. Ao longo dos anos que se seguiram, com a empresa enrolando, um campo inteiro de pesquisadores publicou um conjunto de conclusões após o outro, produzidos com métodos cada vez mais sofisticados, que não apenas apoiavam os resultados de Chaslot, mas sugeriam que a realidade era substancialmente pior do que até ele temia.

Ao longo de tudo, o YouTube se ateve a uma estratégia consistente, muito parecida com a que DiResta havia descrito: negar, depreciar e antagonizar. Em resposta ao texto que saiu no Guardian , um porta-voz declarou: “Nossa única conclusão é que o Guardian está tentando enfiar pesquisas, dados e suas conclusões incorretas goela abaixo com uma narrativa banal sobre o papel da tecnologia nas eleições do ano passado”.

[57] A resposta se tornou padrão. Diversas vezes, os representantes da empresa reagiram a cada nova descoberta taxando as provas de insignificantes ou erradas, entrincheirando-se para diálogos longos, geralmente hostis. Assim que saía uma grande reportagem, o YouTube, em uma reviravolta paradoxal, soltava uma declaração na qual insistia ter resolvido problemas que, semanas antes, dissera que não existiam. No caso de Chaslot, a empresa também buscava retratá-lo como pessoa indigna de confiança, motivado pelo desejo de envergonhar a empresa em retaliação por ter sido demitido devido ao seu baixo rendimento. Mas isso não explicava por que a princípio ele tinha tentado deixar o YouTube para trás e só começado a pesquisar a plataforma anos mais tarde, após se dar conta de seus malefícios, tampouco porque de início ele havia levado suas conclusões diretamente e de maneira privada ao YouTube.

“Essa é a regra. Posso rir porque, ao mudar as coisas, eles reconheceram que eu estava certo”, disse Chaslot, embora sua voz estivesse impregnada pela tristeza causada pelo repúdio público de sua antiga empregadora contra ele — que, anos depois, ainda machucava. “Mas, quando eu estava trabalhando nisso, eles me pressionaram demais. Foi frustrante.”

Era uma estratégia intrigante, especialmente no momento em que os legisladores começavam a reparar nos males das mídias sociais. Pouco depois que o YouTube enviou ao Guardian sua agressiva declaração, mas antes de o jornal rodar, o Comitê de Inteligência do Senado enviou ao Google uma carta exigindo que a empresa articulasse seu planejamento para impedir que mal-intencionados manipulassem o algoritmo do YouTube. Este solicitou que sua declaração ao Guardian fosse “atualizada”, substituindo o tom cáustico por promessas de combate à desinformação e elogios ao “empenho [do jornal] para lançar luz nessa questão desafiadora”.

Enquanto isso, assim que Chaslot se juntou a DiResta e outros na luta pública para entender a influência indevida do Vale do Silício, William Brady e Molly Crockett, o psicólogo e a neurocientista, chegaram a um avanço importante na sua pesquisa. Eles haviam passado meses sintetizando pilhas de dados recém-disponibilizados, baseados em pesquisa comportamental e nas suas próprias investigações. Foi como encaixar as peças de um quebra-cabeça que, assim que montado, revelou o que ainda hoje pode ser o referencial mais completo para entender os efeitos das mídias sociais na sociedade.

As plataformas, concluíram eles, estavam remodelando não só o comportamento na internet, mas impulsos sociais subjacentes, e não apenas do ponto de vista individual, mas em termos coletivos, potencialmente modificando a natureza do “engajamento cívico e do ativismo, da

polarização política, da propaganda política e da desinformação”. [58] Eles

deram a isso o nome de modelo MAD , [8] em referência às três forças que estavam reprogramando as mentes: motivação — os instintos e hábitos dos quais as plataformas sociais se apoderam —, atenção — o foco do usuário manipulado para distorcer sua percepção de estímulos e convenções sociais — e design — plataformas que haviam sido construídas de maneiras que preparam e incentivam certos comportamentos.

O primeiro passo dessas descobertas teve a ver com como as pessoas percebem termos moral-emotivos. Quando Brady constatou que esses termos têm maior alcance na internet, era legítimo pensar que eles chamam a atenção porque normalmente descrevem algo de grande impacto. Brady decidiu testar se isso era verdade. Ele e dois outros pesquisadores mostraram a participantes de um experimento uma transmissão falsa de mídia social, acompanhando o que chamava a atenção deles conforme

rolavam a barrinha. [59] Termos moral-emotivos, descobriram, sobrepujavam a atenção das pessoas quase independentemente do contexto. Se uma afirmação sem graça com termos moral-emotivos e uma afirmação empolgante sem eles apareciam juntas na tela, os usuários eram atraídos pela primeira. Participantes que estivessem focando ativamente em algo perdiam a concentração se ao menos um termo moral-emotivo piscasse na tela. Outros tipos de palavras piscando não produziram o mesmo efeito.

Quando eles refizeram o experimento com tuítes reais, obtiveram os mesmos resultados: quanto mais termos moral-emotivos em uma postagem, mais tiques nervosos de atenção ela ganhava. Essas postagens também tinham mais compartilhamentos, em todos os casos. Se você tuitava “The

quick brown fox jumps over the lazy dog ” [9] e “The good hero fox jumps

over the liar dog ”, [10] o último tuíte iria, com um único termo moral-emotivo, render mais olhinhos e mais compartilhamento. Publique “The

good hero fox slams the liar enemy dog ” [11] no Twitter e amanhã você pode acordar presidente.

A economia digital da atenção aumenta exponencialmente o impacto social dessa dinâmica. Lembre-se de que o número de segundos do seu dia nunca muda. Todavia, a quantidade de conteúdo das redes sociais competindo por esses segundos duplica mais ou menos a cada ano, dependendo de como você a mensurar. Imagine, por exemplo, que sua rede produz duzentas postagens por dia, das quais você tem tempo de ler cem. Por conta do enviesamento das plataformas, você verá a metade mais moral-emocional do seu feed. No ano seguinte, quando duzentas virarem quatrocentas, você verá o um quarto mais moral-emocional. No ano seguinte, o um oitavo mais moral-emocional. Com o tempo, sua impressão dessa comunidade se torna radicalmente mais moralizante, enaltecedora e indignada — assim como você. Ao mesmo tempo, tipos de conteúdo que engajam de forma menos inata — verdade, apelos ao bem maior, convocações à tolerância — perdem cada vez mais a disputa. Tal como o brilho das estrelas no céu sobre a Times Square.

A segunda fase da influência deformadora das redes, segundo o modelo MAD , é a chamada internalização. Usuários que buscavam os estímulos das plataformas recebiam recompensas sociais imediatas e em grande volume: curtidas e compartilhamentos. Tal como os psicólogos sabem desde Pavlov, quando é recompensado várias vezes por um comportamento, você adquire uma compulsão para repeti-lo. Conforme você é adestrado em transformar todas as discussões em casos de muita indignação, a expressar repulsa pelos exogrupos, a afirmar a superioridade do seu endogrupo, com o tempo você deixará de fazer isso em troca de recompensas que vêm de fora e fará simplesmente porque quer. O impulso vem de dentro. Sua natureza mudou.

Brady e Crockett constataram esse efeito em dois experimentos. Em um deles, quando usuários que expressaram indignação foram recompensados com curtidas e compartilhamentos, eles se mostraram mais propensos a expressar indignação no futuro — e mais propensos a se sentir indignados. O efeito se mantinha até com participantes que haviam expressado aversão à ira na internet. Uma pessoa em tudo o mais delicada e tolerante que, em um momento de fraqueza, tuitava para criticar um democrata e seu tuíte viralizava na mesma hora, ficava mais inclinada a publicar outros, primeiro para surfar naquela onda, mas logo porque ela se tornara, no fundo, uma sectária com mais ódio. O segundo experimento demonstrou que a economia da atenção, ao convencer erroneamente usuários de que sua comunidade tinha visões mais extremadas e discordantes do que na verdade possuía, causava o mesmo efeito. Mostrar aos participantes postagens de pares que haviam expressado indignação os deixava mais propensos a ficar indignados. Rolar com frequência seu feed lotado de raiva é o que basta não só para você ficar com mais raiva quando está na internet, mas também para fazer de você uma pessoa mais furiosa.

Dois outros pesquisadores descobriram, posteriormente, que o conteúdo moral-emocional também leva usuários a expressar mais convocações à

violência. [60] Eles prepararam um computador para analisar o texto de artigos e postagens de blogs de vários pontos da internet, depois fazer o mesmo quanto aos comentários de usuários postados em resposta: 300 milhões de comentários no total. Descobriram que, cruzando tópicos ou ideologias políticas, conforme o número de termos moral-emotivos em um artigo crescia, os comentaristas ficavam significativamente mais propensos a ameaçar ou incitar violência contra quem viam como inimigo, em geral alguém nomeado no texto. Era uma demonstração arrepiante de como retratar pessoas e fatos em termos moral-emotivos aguçados traz à tona os instintos de aversão e violência no público — que é, afinal de contas, exatamente o que as plataformas sociais fazem, em uma escala de bilhões, a cada minuto de todos os dias.

“As plataformas de internet hoje”, escreveram Brady e Crockett, “são uma das fontes primárias de estímulos moralmente relevantes que as pessoas têm no seu cotidiano.” Bilhões de bússolas morais pendendo, potencialmente, para o tribalismo e a desconfiança. Sociedades inteiras estimuladas para o conflito, a polarização e a fuga da realidade — para algo como o trumpismo.

Brady não pensava nas redes sociais como “inerentemente malignas”, disse. Mas, conforme as plataformas evoluíram, era como se os efeitos só piorassem. “É que ficou venenoso”, prosseguiu. “Na faculdade não era como é hoje.” No seu entender, era importante que as pessoas se lembrassem de que os designers e engenheiros, que querem nos fazer usar a plataforma deles pelo máximo de minutos e horas por dia, “têm metas diferentes, que não quero chamar de boas ou ruins, mas metas que talvez não sejam compatíveis com as nossas”.

No entanto, apesar de tudo que haviam aprendido, Brady e Crockett sabiam que estavam apenas começando a entender as consequências. Que efeitos tinha toda essa distorção, esse adestramento, nas nossas sociedades, na nossa política e na nossa espécie?

Sem perceber, eu estava tropeçando na resposta. Enquanto Brady e Crockett continuavam a investigar as distorções “casa dos espelhos” da psicologia das mídias sociais ao longo de 2017, no primeiro semestre daquele ano parti para um ponto bem mais distante, um lugar que as plataformas haviam ignorado com afinco, mas que logo se tornaria sinônimo da sua ganância, da sua negligência e do seu perigo: Mianmar.

OceanofPDF.com