O problema do Facebook é o Facebook

Nas semanas após a vitória de Trump, o sentimento de urgência se espalhou pelas instituições da vida norte-americana. Agências do governo se prepararam para a guerra do futuro presidente contra um “deep state ”, ou “Estado profundo”, criado pela sua imaginação. Grupos de direitos humanos se mobilizaram contra políticas que miravam minorias e imigrantes. E, em algumas universidades, meia dúzia de cientistas sociais passou a identificar as forças ocultas que haviam guiado a ascensão do trumpismo.

Um deles foi William Brady, o ex-treteiro das redes sociais que defendia o veganismo quando estava na graduação, e que agora era psicólogo e estudava como emoções negativas se espalham. Brady estava integrado a um laboratório universitário em Nova York que desenvolvia novos métodos para análise de mídias sociais. No Twitter, assim como em todo lugar, Trump era a pura indignação — contra as minorias, contra as instituições — como motivadora para mobilizar apoiadores. Brady sabia que a indignação moral pode se tornar contagiosa em grupos e alterar as convenções e os comportamentos daqueles que são expostos a ela. Seria possível que as mídias sociais, mais do que simplesmente amplificar Trump, tivessem deixado os norte-americanos mais próximos do raciocínio nós-contra-eles, vamos-acabar-com-tudo?

A equipe de Brady reuniu meio milhão de tuítes que tratavam de mudança climática, controle de armamento ou casamento homoafetivo,

usando-os como deixas para a discussão política. [17] Programas de detecção de linguajar testaram cada postagem e a pessoa que a enviou, atrás de elementos como postura emocional e postura política. Que tipo de mensagem chegava mais longe? Mensagens alegres? Mensagens tristes? Mensagens conservadoras ou progressistas? Os resultados foram um ruído. Tuítes alegres, por exemplo, tinham disseminação muito inconsistente para Brady concluir que a plataforma tinha um efeito ou outro. Mas, conforme uma das métricas, os resultados eram claros: independentemente do tópico, independentemente da facção política, o que os psicólogos tratam como “termos moral-emotivos” impulsionava várias vezes o alcance de qualquer tuíte.

Termos moral-emotivos transmitem sentimentos como repulsa, vergonha ou gratidão. (“Refugiados merecem compaixão”, “As opiniões daquele político são repugnantes”.) Mais do que meras palavras, são expressões de (e convocações ao) julgamento da comunidade, seja ele positivo ou negativo. Quando você diz: “O comportamento de Suzy é pavoroso”, na verdade está dizendo: “Suzy cruzou um limite moral; a comunidade devia perceber e, talvez, agir”. É o que torna esses termos diferentes de sentimentos emocionais mais definidos (“Eufórico com a decisão de hoje sobre igualdade nos casamentos”) ou os puramente morais (“O presidente é mentiroso”), nos quais o efeito de Brady não apareceu. Tuítes com termos moral-emotivos, descobriu ele, chegavam 20% mais longe — para cada termo moral-emotivo. Quanto mais desses termos em um tuíte, maior era seu alcance. Era a prova de que as mídias sociais impulsionavam não apenas Trump, que usava mais termos moral-emotivos do que outros candidatos, mas todo o seu jeito de fazer política. Os tuítes de Hillary Clinton, que enfatizavam superar as indignações em vez de atiçá-las, tinham performance baixa.

Brady descobriu outra coisa. Quando um progressista postava um tuíte com termos moral-emotivos, seu alcance crescia de maneira considerável entre outros progressistas, mas caía entre conservadores. (E vice-versa.) No geral ganhou mais visibilidade e validação por parte do usuário, ao custo de alienar gente do lado oposto. Era a prova de que o Twitter incentivava a polarização. Os dados também sugeriam que usuários, embora de modo inconsciente, obedeciam a esses estímulos, cada vez destratando mais quem fosse do outro lado. “Postagens negativas sobre exogrupos políticos tendem

a ganhar muito mais engajamento no Facebook e no Twitter”, [18] disse Steve Rathje, pesquisador de Cambridge, ao resumir um estudo posterior

que se baseou no de Brady. [19] Mas isso não era específico do partidarismo: o efeito privilegia qualquer opinião e, portanto, qualquer posição política, com base em desmerecer exogrupos sociais de qualquer tipo. Deve ser por isso que, em 2020, pesquisadores do Twitter concluíram que o algoritmo de sua plataforma sistematicamente impulsionou a política conservadora, que tende a dar muita atenção, em diversas sociedades, a traçar limites bem

definidos entre nós e eles. [20]

Apesar da discórdia crescente, o que mudou mesmo as coisas foi a escala, ao agir no instinto inato das pessoas de inferir e se conformar às normas de comportamento predominantes da comunidade. Cada um de nós se esforça, por mais que inconscientemente, para seguir as convenções sociais do nosso grupo. Mas tentar inferir essas normas nas mídias sociais era como estar numa casa de espelhos, onde certos comportamentos eram distorcidos para parecerem mais comuns e mais aceitos do que de fato são. No início de 2017, praticamente qualquer pessoa fora do Vale do Silício concordava que esses espelhos entortavam e distorciam o que todos víamos e sentíamos, mas ninguém havia descoberto como medir a curva de distorção, muito menos o efeito sobre os 2 bilhões ou 3 bilhões de pessoas que já circulavam por esse circo digital.

O Twitter pode ter sido a primeira plataforma cujos efeitos corrosivos foram — por volta dessa época, em início de 2017 — aceitos e entendidos de forma ampla. Isso se devia muito pouco ao seu alcance (um sexto da

base de usuários do Facebook ou do YouTube), [21] ao seu poder financeiro (valor de mercado correspondente a apenas 2,5% do que o Facebook tinha),

[22] ou à sofisticação de seus algoritmos, que continuavam gerações atrás das grandes concorrentes.

O motivo era simples: o presidente havia transformado sua conta de Twitter em um discurso à nação, ao vivo da Sala Oval, e que nunca tinha fim. Desse modo, de uma hora para outra, todo jornalista, funcionário federal ou cidadão interessado colou na plataforma. E eles descobriram que estar no Twitter é ser sitiado por trolls, esmurrado por polêmicas online intermináveis, atraído por campos polarizados em guerra sem fim e inundado com mentiras e boataria. Houve algo como uma constatação coletiva, compartilhada por pilhas de gatekeepers da imprensa e da política que talvez antes houvessem desprezado as mídias sociais como “só” a internet. E, ao contrário do Facebook e do YouTube, nos quais os usuários se encaixam em comunidades que talvez nunca se cruzem, com a estrutura um-Thunderdome-só do Twitter todos partilham praticamente a mesma experiência, o que facilitava aos usuários alarmados perceber que os problemas eram sistêmicos.

“Você está andando com gente que tem satisfação em espalhar veneno, gente que dissemina racismo, misoginia e antissemitismo”, lamentou um

âncora da CNN . [23] Ninguém precisava de investigação do Congresso para entender por que seria uma coisa ruim a plataforma, agora no cerne do discurso político norte-americano, estar dominada por neonazistas e por mentiras sectárias.

O Twitter — relativamente sob nova gerência de Jack Dorsey, que havia voltado à empresa em 2015 para assumir como CEO — anunciou que estava mudando o foco do crescimento para refrear semeadores da discórdia e assediadores, afirmação que talvez fosse fácil tratar como maquiada do marketing se sua base de usuários não houvesse parado de crescer na mesma hora. Uma parcela dos seus maiores acionistas, furiosa com o preço das ações da empresa estacionado, pressionou Dorsey a mudar de rumo e,

como ele não mudou, queria obrigá-lo a sair de vez. [24] Mas Brianna Wu e outros críticos de longa data elogiaram o Twitter pelo que chamaram de progresso genuíno, mesmo que apenas em conter os comportamentos mais graves, como ameaças de morte e racismo extremado.

Ainda assim, Dorsey, pelo menos de início, abordou o problema como se fosse de remoção dos mal-intencionados, em vez de considerar se a plataforma estava incentivando-os. Outros executivos o descreveram como alguém indeciso quanto a abandonar o utopismo da liberdade de expressão do Vale mesmo quando problemas começavam a lotar sua caixa de e-mails,

sugerindo que o sonho nunca havia sido verdadeiro. [25] Dorsey tendia a ser uma pessoa distante e estranha. Em uma reunião, disse à equipe que anunciaria a nova missão corporativa do Twitter e pôs para tocar “Blackbird”, a canção dos Beatles. Ele fazia retiros de meditação em silêncio, inclusive em Mianmar, meses depois de as mídias sociais terem

ajudado a fomentar a matança no país. [26] Durante uma queda no preço das

ações do Twitter, afirmou que ia morar temporariamente na África. [27]

Não estava claro, mesmo entre seus próprios funcionários, o grau em que a mudança de Dorsey pós-eleição significava o repensar dos pressupostos fundamentais do Vale do Silício, se era um golpe de marketing ou apenas o chefe guiando sua empresa numa espécie de passeio transcendental. Independentemente de sua motivação, o Twitter de Dorsey, mesmo com a imagem suja, evitou escândalos tão graves quanto os que outras empresas viriam a encarar. Sua plataforma não tinha influência para receber acusações críveis quanto a desencadear genocídios ou fazer uma eleição pender para um lado ou outro. E seu marketing em grande parte se afastava do sigilo, do confrontismo e dos manifestos pomposos que as outras empresas enfatizavam.

De início, nas semanas após a eleição de Trump, essas empresas maiores — sob uma mistura de pressão do público, pressão dos funcionários e, pelo menos no momento, um desejo aparentemente legítimo de agir como boas cidadãs — batalharam para entender o que, se é que algo, tinha dado errado. O Facebook encomendou uma auditoria interna conhecida como Projeto P, que refletia preocupações iniciais quanto à propaganda russa. Descobriu que a Agência de Pesquisa da Internet, vinculada ao Kremlin, havia comprado anúncios no Face book, geralmente com rublos, que levaram por volta de 60 mil usuários a confirmarem presença em eventos pró-Trump e anti-Clinton. O Facebook pediu desculpas. Na verdade, o plano russo com os eventos provavelmente teve impacto reduzido. Para o tamanho da plataforma, 60 mil confirmações em um evento era nada. Mas, como DiResta e outros descobriram, isso se revelaria apenas um fiapo da movimentação dos russos.

Outras revelações eram mais preocupantes. Dezenas de páginas da rede social haviam espalhado notícias falsas e hipersectárias. Os instigadores, spammers ordinários querendo dinheiro rápido, não tinham a sofisticação dos russos. Ainda assim, haviam cativado uma audiência imensa, sugerindo que algo no modo como o Facebook funcionava lhes dera poder. E sua predominância obrigou a plataforma a pensar se, e onde, era o caso de traçar uma fronteira entre o discurso político permitido e a desinformação proibida. Era uma questão sensível. O novo presidente, afinal de contas, vivera a maior parte da vida nessa fronteira.

Joel Kaplan, lobista conservador que o Facebook havia contratado para encantar o Partido Republicano em Washington, surgiu como figura decisiva. Ele ficava contra ou diluía mudanças pós-eleições, tais quais alterar o algoritmo ou banir os divulgadores de fake news, que teriam

afetado as páginas conservadoras de modo desproporcional. [28] Líderes republicanos, agora no controle do Congresso e da Casa Branca, já haviam levantado reclamações, na maioria fajutas, quanto a plataformas que “censuravam” os conservadores. Por que criar mais antagonismo com eles?

Facebook, Twitter e YouTube convergiram em uma explicação pública para 2016. A sociedade estava dividida e, embora as plataformas tivessem contribuído um pouco para isso, agora podiam fazer parte da solução. O Facebook ia alavancar sua tecnologia para “unir a humanidade”,

comprometeu-se Zuck erberg. [29] Ele explicou que isso significava, de maneira surpreendente, direcionar mais usuários a grupos, exatamente os veículos da radicalização que os críticos haviam considerado mais prejudiciais que a propaganda russa ou as fake news. O golpe contraintuitivo era que os grupos iriam, em tese, expor as pessoas a perspectivas mais diversificadas.

Era uma ideia que fazia sucesso no Vale. O Twitter também havia pensado em dar um empurrão para unir usuários de mentalidades não afins.

[30] Ellen Pao me disse que tinha planos de implementar uma variante dessa ideia no Reddit antes de ser demitida. O YouTube a aplicou em uma atualização do algoritmo chamada Reinforce, ou Reforço (embora um engenheiro da empresa tenha dito que sua meta real fosse aumentar o tempo

assistido). [31] Um desenvolvedor de IA do Facebook refletiu que seus sistemas podiam fazer engenharia reversa de “como opiniões se formam e se fossilizam e solidificam, de como é possível que duas pessoas não

consigam conversar”. [32] Outro afirmava que o algoritmo da plataforma

passaria a guiar os usuários a pontos de vista distintos. [33]

A arrogância do Vale do Silício, ao que parece, não apenas sobrevivera à eleição, mas estava pujante. Se 2016 foi o ano em que o Vale foi obrigado a reconhecer que servia como titereiro de uma vasta rede de fios invisíveis que nos manipulavam como 2 bilhões de marionetes, 2017 foi o ano em que seus programadores mais sagazes decidiram que a solução não era cortar os fios, mas ter controle ainda maior deles. Era apenas uma questão de fazer todos dançarmos conforme a música certa.

Eles estavam seguindo uma interpretação ruim, mas muito disseminada, de uma ideia conhecida como hipótese do contato. Cunhada após a Segunda Guerra Mundial para explicar por que tropas sem segregação racial ficaram menos propensas ao racismo, a teoria sugeria que o contato social levava grupos desconfiados a se humanizarem uns aos outros. Mas, de acordo com pesquisas subsequentes, esse processo só funciona em circunstâncias restritas: contato controlado, tratamento igualitário, território neutro e

tarefas em comum. [34] Os pesquisadores verificaram repetidas vezes que simplesmente misturar povos hostis entre si piora a animosidade.

No ano que se seguiu à eleição, uma equipe de cientistas políticos fez centenas de usuários do Twitter que se identificavam como democratas ou

republicanos seguirem um bot que retuitava opiniões opostas às suas. [35] Em vez de ficarem mais tolerantes, os usuários dos dois grupos se tornaram ideologicamente mais extremados. Os sectários das mídias sociais, como descobriu outro projeto, muitas vezes não conseguem registrar postagens sensatas ou inofensivas de pessoas de opiniões opostas. Mas postagens nas quais um membro do exogrupo diz algo repreensível quase sempre chamam a atenção. Frequentemente eles retransmitirão essas postagens como prova da malignidade do lado adversário. Um apoiador de Hillary Clinton durante as primárias democratas de 2016, por exemplo, talvez nem note a maioria dos tuítes dos apoiadores de Bernie Sanders. Até que alguém passe do limite. “Os eleitores do Bernie são sexistas demais”, pode tuitar o usuário, anexando uma captura de tela de um barista de 23 anos chamando Clinton de “histérica”.

As pessoas, de modo geral, percebem exogrupos como monólitos. [36] Quando vemos um integrante do clã oposto tendo um mau comportamento, supomos que esse exemplar representa a todos. Conforme o tuíte do apoiador de Clinton toma o rumo da viralidade indignada, usuários de mentalidade parecida que o virem terão mais probabilidade de notar transgressões parecidas em apoiadores de Sanders. Conforme tuítes desse tipo circularem, por sua vez, haverá a sensação de antagonismo generalizado: os apoiadores de Sanders são sexistas. Cientistas políticos

chamam esse fenômeno de “falsa polarização”. [37] Pesquisadores descobriram que a falsa polarização está piorando, especialmente em torno do sectarismo, e que as concepções que os progressistas e os conservadores

têm uns dos outros se tornam cada vez mais distantes da realidade. [38] Isso pode alimentar uma política de conflito do tipo soma zero. Se Sanders for só um político com ideias diferentes, chegar ao meio-termo de sua pauta é aceitável. Se ele for um radical perigoso que lidera um bando de arruaceiros, essa pauta tem que ser derrubada, e seus seguidores, expulsos do cenário político.

Mesmo na sua forma mais rudimentar, a própria estrutura das mídias sociais incentiva a polarização. Ler um artigo e depois os campos de comentários, como constatou um experimento, leva as pessoas a criarem

visões mais extremadas sobre o tema do artigo. [39] Grupos controlados que liam o artigo, mas não os comentários, se tornavam mais moderados e com a mente aberta. Não que os comentários em si fossem convincentes; o que fazia diferença era o mero contexto de haver comentários. Leitores de notícias, como descobriram os pesquisadores, processam as informações de um jeito diferente quando estão em um ambiente social: os instintos sociais sobrepujam a razão, o que os leva a buscar afirmação da honradez de seu lado.

Os grupos do Facebook amplificam ainda mais esse efeito. Estudos descobriram que, ao colocar usuários em um espaço social homogêneo, os grupos incrementam sua sensibilidade a estímulos sociais e à conformidade.

[40] Isso subjuga sua capacidade de avaliar afirmações falsas e aumenta sua atração por mentiras que afirmam sua identidade, o que os torna mais propensos a compartilhar desinformação e conspirações. “Na era e no contexto das mídias sociais, quando nos deparamos com pontos de vista opostos, não é a mesma coisa que as ler num jornal enquanto estamos a sós”, escreveu a socióloga Zeynep Tufekci. “É como ouvir esses pontos de vista do time oposto enquanto você está junto com a torcida no estádio de futebol… Nós nos conectamos ao nosso grupo berrando para a outra

torcida.” [41] Mexer no algoritmo para levar os usuários para um lado ou outro, para sectários afins ou para outro lado acabaria resultando em versões diferentes das forças perigosas, o que o design fundamental das plataformas torna inevitável. Foi por isso que os cientistas sociais estiveram entre os primeiros a atentar para a perspectiva de que, como disse a pesquisadora da comunicação Siva Vaidhyanathan, “o problema do Facebook é o Facebook. Não é um atributo particular ou marginal que pode

ser reparado e reformado”. [42]

No primeiro semestre daquele ano, o orientador de doutorado de William Brady comentou sobre seu trabalho durante uma palestra em um congresso acadêmico. No público, uma neurocientista de Yale chamada Molly Crockett se animou. Ela estudava a neurologia do comportamento social. Mesmo tendo uma profunda consciência de si, desde a eleição percebera que passava cada vez mais tempo procurando se indignar nas redes sociais. “Eu lia uma coisa, ficava furiosa e me sentia obrigada a compartilhá-la com os amigos”, contaria ela em entrevista. “Então começava meio que a checar, como se fosse uma obsessão, se outras pessoas tinham reagido, como haviam reagido. Uma repetição automática,

sabe.” [43]

Certa vez, ela e amigos debateram até ter acessos de raiva por causa de uma postagem viral sobre o apodrecimento de tomates nos tomateiros da Califórnia devido à falta de mão de obra imigrante. Isso levou as pessoas do endogrupo de Crockett a se unir em torno da indignação com a crueldade autodestrutiva de Trump e dos valores progressistas que elas tinham em comum, os quais, como a postagem aparentemente demonstrava, os tornava superiores. Até que uma amiga ressaltou que a matéria era de 2011. “Foi como se eu saísse de um transe”, lembrou Crockett. “Eu estava dentro de um circuito de retroalimentação muito parecido com o aparelho que meu laboratório do doutorado usava para treinar ratinhos a apertar uma alavanca