A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo

Manadas da humilhação

A cultura popular costuma retratar a moralidade como algo que emerge do nosso eu magnânimo: os anjos bons da nossa natureza, a mente esclarecida. O sentimentalismo diz que ela é motivada, na verdade, por impulsos sociais como o conformismo e a gestão da reputação (lembra do

sociômetro?), que sentimos como emoções. [17] A pesquisa neurológica

sustenta essa ideia. [18] Quando uma pessoa diante de um dilema moral elabora como reagir, há forte registro de movimentação em regiões cerebrais associadas a emoções. E o cérebro emocional trabalha rápido, geralmente chegando a uma decisão antes de o raciocínio consciente ter a chance de entrar em ação. Os participantes do experimento só ativavam as partes do cérebro responsáveis pelo cálculo racional quando eram chamados a explicar sua opção, e as usavam retroativamente para justificar uma atitude pela qual já haviam se decidido e que fora guiada pela emoção.

A opção moral-emocional parecia servir a um propósito maior, como buscar aprovação dos pares, gratificar um bom samaritano ou castigar um transgressor. Mas a natureza instintiva desse comportamento o deixa aberto para a manipulação. Que é exatamente o que déspotas, extremistas e propagandistas aprenderam a fazer, convocando gente a ficar do seu lado ao despertar a indignação — em geral contra um bode expiatório ou um malfeitor imaginado. O que aconteceria quando as redes sociais, inevitavelmente, aprendessem a fazer a mesma coisa?

 

Manadas da humilhação

Brianna Wu ainda estava discutindo com uma manada de indignados nas mídias sociais quando se viu tentando começar outra discussão. “Nunca vou me esquecer”, contou. “Teve um momento, no meio do caminho do Gamergate, em que caí nessa discussão feminista da indústria de jogos.” A Oculus, empresa do Facebook que fazia headsets para realidade virtual, havia anunciado uma equipe nova. Todos eram homens e brancos. Wu ficou furiosa. “Lembro de explodir no Twitter, de postar uma imagem da equipe com os nomes”, disse. “E isso é um problema. A falta de mulheres na engenharia de VR é uma coisa horrível. Mas me dei conta de que esse tipo de tática funciona pelo mesmo lado emocional do que o Gamergate vinha fazendo comigo.”

Ela reconheceu, pela primeira vez, o quanto da sua experiência nas mídias sociais estava voltada para provocar ou participar de campanhas de humilhação pública. Algumas duravam semanas; outras, apenas minutos. Algumas serviam a uma causa importante, ou assim ela dizia; outras só existiam porque alguém a fizera ficar indignada. “Eu costumava selecionar tuítes sexistas que chegavam até mim. Só retuitava e deixava meus seguidores darem um jeito”, disse. “Não faço mais isso porque é pedir que alguém seja perseguido.”

Em 2016, ela concorreu nas primárias internas do Partido Democrata para a vaga de deputada do seu distrito, defendendo causas progressistas e prometendo lidar com a intimidação via internet. Um jornalista lhe pediu que comentasse um tuíte de 2014 no qual ela identificava o nome e a empresa de alguém que fizera uma postagem sexista — não era o tipo de intimidação que, segundo ela, as plataformas deviam combater? “Lembro que naquele momento pensei, tipo: ‘Que hipócrita de bosta eu sou'. Para isso não tenho desculpa”, disse. “E foi o que respondi: ‘Foi um erro'.” Wu afirmou que havia permitido que as plataformas provocassem nela exatamente os comportamentos que detestava. “E não sei como essa merda vai ficar menos virulenta se não tiver mais gente entre nós se dando conta de que, quando estamos naquela hora ruim, podemos ser uma pessoa do mal.”

Na época, Kate Klonick, pesquisadora da área do direito e ex-aluna de psicologia cognitiva, estava tentando entender por que a humilhação coletiva era tão disseminada nas mídias sociais. Ela aprendeu muito com uma polêmica do início do Twitter, que levou um nome bem indicativo de como essas coisas não costumavam ser levadas a sério: o Donglegate. Uma programadora chamada Adria Richards, na plateia de um congresso de programação, ouvira um homem na fileira de trás cochichar para seu vizinho uma piadinha com terminologia da área. Ela se virou e tirou uma foto, depois a tuitou com a legenda “Pegou mal. Piada com forking repo's

em sentido sexual e dongles ‘grandões'. Bem atrás de mim”. [19] [4]

Richards, uma mulher negra, se pronunciava fazia muito tempo contra as tendenciosidades da indústria. Naquela época, início de 2013, as mídias sociais já lhe permitiam alcançar um público maior. Twitter e Facebook se encheram de postagens furiosas em reação ao seu tuíte. Os organizadores do congresso, bem como os patrões dos dois homens, de repente se tornaram mal-afamados, até odiados, em escala nacional. Um deles foi demitido logo em seguida. Ele postou no Hacker News, o fórum não oficial do Vale do Silício, um pedido de desculpas por seu comentário, endereçado especialmente a Richards. Mas complementou: “Tenho três filhos e gostava muito do meu emprego. Ela não me avisou, ela sorriu enquanto tirava a foto e selava meu destino. Que isso sirva de alerta a todos: nossas atitudes e nossas palavras, grandes ou pequenas, podem ter um impacto tremendo”. Como esperado, seguiu-se uma segunda rodada de indignação, dessa vez inundando Richards e seus chefes com mensagens raivosas, algumas com ameaças. O site da empresa onde ela trabalhava saiu do ar devido a um ataque hacker rudimentar chamado negação de serviço. No dia seguinte, Richards foi demitida por causa de sua decisão, disse seu chefe, de “humilhar em público” os dois homens.

A maior parte da pesquisa jurídica, sabia Klonick, considera a humilhação pública algo necessário para o funcionamento da sociedade: fazer tsc-tsc para a pessoa que furou a fila, marginalizá-la por seu comentário sexista, provocar sua demissão por participar de um grupo de ódio. Mas as mídias sociais estavam mudando o jeito como funciona a humilhação pública, o que necessariamente ia mudar o próprio funcionamento da sociedade. “O acesso barato, anônimo, instantâneo e onipresente à internet acabou com a maioria — se não com todos — os controles naturais da humilhação”, escreveu ela nas suas conclusões, “e assim mudou o modo como percebemos e fiscalizamos as normas sociais.”

[20]

Alguém que fosse, digamos, grosseiro com um motorista de ônibus talvez esperasse que alguns passageiros o abordassem de dedo em riste. Agora, se o incidente é gravado e postado na internet, essa pessoa pode ter que encarar semanas de ofensas do mundo inteiro. “Hoje, é mais fácil do que nunca”, escreveu Klonick, “usar a humilhação para reforçar as ditas normas sociais e é mais fácil do que nunca a humilhação sair do controle.” A humilhação pública na internet tendia a ser “superassertiva”, defendia ela, mal calibrada à escala do crime, e “de precisão pequena ou

questionável em relação a quem ou o que castiga”. [21]

Além disso, ela se tornou mais cruel, até sádica. A partir do momento em que a internet social se emaranhou com o cotidiano, circularam histórias de manadas de indignados cometendo exageros. Uma funcionária de baixo escalão da área corporativa chamada Justine Sacco ganhou fama internacional em 2013, quando um tuíte a seus 170 seguidores (“Vou pra África. Espero que não pegue aids. Brinqs. Sou branca!”) suscitou dezenas de milhares de reações de raiva e depois de júbilo com sua humilhação e demissão. Um artigo da New York Times Magazine sugeriu que Sacco e outros como ela haviam sido obrigados a sofrer para nossa diversão, ou apenas porque tínhamos perdido o controle, “como se as humilhações agora

acontecessem só por acontecer, como se seguissem um roteiro”. [22]

A foto de uma turma de colégio de uma cidadezinha do Wisconsin viralizou quando usuários do Twitter acusaram os alunos de fazerem

saudações nazistas. [23] Uma tempestade internacional de fúria, restrita à internet, esmiuçou a vida dos pais dos alunos e dos funcionários da escola, humilhando-os em relação a qualquer detalhe que os usuários pudessem achar na rede e deixando manchada a imagem da cidade. Depois se descobriu que o fotógrafo voluntário havia captado os garotos de um ângulo incomum. Eles estavam apenas se abanando.

Um jornalista foca de Des Moines publicou o perfil de um morador que tinha viralizado no Facebook por participar de um jogo de futebol universitário com uma placa engraçada (PRECISO REABASTECER SUPRIMENTO DE CERVEJA ), seguido de seu nome de usuário no serviço de pagamento móvel Venmo. O jornalista observou, por alto, que o homem já escrevera

tuítes ofensivos, pelos quais havia se desculpado. [24] Primeiro os usuários das mídias sociais exigiram que o portador da placa perdesse o emprego e, depois, em revolta contra a revolta, que o próprio jornalista fosse demitido. E foi.

O dono de um restaurante palestino-americano em Minneapolis foi sitiado pela ira da internet quando alguém descobriu comentários racistas no histórico das mídias sociais de sua filha, que ela havia postado quando criança. Embora tivessem pedido desculpas, usuários da internet fizeram circular os endereços de ambos e pressionaram empresas locais a se afastarem da família. O contrato de aluguel do restaurante foi rescindido, e dois supermercados deixaram de comercializar os produtos da família. A indignação passou pouco depois de o dono do estabelecimento demitir a filha e dizer a um jornalista: “Você acha que é fácil para mim destruir a

carreira da minha filha?”. [25]

Quando uma romancista imigrante da China conseguiu um contrato muito bem remunerado pelo seu livro de estreia, uma fantasia para jovens adultos, outros escritores tuitaram declarações ambíguas de que o manuscrito continha trechos racistas e plagiados. Muitos no Twitter aceitaram os boatos como verdade, atormentando a escritora e sua editora até que a publicação do livro foi cancelada. Mais tarde se descobriu que as acusações eram falsas. Um mês depois aconteceu de novo, dessa vez com um escritor de romances para jovens adultos negro, que foi pressionado a também desistir de publicar seu manuscrito, com sucesso. Houve incidentes parecidos e recorrentes entre escritores, o que levou uma crítica literária a escrever, em desespero: “Fico perplexa em ver que pessoas que estão sempre falando do quanto amam ler, com tanto entusiasmo, leiam tão mal”.

[26]

Uma estudante negra no Smith College postou no Facebook que um zelador e um guarda da sua faculdade a haviam intimidado por “comer

como uma negra”. [27] Os dois a interrogaram enquanto almoçava no saguão de um alojamento, segundo ela, tratando-a como intrusa por conta de sua raça. A postagem foi compartilhada raivosamente por todo o Smith College, depois em outras faculdades, a seguir no mundo inteiro, provocando um alvoroço de notoriedade para o minúsculo campus. O zelador foi afastado com licença remunerada. Alunos saíram das aulas em protesto. A aluna fez uma postagem posterior no Facebook acusando duas funcionárias do refeitório de chamarem a segurança durante o incidente. Ela incluiu nome, e-mail e fotos de uma delas e escreveu: “Essa aí é que é a racista”. A funcionária do refeitório foi inundada de ligações furiosas na própria casa, algumas com ameaças de morte. A estudante também postou a foto de um zelador, acusando-o de “atos racistas e covardes”, embora tenha, supostamente por engano, identificado o zelador errado.

A verdade acabou se revelando um misto de mal-entendido sincero com hipérbole juvenil. Ela estava fazendo sua refeição em um cômodo fechado, anexo ao refeitório, reservado a um curso para crianças. O zelador estava seguindo regras que exigiam que a segurança fosse comunicada se alguém que não fosse do curso entrasse no local. O guarda teve um diálogo educado com a aluna e não lhe pediu que saísse. As funcionárias do refeitório não tiveram envolvimento algum.

Mas, quando a verdade veio à tona, em um longo relatório elaborado por um escritório de advocacia que a universidade contratou, a versão dos fatos no Facebook, calcificada pelo extravasar da comoção coletiva, já havia se solidificado na mente de todos. A universidade, provavelmente temendo incitar mais ira, se recusou a exonerar os funcionários, declarando ser “impossível excluir o envolvimento potencial de um viés racial implícito” no comportamento que tiveram. Um foi transferido, outro ficou de licença, outro se demitiu. Uma das funcionárias do refeitório foi barrada na seleção para um restaurante quando o entrevistador a reconheceu como “a racista” do Face book. A aluna, antes alçada a heroína na internet, agora era condenada como vilã. Poucos pensaram em culpar as plataformas sociais que haviam dado a uma adolescente o poder de acabar com o ganha-pão de trabalhadores de baixa renda, incentivaram-na e a milhares de espectadores a fazer o que fizeram e garantiram que todos passariam por sua impressão errada, transformada em indignação, como algo mais verdadeiro que a verdade.

A verdade ou a mentira têm pouca importância na recepção de uma postagem, exceto no aspecto de que uma pessoa mentirosa tem mais liberdade para alterar os fatos que se conformem a uma narrativa provocadora. O que importa é se a postagem pode desencadear uma reação forte, geralmente de indignação. Um estudo de 2013 da plataforma chinesa Weibo descobriu que a ira sistematicamente chega mais longe que outras

emoções. [28] Estudos sobre o Twitter e o Facebook encontraram repetidamente o mesmo resultado, embora pesquisadores tenham reduzido o

efeito da ira em geral à indignação moral em específico. [29] Os usuários internalizam as gratificações de atenção que surgem depois dessas postagens, aprendem a produzir mais, o que também adestra os algoritmos da plataforma para promovê-las ainda mais.

Muitos desses incidentes tinham uma valência de esquerda, o que levou a temores de uma “cultura do cancelamento” desenfreada. Mas isso apenas refletia a concentração de usuários de inclinação esquerdista em espaços acadêmicos, literários, jornalísticos e outros que tendem a ter mais visibilidade no cotidiano norte-americano. O mesmo padrão também se desenrolava em comunidades de tendência direitista. Mas a maioria dessas ocasiões foi tratada como obra de esquisitões marginais (gamergaters, antivaxxers ) ou extremistas (incels, a alt-right ). Fosse de direita ou de esquerda, a variável comum sempre foram as mídias sociais, os estímulos que elas impõem, o comportamento a que induzem.

Para seus alvos, o estrago, seja ele merecido ou não, é real e perdura. Nosso cérebro processa o ostracismo social quase literalmente como dor. Ser marginalizado dói pelo mesmo motivo que uma faca que penetra sua pele dói: a evolução nos levou a sentir as duas coisas como ameaças de morte. Nossa sensibilidade social evoluiu para se adequar a povos nos quais irritar dezenas de camaradas pode representar risco de morte real. Nas mídias sociais, uma pessoa pode, quase sem aviso, se deparar com a fúria e a condenação de milhares. Nessa escala, o efeito pode ser devastador para a psique. “O pior da intimidação é que as pessoas que, por sorte, nunca sofreram várias intimidações da parte de uma turba raivosa não entendem o seguinte: ela muda sua vida para sempre”, escreveu Pao, a ex-chefe do Reddit. “Você perde a facilidade para ter confiança nos outros.”