Crise e solução

Em janeiro de 2018, Kaiser estava reunindo provas para começar a ir a público. Em um seminário em Harvard, ele contou que a extrema direita aglutinada da qual o grupo de Charlottesville fazia parte, como ele passou a crer, “não vinha dos usuários”, pelo menos não totalmente, mas havia sido

parcialmente “criada pelo algoritmo do YouTube”. [13] Kaiser sabia o que ele e Rauchfleisch estavam prestes a provar. Mas nenhum dos dois podia ter previsto o que encontrariam no meio do caminho.

Crise e solução

Nos recônditos mais longínquos da extrema direita na internet, a influência do YouTube já era uma questão de senso comum. Em março de 2018, o usuário de um fórum neonazista de destaque abriu uma thread de discussão

com o título “O QUE TROUXE VOCÊ AO MOVIMENTO ?”. [14] O fórum, chamado Right Stuff [A coisa direita], vinha crescendo ao longo dos anos 2010, tendo originado muitas das marcas registradas da direita alternativa. Seu fundador, Mike Peinovich, é creditado pelo (((eco))), no qual os usuários

dispõem os nomes de judeus suspeitos entre parênteses triplos. [15] O meme, surgido no podcast Daily Shoah, que foi batizado em tom de zoação com a palavra hebraica para o Holocausto, se tornou onipresente no Twitter e no Facebook. Em panfletos que anunciavam a manifestação Unite the Right, o nome de Peinovich, sinalizando sua fama, era o segundo depois do de

Richard Spencer. [16]

Dezenas responderam à thread que pedia suas histórias. Cada vez mais, eles descreviam adotar suas visões de forma crescente, sempre nas redes sociais, muitas vezes com incentivo algorítmico. “Já fui da turma anti-SJW ”,

[17] escreveu um usuário, referindo-se aos social justice warriors , ou guerreiros da justiça social, sempre vítimas de zombaria no 4chan e no Reddit. Ele complementou, usando a gíria de internet “based ”, adjetivo que se refere ao que é transgressor. “E agora estou aqui. Obrigado ao algoritmo based de sugestão de vídeos do YouTube.” Assim como acontecera com muitos, as recomendações do YouTube o haviam levado, disse, primeiro a vozes conservadoras genéricas. Depois, a nacionalistas brancos. Depois, a supremacistas brancos. Depois, a neonazistas supostamente irônicos. E, por fim, a neonazistas de fato.

O próprio Peinovich fizera uma rota parecida. Programador de Nova York com posições moderadas e esposa judia, ele havia tido problemas de saúde no fim dos anos 2000. Trancado em casa, passava “horas em fóruns de discussão política no Face book e no Reddit, onde deixou seu lado

reacionário correr solto”, [18] como amigos contaram à New Yorker. Depois que o tempo e os algoritmos fizeram o que fizeram, ele emergiu de lá como nazista genuíno e devoto.

Outro tema veio à tona nas histórias de usuários do Right Stuff. Raramente era o ódio que atraía as pessoas. Era, isso sim, o conteúdo que refletia sentimentos de alienação, de falta de propósito — a mesma anomia que havia ligado Adam e outros obcecados do 4chan. “Assisti a um vídeo de Millennial Woes sobre depressão (eu tava triste)”, disse um dos usuários, descrevendo o primeiro passo da sua jornada. O Millennial Woes [Aflições de Millennial], alcunha do supremacista branco escocês Colin Robertson no YouTube, postava vídeos prometendo revelar a verdadeira causa da infelicidade dos jovens: a sociedade, ele dizia, queria derrubar o espaço natural do homem branco no topo da hierarquia. “Ele citava várias coisas de que eu nunca tinha ouvido falar (neorreação, Direita Alternativa)”, prosseguiu o autor da postagem no Right Stuff. “Encontrei Richard Spencer. Encontrei o TRS . Minha vida mudou totalmente.”

Uma das portas de entrada mais importantes à direita alternativa é a página no YouTube do canadense Jordan Peterson, um professor de

psicologia. [19] Em 2013, Peterson começou a postar vídeos que tratavam, em meio à esotérica filosofia jungiana, do sofrimento do homem jovem. Ele oferecia conselhos de vida (arrume seu quarto, sente-se ereto) em meio a exortações contra a igualdade racial e de gênero que colocavam em perigo

“o espírito masculino”. [20]

Buscas por “depressão” no YouTube ou certas palavras-chave de

autoajuda costumavam levar a Peterson. [21] A duração incomum de seus vídeos, de sessenta minutos ou mais, se alinhava com o impulso do algoritmo a maximizar o tempo assistido. Do mesmo modo, seu método de professor universitário, de serializar a discussão ao longo de semanas, o que exige que você volte para a próxima aula e depois para a seguinte. Mas, acima de tudo, Peterson apelava ao que o sociólogo Michael Kimmel

chama de “privilégio ressentido”. [22] Homens brancos passaram séculos com expectativas de tratamento preferencial e status especial e eram atendidos. Conforme a sociedade se aproximou da igualdade, essas regalias, embora ainda consideráveis, começaram a se reduzir. Alguns homens brancos se aclimataram. Alguns se rebelaram. Outros sabiam apenas que sentiam que algo havia lhes sido tirado. Peterson e outros lhes dão uma maneira de explicar esses sentimentos de injustiça — feministas e esquerdistas estão destruindo o espírito masculino — e um conjunto de respostas fácil. Arrume seu quarto. Sente-se ereto. Reafirme as hierarquias tradicionais.

“É normal que pessoas dessas comunidades estejam se afogando em aflição, e aí elas ficam suscetíveis a se corromper por esse mal carismático e lúcido que lhes oferece aquilo que parece a única tábua de salvação”,

tuitou um ex-adepto. [23] O algoritmo do YouTube, em muitos casos, conseguia acesso a esse descontentamento, recomendando canais que levavam a mensagem de Peterson a extremos cada vez maiores. “As etapas comuns na ferrovia”, escreveu o usuário, eram “Jordan Peterson => Stefan Molyneux => Millennial Woes.” (Molyneux, supremacista branco que se apresenta como terapeuta e filósofo do tipo “só estou fazendo perguntas”, vinha labutando na obscuridade até se filiar ao YouTube. Quando a pressão do público obrigou a empresa a tirar sua página, em junho de 2020, ele tinha mais de 900 mil inscritos e chegava a muitos mais através das recomendações automáticas.) Era exatamente o tipo de trilha algorítmica que Kaiser estava mapeando no laboratório, a mesma que ele descobriu cartografando várias vezes o YouTube.

Os dados sugerem que essa sequência de promoção converte usuários em grande escala. Usuários que comentam vídeos de Peterson têm, subsequentemente, duas vezes mais chance de brotar nos comentários de

canais de extrema direita do YouTube, concluiu um estudo de Princeton. [24] O próprio Peterson não recomenda os canais — é o algoritmo que faz a conexão. Essa era outra peça essencial do quebra-cabeça que Kaiser e Rauchfleisch tentavam resolver. Eles estavam medindo como o YouTube levava os usuários a se movimentar. Mas os mapas que fizeram da rede não conseguiam lhes dizer por que o sistema tomava as decisões que tomava. Foi preciso que psicólogos e pesquisadores do extremismo revelassem a resposta.

As plataformas sociais tinham chegado, por mais que sem querer, a uma estratégia de recrutamento que gerações de extremistas haviam adotado. O

pesquisador J. M. Berger a chama de “construto crise-solução”. [25] Quando o público se sente desestabilizado, costuma buscar uma identidade de grupo forte para recobrar a sensação de controle. Pode ser algo grande, como a nacionalidade, ou pequeno, como participar de um grupo da igreja. Identidades que prometem recontextualizar adversidades individuais dentro de um conflito maior têm atração especial. Você não está infeliz por conta da sua luta para se afirmar com circunstâncias pessoais; você está infeliz por causa Deles e porque eles Nos perseguem. As adversidades ficam inteligíveis e, como você não está mais lidando com elas por conta própria, se tornam menos assustadoras.

Crise-solução: existe uma crise, o exogrupo é o responsável, seu endogrupo oferece a solução. Se essa noção de conflito crescer demais, pode chegar ao ponto da radicalização, no qual você vê o exogrupo como ameaça imutável sobre a qual só se aceita a vitória total. “A escala da crise fica mais extrema e a solução prescrita fica mais violenta”, escreveu Berger, até que destruir o exogrupo se torna o cerne da identidade em comum do endogrupo. “A geração atual de plataformas sociais”, complementou, “acelera a polarização e o extremismo para uma minoria significativa”, o

que habilita e incentiva exatamente esse ciclo. [26]

A contagem de corpos já crescia. Em 2014, numa cidadezinha próxima a Santa Barbara, um desistente da universidade com 22 anos, Elliot Rodger, esfaqueou três pessoas até a morte em seu prédio, depois postou um vídeo no YouTube anunciando sua “vingança contra a humanidade” por ter sido “forçado a suportar uma existência de solidão, rejeição e desejos frustrados,

tudo porque as meninas nunca se atraíram por mim”. [27] Depois, Rodger foi até uma república estudantil feminina, bateu na porta e atirou em três mulheres, matando duas. Ele voltou para o carro, ficou andando pelas ruas, atirando em pedestres e atropelando outros — entre os quais várias mulheres — antes de se matar.

Solitário, sim, mas sem cultivar a solidão: Rodger havia passado meses enfurnado em fóruns da internet, depois no YouTube, onde seus vídeos se tornaram tão cheios de ódio que seus pais chegaram, certa ocasião, a chamar a polícia. Ele era produto de uma comunidade digital que englobava 4chan, Reddit e YouTube, cujos integrantes se autodenominam “incels”, em

referência a seu involuntary celibacy [celibato involuntário]. [28]

Fóruns de incels haviam começado como espaços para compartilhar histórias sobre a solidão. Os usuários discutiam como lidar com a vida “sem abraços”. Mas as regras das mídias sociais de afirmar superioridade e buscar atenção continuavam predominando. Vozes mais ruidosas apareciam

mais. As opiniões ficavam mais extremadas. [29] A indignação predominante nas plataformas reinterpretava a angústia de cada um como luta tribal de Nós contra Eles. Os incels embarcaram em uma crença central e radicalizadora: as feministas estão conspirando para capar e subjugar nossa subclasse de homens de baixo status. Endogrupo e exogrupo. Crise e solução.

Em 2021, homens que se descreviam como incels já haviam reivindicado a autoria de cinquenta assassinatos, uma onda de violência

terrorista. [30] Um youtuber pouco conhecido alvejou e matou quatro mulheres em uma aula de ioga na Flórida. Um superusuário do Reddit atropelou uma multidão de pedestres em Toronto. Um incel do 4chan postou ao vivo o momento em que assassinava uma garota de dezessete anos, com vivas dos usuários, e depois tentou se matar. Rodger ainda é

venerado como herói entre os incels. [31]

O movimento era a margem da marginalidade, apequenado pelo Pizzagate ou pela direta alternativa. Mas sugeria o potencial das mídias sociais para incitar a anomia dos homens brancos jovens a se tornarem comunidades de extremismo — um fenômeno cada vez mais disseminado. Quando um grupo paramilitar da extrema direita chamado Oath Keepers [Os Jurados] fez um levantamento com seus 25 mil integrantes a respeito de como haviam chegado ao movimento, a resposta mais comum foi

Facebook, seguido por YouTube. [32]

O YouTube pode ser um doutrinador de eficiência especial porque movimenta os usuários por acréscimo. Jordan Peterson diz aos espectadores que suas aflições individuais derivam de um conflito que os posiciona contra os social justice warriors — a crise. Millennial Woes os mobiliza a se defender coletivamente contra as feministas e as minorias que se opõem a eles — a solução. Canais mais extremos intensificavam os riscos dessa guerra até o genocídio branco ou a subjugação judaica, incentivando implicitamente espectadores a enfrentar a ameaça do jeito que for necessário.

O YouTube está longe de fazer isso em todos os casos. Espectadores de Jordan Peterson também serão encaminhados, digamos, para pesquisa acadêmica pop ou gente da autoajuda. Mas as plataformas costumam privilegiar conexões de radicalização por um único motivo: porque funciona. Extremistas gostam da sequência crise-solução porque incita a pessoa a agir. Os algoritmos gostam porque engaja a atenção e a paixão da pessoa, transformando a navegação na internet em questão de identidade, comunidade, até de fanatismo — e, portanto, em mais tempo assistido.

O YouTube atualizou seus algoritmos ao longo de 2016 e 2017, acrescentando um sistema que chamou de Reinforce [Reforço], que

recomendaria subgêneros pouco conhecidos aos usuários. [33] Mesmo que nunca houvesse pesquisado vídeos de porta de entrada à alt-right , você seria empurrado para um, só para ver se rolava. De repente se viam por todo lugar os relatos de radicalização no YouTube, com detalhes que se repetiam com consistência maquinal. “Um dos meus amigos mais íntimos foi radicalizado pelo YouTube”, tuitou Chris Sacca, investidor do Vale do Silício e egresso do Google. “Começou há alguns anos com vídeos ‘para fazer você pensar' e ‘contestadores'. Porém, graças ao algoritmo de vídeos sugeridos, a coisa ficou mais sombria, mais violenta, ele perdeu esposa,

filhos e amigos, e hoje ninguém sabe por onde ele anda.” [34]

David Sherratt, ex-extremista, contou ao Daily Beast que sua derrocada

havia começado aos quinze anos, quando ele assistia a vídeos de jogos. [35] O sistema lhe recomendou vídeos pró-ateísmo, que contam à garotada das ciências e da matemática que ela faz parte de uma minoria ultrarracional sitiada pelos social justice warriors . Depois recomendou vídeos antifeministas; a seguir, vídeos de “direitos masculinos” alinhados aos incels, tendo ele contribuído com alguns; depois, com vídeos neonazistas por definição própria.

Em 2018, um veículo chamado Bellingcat vasculhou um arquivo de salas de chat privadas de extrema direita que totalizava centenas de

milhares de mensagens. [36] Os investigadores esquadrinharam momentos em que usuários mencionavam como haviam chegado à causa. A porta de entrada mais comum entre as menções: o YouTube. Muitos diziam que começavam por vídeos banais, depois eram recomendados a canais cada vez mais extremos. Era a mesma história que se via em outros lugares.

“Os algoritmos do YouTube me fizeram saltar por uma trilha de criminosos do pensamento, todos descarados”, escreveu Meghan Daum, uma romancista, sobre sua deriva por um movimento paulatinamente de extrema direita, baseado sobretudo no YouTube, que se autodenomina a

dark web intelectual. [37] Jordan Peterson é um dos líderes. Conforme a plataforma impulsionou Daum de vídeos que questionavam o feminismo a vídeos que sugeriam que o cérebro feminino é condicionado às lides domésticas, que iam de chamar pessoas negras de racistas a rejeitar o pluralismo racial em si, assistir ao YouTube se tornou “o que eu fazia em vez de assistir televisão (e, com frequência, de ler livros, ouvir música ou faxinar o apartamento)”. Era mais do que distração. Os canais eram seus “amigos do YouTube”, bálsamo para um casamento fracassado e a sensação de isolamento. Eram comunidade. Eram identidade.