9. A toca de coelho

O levante do YouTube

Os neonazistas haviam tomado as ruas de sua cidade durante dois dias, intermitentemente, quando Sören Uhle, funcionário da prefeitura, começou a receber estranhos telefonemas de jornalistas. Até onde Uhle sabia, dois refugiados do Oriente Médio tinham esfaqueado um homem durante uma discussão, matando-o, e grupos de extrema direita haviam aproveitado o incidente para convocar uma multidão a tomar as ruas. Agora os jornalistas lhe diziam que os refugiados teriam matado não um, mas dois homens. Eles também haviam violentado uma mulher; as vítimas tinham morrido tentando protegê-la. Será que Uhle poderia comentar o ocorrido? E podia também comentar por que os políticos estavam pagando a moradores, por baixo do pano, para participar de um contraprotesto que estava prestes a acontecer?

Uhle ficou pasmo. Todas as notícias eram falsas. “Era uma novidade”, disse ele. “Nunca tinha acontecido comigo de a grande imprensa, os grandes jornais e a televisão alemã me perguntarem a respeito de notícias falsas e propaganda falsa que se disseminaram de tal forma que o público

aceitou.” [1] Era agosto de 2018. As multidões tomavam as ruas de Chemnitz, sua cidade de 250 mil habitantes no leste da Alemanha, e ele sabia que elas haviam sido organizadas nas mídias sociais. Talvez a desinformação também tivesse sido.

Em Berlim, mais adiante na autobahn , um pesquisador digital chamado Ray Serrato chegava à mesma conclusão. Assim como todo mundo na Alemanha, ele estava vidrado nos informes sobre os tumultos — uma demonstração de força neonazista, surgida de uma hora para outra e tão impressionante que foi oficialmente condenada pela chanceler Angela Merkel. Então o tio da sua esposa lhe mostrou um vídeo estranho no YouTube. Dois homens de meia-idade, um de dreadlocks e touca preta, diziam à câmera que os responsáveis pela confusão não tinham nada a ver com neonazistas, mas sim que eram refugiados muçulmanos. O vídeo, postado por um grupo marginal obscuro, era incoerente e de baixo orçamento. Mas tinha quase 1 milhão de visualizações — bem mais que qualquer vídeo de notícias sobre os tumultos. Como isso era possível?

Curioso, Serrato aplicou um conjunto de técnicas que usava no seu trabalho, acompanhando discurso de ódio na internet de Mianmar para um

grupo de monitoramento da democracia. [2] Ele começou com uma dúzia de vídeos recentes sobre Chemnitz. Depois, em cada um, vasculhou as recomendações do YouTube atrás do que assistir em seguida. Depois fez a mesma coisa com esses vídeos e assim por diante. Revelou-se uma rede de aproximadamente 650 vídeos: o ecossistema do conteúdo sobre Chemnitz cultivado na plataforma. O mais perturbador era que as recomendações se agrupavam com força em torno de meia dúzia de vídeos de conspiração ou da extrema direita. Eles sugeriam que qualquer usuário que entrava nesse circuito de vídeos sobre Chemnitz — para, digamos, procurar as últimas notícias ou assistir a um vídeo enviado por um amigo — seria atraído para conteúdo extremista pelo algoritmo do YouTube. Indagado em relação a quantos passos seriam necessários, em média, para um espectador do YouTube que procurasse um vídeo noticioso sobre Chemnitz se pegar assistindo a propaganda da extrema direita, Serrato respondeu: “Dois”. Ele complementou: “Em um segundo, você já está até os joelhos na alt-right ”.

As recomendações raramente faziam os usuários voltar à cobertura da imprensa tradicional ou a qualquer conteúdo progressista ou apolítico que fosse. Uma vez entre extremistas, o algoritmo tendia a ficar lá, como se aquele fosse o destino desde sempre. O algoritmo chegava a levar de vídeos do Chemnitz a tópicos da extrema direita sem qualquer relação — nacionalismo branco, conspirações antissemíticas —, tal como o Facebook havia guiado Renée DiResta de páginas antivacina a causas marginais absolutamente isoladas. Um vídeo típico chamava Trump de títere da família banqueira Rothschild. Embora Serrato considerasse os vídeos abomináveis e perigosos, ele admitia que algo neles era difícil de desligar. “É a meta do YouTube”, disse. “Eu continuo envolvido, eles rodam os anúncios. E funciona.”

Enquanto trabalhava com Katrin Bennhold, a chefe da sucursal de Berlim do New York Times , percebi que esse efeito havia ajudado a fabricar o caos em Chemnitz. Pouco antes das facadas na cidade, meia dúzia de youtubers de extrema direita tinham postado vídeos sobre o incidente. Um deles, um blogueiro chamado Oliver Flesch, contava com apenas 20 mil inscritos. Ele fazia pouca campanha ou promoção fora de sua bolha ideológica. Mas seus vídeos sobre Chemnitz acumulavam centenas de milhares de visualizações, graças à promoção pesada do motor de recomendação do YouTube.

Serrato descobriu que os espectadores que assistiam a qualquer coisa sobre Chemnitz no YouTube, como um vídeo de notícias, logo recebiam recomendação para o canal de Flesch. Flesch postou catorze vídeos sobre o assunto, tendo todos aparecido nas recomendações do YouTube, semeando na plataforma as mesmas mentiras vitimistas a respeito das quais Sören Uhle seria questionado. Outros canais de extrema direita e de conspiração logo captaram a versão de Flesch sobre os eventos, transformando uma briga de rua em pauta sobre os riscos que corria a virtude branca. O algoritmo do YouTube também os impulsionou.

Até alemães que buscavam no Google notícias sobre Chemnitz eram dirigidos a conspiracionistas do YouTube. O Google promove vídeos do YouTube com frequência no alto dos resultados de busca, um ato de

sinergia corporativa projetado para impulsionar o lucro. [3] Isso quer dizer que as práticas do YouTube não ficam só no YouTube; já que o Google domina as buscas na internet, essas práticas influenciam como quase qualquer pessoa na internet encontra e acessa notícias e informações.

Conforme YouTube e Google guiavam mais e mais alemães para vídeos sobre Chemnitz pululando de mentiras, o interesse pela cidade cresceu, inclusive entre muitos de fora da extrema direita. As vozes do YouTube que ganhavam toda a atenção chamaram seu séquito, que crescia com velocidade, para demonstrar seu apoio à vítima das facadas indo a Chemnitz. Moradores disseram que, nos dias anteriores aos atos de violência, teorias da conspiração começaram a ficar estranhamente mais comuns, cochichadas em bares e bebedouros. Então chegaram as multidões, que espumaram e queriam tomar a cidade de volta dos estrangeiros. Logo começou uma revolta, houve saques a lojas e embates com a polícia. Muitos dos tumultuadores creditaram ao YouTube o fato de terem chegado lá.

Era o colapso do Sri Lanka, ponto por ponto, no meio da Europa. Mas com uma diferença importante. No Sri Lanka, as mídias sociais tinham radicalizado um grupo social que existe no mundo real e tem uma identidade que é preservada com força: os cingaleses. Na Alemanha, contudo, os tumultuadores de Chemnitz eram novidade. É certo que havia neonazistas calejados na multidão, mas muitos não faziam parte de nenhuma causa ou grupo específico. O YouTube, em vez de provocar uma comunidade preexistente com uma identidade preexistente, criara uma dessas do nada. Havia construído a rede dentro dos seus sistemas, montando-a a partir de sua realidade e crenças em comum, e depois a soltara no mundo. Em questão de dias. Era algo mais profundo até do que a violência vigilantista de inspiração facebookiana que eu vira no país meses antes.

Se havia acontecido com tanta facilidade em Chemnitz, estaria acontecendo também em outros lugares? Efetivamente, um pesquisador que por coincidência também era da Alemanha vinha demonstrando que esse mesmo processo se desenrolava havia meses nos Estados Unidos, acelerando a ascensão de uma nova direita extremada, apavorante, e tingindo-a com as tendências mais exageradas e perigosas das plataformas sociais. Ele começara a investigar o fenômeno em 2015, dera sequência com alguns dos choques mais fortes na política dos anos subsequentes até que, durante vários meses em 2018, encontrou provas do que antes apenas suspeitava: o YouTube estava fazendo com a política norte-americana o que fizera com Chemnitz, sobrecarregando-a com uma ala desvairada da direita de sua própria criação algorítmica. Mas Chemnitz e outras perturbações daquele ano se mostrariam apenas um ponto intermediário em suas descobertas, a pressagiar os acontecimentos mais letais e mais grotescos que se seguiriam.