Democracia por algoritmos

O Brasil, sendo o segundo maior mercado mundial do YouTube, foi um tubo de ensaio para a influência crescente da plataforma, tal como Mianmar,

Sri Lanka e Alemanha haviam sido para o Facebook. [6] Também era uma lente para entender o impacto das mídias sociais nos Estados Unidos, com os quais o Brasil tem semelhanças extraordinárias: uma democracia presidencial gigante, com uma classe média grande, definida pela separação racial, pela polarização crescente e por uma direita populista em ascensão que parecia viver na internet. Acima de tudo, o país serviu como uma espécie de vislumbre do futuro.

Embora Trump houvesse tido auxílio das redes sociais, ele não era das plataformas. No Brasil, foi como se as próprias mídias sociais tivessem assumido a Presidência. Como se o país representasse uma nova ordem política e social, talvez guiada pelo digital, que já estava ganhando visibilidade nos Estados Unidos conforme se aproximava a eleição de 2020. Em retrospecto, o Brasil de 2019 prenunciou não só boa parte do caos dos Estados Unidos no ano seguinte, mas o futuro para o mundo democrático no geral e que, se alguma coisa não mudar, ainda pode estar pela frente.

Aterrissei no país, trabalhando mais uma vez com minha colega Amanda Taub, e agora acompanhado por uma equipe que gravou um documentário, em abril de 2019, três meses depois de Bolsonaro assumir a Presidência.

Democracia por algoritmos

Quando Matheus Dominguez tinha dezesseis anos, o YouTube lhe recomendou um vídeo que ia mudar sua vida. Ele havia montado uma banda com amigos de sua cidade, Niterói. Para praticar, assistia a tutoriais de violão na internet. Um dia, a plataforma o direcionou a um professor de música chamado Nando Moura, que postava vídeos caseiros sobre heavy metal e, cada vez mais, sobre política. Moura, de cabelos compridos e cheio de maneirismos, acusava feministas, professores e políticos de tramar a doutrinação brasileira em nome do comunismo e da homossexualidade. Ele fazia piadas e usava roupas extravagantes. Tocava riffs de guitarra e jogava videogame.

Dominguez ficou vidrado. Conforme seu tempo no site aumentou, o YouTube passou a lhe recomendar vídeos de outros blogueiros de extrema direita. A maioria era jovem, com uma exceção: Bolsonaro, um homem de terno que Dominguez viu pela primeira vez como convidado de um vídeo de Moura. Era 2016. Na época deputado federal havia anos, Bolsonaro era marginalizado até no próprio partido. Mas o YouTube, em busca da sua meta de 1 bilhão de horas de tempo assistido, acabara de instalar sua nova IA de aprendizado profundo. No Brasil, youtubers de extrema direita — o verdadeiro partido de Bolsonaro — decolaram na visibilidade.

“Começou ali”, contou Dominguez, agora um adolescente de dezoito anos, magricela, de óculos e rabo de cavalo, que chama o YouTube de nova casa da direita brasileira. No seu entender, o algoritmo de recomendação havia “acordado os brasileiros”. “Ele promove qualquer conteúdo que renda mais views . Eles não se preocupam com direita ou esquerda. Querem é dinheiro”, disse. Agora a política era a vida de Dominguez. Ele se filiou ao novo partido de Bolsonaro. Ele mesmo queria concorrer a presidente um dia. E postava longos vídeos no YouTube, que considerava o centro da vida nacional.

Dominguez nos levou a uma marcha pró-Bolsonaro, junto aos calçadões e prédios de luxo numa das praias de Niterói, oferecendo-se para nos apresentar a autoridades do partido. Duvidei que seriam pessoas tão receptivas; os profissionais certamente saberiam que não devem atribuir seu sucesso a um site estrangeiro. Eu estava errado. Todos com quem falamos insistiram que as plataformas sociais dos Estados Unidos os haviam levado até ali.

“Foi assim com todo mundo”, disse Maurício Martins, vice-presidente local do partido, gritando para que eu o escutasse no meio da multidão. “A maioria das pessoas aqui veio do YouTube e das redes.” Inclusive ele mesmo. Anos antes, o YouTube havia reproduzido automaticamente para ele um vídeo sobre política, tema pelo qual nunca manifestara interesse. Era de Kim Kataguiri, youtuber de direita. “Até ali”, disse, “eu não tinha formação política, ideológica.” Mas o vídeo o atraiu e ele continuou assistindo. O algoritmo, disse, foi o que forneceu “minha educação política”.

Brasileiros como Martins e Dominguez estavam afirmando algo maior do que pesquisadores como Jonas Kaiser e Guillaume Chaslot tinham observado: que o YouTube não só criara uma comunidade marginal na internet ou mudara a visão de mundo de certos usuários, mas havia radicalizado todo o movimento conservador do país, e de maneira tão eficiente que derrubou praticamente toda a direita política anterior. A centenas de quilômetros dali, em Belo Horizonte, uma cidade de arquitetura colonial muito presente, uma equipe de pesquisadores se debruçava sobre os computadores tentando entender se aquilo era verdade. “Temos forte predominância de canais de direita no YouTube”, disse Virgílio Almeida, o cientista da computação de barba grisalha que comandava o laboratório da Universidade Federal de Minas Gerais. “Eles atraem mais espectadores, mais comentários, mais interações do que canais de esquerda.” Mas uma crise de corrupção recentemente havia derrubado o governo de esquerda do Brasil, desestabilizando a política nacional. Talvez o YouTube apenas refletisse a postura dos brasileiros.

Almeida tinha algumas sugestões em relação a como isolar a influência da plataforma para descobrir. Sua equipe percebeu que podia medir a

valência política dos vídeos de política do YouTube a partir das legendas. [7] Eles usaram um software especial para acompanhar tendências no tom e no alinhamento político dos vídeos. Fizeram o mesmo com os comentários logo abaixo desses vídeos. Desde o período da atualização do algoritmo do YouTube, em 2016, descobriram eles, canais de direita haviam ganhado público muitíssimo mais rápido do que outros, dominando o conteúdo político do site. As menções positivas a Bolsonaro dispararam. Assim como as menções a teorias da conspiração que Bolsonaro fazia circular. Tal como Chaslot descobrira durante a eleição francesa de 2017, o YouTube tinha uma inclinação acentuadamente pró-Bolsonaro e deu uma guinada à direita durante um período em que os números de Bolsonaro nas pesquisas estavam fracos e estacionados. A plataforma não estava refletindo tendências do mundo real. Estava criando seu próprio mundo.

Mas Almeida fez outra descoberta, que indicava, de uma maneira que outros pesquisadores só haviam conseguido sugerir, que não só o YouTube estava orientando o interesse do brasileiro por vídeos alinhados com Bolsonaro, mas mudando o posicionamento político do usuário. A guinada para a direita da plataforma começara com o número de visualizações. Canais que elogiavam Bolsonaro ou usavam palavras-chave de extrema direita tinham picos de visualização — graças ao algoritmo, supõe-se. Depois disso, os comentários também tendiam para a direita, o que sugeria que era o YouTube que estava atraindo usuários para o bolsonarismo, e não o contrário.

Mas a influência da plataforma em campo acabou por se estender muito além de simples questões de preferência política. No início de 2017, no mesmo momento em que Matheus Dominguez estava passando por seu despertar político na internet, um ambicioso e jovem vereador chamado Carlos Jordy teve uma ideia. Jordy, conservador linha-dura na Niterói esquerdista, tinha poucas vias para sair da obscuridade. Com cara de brigão e cheio de tatuagens — sua mão esquerda ostenta uma caveira flamejante com olhos de diamante —, ele se sentia desprezado pela classe política brasileira. Porém encontrou mentes afins no YouTube. Ele assistia a vídeos de Nando Moura, Jair Bolsonaro e Jordan Peterson, o psicólogo que havia se tornado a porta de entrada algorítmica para a direita alternativa.

O plano de Jordy se inspirou em youtubers da extrema direita brasileira que começaram a incentivar crianças em idade escolar a filmar clandestinamente seus professores para levantar provas de doutrinação comunista-homossexual, uma conspiração, enraizada na mesma acusação fictícia que Bolsonaro fizera contra Tatiana Lionço, que haviam fabricado

nos seus canais durante meses. [8] Ele tinha um número de seguidores modesto no YouTube, onde postava vídeos de si mesmo berrando com esquerdistas na Câmara Municipal. Assim como seus heróis da plataforma, ele incitava as crianças de Niterói a filmar seus professores. Algumas lhe enviaram gravações de suas aulas feitas no celular, com a imagem tremida, que ele editou e subiu no YouTube.

Durante uma entrevista em seu gabinete, Jordy recuperou com orgulho seu vídeo que mais viralizou. Nele, uma aluna interrompia sua professora de história durante uma aula sobre a Alemanha nazista. A aluna perguntava se seus colegas conservadores eram equivalentes aos nazistas e a professora respondia que sim. Uma faixa no vídeo destacava o nome de Jordy e seus links nas redes. Como se descobriu, ele editara o vídeo de forma enganadora. Na verdade, a aluna, que era homossexual, havia descrito como era sofrer o assédio de colegas cujas famílias apoiavam Bolsonaro, que até então ainda era uma figura local conhecida por ter dito que preferia um filho morto a um filho gay. A aluna tinha perguntado se aquela opinião tornava seus colegas nazistas. Não, dissera a professora, mesmo que os dois grupos tivessem em comum a homofobia.

De início, o vídeo teve pouco público — até que foi repaginado por Nando Moura, que o chamou de prova de que aquela escola era um epicentro de abusos. Ele se espalhou por canais de direita da plataforma, foi impulsionado a grandes públicos. Em seguida se espalhou no Facebook, onde foi assistido 5 milhões de vezes.

Valéria Borges, a professora no vídeo, se referiu aos meses após a circulação como o “pior período da minha vida”. Borges nos mostrou páginas de ameaças explícitas que chegaram aos borbotões. Outros professores e autoridades da escola também viravam alvos, supostamente por cumplicidade. Embora os alunos de Borges tivessem se unido em seu apoio, a maioria dos brasileiros só a conhecia como vilã. “Eles me veem como uma inimiga que precisa ser destruída”, disse. Ainda assim, dois anos depois, ela complementou: “Temo pela minha família, temo pelos meus alunos e meus colegas de trabalho”.

Outra professora da escola nos contou que os pais não tinham mais certeza em relação ao que acreditar. Sabiam que a escola e os professores eram competentes e simpáticos. Mas eram tantos amigos e parentes lhes repassando a teoria da conspiração que eles tinham dificuldade para conciliar a realidade que conheciam com a irrealidade das mídias sociais que havia se espalhado. Alguns começaram a fazer perguntas incisivas sobre “doutrinação”. Os professores disseram ter começado a ficar com medo e resguardados nas próprias aulas. Preocupavam-se que tudo que dissessem podia aparecer na internet, distorcido para promover alguma pauta, ampliada nacionalmente pelas redes.

Uma onda de incidentes como esse se espalhava pelo Brasil. [9] A acusação inicial era sempre estapafúrdia — um professor havia incentivado os alunos a vender drogas, começar uma insurreição comunista, “virar” gay —, mas tinha um vídeo, aparentemente, de base. Outros youtubers davam sua própria visão do vídeo, ganhando centenas de milhares de visualizações (e uma parte da renda publicitária) ao dar à plataforma as conspirações de guerra cultural que ela constantemente recompensava. Cada boato, por mais implausível que fosse por si só, ao se agregar a outros dava credibilidade aos demais, uma treliça de desinformação que gerava seu próprio suporte. Os professores ou eram demitidos ou eram intimidados até se esconderem, as escolas eram sitiadas, as comunidades eram atiçadas à desconfiança e à discórdia, tudo orquestrado via YouTube.

“No Brasil, hoje, isso acontece com frequência: filmagens e linchamentos”, disse Borges. “É um jeito de intimidar. E está dando certo.”

Jordy postou vídeos de outros professores, todos editados do mesmo modo. Eles lhe rendiam, disse, “audiência nacional”. Depois de apenas dois anos na Câmara Municipal, na mesma eleição que alçou Bolsonaro, Jordy conquistou um cargo na legislatura federal. Outro youtuber de extrema direita que havia promovido denúncias de doutrinação escolar foi eleito para o Legislativo estadual. Em retrospecto, foi um sinal de alerta. Conspiracionistas marginais dos Estados Unidos com aspirações políticas, como Lauren Boebert e Marjorie Taylor Greene, embora vistas como ridículas, na verdade podiam representar uma tendência crescente, cujo ápice podia estar anos à frente. “Se as redes sociais não existissem, eu não estaria aqui”, contou Jordy. “Jair Bolsonaro não seria presidente.”

Quando questionei Jordy quanto às edições no vídeo que haviam alterado seu significado, ele não me contestou. Li em voz alta algumas das ameaças que Valéria Borges recebera — juras de assassinato e coisa pior. Ele se arrependia por ter desestabilizado a vida de professores que sabia serem inocentes?

A equipe de filmagem havia pedido aos assessores de Jordy para desligarem os aparelhos de ar-condicionado, que estavam interferindo no áudio. Fazia quase quarenta graus do lado de fora, sem contar a umidade. Éramos cinco enfiados em um gabinete do tamanho de um armário, um quase encostado no outro. Estávamos conversando fazia mais de uma hora, e a atmosfera, estagnada e quente, era sufocante.

Jordy, com suor escorrendo dos olhos, dispensou qualquer fingimento. “Eu fiz isso para chocar, fiz para expor ela”, disse, erguendo os ombros e estufando o peito. “Eu queria que ela sentisse medo.”

Ao longo do incidente, eu disse, ele nunca conversara com alunos nem grupos de pais em nome de quem dizia agir. Nunca visitara a escola, que ficava a metros de seu gabinete. Nunca tinha nem sequer usado suas prerrogativas de vereador. Ele havia focado todas as suas energias nas mídias sociais. Por quê?

“Estamos travando uma guerra cultural”, disse ele, embora fosse impreciso em relação a quem seria o inimigo. “As pessoas respeitam aquilo de que têm medo. Elas precisam ter medo para entender que podem ser punidas por suas atitudes.”

Ele aparentemente tinha poucas pautas afora atiçar a indignação e conquistar atenção nas redes, cujas deixas e incentivos, afinal de contas, o haviam levado ao seu cargo de relevância. Quanto mais eu conversava com gente pela cidade, menos parecia que pessoas como Jordy e Bolsonaro estavam orientando as forças digitais que os tinham alçado, e mais eles pareciam beneficiários passivos dessas forças.

“Noventa e cinco por cento da garotada aqui usa YouTube. É a principal fonte de informação do pessoal”, me disse Inzaghi, um estudante de dezessete anos em frente à escola na qual se passa o vídeo de Jordy. Eles assistiam ao YouTube para matar tempo no ônibus, em vez da TV quando estavam em casa, até mesmo como pesquisa para o dever de casa. Mas ele e seus amigos haviam notado a mesma coisa que todo mundo no país. “Às vezes estou vendo um vídeo sobre um jogo e de repente vira vídeo do Bolsonaro”, contou. “Querem que a gente veja esses vídeos, queiramos ou não.”

Ele também percebeu a influência em sala de aula. Cada vez mais os alunos interrompiam os professores com uma acusação ou conspiração que haviam tirado do YouTube. “Toda vez que alguém vem dizer uma coisa extremista está citando gente como o Mamãe Falei, o Kim Kataguiri e o MBL [Movimento Brasil Livre]”, disse outro aluno, Jojo, fazendo uma lista de youtubers de direita. “Nando Moura, Nando Moura”, gritou Inzaghi, e seus amigos riram junto. “Na rua, no ônibus, quando tem um grupo grande, vejo o pessoal assistindo ao Nando Moura.” Todo aluno com que conversei enfatizou que gostava do YouTube, especialmente de canais de jogos e de comédia. Mas todos reclamavam que a plataforma os impulsionava, cada vez mais, a assistir a conspirações e discursos políticos. “Acaba afetando como as pessoas pensam”, disse Inzaghi.

Pedi que Jonas Kaiser e Adrian Rauchfleisch nos ajudassem a entender o comportamento do YouTube no Brasil. Eles repetiram seus métodos afiados na Alemanha e nos Estados Unidos. Rastreando as recomendações do sistema repetidas vezes, encontraram, tal como antes, um aglomerado de canais de extrema direita e de conspiração, vasto e gerado algoritmicamente. Mais uma vez, o sistema usava vozes moderadas como pontos de entrada para atrair usuários aos extremistas e depois os mantinha lá, mostrando cada vez mais vídeos. Se restava alguma dúvida quanto à Alemanha ou aos Estados Unidos representarem aberrações, o Brasil foi conclusivo: os métodos de radicalização da direita em larga escala no YouTube tinham uma consistência muito assustadora para ser algo que não estivesse embutido no código.

As consequências do efeito toca de coelho que o YouTube provocava no mundo real — a distorção imposta a milhões de cidadãos, um naco considerável dos eleitores — estavam por por todos os lugares, a começar pela política. Bolsonaro instigava o público a assistir ao YouTube em vez

do noticiário de boa reputação. [10] Ele trocou tecnocratas do governo por personalidades das mídias sociais, que usavam seu poder para agir conforme conspirações tresloucadas — com relação à educação, à saúde pública e às minorias — que saciavam o algoritmo do Vale do Silício que os

fez chegar lá. [11] E os youtubers que seguiram Bolsonaro no mandato continuaram postando fervorosamente na plataforma, sabendo que dependiam dela para conservar os eleitores das redes que formavam sua base. Ou seja, continuavam satisfazendo, em tudo que faziam no cargo, as necessidades e parcialidades da plataforma.

O ponto zero da nova era de política via YouTube era a sede do Movimento Brasil Livre, em São Paulo. Kim Kataguiri, o líder do grupo, ganhara fama no YouTube quando adolescente ao postar vídeos refutando o que considerava as tendências de esquerda de seus próprios professores. (Maurício Martins, uma das autoridades do partido de Bolsonaro, citou um desses vídeos, que o YouTube reproduzira automaticamente para ele, como sua apresentação à política.) Em 2016, ele e outros haviam formado o MBL para agitar o impeachment da então presidente do Brasil. O perfil demográfico do grupo tendia para jovens de boa formação, de direita e fortemente conectados — o perfil demográfico do YouTube. Em 2018, aos 22 anos, ele foi eleito deputado federal.

Com alguns meses de mandato quando nos encontramos, Kataguiri estava de passagem pela sede do grupo, um reduto de hipsters recurvados sobre laptops. Um cameraman usando um boné Make America Great Again com a aba virada para trás o havia conduzido ao sofá de couro, onde ele gravou o vídeo do dia. Depois que a gravação terminou, Kataguiri me disse que inicialmente o MBL usava o Facebook, mas que, depois de 2016, perto da época em que o YouTube atualizou o algoritmo, a plataforma de vídeos se mostrou mais eficiente, e eles trocaram de rede social. Além disso, complementou, várias vezes o Facebook tinha tomado medidas contra seu grupo por acusações de desinformação, enquanto o YouTube nunca fez a mesma coisa, embora o MBL postasse exatamente o mesmo conteúdo nas

duas plataformas. [12] Era uma coisa que eu ouvia repetidamente: o YouTube era muito mais tolerante, um motivo para grupos como o dele amarem o site.

Outros youtubers do MBL conseguiram cargos em 2018. Todos os seus canais ocupavam o nó central do mapa de Kaiser no YouTube brasileiro, fortemente impulsionado pelas recomendações do site. Um deles, Arthur do Val, mesmo depois de conseguir um assento no Legislativo estadual, ainda atendia pelo nome de seu canal no YouTube, “Mamãe Falei”.

Para sublinhar a importância da plataforma, do Val citou um vídeo superviralizado que outro grupo acabara de postar. Com o título 1964 , o ano do golpe militar no Brasil, ele afirmava que os abusos da ditadura — que havia assassinado centenas de dissidentes e torturado milhares — tinham sido fabricação de historiadores de esquerda. O vídeo defendia que o golpe fora necessário para extirpar o comunismo, sugerindo que em breve seria preciso uma medida similar. “Fui um dos que mais compartilharam esse vídeo”, disse.

O vídeo “1964” era citado em todo lugar em que eu ia no Brasil. Dominguez, o ativista de dezoito anos, o chamou de “marco” que o havia convencido de que o regime militar não fora tão ruim. Para Valéria Borges, a professora de história, era “apavorante” ver o YouTube apagar a história do país da mente dos jovens brasileiros e até mesmo incentivá-los a repetir o que o vídeo dizia.

Enquanto estávamos na sede do MBL , os ativistas comentaram que, apesar de todo o sucesso, até eles passaram a se preocupar com o impacto da plataforma. “Aqui nós temos uma coisa que chamamos de ‘ditadura da curtida'”, disse Pedro D'Eyrot, coque no cabelo, ex-guitarrista de banda de rock, agora político e produtor de vídeos do MBL . Ele disse que o grupo acompanhava vários youtubers se tornando mais extremistas, mais falsos, mais imprudentes, “só porque aquilo vai dar views , vai dar engajamento”.

Todo mundo sentia a pressão, disse ele. “Quando você abre essa porta, não tem volta, porque precisa ir fundo.” Ele contou que já havia acreditado que as redes sociais seriam a força da mudança. Agora a impressão era que as redes prolongavam tendências que só podiam ser nocivas, extremas demais até para um grupo de revisionistas do golpe com bonés da campanha de Trump. “Terraplanistas, antivacinas, teóricos da conspiração na política. É o mesmo fenômeno”, disse. “Você encontra isso em toda parte.” Se alguns dos maiores aproveitadores e beneficiários daquele sistema subitamente começavam a falar como Renée DiResta e Guillaume Chaslot, percebi que os perigos deviam ter superado o que eu havia visto até então, fosse ali ou nos Estados Unidos. E tinham.