O problema Alex Jones

Ela havia caído no que é conhecido como toca de coelho. O termo já descrevera qualquer noite ou tarde que se passe seguindo recomendações do YouTube aonde quer que levem. De repente você parava para assistir a um dos seus vídeos preferidos de comédia, depois se recostava conforme o sistema o conduzia pelos sucessos do comediante. Mas, em 2018, depois que foi implementado o sistema Reinforce, “toca de coelho” cada vez mais se referia a seguir canais políticos do YouTube que levavam ao extremismo. Usuários despencavam por essas tocas, estivessem ou não em busca de vídeos políticos, e geralmente iam parar em lugares que não tinham procurado — lugares até mais perturbadores que a extrema direita.

O problema Alex Jones

Ao longo dos primeiros meses de 2018, Kaiser e Rauchfleisch rodaram testes automatizados nas recomendações do YouTube, mapeando como o

site interconectava os canais e quais comunidades ele construía. [38] Por fim, em abril, eles juntaram os resultados. O sistema do YouTube, descobriram, fazia três coisas muito, muito bem.

Primeiro, ele alinhavava aglomerados de canais de um modo totalmente original. Um desses aglomerados misturava médicos que aconselhavam tratamentos, professores de ioga que defendiam o alinhamento dos chacras, mascates vendendo beberagens cura-tudo e radicais antivacinas. Um usuário que começasse por qualquer um desses assuntos passaria a circular pelos outros. Não havia nada de inato que os conectasse, fora a conclusão da IA de que mostrar um ao lado do outro faria a pessoa continuar assistindo. Embora suas duas conclusões seguintes viessem a render mais atenção, Kaiser martelava consistentemente a importância da primeira. O Youtube é, em primeiro lugar, tal como o Facebook e o Twitter, um experimento de sociedade. Usuários comentam, curtem, compartilham e todos fazem parte de uma atividade comunal. Os produtores de vídeos são incentivados a se dirigir aos seguidores olhando para a câmera, fazer perguntas e comentários, participar dos comentários. Então, quando o YouTube aglomerava milhares (ou milhões) de usuários em poucas dezenas (ou poucas centenas) de canais, tinha-se uma comunidade genuína. Virava, tal como Meghan Daum havia descrito com tanta gratidão, uma identidade.

Foi isso que tornou as outras conclusões dos dois tão importantes, sendo a segunda, tal como se suspeitava havia muito, que as recomendações do YouTube geralmente tendiam para a ponta mais extremada de qualquer rede em que o usuário estivesse. Ao assistir a um vídeo da CNN ou da Fox News, as chances de receber a recomendação para um vídeo de conspiração era tão alta que, com o tempo, era a direção em que o usuário médio tendia a fluir.

Depois veio a terceira conclusão. Em uma versão ainda mais perigosa do que haviam visto na Alemanha, as recomendações do sistema estavam aglomerando canais tradicionais de direita, e até alguns canais noticiosos, com muitos dos semeadores de discórdia, incels e teóricos da conspiração mais virulentos da plataforma. Conforme atraía usuários para as vozes mais extremadas, o algoritmo lhes dava influência desmedida sobre as narrativas, pautas políticas e valores para o público maior.

Isso estava fazendo mais do que aumentar o alcance da extrema direita. Estava unindo uma comunidade maior em torno do movimento. E numa escala — de milhões — que os organizadores de Charlottesville só podiam sonhar. Ali, por fim, estava a resposta sobre o porquê de tantas histórias de gente que caía em tocas de coelho da extrema direita. Qualquer pessoa que chegasse ao YouTube interessada em tópicos pró-direita, como armas de fogo ou correção política, seria encaminhada a um mundo construído pelo YouTube com nacionalismo branco, violência misógina e conspiracionismo amalucado, e aí era impulsionada ainda mais para seus extremos.

Um canal estava visivelmente no centro da rede, um buraco negro que era o atrator gravitacional algorítmico do YouTube: Alex Jones. Radialista estridente das FM s desde os anos 1990, Jones cultivava havia muito tempo um público formado por gente excêntrica, caminhoneiros da madrugada e ouvintes meramente entediados. Vigoroso e de voz rouca, ele destilava conspirações elaboradas não tanto para convencer sua audiência, mas para prender a atenção: o governo foi o responsável pela bomba em Oklahoma

City; [14] o governo derramava produtos químicos na água que as pessoas bebiam para todo mundo virar gay. Jones armava ações para chamar a atenção, como berrar em um discurso de George W. Bush, então governador, para exigir a abolição do Fisco. Ele vendia suplementos vitamínicos fajutos e equipamentos para sobrevivencialistas, e fez fortuna. Então chegou no YouTube e, de uma hora para outra, se tornou influente. Suas declarações pingavam na Fox News e em blogs de direita. Seu nome era suscitado em encontros conservadores, solenidades civis, até entre os influentes de Washington, mesmo que apenas para reconhecer a nova influência que ele exercia.

Como isso aconteceu? Era certo que os norte-americanos estavam se inclinando para Jones. E ele havia usado a internet para contornar os gatekeepers da imprensa, que o deixavam sobretudo longe da TV . Mas Kaiser tinha evidência de outro fator. O algoritmo do YouTube, segundo seus dados, recomendava os vídeos de Jones com mais frequência do que os de quase qualquer outro canal relacionado a notícias ou política. Promovia-o com agressividade especial junto a vídeos de direita, sugerindo-o como parte da causa. Geralmente usava seus vídeos como porta de entrada para o extremismo: um usuário que assistia sobretudo a conspirações podia cair num discurso violento de Alex Jones como porta de entrada para conteúdo nacionalista branco ou vice-versa.

Em abril de 2018, semanas depois de os atos de violência no Sri Lanka chamarem a atenção para o poder que o próprio Facebook tinha de promover o mal, Kaiser publicou suas conclusões sobre a criação

sistemática de redes de extrema direita no Facebook, [39] junto a uma matéria do BuzzFeed News que divulgava a pesquisa, em um ensaio que explicava que o YouTube “impulsiona muito canais ao centro gravitacional

de uma bolha maior da direita”. [40] Ele e Rauchfleisch alertaram: “Ser conservador no YouTube significa estar a um ou dois cliques de canais de extrema direta, teorias da conspiração e conteúdo de radicalização”. Ali, finalmente, estavam provas de que a plataforma havia virado uma potência em prol da radicalização em larga escala.

Outros confirmaram em seguida a “sequência da radicalização”, como a

chamou o pesquisador brasileiro Manoel Horta Ribeiro. [41] Sua equipe, que analisou 72 milhões de comentários em 330 mil vídeos, descobriu que “usuários migram com consistência de conteúdo mais leve a mais extremo”. Usuários de direita, um contingente imenso, passavam de reacionários da “dark web intelectual”, como Jordan Peterson, a vozes da direita alternativa, como Milo Yiannopoulos, e depois a líderes do ódio como os neonazistas Andrew Anglin e Mike Peinovich. E os usuários andavam em paralelo com as recomendações do YouTube, mais provas de que eram guiados pelo algoritmo.

No segundo trimestre daquele ano, depois de um tiroteio em escola, a página de trending [vídeos em alta] com destaque no YouTube começou a promover um vídeo de Alex Jones afirmando que a violência fora encenada. Jones pregava versões disso desde o tiroteio na escola Sandy Hook em 2012, quando chamou as vinte crianças e seis professoras assassinadas de “atores de crise” em um complô nebuloso do governo para justificar o confisco de armas de fogo ou a imposição da lei marcial. A conspiração já havia se espalhado pelo YouTube, consumida por números cada vez maiores de espectadores que, indignados, organizaram campanhas de assédio às famílias das crianças assassinadas durantes anos. Alguns pais se esconderam e vários deles ajuizaram três ações coletivas contra Jones por calúnia. (Em 2021, Jones perdeu as três.) Durante tudo isso, o YouTube continuou promovendo os vídeos, cujas visualizações em 2018 somavam 50

milhões. [42] Quando o sistema da plataforma postava o último de Jones em sua página de vídeos em alta, tinha-se um indicador anormalmente visível de como os algoritmos do site o impulsionavam.

Integrantes da equipe de diretrizes do YouTube recomendaram mexer no algoritmo da página de trending para impedir que ela linkasse a Jones ou

outras fontes de má reputação. [43] Foram voto vencido. Embora Jones fosse mais destacado no YouTube, onde tinha bilhões de visualizações, ele alcançava milhões de seguidores também no Facebook e no Twitter, e essas empresas também ficaram sob pressão para revogar os megafones digitais que haviam lhe dado.

Os pais de Noah Pozner, garoto de seis anos morto na Sandy Hook, publicaram uma carta aberta a Mark Zuckerberg. Eles estavam vivendo em um esconderijo, escreveram, atormentados por anos de intimidação e ameaças de morte, que conseguiam rastrear até grupos de conspiração com destaque no Facebook. Os pais da Sandy Hook, disseram, haviam travado “uma guerra quase inconcebível com o Facebook para nos fornecer a proteção mais elementar” contra as provocações que emanavam da

plataforma. [44] “Nossas famílias estão em perigo”, escreveram, “em razão direta das centenas de milhares de pessoas que veem e acreditam nas mentiras e no discurso de ódio que vocês decidiram que tem que ser protegido.”

Mas as empresas não arredaram pé. Quando indagado por que o Facebook não tirava Alex Jones do ar, o vice-presidente da empresa para o feed de notícias, John Hegeman, disse: “Criamos o Facebook para ser um

lugar onde várias pessoas tenham voz”. [45] Zuckerberg, ante a mesma pergunta, fez coro com ele quanto à natureza da liberdade de expressão: “Sou judeu, e há um grupo que nega que o Holocausto tenha acontecido. Fico extremamente ofendido. Mas, no fim das contas”, prosseguiu, “não acredito que nossa plataforma deva derrubar essas pessoas, porque acho que há coisas que, dependendo da pessoa, se entende errado. Não acho que o

indivíduo entende errado por querer”. [46]

Era puro suco de Vale do Silício. Se Zuckerberg estava disposto a sacrificar o consenso histórico quanto à tentativa de extermínio de seus antepassados em favor de um ideal tecnolibertário de liberdade de expressão, todo mundo devia fazer a mesma coisa. E, tal qual vários líderes do Vale, era como se ele ainda vivesse em um universo alternativo onde plataformas são recipientes neutros que não têm nenhuma função em moldar a experiência dos usuários, em que a única consequência para o mundo real é que alguém pode se ofender, e que a sociedade passaria a valorizar como é sinal de sabedoria deixar que o negacionismo do Holocausto prospere.

Esse era o problema com Alex Jones: o Vale do Silício não conseguia se mexer para agir em prol do interesse público, mesmo que parecesse do seu interesse, e extirpar um problema que encarnava, que até personificava, as crenças da indústria, codificadas em sistemas que haviam, afinal de contas, elevado Jones até ele se tornar o que era. Engajamento é igual a valor. Mais conexões levam a compreensão. Liberdade de expressão supera a expressão errada. Agir seria reconhecer que esses ideais eram falhos, perigosos. Se você puxasse esse fio, tudo podia se esgarçar.

A reação se intensificou. Em julho, o Facebook suspendeu Jones por um mês, um mero calmante para os críticos. Por fim, em agosto, a Apple tirou vários programas dele do seu serviço de podcast. Facebook e YouTube deram sequência a isso em questão de horas, banindo-o. Só o Twitter manteve a postura desafiadora. “Vamos tratar Jones com o mesmo critério com que tratamos todas as contas, não tomar providências isoladas para que nos sintamos os bonzinhos no curto prazo”, tuitou Jack Dorsey, CEO do

Twitter. [47] Mas o Twitter também acabou tirando Jones de circulação. Embora as empresas houvessem cedido à pressão pública, aparentemente não aceitavam que o público estava certo. Zuckerberg depois disse à New Yorker : “Não creio que seja certo banir uma pessoa por dizer uma coisa

factualmente incorreta”. [48]

No Twitter, Dorsey, apesar de toda a resistência, estava tendendo para mudanças profundas na natureza central da plataforma, aquelas a que o Vale resistira por muito tempo. Ou parecia estar. O valor de mercado da empresa continuou abaixo do seu ápice, em abril de 2015, de antes de Dorsey ter voltado para assumir, e sua base de usuários mal havia crescido no último ano. Mas, em vez de turbinar seus algoritmos ou remanejar a plataforma para deixar as discussões e as emoções à tona, tal como YouTube e Facebook tinham feito diante de métricas estagnadas, Dorsey anunciou que todo o conceito por trás de redes sociais era venenoso.

“Não conseguimos prever nem entender as consequências negativas ao mundo real” de lançar uma plataforma “instantânea, pública, global”,

escreveu em março. [49] Ele reconheceu que o resultado eram prejuízos reais. Em entrevistas, começou a levantar ideias hereges que outros CEO s da tecnologia rejeitavam com todo o fervor: maximizar em busca do engajamento é um perigo; curtidas e retuítes incentivam a polarização. A empresa, disse, ia remanejar seus sistemas para promover conversas “saudáveis”, e não as de engajamento. Ele contratou peritos e grupos de pesquisa proeminentes para criar recursos inéditos ou novos elementos de design para chegar lá.

Mas praticamente nenhuma dessas iniciativas se concretizou. Os peritos externos, diante da demora de meses ou de mudanças abruptas nas

diretrizes, em geral se demitiram, frustrados. [50] Não ficou claro se o experimento de Dorsey de repensar o Twitter havia degringolado porque ele não estava atento, porque investidores cada vez mais rebeldes faziam pressão para a plataforma impulsionar o crescimento ou porque as soluções se mostravam inaceitáveis para uma empresa ainda atada à mentalidade do Vale do Silício. Relatos de funcionários da companhia sugerem que provavelmente tenha sido uma mistura dos três motivos.

No YouTube, enquanto isso, os negócios corriam como sempre. Os sistemas da plataforma continuavam projetando comunidades marginais de alto engajamento. Naquele ano, Asheley Landrum, psicóloga cognitiva, descobriu uma delas em Denver, num congresso para pessoas que

acreditavam que a Terra seria plana. [51] Extinto havia séculos, o terraplanismo ressurgiu de uma hora para outra. Professores de ciências relatavam alunos que os desafiavam com cálculos de curvatura e diagramas cheios de marcações. Um astro da NBA se declarou terraplanista, assim como um rapper. Landrum ficou zanzando pelo congresso de Denver na esperança de entender por que aquilo estava acontecendo. Os resultados não deixaram dúvidas. Dos trinta participantes entrevistados, 29 disseram ter sido expostos ao terraplanismo e convencidos de sua veracidade no YouTube. O trigésimo fora recrutado pela filha, que descobriu o assunto na mesma plataforma.

Guillaume Chaslot, o ex-funcionário do YouTube, havia notado aqueles vídeos subindo na plataforma ainda na época em que trabalhava na empresa, e avisara internamente que sugeriam algo perigoso. Assim como um corante usado para tingir uma infecção num exame médico, a presença de tais vídeos em geral indica uma plataforma social que promove crenças extremistas de todos os tipos, algumas delas ameaçadoras. “Eles me disseram: ‘As pessoas clicam em vídeos de Terra plana, então elas querem vídeo de Terra plana'”, lembrou. “E meu argumento era: não, não é porque alguém clicou no vídeo de Terra plana que quer ouvir mentiras. A pessoa está curiosa, e esse é um título caça-cliques. Mas, para o algoritmo, quando você assiste a um vídeo, significa que você o endossa.”