1. Presos no cassino

O céu vai cair

Renée DiResta carregava o filho no colo quando se deu conta de que as redes sociais estavam provocando algo de ruim nas pessoas. Era algo invisível, que já atingia sua vida e a do filho. Nenhum conhecido no seu círculo mais próximo tinha filhos, então ela entrou em grupos na internet para pais e mães de primeira viagem, procurando dicas para ensinar o bebê a dormir ou sobre o nascimento dos dentes. Porém, segundo ela, os outros usuários, embora simpáticos, vez por outra se metiam em “tretas” que rendiam milhares de postagens. E tudo por causa de um tópico com o qual ela raramente havia se deparado fora da internet: vacinação.

O ano era 2014, e DiResta acabara de chegar no Vale do Silício para trabalhar como “caça-startups” para uma investidora. No fundo, ela ainda era a analista dos tempos que havia passado tanto em Wall Street quanto, antes, em uma agência de espionagem, que, pelo que ela dá a entender, era a CIA . Para manter a mente ativa, preenchia seu tempo livre com projetos de pesquisa complexos, tal como outras pessoas fazem palavras cruzadas na cama.

Com a curiosidade atiçada, DiResta começou a investigar se a raiva contra as vacinas que ela tinha visto na internet era reflexo de algo maior. Descobriu que, lá embaixo, na pilha de documentos do Departamento de Saúde Pública da Califórnia, havia os índices de vacinação por aluno de quase todos os colégios do estado — entre os quais os jardins de infância em que estava considerando matricular o filho. O que ela descobriu a deixou chocada. Algumas escolas tinham índice de vacinação de 30%. “O que está acontecendo?”, ela se perguntou. DiResta baixou dez anos de dados. Contou que a tendência durante aquele período — o crescimento constante de não vacinados — estava evidente. “Caramba”, pensou, “isso não é bom.”

Com taxas tão baixas, existia um sério perigo de eclodirem surtos de doenças como sarampo ou coqueluche, que deixariam todas as crianças em risco. Ela entrou em contato com o gabinete do senador de seu estado para perguntar se podiam fazer algo para aumentar os índices de vacinação. Disseram-lhe que não havia como. “Vacina é uma coisa tão odiada?”, perguntou ela. “Não”, respondeu a assessora. As pesquisas que eles faziam indicavam 85% de apoio a uma proposta de lei que ia reforçar a obrigatoriedade de vacinação nas escolas. Mas os legisladores tinham medo do ruidoso movimento antivacina — que consistia em jovens pais californianos tomados por paranoia e fúria — que aparentemente estava emergindo do Twitter, do YouTube e do Facebook.

“Foi aquilo que me fez entrar fundo na toca de coelho”, afirmou DiResta. “Durante seis meses, sem brincadeira, das oito da noite às duas da manhã, eu só fiz isso.” Essa toca de coelho não a levou a descobrir nenhuma mão invisível por trás do movimento antivacina, mas as próprias redes sociais na internet nas quais o movimento havia crescido. Com a esperança de mobilizar alguns dos 85% de californianos que apoiavam a lei pró-vacinação, ela criou um grupo — onde mais? — no Facebook. Quando comprou anúncios na plataforma para encontrar recrutas, percebeu algo curioso. Sempre que digitava “vacina” ou qualquer coisa conectada de forma tangencial ao assunto na ferramenta da plataforma que direcionava os anúncios, os resultados eram de grupos e tópicos esmagadoramente contrários à vacinação. E mais: quando ela voltava seus anúncios para mães californianas, as usuárias que recebiam lhe respondiam com uma enxurrada de insultos, todos antivacina. Era como se as opiniões pró-vacina da sua região na vida real estivessem invertidas na internet.

Curiosa, DiResta entrou em alguns grupos antivacina no Facebook. Seus usuários pareciam viver para as mídias sociais, fazendo circular vídeos do YouTube e coordenando campanhas de hashtag no Twitter. A maioria expressava uma angústia genuína em relação ao que acreditava ser uma vasta conspiração para enfiar seringas perigosas no braço dos filhos. Mas se essas pessoas representavam só 15% dos californianos, por que ali elas eram maioria? DiResta logo percebeu que o Facebook fazia uma coisa estranha: ele promovia um fluxo de notificações que a estimulava a seguir outras páginas antivacina. “Se você entrasse em um só grupo antivacina”, disse ela, “a coisa se transformava.” Quase todo conteúdo relacionado a vacinação que lhe era recomendado era de antivacina. “A ferramenta de recomendação ficava impulsionando, impulsionando, impulsionando.”

Não tardou para o sistema incentivá-la a entrar em grupos de

conspirações que nada tinham a ver com vacinação. Chemtrails . [1] Terra Plana. E, conforme ela foi espiando, encontrou outro jeito de o sistema incentivar desinformação sobre vacinas. Tal como a ferramenta de direcionamento dos anúncios, digitar “vacinas” no espaço de busca do

Facebook fazia retornar uma chuva de postagens e de grupos antivacina. [1] Mesmo que páginas populares sobre saúde e sobre maternidade tivessem grupos com muito mais gente, esses resultados apareciam mais abaixo.

DiResta teve uma suspeita do que estava acontecendo. Ela era fascinada por informática desde a infância: seu pai, engenheiro biomédico que trabalhou em pesquisas sobre o câncer, lhe ensinara a programar aos nove anos. Ela tivera um computador Timex, do início dos anos 1980, para joguinhos simples. No ensino médio, em Nova York, foi a engenharia que mobilizou sua paixão pela solução de problemas com criatividade, assim como pelos absolutos da matemática. DiResta estagiou em laboratórios de ressonância magnética, ajudando a programar computadores para processamento de imagens do cérebro.

“Eu gostava muito da ideia de ser possível construir o caminho até chegar na solução”, disse ela. “Gosto do rigor. Gosto da lógica.” E o computador era divertido. As salas sem lei de chat do America Online, o provedor de internet discada, rendiam conexões tão aleatórias que a deixavam estimulada. Fóruns de interesses obscuros compartilhados, como a banda predileta de DiResta, Nine Inch Nails, lhe davam a sensação de fazer parte de comunidades genuínas. Na faculdade, ela se formou em ciências da computação, mas se recusou a fazer pós-graduação, optando por trabalhar com espionagem e finanças. Porém, quando a poeira da crise financeira baixou, entrou em contato com amigos que trabalhavam no Google. Venha para o Oeste, disseram.

Embora, no Vale do Silício, seu trabalho na área de investimentos fosse focado em hardware, ela havia captado o bastante a respeito de mídias sociais para entender o que tinha descoberto nas suas buscas no Facebook. DiResta se deu conta de que o motivo pelo qual o sistema impulsionava com tanta força conspirações discrepantes era o engajamento. As plataformas sociais traziam à tona todo conteúdo que seus sistemas automatizados concluíssem que ia maximizar a movimentação dos usuários na internet, o que fazia a empresa vender mais anúncios. A mãe que aceita que vacinas são mais seguras tem poucos motivos para passar tanto tempo discutindo esse assunto na internet. Os grupos de pais com ideias afins em que ela entrou, embora grandes, tendiam a ser relativamente sossegados. Mas uma mãe que suspeita que existe uma imensa conspiração na medicina que faz mal a seus filhos, percebeu DiResta, pode passar horas pesquisando sobre o assunto. Também é provável que corra atrás de aliados, compartilhando informações e coordenando ações para revidar. Para a inteligência artificial que gerencia uma plataforma de mídias sociais, a conclusão é óbvia: mães interessadas em questões de saúde vão passar muito mais tempo na rede se entrarem em grupos antivacina. Assim, promover esses grupos, por meio de qualquer método que conquiste a atenção dos usuários, impulsionará o engajamento. DiResta sabia que, se estivesse certa, o Facebook não vinha só satisfazendo os extremistas antivacinação. Estava criando os extremistas.

“Eu me sentia o Chicken Little, o que sai avisando a todo mundo que o céu vai cair”, disse. “E elas me olhavam com aquela cara de: ‘É só uma postagem'.” Mas o que DiResta constatara era que havia algo estruturalmente errado na plataforma. Amigos do Vale do Silício entraram em contato com ela para dizer que vinham notando distúrbios parecidos, estranhos, em todo tipo de comunidade. Ela sentia que estava em jogo um conjunto comum de dinâmicas, talvez até um ponto de origem comum em algum lugar nas entranhas das redes. E se esse era o efeito em uma coisa pequena, como diretrizes para vacinação em escolas ou discussões sobre videogame, o que aconteceria se chegasse na política ou na sociedade de modo mais amplo?