7. Os micróbios e o vento

Um grande bem

Quando cheguei a Mianmar, os soldados já estavam jogando bebês nas fogueiras. Fazia semanas que as Forças Armadas vinham travando uma guerra fora de controle nos vilarejos com telhadinhos de sapê que pontilhavam a província a extremo oeste do país. Batalhões inteiros iam de arrozal a arrozal enquanto os helicópteros rugiam do alto. Eles diziam que estavam caçando insurgentes. Na verdade, estavam atacando uma comunidade de 1,5 milhão de fazendeiros e pescadores muçulmanos que se autodenominavam rohingya.

Os soldados, enviados para exterminar a minoria pobre que muitos dos líderes e cidadãos de Mianmar haviam passado a ver como inimigo intolerável, chegavam a uma aldeia e começavam a botar fogo nos telhados.

[1] Soltavam granadas através de portas das choças e lançavam foguetes contra as paredes das malocas. Disparavam contra as costas dos camponeses que fugiam pelo campo. Enquanto suas casas pegavam fogo, os homens da aldeia eram dispostos em fila e baleados. Famílias corriam para a fronteira, às centenas de milhares. Os soldados também iam atrás. Eles escondiam minas terrestres na trilha dos refugiados. Os sobreviventes que chegavam à segurança relativa em Bangladesh detalhavam um horror atrás do outro a jornalistas e voluntários do apoio humanitário que rondavam os campos lotados de refugiados.

“Tinha gente que se agarrava aos pés dos soldados, implorando pela vida”, disse uma mulher a meu colega Jeffrey Gettleman. “Mas eles não

paravam, davam pontapés e matavam.” [2] Quando soldados chegaram à aldeia dela, contou, mandaram a mulher entregar a criança que trazia no colo. Ela se recusou, então eles a espancaram, arrancaram o filho dos seus braços e o jogaram em uma fogueira. E a estupraram.

A história dessa mulher era típica. Outra mulher, de vinte anos, contou a um investigador do Observatório de Direitos Humanos que soldados

haviam matado sua filha criança do mesmo modo. [3] Os soldados a estupraram bem como a filha. Quando a irmã resistiu, mataram-na com baionetas. Enquanto isso acontecia, um grupo de homens da região chegou e espancou seus três irmãos adolescentes até a morte. Os homens acompanhavam os soldados como voluntários, usando machadinhas e ferramentas agrícolas. Eram rakhine, o outro grande grupo étnico da região que, como muitos em Mianmar, são budistas. A presença deles sugeria a natureza comunitária da violência, assim como a onda pública de pressão que levara à violência.

Yangon, a capital histórica, parecia a um mundo de distância daquela matança. Era outubro de 2017, mais de três anos desde minha última visita a uma cidade que já não era a mesma. Não havia mais sanções estrangeiras, uma retribuição aos generais de Mianmar por terem entregado o poder a legisladores eleitos ao cargo. As banquinhas de lojas empoeiradas haviam dado lugar a shopping centers com ar-condicionado. Carros importados cruzavam as ruas recém-asfaltadas. A maior parte da população estava com o nariz colado no seu celular. Confortos de classe média tinham trazido um clima de otimismo e tranquilidade, de orgulho até. Mas alguma coisa fervilhava sob a superfície.

Um médico jovem e idealista, agora primeiro legislador eleito de sua vizinhança, me disse que ondas de desinformação e incitação nas redes sociais haviam deixado sua comunidade constantemente à beira de distúrbios raciais, ou a provocado de maneira descarada. Dias antes, seus cidadãos, furiosos com boatos no Facebook que acusavam uma escola islâmica local de esconder terroristas, tinham atacado o prédio enquanto havia alunos em aula. As crianças, apavoradas, fugiram por uma porta dos fundos. E não era só ali, me disse um imã na sala escura nos fundos da casa de um amigo, onde insistiu que devíamos nos encontrar porque tinha medo de aparecer em público. Segundo ele, em todo o país os madraçais estavam sendo obrigados a fechar, porque boatos provocavam violência ou ameaça de violência. “Somos o bode expiatório”, disse o imã.

O diretor do primeiro coletivo de imprensa de Mianmar, um jornalista inquieto que voltava de anos no exílio, disse que os jornalistas que tinham passado tanto tempo reprimidos no país, finalmente desimpedidos, se viam diante de um novo antagonista. As plataformas sociais estavam fazendo o que nem os propagandistas treinados da ditadura haviam conseguido: produzir fake news e um grito nacionalista tão envolvente, tão agradável aos vieses de cada leitor, que o público preferia as mentiras ao jornalismo genuíno. Quando os jornalistas tentavam corrigir a desinformação que jorrava na internet, tornavam-se alvo da própria desinformação e eram acusados de incitar complôs de estrangeiros.

Líderes locais me disseram que as plataformas sociais estavam injetando conspirações e ira ultranacionalista na corrente sanguínea do país. Cidadãos que haviam feito marchas pela democracia aberta e includente agora passavam horas postando em grupos dedicados a difamar minorias ou a exaltar os líderes do país. O chefe das Forças Armadas, antes símbolo odiado da ditadura que abdicara do cargo poucos anos antes, agora tinha 1,3 milhão de fãs no Facebook.

Pessoas de todos os estilos de vida contavam, esbaforidas, como se fossem fatos nus e crus, conspirações malucas e abomináveis que invariavelmente ligavam às redes sociais. Monges budistas insistiam que os muçulmanos tramavam roubar a água de Mianmar, velhas senhoras diziam que só iam se sentir seguras quando as minorias fossem expurgadas, jovens estudantes bradavam que grupos de ajuda humanitária estavam armando os rohingya em nome de potências estrangeiras. Todos apoiavam a campanha militar — agradecidos, às vezes jubilosos, pela violência que era cometida em seu nome.

Nenhum algoritmo conseguiria gerar tanto ódio do nada. As plataformas se apoiaram em uma crise que vinha se armando desde 2012 no oeste do país, onde vive a maioria dos rohingya. Meia dúzia de incidentes entre rohingya e rakhine — um estupro, um linchamento, uma sequência de assassinatos — haviam degringolado até virar revoltas na comunidade. As tropas intervieram, arrebanhando os civis desalojados, a maioria rohingya, em acampamentos. Os rohingya padeceram. Em 2015, milhares tentaram fugir, falando em perseguição crescente tanto de vizinhos quanto de soldados.

A postura contra os rohingya datava de pelo menos um século, desde o início dos anos 1900, quando a Coroa britânica importou para o país milhares de súditos do Raj indiano, muitos deles muçulmanos. A medida, saída de cartilha, era dividir para conquistar; os recém-chegados, que assumiram a classe comerciante urbana, dependiam dos britânicos para ter segurança. Depois que os britânicos partiram, em 1948, lideranças da independência buscaram consolidar sua nova nação em torno da identidade étnica e religiosa em comum. Mas a diversidade de Mianmar dificultou a implementação; eles precisavam de um inimigo contra o qual se unir. Líderes políticos ventilaram desconfianças da era colonial quanto aos muçulmanos, tratando-os como intrusos alienígenas patrocinados pelo imperialismo estrangeiro. Na verdade, contudo, a grande maioria dos indianos da classe comerciante importados pelos britânicos havia ido embora em 1948 ou pouco depois, de modo que os líderes sublimaram a ira nacional para um grupo de muçulmanos que não tinha relação nenhuma com aquilo: os rohingya. Para vender o ardil, os rohingya foram classificados como imigrantes ilegais, uma declaração de ódio com patrocínio estatal que viria a ser reiterada até por Aung San Suu Kyi, ícone da democracia e vencedora do Nobel que depois se tornou a primeira líder eleita de Mianmar.

Quando alguns rohingya e rakhine entraram em conflito em 2012, ela ainda estava consolidando seu poder político e aproveitou o incidente para enfatizar o suposto perigo dos rohingya para os cidadãos “genuínos” de Mianmar. Mas, ao longo dos anos seguintes, a ira do grande público contra os pobres fazendeiros rohingya superou em muito o que ela mesma havia incentivado. Em agosto de 2017, quando a violência esporádica entre soldados e um punhado de rebeldes rohingya culminou em um ataque insurgente a vários postos policiais durante a madrugada, boa parte do país estava clamando por sangue. Alguns dias depois, os militares acataram e deram início ao genocídio.

Como essa postura, mesmo que latente fazia tanto tempo, se agravou até chegar a tal extremo? Líderes que semeavam o medo e embates sectários, afinal de contas, não eram novidade no país. Havia algo diferente no jogo, algo novo. Dois anos antes, David Madden, o australiano que cuidava da maior aceleradora de startups de tecnologia em Mianmar, viajara até a sede do Facebook para uma apresentação de soar os alarmes entre os executivos

do Facebook. [4] Naquele momento, já fazia um ano desde os tumultos em Mandalay, quando o perigo já devia estar longe de ser ignorado. Ele detalhou o impulso crescente contra muçulmanos na plataforma, aparentemente sem o controle dos moderadores, fossem eles quantos fossem, que deviam remover conteúdo perigoso. Alertou que o Facebook em breve podia ser usado para fomentar o genocídio. Mas houve poucas indicações de que o alerta foi ouvido, pois o discurso de ódio só se tornou

mais comum. [5] Postagens virais, uma atrás da outra, informavam que famílias muçulmanas aparentemente inocentes na verdade eram células terroristas ou espiões estrangeiros à espreita. “Mianmar vai ser tomada pelos ‘Cães Muçulmanos'”, dizia uma. As postagens foram compartilhadas milhares de vezes, números difíceis de alcançar em um país tão pequeno sem uma ajuda dos algoritmos.

Até funcionários do governo de Mianmar avisaram que o discurso de ódio guiado pelo Facebook podia minar a estabilidade do país, conforme extremistas ganhavam público inédito e imenso na internet. Em fins de 2015, Wirathu, o monge que havia sido chamado de “Bin Laden birmanês”, tinha 117 mil seguidores — um número pequeno nos Estados Unidos, mas grande em um país daquele tamanho e tão precoce na sua conversão digital como Mianmar —, para os quais ele impulsionava conspiração e ódio com frequência. Um aliado de Wirathu, o político nacionalista Nay Myo Wai, rodava relatos populares que espalhavam escancaradamente a incitação. Em um discurso naquele ano, ele dissera o seguinte sobre os rohingya: “Serei curto e grosso. Primeiro: atirem e matem. Segundo: atirem e matem. Terceiro: atirem e enterrem”.

Um think tank de Washington analisou a amostragem de 32 mil contas do Facebook em Mianmar, todas de usuários comuns, e descobriu que as

páginas estavam tomadas por discurso de ódio e desinformação. [6] Um meme popular mostrava bestialidade explícita encoberta por um texto em árabe e em outro o profeta Maomé sofria penetração oral. Um terceiro afirmava ter provas de que os rohingya cometiam canibalismo; a imagem havia sido tirada da ação de marketing de um videogame. Ele foi compartilhado 40 mil vezes. Outro meme, que afirmava falsamente que os rohingya estavam contrabandeando armas para Mianmar, foi compartilhado 42 700 vezes. “É hora de matar todos os kalar”, escreveu alguém, usando o termo pejorativo dado aos rohingya. Outro usuário respondeu: “Vamos decapitar 10 mil cabeças kalar”. Outro: “Em nome da próxima geração, queime toda aldeia muçulmana que houver por perto”.

O relatório foi publicado no início de 2016, mais uma voz em um coro que alertava o Facebook de que estava colocando em risco uma sociedade que a plataforma não entendia. Em junho daquele ano, a empresa, tal como havia feito em 2013, depois de ignorar alertas de violência que logo se provaram bastante precisos, ampliou seu negócio em Mianmar ao lançar o “Básico Grátis”, que permitia aos mianmarenses usar o aplicativo do Facebook no smartphone sem pagar dados. Em questão de meses, 38% da população do país disse que obtia a maior parte ou todas as suas notícias via

Facebook. [7] Quando a situação piorou, seis meses antes do genocídio,

Madden correu pela segunda vez para a sede do Facebook. [8] De novo ele alertou que a plataforma estava impulsionando o país para a violência coletiva. Aparentemente nada mudou, mesmo quando a matança teve início.

“Tenho que agradecer ao Facebook porque ele me dá as informações verdadeiras sobre Mianmar”, disse o administrador de uma aldeia que havia banido muçulmanos, depois de dois meses de sangue correndo, à minha colega Hannah Beech. “Aqui os kalar não são bem-vindos”, prosseguiu,

“porque são violentos e se reproduzem que nem doidos.” [9] Páginas extremistas que expunham essas visões continuaram hiperativas durante a matança. Foi uma atualização digital da Radio Mille Collines, que transmitiu as convocações ao genocídio em Ruanda nos anos 1990. Mas essa Rádio Genocídio era baseada em uma infraestrutura de propriedade de empresas de tecnologia ricas nos Estados Unidos, amplificada não por terminais de transmissão sob controle de milícias, mas por algoritmos coordenados pelo Vale do Silício.

“Nunca houve ferramenta mais potente para a disseminação do discurso de ódio e para a peçonha racial-nacionalista do que o Facebook e outras mídias sociais”, escreveu Ashley Kinseth, uma ativista dos direitos humanos em Mianmar, durante a matança. Apesar de todos os paralelos com a Radio Mille Collines, ela complementou: “As mídias sociais são, para todos os efeitos, uma ferramenta mais veloz, mais explícita, mais imersiva, ‘democrática' e, por fim, perigosa para a disseminação de

discursos de ódio”. [10]

Funcionários do governo norte-americano passaram anos atormentados pelas hipóteses que se seguiram ao genocídio em Ruanda. Podiam os caças dos Estados Unidos ter destruído as torres da rádio para evitar o caos? Como eles iam localizar as torres no meio das selvas e montanhas de Ruanda? Como iam conseguir anuência internacional? Em Mianmar, essas dúvidas nunca ocorreram. Um só engenheiro poderia ter desativado a rede inteira no meio do seu café da manhã. Um milhão de rohingya com medo ficariam mais a salvo da morte e do desalojamento com meros cliques. Os sinais estavam à vista. Madden e outros haviam dado a informação necessária para o Facebook agir. A empresa simplesmente decidiu não fazê-lo, mesmo quando aldeias inteiras eram expurgadas com fogo e sangue. Em março de 2018, o diretor da missão de levantamento de fatos das Nações Unidas disse que sua equipe concluíra que as redes sociais, em especial o Facebook, tinham desempenhado “papel determinante” no genocídio. As plataformas, disse, “contribuíram consideravelmente” para o ódio que aniquilou um povo inteiro.

Três dias depois, um repórter chamado Max Read postou no Twitter uma pergunta a Adam Mosseri, o executivo que supervisiona o feed de notícias do Facebook. Referindo-se ao Facebook como um todo, ele escreveu:

“pergunta sincera — que mal faria desligar Mianmar?”. [11] Mosseri respondeu: “Os problemas são reais, mas o Facebook faz um grande bem — conecta pessoas a amigos e familiares, ajuda pequenas empresas, traz

conteúdo informativo à tona. Se desligarmos, perdemos tudo isso”. [12]

A crença de que os benefícios que o Facebook propiciava a Mianmar, naquele momento, superavam seus malefícios é algo difícil de entender. A companhia não tinha sede no país para avaliar seu impacto. Poucos funcionários seus já haviam estado lá. O Facebook rejeitara as assustadoras e constantes avaliações externas sobre o comportamento da plataforma. A conclusão de Mosseri, segundo a interpretação mais generosa possível, era ideológica e arraigada à fé. Também era conveniente, pois permitia à empresa tirar o corpo fora e declarar eticamente impossível desligar a máquina do ódio. Sem falar que deixar a plataforma no ar era uma intervenção em si, renovada todos os dias.

Havia outro impedimento importante para o Facebook agir. Seria reconhecer que ele tinha parte na culpa. As empresas de cigarro tinham levado meio século, além da ameaça de processos potencialmente desastrosos, para admitir que seus produtos causavam câncer. O Vale do Silício reconheceria de mão beijada que seus produtos podiam causar sublevações, incluindo até um genocídio?

Mianmar esteve longe de ser o primeiro indicativo desses males. Embora hoje seja fácil esquecer, acontecimentos como o levante da Primavera Árabe de 2011 foram vistos, na época, como prova do potencial libertador que as mídias sociais tinham. Mas havia sinais de problemas, mesmo lá. Em 2012, em um episódio bizarro na Índia sobre o qual escrevi, membros de dois grupos étnicos, levados pelo medo mútuo, tinham espalhado boatos via Facebook e Twitter de que um planejava atacar o

outro. [13] A especulação se transformou em certeza, que se transformou em desinformação quanto a um ataque iminente, que se tornou incitação para atacar primeiro. Alguns, inevitavelmente, o fizeram. Relatos de violência se espalharam pela internet, geralmente retratados, com provas de fotos fajutas, centenas de vezes mais letais do que foi de fato. Uma onda de tumultos e represálias, incitados nas redes, se espalhou pelo país, levando

300 mil a campos de desabrigados. [14] O governo travou o acesso a plataformas sociais e exigiu que elas apagassem o conteúdo mais perigoso. Quando o governo Obama, impulsionador de longa data do Vale do Silício, interveio a favor das empresas, o governo indiano cedeu. O estrago estava

feito. Houve eclosões de violência parecidas na Indonésia. [15] Comunidades inteiras coladas no Facebook e no Twitter. Usuários eram recompensados com público imenso por um beneficiar as piores tendências do outro. Um tumulto, um assassinato, uma aldeia que se desmanchou em sangue, tudo provocado pela xenofobia que saturava as plataformas.

Com o tempo, a visão radiante da Primavera Árabe passou a ser revista. “Essa revolução começou no Facebook”, disse Wael Ghonim, programador egípcio que saiu de sua mesa no Google para se unir ao levante popular no

seu país, em 2011. [16] “Um dia quero conhecer Mark Zuckerberg e agradecer pessoalmente.” Anos depois, contudo, conforme o Egito embarcava numa ditadura, Ghonim alertou: “A mesma ferramenta que nos

uniu para derrubar ditadores acabou nos dilacerando”. [17] A revolução dera lugar à desconfiança social e religiosa, que as redes sociais ampliaram ao “amplificar o espalhamento da desinformação, dos boatos, das câmaras de eco e dos discursos de ódio”, disse o programador, o que transformava a sociedade em “veneno puro”.

Em fins de 2017, enquanto o genocídio de Mianmar seguia forte, Chamath Palihapitiya, o ex-chefe de crescimento global do Facebook, palestrando no que se esperava que fosse uma apresentação rotineira a alunos de MBA de Stanford, explodiu. “Sinto uma culpa tremenda”, disse. “Acho que todos sabíamos, no fundo, mesmo que tenhamos vindo com essa ladainha de que houve consequências involuntárias. Acho que sabíamos que

ia acontecer algo de ruim.” [18] Palihapitiya havia deixado a companhia anos antes. Mas ele ajudara a colocá-la na rota em que ainda se encontra, convencendo seus chefes a reformular tanto o negócio quanto a plataforma em torno do crescimento permanente e global. As ferramentas que eles tinham criado para conseguir isso estavam “rasgando o tecido social”, disse Palihapitiya. “Os circuitos de retroalimentação de curto prazo que criamos, movidos a dopamina, estão destruindo o funcionamento da sociedade”, criando um mundo “sem discurso civil, sem cooperação; com desinformação, desconfiança”. Ele instigou os pretensos engenheiros e fundadores de startup no salão a ficar atentos. “Se vocês alimentarem a fera, a fera vai destruir vocês”, disse. “Se vocês a fizerem recuar, temos uma chance de controlá-la e de botar rédeas nela.”

Essa série de colapsos e sua horripilante consistência, entre os quais a eleição presidencial de 2016 nos Estados Unidos, sugeria mais do que acaso. Sugeria uma transformação mais profunda, talvez universal, ocasionada pelas redes sociais da internet, da qual a violência extrema era apenas um indicador à primeira vista. Eu queria entender por que isso estava acontecendo, o que isso revelava a respeito da influência da tecnologia no nosso mundo. Mas uma transformação de toda a sociedade como a de Mianmar ou a dos Estados Unidos era guiada por fatores demais para se isolar o papel das redes sociais. Eu precisava começar com um episódio mais restrito, em que o efeito das redes pudesse ser isolado, para entender a tendência.

Trabalhei com Amanda Taub, colega do New York Times com a qual colaborava desde 2014, quando a recrutei para o Vox. Taub tinha trabalhado como advogada de direitos humanos, em lugares como a América Latina, o que a tornava especialmente atenta aos sinais de violência coletiva. E ela compartilhava do meu fascínio pelas redes, assim como da ideia de que sua influência ainda não era entendida por completo. Convocamos ativistas de direitos humanos, monitores digitais e outros contatos de confiança. Nossa pergunta a cada um foi se eles tinham visto levantes incomuns guiados pelas mídias sociais. Todos tinham a mesma resposta, fosse qual fosse o continente em que estavam: Sim, cada vez mais, e por que vocês levaram tanto tempo para perceber? Mas reunir informações sobre um incidente ocorrido muito tempo antes não bastava; a memória é imperfeita e encoberta por vieses. Amanda e eu precisávamos ver em primeira mão, reconstituir cada passo e boato. Pedimos a nossos contatos que nos chamassem se algo entrasse em combustão na sua rua, olhando pelas suas janelas.

Não tivemos que esperar muito tempo. No início de 2018, uma pessoa nos alertou quanto a um estouro de violência que estava travando o Sri Lanka, uma nação-ilha em forma de gota do tamanho dos pequenos países da Europa, na Costa Sul da Índia. Aldeias inteiras, como se possuídas, haviam formado turbas, e estavam saqueando e incendiando casas de vizinhos. Convocaram-se as Forças Armadas. Embora não fosse claro o que acontecera nem por quê, todos com quem entramos em contato nomearam o mesmo culpado: o Facebook.