A caixa de fósforos e o palito de fósforo

Passado o final de uma remota estrada pelas montanhas, descendo uma estrada de terra esburacada, numa casa de concreto sem água corrente, mas repleta de smartphones, treze integrantes de uma família grande estavam vidrados no Facebook. E estavam furiosos. O 14o integrante fora espancado até a morte fazia semanas. Segundo a polícia, ele tinha se envolvido em uma briga de trânsito que havia ficado violenta. Mas, no Facebook, boatos insistiam que seus agressores faziam parte de uma conspiração muçulmana para dizimar os cingaleses, a maioria étnica do Sri Lanka. Os cingaleses, termo que vem da palavra em sânscrito que significa “leão”, dominam a cultura e a política do país. O leão adorna a bandeira do país. Mas eles tinham sido tomados por um estranho pavor racista.

“Não queremos olhar porque dói demais”, disse o primo da vítima, H. M. Lal, com a voz trêmula. “Mas, no coração, existe um desejo de vingança que se formou.” Quando perguntei a Lal e ao resto da família se eles acreditavam que os conteúdos das postagens eram verdadeiros, todos, com exceção dos mais velhos, que aparentemente não acompanhavam o assunto, fizeram que sim. Outras pessoas no Facebook compartilhavam do desejo deles por vingança?, perguntei. Fizeram que sim de novo. Eles haviam compartilhado e podiam citar, ipsis litteris, memes que armavam uma realidade alternativa a respeito de complôs nefastos de muçulmanos. Embora não houvessem aderido quando grupos da plataforma que ostentavam milhares de membros planejaram uma sequência de ataques retaliatórios aos muçulmanos, eles também não eram contra.

“O Facebook é importante para nós porque se tem alguma coisa acontecendo, onde quer que seja, é assim que descobrimos”, disse alguém. “O Facebook vai nos contar.” Lal, o primo, concordou. Ele chamou o Facebook de “brasas sob as cinzas” da ira racial que, poucos dias antes, tinham levado o país ao caos. “As pessoas são incitadas a agir.” A aldeia na montanha era nosso ponto de partida para reconstituir como o Sri Lanka resvalou no caos. O Facebook, como descobrimos, havia guiado cada um dos passos mortais. E, a cada passo, tal como em Mianmar, a plataforma fora avisada, de forma insistente e explícita, mas se recusara a tomar uma atitude.

Perguntamos à família como tinha sido. Tudo havia “começado em Ampara”, disse um deles, pronunciando um nome que havíamos visto várias vezes na internet. A Ampara real era só mais uma cidadezinha em um país pontilhado de cidadezinhas, alguns prédios de concreto cercados por campo aberto. Mas a Ampara imaginada, construída por boatos nas mídias sociais, era o epicentro de um complô para destruir os cingaleses do país.

Os irmãos Atham-Lebbe não sabiam nada a respeito da Ampara imaginada quando, ao usar o dinheiro que haviam poupado depois de penar no trabalho braçal no exterior, abriram um pequeno restaurante na cidade. Eles são muçulmanos e falam tâmil, a língua da minoria, então nunca encontraram os distritos das redes, falantes de cingalês, onde sua cidade era símbolo do perigo racial. Assim, não tinham como prever que, numa noite quente de março de 2018, as Amparas real e imaginada iam entrar em choque, subvertendo a vida deles para sempre.

Durante a correria do jantar naquela noite, um freguês começou a berrar em cingalês a respeito de algo que encontrara no seu curry. Farsith, o irmão de 28 anos que cuidava do caixa, não lhe deu atenção. Ele não falava cingalês e, além disso, sabia que era melhor ignorar freguês bêbado. Não estava ciente de que, um dia antes, um boato que viralizou no Facebook afirmava falsamente que a polícia havia apreendido 23 mil comprimidos para esterilização masculina de um farmacêutico muçulmano naquele restaurante. Se soubesse, talvez Farsith entenderia por que, conforme o freguês ficou mais agitado, uma multidão começou a se formar.

Os homens o cercaram, deram tapas nos seus ombros, berrando uma pergunta que Farsith não tinha como entender. Ele entendeu apenas que estavam perguntando a respeito de um torrão de farinha no curry do freguês, usando a expressão “Foi você que pôs?”. Ele ficou preocupado porque, se dissesse a palavra errada, podia incitar a multidão a se tornar mais violenta, mas calar-se podia acarretar a mesma coisa. “Não sei”, Farsith respondeu em cingalês truncado. “Sim, nós põe?”

A turba, ao ouvir a confirmação, caiu em cima de Farsith e o espancou. Eles haviam perguntado se ele colocara comprimidos de esterilização na comida, como todos tinham visto no Facebook. Deixando Farsith no chão, ensanguentado, derrubaram estantes, quebraram móveis e arrancaram utensílios das paredes. Dezenas de homens da vizinhança, ao ouvirem que os boatos da plataforma eram verdadeiros, juntaram-se a eles. A multidão então se pôs em marcha rumo à mesquita local e a incendiou, enquanto o imã se escondia em seu escritório em chamas, esperando pela morte.

Em outros tempos, essa calamidade podia ter acabado ali mesmo em Ampara. Mas uma pessoa da turba fizera um vídeo no celular com a confissão de Farsith: “Sim, nós põe”. Em questão de horas, o vídeo foi compartilhado para um grupo de Facebook do Sri Lanka chamado Central de Informações Budistas, que ganhara seguidores fervorosos ao afirmar que fornecia informações factuais sobre a ameaça muçulmana. A página publicou o vídeo tremido de dezoito segundos como prova dos memes islamofóbicos que fazia circular havia meses. Aí o vídeo se espalhou.

Tal como em Mianmar, as redes sociais haviam sido recepcionadas como força do bem no Sri Lanka. As famílias podiam ficar em contato mesmo quando muitos iam trabalhar no exterior para enviar dinheiro para casa. Ativistas e líderes eleitos creditaram a esse fato a chegada da democracia. E, graças a pacotes de dados com tarifa zero, a mesma estratégia que o Face book usara em Mianmar, milhões de pessoas podiam acessar o serviço gratuitamente.

A tarifa zero havia surgido de uma peculiaridade da organização econômica do Vale do Silício: a decisão pelo crescimento perpétuo no número de usuários. Países mais pobres não dão muito lucro às plataformas; os anunciantes pagam uma mixaria para chegar a consumidores que ganham poucos dólares por dia. Mas, se gastassem de forma agressiva naquele momento, as empresas podiam dominar antecipadamente os mercados de comunicação e da internet de um país pobre, onde teriam pouca concorrência. Elas podiam dizer aos investidores que o lucro estava para explodir dentro de dez ou vinte anos, conforme os consumidores locais ascendessem à classe média.

Facebook, WhatsApp, Twitter, Snapchat e outras lançaram pacotes de taxa zero em dezenas de países, da Colômbia ao Quênia, onde não tinham presença e eram pouco conhecidas, raciocinando que aprenderiam as coisas

ao longo do caminho. [19] Talvez tivessem que contratar alguns professores de inglês locais para traduzir pontos essenciais, como o botão “Adicionar amigo”. O resto, iriam terceirizar a — o que mais? — algoritmos de machine learning . Se as traduções estivessem erradas, eles descobririam acompanhando o comportamento do usuário.

“Conforme o uso se amplia, ele chega a todo país, a todos os pontos do mundo, a idiomas e culturas que não entendemos”, gabou-se Chris Cox,

diretor de produtos do Facebook, em 2013. [20] Ele citava um país em particular: Mianmar, onde ouvira dizer que o Facebook já dominava o acesso dos locais às notícias. Não havia, como eles afirmavam — seja por fervor ideológico, seja por desinteresse motivado pelo lucro —, necessidade de monitorar ou mesmo de considerar as consequências, pois elas só podiam ser positivas.

Era mais do que arrogância. Baseava-se em uma ideia que permeava o Vale do Silício e que tinha sua origem no primeiro investidor do Facebook, Peter Thiel: “Zero para um”. Era um decreto, tanto comercial quanto ideológico, para as empresas inventarem algo tão novo que ainda não houvesse mercado para ele — começar do zero —, e aí controlarem totalmente esse mercado, um ramo que tinha um único participante. “A história do progresso é a história em que as melhores empresas

monopolistas substituem as antigas titulares”, escreveu Thiel. [21] A Intel e os processadores. A Apple e os computadores pessoais. A Uber e os táxis privados. O Facebook e as redes sociais.

Segundo sua defesa, um monopólio, quando se vê sem concorrência, tem liberdade para investir em inovação, o que faz bem a toda a sociedade. Isso não tinha base alguma: monopólios, em princípio, potencializam seu poder de modo a fornecer cada vez menos valor, ao mesmo tempo que extraem cada vez mais rentabilidade dos clientes. Mas era uma ideia que reverberava no Vale, cujos habitantes reinterpretavam o modelo de negócio do crescimento infinito — imposto por investidores poucos anos antes com a chegada da computação em nuvem — como missão gloriosa, a continuidade do tudo-é-permitido da internet da década de 1990. Era a sugestão de que se sobrepor a sociedades inteiras, pisoteando o que tinha vindo antes, era não só aceitável como necessário.

Esse resultado, longe de ser negativo, era pensado como uma dádiva ao mundo. A indústria de tecnologia traria nada menos do que o “próximo passo” na jornada da nossa espécie, como Zuckerberg escreveu em um ensaio de 6 mil palavras publicado um ano antes de minha chegada ao Sri

Lanka. [22] Talvez no último fôlego do utopismo do Vale, ele havia prometido que o Facebook ia fornecer a “infraestrutura social” de uma nova era, que nos alçaria para além de meras “cidades ou nações” e formaria uma “comunidade global”. Era o que possibilitaria “espalhar prosperidade e liberdade, promover paz e entendimento, tirando as pessoas da pobreza” e até “acabar com o terrorismo, lutar contra a mudança climática e evitar pandemias”.

Os resultados que se via em campo pouco lembravam essas imagens cor-de-rosa. Nos dias seguintes à devastação de Ampara por uma multidão incitada pelo Facebook, as convocações a genocídio saturavam a plataforma. “Matem todos os muçulmanos, não poupem nem as crianças”, dizia uma postagem. Havia centenas iguais, todas inspiradas pelo vídeo em que Farsith diz “Sim, nós põe”. Um extremista famoso da rede social instigou seus seguidores a se agrupar em um enclave muçulmano da cidade e “ceifar tudo sem deixar um átomo”. Integrantes de um grupo de direitos humanos local, amontoados em um pequeno escritório na capital, Colombo, marcaram cada postagem, rastreando uma rede de ódio. O plano era transmitir tudo para o Facebook. Os pesquisadores estavam fazendo o trabalho que a empresa não fazia, e de graça. Eram os zeladores voluntários de uma das plataformas mais ricas do mundo. A companhia, ainda assim, os ignorou.

“Ao longo dos últimos quatro anos, demos exemplos de ódio com base em dados. Nós lhes entregamos páginas de dados”, disse Sanjana Hattotuwa, então pesquisador dentro desse grupo de direitos humanos, a Central pelas Alternativas Políticas. “Tentar uma coordenação com o Facebook é inútil”, bufou, andando com raiva para um lado e para o outro. Hattotuwa, rosto conhecido em congressos internacionais de tecnologia, havia conseguido alguns contatos na empresa. Mas, independentemente do quanto as incitações à violência fossem extremas, não importava o quanto ele fosse estridente em alertar que a plataforma ia provocar morte, a resposta era sempre a mesma: “Eles disseram que não estão infringindo nada. Disseram para retornar com mais informações”.

Antes da devastação em Ampara, uma das colegas de Hattotuwa, Raisa Wickrematunge, tinha dado uma palestra em um fórum de Stanford sobre desinformação nas redes sociais. Durante um coffee break , ela encurralou uma gerente de segurança do Facebook, Jen Weedon, que participara de uma mesa anterior. Alertou Weedon de que, no Sri Lanka, a empresa estava permitindo que convocações abertas à violência, proibidas nas suas diretrizes, fossem divulgadas sem freio. A conversa terminou sem uma conclusão. Depois do congresso, Wickrematunge enviou um e-mail a Weedon para dar sequência ao assunto, oferecendo-se para apontar discursos de ódio perigosos para o Facebook analisar — assistência gratuita. Nunca teve resposta.

Em outubro de 2018, líderes comunitários do Sri Lanka foram ao escritório regional do Facebook, que supervisiona os 400 milhões de usuários do Sul Asiático a partir da Índia, e fizeram uma apresentação contundente. Discursos de ódio e desinformação vinham sobrecarregando a plataforma e aparentemente eram promovidos pelos algoritmos. Extremistas violentos geriam páginas que estavam entre as mais populares. Mentiras virais viravam realidade consensual entre os usuários. O Facebook, afinal, havia tirado o lugar de veículos da imprensa local, tal como fizera em Mianmar, onde as aldeias continuavam em chamas. O Sri Lanka podia vir a seguir. Em separado, funcionários do governo se encontraram em privado com chefes regionais do Facebook em Colombo. Eles combinaram com a empresa de policiar melhor o discurso de ódio na plataforma. Aquelas postagens e aquelas páginas iam contra as regras da própria companhia. Então por que ela não tomava uma providência?