Desaparecer

“Mandaram um dos alunos da minha escola de volta para a África”, disse a mulher, em tom de aprovação. A deportação se dera devido a um erro na sua papelada de imigração. “Deviam mandar todos.”

Desaparecer

Os pesquisadores alemães da Universidade de Warwick sabiam que um elemento da sua teoria — a causalidade — merecia atenção especial. Havia como provar que o uso do Face book e a violência contra refugiados crescem em paralelo especificamente porque o primeiro provoca a segunda? Eles tiveram a ideia de analisar cada indignação significativa da internet no período que seu estudo cobriu. A infraestrutura da internet alemã tende a ser localizada, o que torna as quedas de sinal comuns, mas isoladas. Cada uma dessas quedas virou uma oportunidade para testar a causalidade: se privar uma comunidade do Facebook repentinamente diminuísse a violência dos moradores contra refugiados, tinha-se o indicativo de que a plataforma guiava alguns ataques.

Efetivamente, sempre que o acesso à internet caía em uma região com uso elevado de Facebook, os ataques a refugiados diminuíam de maneira significativa. Contudo, a mesma queda não acontecia quando áreas com uso elevado de internet, mas apenas uso mediano de Facebook, passavam por queda de sinal, o que sugeria que o efeito provocador da violência era específico às mídias sociais, e não à internet em si. E a violência caía na mesma taxa — 35% — que o estudo sugeria que a plataforma impulsionava esses ataques. Os pesquisadores sublinharam que isso não era uma conclusão definitiva em si, apenas um exercício para conferir suas conclusões. Mas era um indicativo relevante de que eles haviam chegado a algum ponto — e uma oportunidade de considerar, com o rigor que desativamentos isolados como o do Sri Lanka não podiam dar, o que acontece quando a rede social desaparece.

“O mundo ficou menor, muita coisa mudou”, disse Stefania Simonutti, lembrando de uma queda de sinal que havia durado entre alguns dias e algumas semanas, dependendo da quadra do bairro de subúrbio em que vivia. O bairro, chamado Schmargendorf, parece um santuário das forças do ódio. Famílias diversificadas de classe média caminham por avenidas forradas de butiques e elegantes feiras de hortifrútis. Mas, lá, o uso do Facebook é elevado. Assim como são os ataques a refugiados — menos durante a queda de sinal.

Simonutti, à pergunta sobre como lidou com o apagão, abriu a boca e apertou as palmas das mãos contra as bochechas, fazendo a mímica de um grito. Ela havia perdido contato com seus familiares no exterior — e com as notícias, considerando confiáveis apenas as que vinham das mídias sociais. “Muita gente mente e falseia nos jornais”, disse. “Mas, com a internet, posso decidir por conta própria no que acredito e no que não.” Forçada a renunciar às conspirações que gostava de acompanhar na internet, disse, ela preenchia seu tempo vago com a família.

Aparentemente todo mundo se lembrava da pane. Esperanza Muñoz, mulher alegre e sardenta que se mudara da Colômbia para lá nos anos 1980, tinha considerado aquilo como uma folga. Ela socializou mais com os vizinhos e acompanhou menos o noticiário. Sua filha, estudante de medicina, disse não ter percebido quanto nervosismo as plataformas lhe causavam até passar alguns dias sem acessá-las. A queda de sinal, afirmou, tinha deixado claro o quanto “uma notícia provoca mais quando se espalha pelo Facebook”. Sua mãe concordou. Ela disse que quando sua Colômbia nativa havia promovido eleições, algumas semanas antes, seu feed de notícias, dominado por colombianos como ela, se encheu de brigas sectárias e indignação — e, como se fosse um roteiro, com alarmistas falando dos refugiados.

No início daquele ano, em abril, Zuckerberg dera uma entrevista ao editor-chefe do Vox, Ezra Klein, que o pressionou quanto ao genocídio em Mianmar. Como prova do avanço do Facebook, Zuckerberg contou que, no auge do derramamento de sangue, a equipe de segurança da empresa havia identificado usuários em Mianmar incitando violência no Face book Messenger. “Nossos sistemas detectam quando acontece. Não deixamos as mensagens passar”, disse ele. “Mas podem ter certeza de que estamos

prestando atenção.” [23]

Depois que a entrevista foi publicada, grupos de direitos humanos de Mianmar responderam com uma carta aberta furiosa. Na verdade, disseram, eram eles — e não o Facebook — que haviam encontrado as correntes virtuais fomentando violência. E como lhes faltavam as ferramentas internas da empresa para monitorar automaticamente as plataformas, eles tinham conseguido deixá-las às claras apenas através do que afirmavam ser o método muito inconveniente e lamentavelmente insuficiente de caçar uma por uma. Ainda assim, os grupos de direitos humanos haviam sido forçados a bombardear o Facebook com dias de alertas até que alguém na empresa por fim tomasse providências. Mas era tarde demais. Os usuários, aparentemente agindo com base nessas mensagens virais, já tinham organizado e executado três ataques isolados, um dos quais envolvera a tentativa de incendiar uma escola. O episódio, disseram os grupos, evidenciava a “dependência exagerada [do Facebook] de terceirizados, a falta de um mecanismo próprio para casos de agravamento de emergência, a demora em engajar pessoas envolvidas no local em torno de soluções

sistêmicas e a falta de transparência”. [24] Zuckerberg enviou um e-mail aos

grupos pedindo desculpas, [25] mas apenas por não conseguir lhes dar créditos pelos nomes — o que, enfatizaram os ativistas na resposta, não era a maior preocupação deles.

Naquele mês de agosto, as Nações Unidas emitiram seu relatório formal

sobre o genocídio. [26] Ele tratava o papel das mídias sociais, especialmente o Facebook, como “significativo”. Mas o Facebook ainda se recusava a compartilhar os dados com investigadores da ONU , disseram eles próprios, frustrando sua capacidade de entender como o genocídio havia acontecido e, assim, como impedir outro. “Não tem como você resolver o problema num estalar de dedos”, disse Zuckerberg um mês depois. “Leva tempo para contratar gente, preparar essas pessoas e construir os sistemas que sinalizam

o que elas têm que cuidar.” [27] Mas é claro que, tanto em Mianmar quando no Sri Lanka, o Facebook reagira a alertas de violência iminente não com um turbilhão de novas salvaguardas ou contratando moderadores, mas com meses de inércia. Agora, mais uma vez, aparentemente nada tinha mudado, conforme me disse um grupo de monitoramento digital com base em Mianmar. O Facebook solicitara a ele que monitorasse a incitação online cada vez maior e outros perigos. Mas a empresa no geral ignorou os relatórios do grupo, por mais urgentes que fossem. Eles passaram a achar que aquela contratação havia sido uma jogada de marketing.

Adam Mosseri, o executivo que tinha supervisionado o todo-poderoso feed de notícias durante as matanças de Mianmar e do Sri Lanka, foi promovido a vice-presidente do Instagram, depois a presidente. Jen Weedon, a gerente de políticas de segurança do Facebook que não respondera aos alertas dos pesquisadores do Sri Lanka quanto à sanguinolência que se seguiria, também foi promovida. Os rendimentos superaram 55 bilhões de dólares naquele ano, mais de 40% em relação ao

ano anterior. [28]

“Foi o modelo de negócio que nos trouxe problemas”, disse, mais tarde naquele ano, Hany Farid, cientista da computação da Universidade da Califórnia em Berkeley que dera consultoria a governos e grupos de proteção de direitos humanos a respeito de perigos emergentes nas redes sociais. “Sobem quatrocentas horas de YouTube a cada minuto. Um bilhão de uploads no Facebook por dia. Trezentos milhões de tuítes por dia. E é meio bagunçado”, disse ele. “Quanto às empresas da área, eu nem diria que elas dormiram no ponto. Eu diria que elas estavam de olhos bem abertos”, prosseguiu. “Acho que elas sabiam exatamente o que estavam fazendo. Sabiam que tinha veneno na rede. Sabiam que tinha um problema. Mas a questão era ter um crescimento agressivo. Era aí que começava o problema.”

Farid respirou fundo, voltando ao tópico que eu havia levantado, uma tecnologia especializada que as plataformas usavam. Mas depois, perto do fim da explicação técnica, quando se deparou com uma referência ao YouTube, sua voz se elevou de novo. “O YouTube é o pior”, afirmou. Daquelas que ele considerava as quatro principais empresas da internet — Google/YouTube, Facebook, Twitter e Microsoft —, a melhor em gerenciar o que ele chamava de “veneno” era, na sua opinião, a Microsoft. “E faz sentido, não? Não é uma empresa de mídias sociais”, disse. “Mas o YouTube é a pior plataforma nesse quesito”, repetiu.

Fazia um ano desde a polêmica e a controvérsia em torno do Facebook, aceita por muitos como a plataforma mais influente. Mas a exortação de Farid reverberou porque, mesmo enquanto investigava os efeitos da plataforma no Sri Lanka e na Alemanha, eu vinha ouvindo a mesma coisa de peritos digitais, grupos de defesa de direitos humanos e outros: dê uma olhada no YouTube. “O YouTube é a pauta mais desprezada de 2016”, tuitou Zeynep Tufekci, socióloga da Universidade da Carolina do Sul, um ano após as eleições. “Seus algoritmos de busca e recomendação são motores da desinformação.” Mais tarde ela o chamou de “um dos instrumentos mais potentes de radicalização do século XXI ”. Danah Boyd, fundadora de um think tank focado em tecnologia, concordou e disse para minha colega Amanda: “O YouTube pode ser a plataforma mais preocupante do momento”.

Cada vez mais histórias sobre ocorrências estranhas, desestabilizadoras — um grupo de ódio que ganha proeminência, um boato novo e perigoso relativo à medicina, uma criança solitária que se tornou atiradora — citavam o YouTube. Eu mal havia acabado de transcrever minhas anotações da Alemanha quando, semanas depois da minha conversa com Farid, aconteceu algo que deixou claro na mesma hora por que ele emitira seu alerta.

OceanofPDF.com