Consertando um avião durante o voo

esforço por integridade do produto” pensado para proteger as eleições. [68]

Yaël Eisenstat, ex-conselheira da Casa Branca que supervisionou as diretrizes do Facebook em eleições durante seis meses, até se demitir,

publicou uma coluna sobre a polêmica. [69] Ela afirmava ter visto os gestores de políticas da companhia darem duro para equilibrar integridade democrática com a missão do Facebook, mas serem desprezados pelas “poucas vozes que acabaram decidindo a direção geral da empresa”. O Facebook, avisou ela, estava perdendo “no maior teste em relação à sociedade e à democracia ficarem ou não à frente do lucro e da ideologia”.

Consertando um avião durante o voo

Uma terça-feira sim, outra não, durante a manhã, dezenas de funcionários do Facebook rodeavam uma sala de reuniões envidraçada para fazer o que parecia ser, de início, uma reunião de equipe no Vale do Silício. Eles beliscavam no bufê de café da manhã, soltavam suas garrafinhas d'água ecológicas e ficavam mexendo no software de videoconferência. Então se acomodavam e discutiam, em uma hora que passava rápido, como aprimorar e ajustar a experiência corrente de gestão das relações sociais e do discurso político no mundo inteiro.

Na semana em que visitei a empresa, em outubro de 2018, um tópico importante eram os critérios para a venda de animais nas páginas de comércio da plataforma no estilo Craigslist. Os funcionários discutiam como equilibrar os direitos e interesses de animais silvestres, bichos de estimação, gado, fazendeiros e criadores. As regulamentações da Europa seriam revistas. Um grupo de fora daria consultoria. Alguém levantou, para fins de reflexão, a importância econômica do comércio de gado para usuários na África. As decisões deles seriam traduzidas em regras maquinais e orientações a ser transmitidas a Jacob e milhares de outros moderadores mundo afora — que, por sua vez, as usariam para reger bilhões.

O Facebook havia me convidado para assistir à reunião depois de saber que eu conseguira os manuais internos — os que Jacob tinha me passado em segredo. Queriam que eu entendesse as pastas dentro do contexto e, como me disse um funcionário, aos poucos começasse a abrir seus processos para o mundo. Monika Bickert, que comanda a equipe de políticas, me informou, em uma de aproximadamente doze entrevistas que a empresa havia marcado, que o processo de regulamentação costumava ser reativo. Um funcionário, uma notícia ou um grupo de pressão podia sinalizar um problema. Alguém elaborava uma nova regra, trabalhava-a na reunião, depois a passava pelo processo de revisão. Podia passar por um teste em um mercado específico antes de ser empregada em outros. “Não estamos traçando limites no vácuo”, explicou Bickert, descrevendo as normas e os princípios jurídicos que os orientavam. Mas quanto mais complexas ficavam as regras, mais difícil era implementá-las com moderadores de baixo escalão como Jacob, sobretudo dado o tempo absurdamente curto que os moderadores tinham para tomar decisões. Bickert estava ciente da contradição. “Toda vez que deixamos nossas políticas mais matizadas, fica mais difícil aplicar essas regras de jeito consistente e acertar o ponto no mundo”, disse. “Existe uma tensão real entre querer ter nuances que deem conta de qualquer situação, e querer um conjunto de políticas que possamos executar com exatidão e de maneira clara.”

Eu me vi oscilando entre simpatia e ceticismo quanto aos soberanos das políticas do Facebook. Eles eram atenciosos e, na maior parte do tempo, honestos quanto a sua capacidade de tratar das complexidades comportamentais e políticas cuja gestão lhes cabia. Alguns haviam entrado para a empresa pensando que fariam mais bem melhorando-a de dentro do que criticando-a de fora. E estavam encurralados na impossível função de faxineiros das equipes de crescimento da companhia, com mais recursos e mais confete, e que faziam toda a sujeira. Enquanto roíam as unhas com problemas como os discursos de ódio contra refugiados ou a desinformação em eleições delicadas, os engenheiros do outro lado do corredor estavam fazendo círculos vermelhos nas métricas de engajamento dos usuários e, quase inevitavelmente, piorando a situação.

Ainda assim, era difícil separar a benevolência do trabalho deles do grau com que se queria, como afirmavam claramente alguns documentos de políticas, proteger o Facebook da retaliação do público ou da regulamentação. Passei a pensar a equipe de políticas do Facebook tal como se fossem cientistas da Philip Morris encarregados de desenvolver um filtro melhor e mais seguro. Em certo sentido, reduzir os carcinógenos que bilhões de fumantes ingeriam mundo afora salvou ou prolongou vidas em uma escala que poucos de nós teriam como equiparar. Em outro sentido, esses cientistas estavam trabalhando para a fabricante de cigarros, promovendo a causa de vender cigarros que prejudicava as pessoas em uma escala enorme.

Não me surpreendi, portanto, quando todos com quem eu conversava no Facebook, fosse a pessoa mais inteligente ou mais introspectiva, expressavam certeza absoluta de que o produto era naturalmente inofensivo. De que não havia prova de os algoritmos ou outros recursos guiarem usuários ao extremismo ou ao ódio. De que a ciência ainda não concluíra se cigarros viciavam mesmo ou se realmente causavam câncer. Mas, por mais que se tenha descoberto que a Philip Morris tinha estudos empilhados até o teto comprovando os riscos à saúde que seus executivos haviam insistido não existir, os pesquisadores do próprio Facebook vinham acumulando provas, em pilhas de relatórios e experimentos internos, para uma conclusão que viriam a publicar explicitamente em agosto de 2019: “A mecânica da

nossa plataforma não é neutra”. [70]

Um relatório interno sobre discurso de ódio e desinformação havia descoberto, escreveram seus autores, “evidências convincentes de que as mecânicas centrais do nosso produto, tais como viralização, recomendações e otimização do engajamento, são parte significativa do motivo para tais tipos de discurso prosperarem na plataforma”. O relatório, depois vazado para a imprensa e para a Comissão de Valores Mobiliários, alertava que a empresa estava “efetivamente (mesmo que não necessariamente de modo

consciente) promovendo atividades daquele tipo”. [71]

Porém, no período que passei no Facebook, qualquer pergunta feita sobre as consequências de fazer com que uma fatia cada vez maior da experiência humana passe por algoritmos e interfaces gamificadas, projetadas, a princípio, para “maximizar o engajamento”, só me rendeu, todas as vezes, olhares de incompreensão. Executivos que momentos antes haviam se aprofundado em questões sensíveis sobre terrorismo ou regulamentação estrangeira começavam a piscar e mudavam de assunto como se não tivessem entendido o que eu havia dito. “As pessoas usam o celular para estruturar coisas ruins. Aliás, talvez tudo de ruim que aconteça por meio dos nossos serviços esteja acontecendo por meio de um celular”, disse um executivo sediado em Londres. “Você defenderia não ter um celular ou, na verdade, que deveríamos diminuir o uso do celular, porque ele tem sido usado de maneira prejudicial?”

Parte de mim torcia para que estivessem tentando me engambelar. Que eles entendiam, mas não podiam reconhecer abertamente os efeitos do seu serviço de distorcer realidades e comportamentos. Eu me sentia no terceiro ato de 2001: Uma odisseia no espaço , quando os dois astronautas que sobraram tramam o que fazer com HAL , a inteligência artificial que, depois de supervisionar a jornada de tantos anos, enlouqueceu e matou o restante da tripulação. Tentei imaginar a cena principal deles de outra maneira: quando um astronauta pergunta ao outro como deter a matança de HAL , o outro responde: “Quem?”.

Para provar as boas intenções da empresa, quase todo mundo com quem conversei lá mencionou a reação dela ao genocídio em Mianmar. Embora reconhecessem que fora uma medida tardia, a plataforma havia banido o notório grupo extremista comandado pelo monge racista Wirathu, que a tinha usado como arma para incitar violência coletiva contra minorias desde 2014. Claro que isso era uma prova de maturidade. Mas os grupos digitais em Mianmar vinham me dizendo havia meses que a propaganda caça-raça do grupo de ódio continuava sendo disseminada online. As explicações, como se descobriu, estavam nos arquivos do Facebook. Um manual de Mianmar, formatado em um jovial Powerpoint de 32 slides, afirmava o oposto do que os executivos do Facebook acreditavam que era sua política: o conteúdo postado por um grupo de ódio ou que o apoiasse, dizia o livro,

não devia ser retirado. [72] Dedicava uma página inteira a essa questão. Era como intervir em Ruanda e, por engano, dizer às emissoras de rádio genocidas para seguir transmitindo. Mesmo depois de todas as falhas da plataforma, um erro tão flagrante, em um assunto tão importante, ainda chocava. Quando apontei isso a representantes do Facebook, a empresa disse que ia corrigir os documentos.

Discussões no Vale do Silício a respeito de como usar seu poder — submeter-se mais ou menos aos governos, enfatizar neutralidade ou assistência social, consistência ou flexibilidade — raramente levavam em conta a possibilidade de que eles não deviam ter poder algum. De que consolidar informação e relações sociais sob a égide de empresas que maximizam lucro estava em desacordo fundamental com o bem público.

Mas, dado que a escala do repúdio às gigantes da tecnologia e as provas de seus males não podiam ser desprezadas, o Vale se decidiu por uma narrativa interna, ao longo de 2018 e 2019, que levou seus líderes a achar que ainda eram os bonzinhos. Eles a chamaram de “tempo bem gasto”, expressão tomada de empréstimo de Tristan Harris, ex-engenheiro do Google que havia alertado quanto ao condicionamento viciante e que se

demitiu em 2015. [73] Agora essa era a grande novidade do Vale. Facebook, Google, Apple e outras apresentavam novos recursos para acompanhar e gerenciar o tempo de tela dos usuários. Era uma espécie de reposicionamento: aprendemos com nossos pecados (convenientemente reduzidos a “muito tempo de tela”), tivemos um grande despertar e agora somos cruzados do bem.

O Laboratório de Tecnologias Persuasivas de Stanford, onde acadêmicos e engenheiros desenvolviam parcerias para criar serviços de vício máximo, foi renomeado “Laboratório de Design do Comportamento”. Seu líder tuitou: “Vamos começar a perceber que ficar acorrentado ao celular é um

comportamento de baixo nível, parecido com fumar”. [74] Nir Eyal, o consultor que havia sido o primeiro a falar de caça-níqueis como modelo das plataformas de redes sociais, passou de guru da maximização do tempo de tela para guru da redução do tempo de tela, e publicou um livro com o

título Indistraível. [75]

Harris chamou a campanha de cooptação que pouco fazia para resolver

os males reais. [76] Os aplicativos continuaram a atualizar seus algoritmos do vício, mas acrescentaram minúsculos contadores para lhe dizer quantas horas você passava conectado. Outros a chamaram de golpe de marketing. A meu ver, isso tinha cara de uma jogada para desculpar a si mesmo. Para cada campanha publicitária que dizia aos consumidores que o Vale do Silício agora defendia o bem-estar digital, havia muito mais retiros de ioga para autoconhecimento ou grupos de meditação que diziam a mesma coisa aos funcionários do Vale. Os executivos se reuniam para purificar a alma da culpa, parabenizar uns aos outros pela evolução e em seguida voltar ao growth hacking. A autoflagelação como autoafirmação — sentir-se bem por sentir-se mal — se tornou uma indústria em si mesma.

“Os CEO s no fundo estão sofrendo. Não conseguem dormir”, [77] disse ao New York Times Ben Tauber, ex-gerente de produto no Google que havia transformado uma comuna riponga à beira-mar chamada Esalen em retiro para executivos da tecnologia. Era um conjunto de contorcionismos muito esquisito. Mas fez por executivos o que as performances dos CEO s de guerra tinham feito pela moralidade corporativa e os moderadores tinham feito pelo discurso de ódio: encobrir a lacuna sem solução, talvez insolúvel, entre o propósito declarado das plataformas quanto a liberdade e revolução e seus efeitos concretos no mundo.

Passei a crer que esse era o real problema da governança. Se era um tabu pensar que as mídias sociais em si, tal como os cigarros, podiam estar causando os males que quase sempre se seguiam a sua adoção, então os funcionários encarregados de gerenciar esses males tinham uma limitação que era impossível transpor. Isso explicava boa parte da incoerência esquisita dos manuais. Sem um entendimento completo do impacto das plataformas, as políticas são, em sua maioria, reações olho por olho às crises ou aos problemas conforme surgem: um boato viral, um surto de abusos, uma revolta. Funcionários seniores fazem um ajuste, esperam para ver o que acontece, depois fazem outro, como se estivessem consertando um avião durante o voo.

Pouco mudou para os moderadores que eram chamados para executar esses planos. Continuaram a surgir relatos de condições de trabalho opressivas. Jacob, como costuma acontecer com essas fontes, recuou das nossas conversas conforme seu empregador caçava o informante que havia causado constrangimento à firma perante o Facebook. Em 2018, um moderador norte-americano entrou com uma ação, que depois foi acompanhada por várias outras, contra o Facebook por não fornecer a mínima segurança exigida por lei enquanto demandava que eles vissem

material que a empresa sabia ser traumático. [78] Em 2020, o Facebook fechou um acordo em uma ação coletiva, aceitando pagar 52 milhões de dólares a 11 250 moderadores, tanto atuais quanto já desligados, nos

Estados Unidos. [79] Os moderadores de fora do país não ganharam nada. O modelo de negócio subjacente à moderação continua igual.

OceanofPDF.com