Epílogo

 

 

Delatores

 

Uma janela se abriu nas semanas que se seguiram ao cerco ao Capitólio. Diferentemente das opiniões hesitantes de 2016 e 2018, agora havia, afinal, amplo entendimento quanto às consequências das mídias sociais. Repensar as plataformas até sua essência era uma coisa que se sentia necessária de um modo que não se sentia até então e, com boa parte do Vale do Silício perplexa, talvez até fosse possível. Especialistas em tecnologia e jornalistas da área ficaram elétricos com as novas possibilidades. Talvez serviços com assinatura, em que os usuários pagassem mensalidade para logar, pudessem acabar com o vício da indústria na receita publicitária e, assim, no engajamento. Talvez leis mais firmes de responsabilização as levassem a realinhar seus incentivos.

Mas a janela se fechou logo em seguida. As gigantes das mídias sociais tinham investido muito nos modelos financeiros e ideológicos do status quo para uma mudança tão radical. No geral, elas se basearam em métodos que conheciam bem: tecnologia automatizada e moderação de conteúdo em larga escala. O Twitter, por exemplo, aumentou um grau no seu “atrito”, somando avisos e intersticiais (“Quer ler o artigo antes?”) para desacelerar usuários que compartilhavam postagens compulsivamente. Foi uma mudança significativa, mas longe da sugestão de Jack Dorsey de repensar a mecânica subjacente da plataforma, que se manteve. Dorsey depois renunciou ao cargo de CEO , em novembro de 2021, com suas promessas audazes não cumpridas.

Poucas semanas depois da insurreição, Zuckerberg anunciou que o sistema de recomendação do Facebook não ia mais promover grupos políticos — um passo com potencial para ser histórico e que enfraquecia

um dos elementos mais perigosos da plataforma. [1] Mas em um sinal de que as reformas da plataforma refletiam meros soporíferos à pressão do lado de fora, e não uma mudança sincera no raciocínio, foi a terceira vez que o Facebook anunciou essa mudança. As promessas anteriores, em outubro de 2020 e em 6 de janeiro, haviam sido praticamente vazias, como

descobriram pesquisadores independentes. [2] Foi só sob pressão dos

legisladores democratas que a última promessa deu frutos reais. [3]

Os reveses do Facebook haviam se iniciado antes da insurreição. Durante a eleição, a plataforma ajustara seu algoritmo para promover veículos de imprensa “abalizados” em vez de links hipersectários. Em dezembro, voltou atrás, restaurando as preferências originais do algoritmo.

[4] Naquele mesmo mês, o Facebook também anunciou que ia acabar com sua proibição a anúncios políticos, mas só no estado da Geórgia, onde duas eleições ao Senado em breve decidiriam o controle da Câmara. A empresa afirmou que estava acatando “especialistas”, que não nomeou e que supostamente haviam dito que anúncios políticos eram cruciais à

“importância de expressar vozes”. [5] Na verdade, grande parte dos grupos democráticos se opôs à mudança. O efeito foi imediato. Antes de a companhia abolir sua proibição de anúncios políticos na Geórgia, os feeds dos usuários mostravam sobretudo matérias do Wall Street Journal e do Atlanta Journal-Constitution. Um dia após o Facebook mudar a regra, matérias do Breitbart, conteúdo sectário e anúncios políticos tomaram o

lugar dos dois jornais. [6] Depois de 6 de janeiro, críticos pressionaram o Facebook para restaurar os ajustes do algoritmo e a proibição de anúncios políticos. A empresa, afinal de contas, havia dito que as duas políticas seriam essenciais para a proteção da democracia. Como ela ia voltar atrás? Mas o algoritmo foi mantido na sua forma mais perigosa e, em março, o

Facebook acabou com a proibição de anúncios políticos em todo o país. [7]

Na mesma velocidade em que voltaram atrás nas reformas, líderes do Vale do Silício também começaram a questionar quanta responsabilidade eles tinham de mudar o que quer que fosse. “Acho que esses acontecimentos foram organizados, em grande parte, em plataformas que não têm nossa capacidade de conter o ódio, não têm nossos critérios e não têm nossa transparência”, disse Sheryl Sandberg, a subcomandante do

Facebook, ao tratar da insurreição de 6 de janeiro. [8] Seus comentários, embora ridicularizados fora do Vale, deram um sinal claro a quem estava lá dentro: vamos levantar as trincheiras.

Alguns dias depois, Adam Mosseri, o ex-diretor do feed de notícias que agora cuidava do Instagram, disse que, embora o 6 de janeiro viesse a “marcar uma grande mudança” na relação da sociedade com a tecnologia,

era importante não exagerar na correção. [9] “Toda tecnologia nova passou por tais momentos”, disse, fazendo comparações que eu já havia ouvido no Vale: “Foi o que aconteceu com o VHS . Foi o que aconteceu com a escrita. Foi o que aconteceu com as bicicletas”. Mas até hoje ninguém conseguiu me apontar quais genocídios foram atribuídos ao VHS .

O Facebook e outros pararam de jurar que haviam aprendido a lição e por fim passaram a insistir, de modo ainda mais estridente do que faziam antes do 6 de janeiro, que todas as provas que apontavam a responsabilidade deles estavam erradas. “Os sistemas do Facebook não são programados para gratificar conteúdo provocador”, disse o chefe de RP do Facebook, o ex-vice primeiro-ministro britânico Nick Clegg, escrevendo em uma postagem de blog com o título “Você e o algoritmo: quando um não

quer dois não brigam”, entre outras 5 mil palavras. [10] Quem impulsionava o “conteúdo escandaloso” eram os usuários, escreveu Clegg.

As empresas voltaram em grande parte aos hábitos de sempre. A cobrança contra a desinformação eleitoral caiu de forma vertiginosa ao longo de 2021, descobriu o grupo de vigilância Common Cause [Causa em comum], conforme mentiras que minaram a democracia foram “deixadas

para formar metástases no Facebook e no Twitter”. [11] Movimentos nascidos nas redes sociais continuaram a crescer, penetrando na trama da governança norte-americana.

No início de 2022, um estudo descobriu que mais de um em cada nove legisladores estaduais do país faziam parte de pelo menos um grupo da

extrema direita no Facebook. [12] Muitos apoiavam as conspirações e ideologias que haviam crescido primeiramente na internet até virarem leis, aprovando levas de legislação que reprimiam direitos de eleitores, políticas contra a covid e defesas de grupos LGBT . Em meio a uma polêmica alimentada pela internet quanto a professores supostamente “aliciando” crianças para a homossexualidade, alguns defendiam projetos de leis que incentivavam as crianças a gravar seus professores para dar provas disso — um eco perturbador e nítido da conspiração do “kit gay” que havia

provocado caos no Brasil a partir do YouTube. [13] O Partido Republicano do Texas, que controlava o Senado estadual, a Câmara e a casa do governador, mudou seu slogan oficial para “Somos a tempestade”, o grito de guerra do QAnon. Em dois momentos distintos, no Colorado e no Michigan, mesários leais ao QAnon foram pegos adulterando o sistema

eleitoral. [14] Na eleição seguinte, em 2022, candidatos alinhados ao QAnon

estavam na cédula em 26 estados. [15]

As gigantes das redes sociais continuaram dando visibilidade a tantas mentiras e conspirações relacionadas à covid que Vivek Murthy, o secretário da Saúde Pública, em julho emitiu um comunicado formal de que as plataformas “viabilizaram desinformação que corrompeu nosso ambiente informacional, com pouca prestação de contas para seus usuários”, o que

ele chamou de “crise iminente”. [16] Um dia depois, Biden disse que o

Facebook estava “matando gente”. [17]

Os democratas, assim como muitos, depositaram boa parte da esperança em investigações das empresas por parte de agências do governo. Em outubro daquele ano, a iniciativa começou com o subcomitê antitruste da Câmara dos Representantes, sob controle do Partido Democrata, que lançou um relatório de 449 páginas recomendando uma regulamentação de vulto contra Facebook, Google, Amazon e Apple que, em alguns casos, causaria

cisão das empresas. [18] Embora o relatório tenha focado em condutas monopolísticas, os legisladores não esconderam que estavam preocupados com o controle que as empresas teriam de questões além do mercado, avisando: “Nossa economia e democracia estão em jogo”.

O Departamento de Justiça havia aberto um processo contra o Google naquele mês de outubro, relacionando a empresa e o YouTube a abusos alinhados com os do relatório da Câmara. A Comissão Federal de Comércio entrou com um processo parecido contra o Facebook em dezembro, sugerindo que podia cindir a empresa em duas. Os dois casos, acompanhados de processos paralelos de várias procuradorias estaduais, prosseguiram ao longo de 2021 e 2022. Mas embora a fiscalização antitruste possa ser uma ferramenta forte, ela é cega. Separar o Facebook do Instagram ou o Google do YouTube ia enfraquecer as empresas, talvez de forma drástica. Porém não mudaria a natureza subjacente de seus produtos. Tampouco ia acabar com as forças econômicas ou ideológicas que haviam produzido esses produtos.

Apesar de todo o papo sobre reconstrução da confiança, o Vale do Silício mostrou, em um episódio apenas um mês após a posse de Biden, que ia usar todo o seu poder contra uma sociedade inteira para não deixar que ela agisse. Agências reguladoras australianas haviam tomado medidas para mirar a maior vulnerabilidade do Vale: o lucro. Em fevereiro de 2021, Facebook e Google seriam obrigadas a pagar a veículos da imprensa

australiana pelo direito de destacar links para seus trabalhos. [19] As plataformas, afinal de contas, estavam sugando a renda publicitária da indústria jornalística enquanto negociava seu jornalismo. A nova regra incluía uma cláusula potente. Se as empresas de tecnologia e as agências de notícias não chegassem a um acordo quanto ao preço até a data imposta, árbitros do governo iriam definir por elas. Na verdade, as regras favoreciam a News Corp, um megaconglomerado gerido por Rupert Murdoch, australiano de nascimento, que em 2016 ameaçara Zuckerberg justamente com uma medida dessas.

Mas, independentemente dos méritos, em termos de tubo de ensaio do poder do governo sobre as plataformas sociais, os resultados foram reveladores. Muito perto do prazo fatal, o Google fechou um acordo com a News Corp e outras, o que a fez entrar em conformidade. O Facebook se recusou. Como resultado, um dia os australianos acordaram e descobriram que o Facebook havia bloqueado todo o conteúdo noticioso. A fonte de informações de maior destaque em um país inteiro — 39% dos australianos disseram que obtinham suas notícias dali — de repente não incluía notícia

alguma. [20] Muito mais desapareceu junto: políticos concorrendo à reeleição, grupos que trabalhavam com vítimas de violência doméstica e o

serviço meteorológico estatal. [21] Até mesmo, no meio de uma pandemia, as Secretarias de Saúde do governo. A empresa finalmente havia feito o que não fizera em Mianmar, depois de um genocídio de meses do qual ela fora acusada, com total credibilidade, de incentivar. Ou no Sri Lanka. Ou na Índia. Em nenhum caso a violência vertiginosa, por mais que fosse letal, levou a empresa a apertar o “off”, mesmo que em um só componente da plataforma. Mas, na semana em que a Austrália ameaçou seu faturamento, as luzes se apagaram.

É evidente que os australianos tinham como acessar sites de notícias ou do governo diretamente. Ainda assim, o Facebook havia, de caso pensado, se tornado essencial, adestrando os usuários para depender de sua plataforma como fonte suprema de notícias e informação. Sem o conteúdo noticioso, boatos e desinformações preencheram o vácuo. Evelyn Douek, uma pesquisadora australiana que estuda a governança de plataformas sociais na Harvard Law School, disse que o blecaute foi “projetado para ter

impacto e foi inadmissível”. [22] O Human Rights Watch taxou a

intervenção de “alarmante e perigosa”. [23] Um legislador australiano alertou que bloquear o serviço meteorológico estatal poderia atrapalhar o acesso de cidadãos a atualizações que, numa semana de enchentes e

incêndios florestais a todo pano, podiam significar vida ou morte. [24] Dias depois, o governo australiano capitulou, aceitando as várias exceções que o Facebook havia imposto à regulamentação.

Governos europeus continuaram a impor multas e regulamentações. Autoridades reconheceram, de forma implícita, que tinham tanta capacidade de impor mudanças estruturais no Vale do Silício quanto suas equivalentes na Austrália ou, naquele caso, as autoridades desafortunadas que encontrei no Sri Lanka — muitas das quais, em 2021, já haviam saído do governo, tendo sido substituídas por um ferrenho ultranacionalista que crescera, em parte, atiçando o ódio e a boataria na internet. O governo francês abriu um centro de regulamentação digital, para o qual contratou, entre outros, Guillaume Chaslot, o ex-engenheiro do YouTube. Ele está especialmente preocupado em encontrar maneiras de mostrar aos usuários da internet como os algoritmos orientam as experiências conforme navegam nas plataformas, e até lhes revelar as opções e os hábitos do sistema em tempo real. Chaslot comparou isso aos avisos em carteiras de cigarro que alertam os consumidores de que fumar provoca câncer de pulmão. No início de 2022, a União Europeia começou a desenvolver novas regulamentações que iriam restringir o modo como empresas de tecnologia norte-americanas podiam usar os dados particulares de consumidores europeus. O Facebook, em relatório anual publicado naquele fevereiro, ameaçou fazer uma versão ainda mais feroz de sua estratégia australiana, alertando que, se a União Europeia seguisse com a medida, ela “provavelmente se veria incapacitada de oferecer vários dos nossos produtos e serviços mais significativos, entre

eles Facebook e Instagram, na Europa”. [25] O ministro das Finanças da Alemanha minimizou a coerção, dizendo a jornalistas que, desde que abandonara as redes sociais, quatro anos antes, “minha vida anda

fantástica”. [26] O ministro das Finanças da França, quase provocando a empresa a cumprir a ameaça, declarou: “Viveríamos muito bem sem o Facebook”.

A pressão pública nos Estados Unidos foi mais desnivelada. O ex-presidente Obama, em um discurso de 2022 no coração do Vale do Silício, alertou que as mídias sociais estavam “turbinando impulsos que estão entre os piores da humanidade”. Ele denominou “a mudança profunda […] em como nos comunicamos e consumimos informação” de um grande impulsionador dos percalços cada vez maiores da democracia, incitando cidadãos e governos a colocar rédeas nas empresas. Ainda assim, o governo Biden estava envolvido com a estabilização da saúde pública e com as emergências econômicas ocasionadas pela pandemia, e depois com a invasão da Rússia à Ucrânia. Nesse meio-tempo, as empresas contrataram muitos dos analistas externos e acadêmicos que as haviam feito passar vergonha investigando seus produtos. Como de hábito, eles eram recrutados por pretensos reformistas do segundo escalão, que provavelmente estavam falando sério ao dizer que fazer pressão nas empresas por dentro tinha mais chances de render resultados. E muitos foram guiados para o abraço do Vale do Silício devido ao colapso do mercado de trabalho acadêmico, no qual oportunidades para quem tem diploma de doutor e está assoberbado pela dívida estudantil foram para as cucuias no momento em que os norte-americanos sofreram com picos nos custos de saúde e educação dos filhos durante a pandemia. Independentemente das motivações para entrar no Vale, o trabalho que faziam para o grande público acabou.

Mas alguns, em parte graças, talvez, a sua notoriedade pelas descobertas chocantes que já haviam feito sobre as mídias sociais, garantiram seu poleiro com alguma estabilidade para continuar na academia. Jonas Kaiser, o pesquisador da comunicação alemão que mapeou o YouTube, foi um deles, tendo ingressado no corpo docente da Universidade Suffolk, de Boston, em fins de 2020. Outro foi William Brady, que se tornou professor assistente da Universidade Northwestern em 2022. Ambos dão continuidade ao trabalho de entender as consequências das mídias sociais, assim como fazem outras dezenas, com incontáveis descobertas por vir.

Alguns encontraram maneiras de fazer pressão na indústria pelo lado de dentro. Entre eles está Renée DiResta, que acompanha causas online e agentes mal-intencionados, como os antivaxxers que incitaram sua jornada, em um centro de pesquisa da Universidade Stanford, no coração do Vale. Por mais que ela tivesse sido cuidadosa em seu depoimento de 2018 ao Senado — para envolver os democratas com mais probabilidade de tomar uma atitude e ao menos conseguir um meio-termo com os republicanos —, DiResta havia alavancado os vínculos que ela e Stanford tinham com empresas das redes, contribuindo com campanhas de sucesso para eliminar campanhas de influência alinhadas com o governo das plataformas, tudo sem nunca, até onde pude ver, poupar sua crítica pública a essas mesmas corporações.

Há um grupo que tem a influência, o acesso e o know-how para pressionar efetivamente o Vale do Silício: sua própria mão de obra. Depois do 6 de janeiro de 2021, a ira dos trabalhadores só cresceu, tendo 40% dos funcionários das gigantes da tecnologia dito no mês de março seguinte que

gigantes como Google ou Facebook deviam ser cindidas. [27] Mas, apesar de todos os músculos que eles haviam brandido em 2020, seu ativismo, em grande parte, cessou. A sindicalização — os cinco dedos que se tornam punho — continua sendo execrada entre gente do Vale, o que torna a mobilização em empresas com 50 mil colaboradores quase impossível. E com remuneração, regalias e segurança empregatícia praticamente inigualáveis na era contemporânea, por que não bater ponto durante uns anos, fazer fortuna e se aposentar em paz?

Mas nem todo mundo decidiu fechar os olhos. Em maio de 2021, uma funcionária do Facebook chamada Frances Haugen, que trabalhava em uma equipe de combate à desinformação eleitoral no exterior, decidiu que bastava. Ela passou a crer que seus soberanos corporativos estavam sacrificando propositalmente a segurança dos usuários, de sociedades inteiras, até da própria democracia, em prol da maximização do lucro.

Haugen copiou milhares de relatórios de pesquisa interna, memorandos de reuniões e diretivas corporativas, fotografando sua tela em vez de baixar os arquivos para não ativar as medidas de segurança. Ela esteve meses em contato com Jeff Horwitz, um jornalista do Wall Street Journal com quem tivera contato pela primeira vez em dezembro de 2020, impressionada com a cobertura feita por ele da influência prejudicial das mídias sociais na

Índia, onde ela havia passado algum tempo. [28] Mas Haugen ainda levaria alguns meses até formular seus planos quanto ao que fazer com os arquivos.

“Só não quero passar o resto da vida em agonia pelo que não fiz”, escreveu Haugen na mensagem enviada a uma amiga em setembro de 2021,

enquanto pensava se iria a público. [29] Pouco depois, ela mandou os arquivos à Comissão de Valores Mobiliários dos Estados Unidos, a agência reguladora que supervisiona práticas do mercado, como parte de oito depoimentos de delatores alegando má conduta empresarial do Facebook. Ela também os enviou ao Congresso e para Horwitz, que começou a revelar os segredos neles contidos.

Em conjunto, os documentos contavam a história de uma empresa plenamente ciente de que seus males às vezes excediam até as opiniões mais intensas dos críticos. Em certos momentos, os relatórios alertavam explicitamente perigos que viriam a se tornar letais, como um pico de discurso de ódio ou de desinformação sobre vacinas, com aviso prévio suficiente para a empresa ter tomado atitude e, caso não houvesse se recusado, possivelmente salvado vidas. Em relatórios inegáveis e linguajar direto, eles mostravam os dados e especialistas do próprio Facebook confirmando as alegações que a empresa desprezara em público de modo tão displicente. Os executivos do Facebook, entre os quais Zuckerberg, haviam sido avisados claramente de que a empresa representava um perigo tremendo, e esses executivos, mesmo assim, intervieram repetidas vezes para manter suas plataformas funcionando a toda. Os arquivos, que o Facebook tratou como não representativos, confirmavam muitas das desconfianças de longa data. Mas alguns iam mais longe. Uma apresentação interna sobre como fisgar mais crianças para produtos da empresa incluía a frase “Existe uma maneira de potencializar atividades entre crianças para aumentar troca de mensagens/crescimento?”.

Conforme a indignação pública crescia, o programa 60 Minutes anunciou que iria ao ar uma entrevista com a pessoa que vazou os documentos. Até então, a identidade de Haugen ainda era segredo. A entrevista que ela deu superou um debate de anos quanto à tecnologia graças à clareza com que ela montou a acusação: as plataformas amplificavam males sociais; o Facebook sabia; a empresa tinha poder para impedir, mas optou por não usar; e a empresa mentiu continuamente a agências reguladoras e ao público. “O Facebook percebeu que, se eles mudarem o algoritmo para ter mais segurança”, disse Haugen, “as pessoas vão passar menos tempo no site, vão clicar em menos anúncios e eles vão

ganhar menos dinheiro.” [30]

Dois dias depois, ela depôs a um subcomitê do Senado. Haugen se apresentou como uma pessoa lutando para reformular a indústria e resgatar seu potencial. “Podemos ter mídias sociais que curtimos, que nos conectam, sem rasgar nossa democracia ao meio, sem colocar nossos filhos em risco e

sem semear a violência étnica mundo afora”, disse ela aos senadores. [31] Trabalhando com Lawrence Lessig, um pesquisador de direito da Universidade Harvard que se voluntariou para ser seu advogado, e com uma empresa de comunicação contratada por ele, Haugen também enviou os documentos a dezoito agências de notícias norte-americanas e europeias. Ela instruiu deputados cujos assentos em comitês lhes davam poder para moldar novas regulamentações. Circulou por capitais europeias, reunindo-se com autoridades de alto escalão cujos governos haviam aberto a rota da regulamentação das redes.

Ao longo de tudo isso, Haugen consistentemente remontava aos fracassos do Facebook em países mais pobres. Esse histórico, defendeu ela, evidenciava a insensibilidade da empresa com o bem-estar de seus clientes, assim como o poder desestabilizador das dinâmicas da plataforma que, afinal de contas, aconteciam em todo lugar. “O que vemos em Mianmar, o que vemos na Etiópia”, disse ela em uma mesa-redonda, “são apenas os primeiros capítulos de um livro que tem um final muito mais assustador do

que tudo que queremos ler.” [32]

Democratas e grupos de direitos civis, alavancando a indignação que Haugen gerou e a ameaça de processos antitruste em jogo, se concentraram em fazer pressão pela regulamentação contundente de empresas de redes sociais. O governo dos Estados Unidos, afinal de contas, pode ser a única entidade no mundo que ainda tem poder para forçar as empresas a mudar. Ainda assim, é difícil imaginar vinte ou trinta legisladores, atuando em uma das legislaturas mais problemáticas do mundo ocidental, acompanharem milhares de engenheiros totalmente incentivados para substituir qualquer recurso ou política que for regulamentado, por outra coisa que alcance o mesmo resultado.

Coagir as empresas a se autoregulamentarem também é um caminho incerto. As gigantes das redes, tal como constituídas atualmente, talvez sejam incapazes de revogar as piores tendências dos seus sistemas. Tecnicamente, seria fácil. Porém, antes de tudo o mais, as forças culturais, ideológicas e econômicas que levaram os executivos a criar e abastecer esses sistemas ainda se aplicam. Legisladores e ativistas podem berrar o quanto quiserem com Zuckerberg, Wojcicki e outros. Os fundadores e CEO s dessas empresas, apesar da sua riqueza fabulosa, têm sido, tenham percebido ou não, prisioneiros de suas criações desde o dia em que um capitalista de risco lhes assinou um cheque em troca da promessa de crescimento exponencial e permanente.

Quando indagada em relação ao que iria trazer correção tanto às plataformas quanto às empresas que as fiscalizam, do modo mais eficiente, Haugen tinha uma resposta simples: desligar o algoritmo. “Acho que não queremos que nossos computadores decidam no que vamos focar”, disse. Ela também sugeriu que, se o Congresso restringisse as proteções quanto à responsabilização, deixando as empresas legalmente responsáveis pelas consequências de qualquer coisa que seus sistemas promovessem, “eles iriam se livrar da classificação baseada em engajamento”. As plataformas iriam voltar aos anos 2000, quando simplesmente mostravam as postagens dos seus amigos da mais nova à mais antiga. Não iria haver IA para encher você de conteúdo que maximizasse a atenção ou o fizesse cair em tocas de coelho.

A resposta dela seguiu um padrão confiável que tem aparecido nos anos que passei cobrindo mídias sociais. Quanto mais tempo alguém passa estudando as plataformas, seja qual for sua área, o mais provável é que chegue à resposta de Haugen: desligue. Às vezes a recomendação é mais direcionada. Jonas Kaiser insistiu para o YouTube desativar seus algoritmos quanto a assuntos delicados como saúde ou relacionados a crianças. Às vezes ela é mais ampla. Benedict Evans, ex-capitalista de risco da Andreessen Horowitz, propôs “remover camadas dos mecanismos que viabilizam abusos”. Afinal de contas, algoritmos estão longe de ser o único recurso por trás do caos nas redes. As interfaces que lembram cassinos, os botões de compartilhar, os contadores de “curtidas” que todo mundo pode ver, as recomendações de grupos — tudo é intrínseco às plataformas e seus males.

Há, como em qualquer caso contencioso, meia dúzia de peritos discordantes, que defendem que há exagero quanto ao impacto das mídias sociais. Eles não discutem as provas do papel da tecnologia em males como a radicalização, mas, isso sim, usam vários métodos que rendem resultados mais suaves. Ainda assim, a perspectiva deles continua sendo minoritária e de ênfase relativa, similar à defesa de que a parte das emissões dos automóveis na mudança climática é menor que os das usinas de carvão.

Praticamente nenhum dos especialistas ou dissidentes defende que o mundo se beneficiaria do fechamento total das mídias sociais. Todos tinham chegado aos seus cargos, afinal de contas, a partir da crença de que as redes traziam bens inegáveis e, se libertas da sua mecânica de impulsionar o lucro, ainda podiam se provar revolucionárias. Mas independentemente da recomendação, para vários pesquisadores sérios, analistas ou defensores de direitos humanos, tudo se resume a alguma versão do “off”. Seria uma internet menos sedutora, menos envolvente, na qual vídeos do YouTube que encantam ou grupos de Facebook que chamam a atenção seriam mais raros e não estariam prontamente à mão. Mas todas as provas também sugerem que seria um mundo em que menos professores seriam perseguidos até terem que se esconder, menos famílias seriam queimadas vivas na própria casa devido a revoltas alimentadas por boataria, menos vidas seriam arruinadas pela infâmia ou pela falsa promessa do extremismo. Menos crianças seriam privadas de vacinas capazes de salvar sua vida ou expostas à sexualização indesejada. Talvez até menos democracias seriam dilaceradas pela polarização, pelas mentiras e pela violência.

Um dos motivos pelos quais muitos especialistas convergem na resposta, penso eu, é que vários, quando chegam no seu quarto ou quinto grande estudo, já foram ao Vale do Silício e conheceram os soberanos engenheiros. E passaram a entender que um aspecto da argumentação que eles fazem em público é fato: eles acreditam que não estão promovendo de propósito nem a desinformação, nem o ódio, nem o tribalismo. Até onde pensam esses efeitos, o que eles querem é reduzi-los. Mas é isso que torna uma visita ao Vale tão perturbadora. A mistura de ideologia, cobiça e a opacidade tecnológica na complexidade do machine learning nubla executivos quanto a ver essas criações por inteiro. As máquinas, no que diz a respeito a tudo que importa, são essencialmente desgovernadas.

Quanto mais falei com psicólogos e analistas de redes, agências reguladoras e engenheiros convertidos, mais os termos que eles usavam para descrever essa tecnologia me lembravam HAL 9000, a inteligência artificial de 2001: Uma odisseia no espaço , o filme de Kubrick cuja relevância havia se imposto repetidas vezes na minha investigação sobre as mídias sociais. No filme, HAL , embora responsável pela segurança da tripulação, inventa interpretações de programação que o instruem a garantir a chegada a seu destino pré-planejado independentemente do que vier a acontecer e tenta matar todos a bordo da nave. HAL não foi criado para ser vilão. Se existia um vilão, eram os engenheiros que, em sua arrogância, imaginaram que as atitudes da sua criação seriam tão benevolentes quanto as intenções deles. Ou talvez fossem os astronautas, que se deitaram nos braços de uma máquina que detinha o poder de vida e morte e cujos estímulos podiam divergir dos deles.

A lição de 2001 está longe de ser que HAL deveria passar por uma atualização e por ajustes no algoritmo, na esperança de que, na próxima vez, ele fosse se comportar com um pouco mais de responsabilidade. Tampouco que os engenheiros do HAL deveriam pedir desculpas e prometer que da próxima vez fariam melhor. E certamente não foi que a fabricante do HAL deveria assumir um controle cada vez maior da vida de seus consumidores enquanto legisladores e jornalistas refletiam sobre a natureza do robô. Não há dúvidas quanto à lição: que desligassem o HAL . Mesmo que isso significasse perder os benefícios que ele trazia. Mesmo que fosse difícil, nas últimas cenas do filme, arrancar os seus tentáculos dos sistemas que regiam cada faceta da vida dos astronautas. Mesmo que a máquina revidasse com tudo que pudesse.

OceanofPDF.com