A maldição Dunbar

Wu, enquanto assistia ao desenrolar do Gamergate, se lembrou de um momento de anos antes, quando fora estagiária no gabinete do senador Trent Lott, do Mississippi. A equipe do senador havia feito uma enquete hoje famosa: “Você acredita que os democratas estão tentando roubar sua identidade cultural?”. O resultado foi espetacular, principalmente entre homens brancos. Imagine, disse ela, como as redes sociais podiam ser convenientes nesse sentido, otimizadas para provocar as emoções das pessoas de forma até mais eficiente que o mais sagaz dos gabinetes de campanha, saturando públicos aos bilhões com uma versão da realidade que opera como uma enquete de ativação da identidade infinita. “Exatamente como naquela enquete do Mississippi, acho que existia o medo real de que as mulheres estavam vindo roubar sua identidade cultural”, Wu falou do Gamergate. “O negócio é tribal.”

A maldição Dunbar

Ao longo do início dos anos 2010, conforme subculturas estilo Gamergate sobrepujaram as redes sociais de primeira geração, o Facebook, na surdina, buscava uma meta audaciosa: exceder os limites cognitivos da socialização humana. Com o tempo, o plano iria impor a bilhões de usuários uma versão ainda mais poderosa das distorções da mente que o Reddit e o 4chan haviam trazido a gamers e a seus primeiros adeptos, incitando um mundo de Gamergates.

A origem foi uma crise que a empresa enfrentou em 2008, do tipo que concentrou a atenção da companhia como poucas: o crescimento dos usuários havia estancado. Em qualquer outro mercado, chegar aos 90 milhões de clientes podia ser uma oportunidade de vender produtos novos ou melhores. Porém, na economia da internet, uma base de usuários estática podia ser fatal. “Lembro de gente dizendo que não era possível afirmar se ia passar de 100 milhões na época”, disse Zuckerberg. “Basicamente demos de

cara com um muro e precisávamos focar nisso.” [50]

O Facebook, na esperança de impulsionar o engajamento, começou a fazer experimentos para quebrar o dito “limite Dunbar”. Nos anos 1990, o antropólogo britânico Robin Dunbar havia proposto que seres humanos atingem um teto cognitivo quando mantêm por volta de 150

relacionamentos. [51] Era um número derivado dos grupos sociais nos quais havíamos evoluído, que tinham o máximo de 150 pessoas. Mais que isso e nosso neocórtex — a parte do cérebro que rege a cognição social — bate no limite. Nosso comportamento também muda, tentando retornar aos 150, como um disparo de disjuntores. Mesmo na internet, as pessoas convergiam naturalmente para o número Dunbar. Em 2010, o usuário médio do

Facebook tinha por volta de 130 amigos; [52] até mesmo o jogo Friendster

travava o número de amigos em 150. [53]

O Vale do Silício sonhava havia muito tempo em “fugir da maldição

Dunbar”, [54] como escreveu um consultor empresarial em 2010.

Zuckerberg declarou publicamente que queria derrubar o limite. [55] Mas o plano emperrou. Nem o Facebook ia conseguir sobrepujar milhões de anos de evolução — não por enquanto, pelo menos. Quando o crescimento do número de usuários estancou de novo, em 2013, a empresa se repensou em torno dessa meta. Os usuários eram impulsionados para conteúdo pelo que a plataforma chamava de “laços fracos”: amigos de amigos, contatos de contatos, primos de primos.

Reforçado pela sofisticação algorítmica, o esquema deu certo. O Facebook puxou os usuários a rodas cada vez maiores de semidesconhecidos, superando o limite Dunbar. Por volta dessa época, o Twitter fez quase a mesma coisa, mostrando aos usuários tuítes de desconhecidos e dando empurrõezinhos para que as pessoas seguissem os amigos dos amigos. As empresas demonstraram pouca preocupação com as consequências que haveria em contornar nosso limite neurológico pré-programado. Elas atuaram, como sempre fizeram, com base na crença de que seus produtos inerentemente promoviam libertação.

Porém, pesquisas feitas com macacos e primatas rhesus — cujos limites do tipo Dunbar, acredita-se, refletem os nossos — descobriram que forçar os animais a participar de grupos maiores os deixava mais agressivos, mais desconfiados e mais violentos. Como se todos os perigos de viver em comunidade ficassem com o volume lá no alto e os prazeres, lá embaixo. Era como se os macacos sentissem que manejar um grupo anormalmente grande, com segurança, estivesse além de suas capacidades, provocando uma reação de luta ou fuga que nunca se desligava. Eles também pareciam mais focados em formar e reforçar hierarquias sociais, provavelmente como

uma espécie de mecanismo de defesa. [56]

O Facebook logo descobriu um método ainda mais potente para ampliar as comunidades de usuários. Em vez de fazer pressão para sua lista de amigos superar os 150, ele podia enfiar você num grupo — páginas de discussão autônomas focadas em um assunto ou um interesse — que tivesse dez vezes esse tamanho. Isso deu ainda mais poder aos seus sistemas. Não mais limitados ao conteúdo de gente próxima do seu círculo social, o sistema podia dar um empurrãozinho para você seguir grupos de qualquer ponto da plataforma.

Renée DiResta, a investidora de tecnologia que descobriu as comunidades antivacina espalhadas no Facebook, percebeu o quanto essa mudança era diferente quando sua luta entrou em uma nova fase. A Califórnia estava pensando em leis para reforçar a obrigatoriedade de vacinação escolar. Ela promoveu o projeto legislativo e seu embasamento científico nas redes, torcendo para que conseguisse contrapor as posturas antivacina que lá eram tão predominantes. O Facebook começou a recomendar que ela entrasse em outros grupos de pais. Depois, em grupos antivacina, mesmo que isso não fosse surpresa diante da sua movimentação. Mas em seguida promoveu grupos em torno de desinformação médica sem relação alguma. Muitos grupos promoviam uma teoria da conspiração da qual DiResta nunca tinha ouvido falar: que o zika, um vírus que estava se espalhando pela América Latina e pelos Estados Unidos, havia sido desenvolvido em laboratório. Ela procurou no Facebook o termo “zika” para testar se, tal como acontecia com as vacinas, a plataforma estava impulsionando os usuários para o extremismo. De fato, os resultados eram todos de grupos de conspiração que chamavam o zika de “complô judaico”, “plano de controle da população” e “primeiro passo da tomada de poder global”.

“Existe um efeito de correlação entre as teorias da conspiração”, disse DiResta, “no qual a plataforma reconhece que alguém interessado na conspiração A em geral tende a se interessar na conspiração B, e aí faz esta pipocar para a pessoa.” A era dos grupos do Facebook promoveu algo mais específico que o consumo passivo de conspirações. Ler a respeito de

contrails [3] ou do vírus fabricado em laboratório podia tomar uns vinte minutos. Mas entrar em uma comunidade organizada para reagir a essas coisas podia se tornar um ritual diário de meses ou anos. Cada vez que um usuário sucumbia, eles adestravam o sistema para incentivar outros a fazer o mesmo. “Se morderem a isca”, disse DiResta, “eles reforçam o aprendizado. Então o algoritmo entende esse reforço e lhe atribui mais peso.”

Outros observadores das mídias sociais no grupo informal de DiResta perceberam que o Facebook e outras plataformas os encaminhavam de modo parecido. O mesmo padrão se repetia várias vezes, como se a inteligência artificial houvesse descoberto, de forma independente, uma verdade comum e terrível a respeito da natureza humana. “Chamei de radicalização pela ferramenta de recomendação”, disse ela. “Quando se tem uma métrica baseada em engajamento, você cria um mundo no qual o conteúdo mais raivoso vira norma.”

A lógica algorítmica era forte, até mesmo brilhante. A radicalização é um processo obsessivo, que consome a vida. Os adeptos retornam cada vez mais, sua obsessão vira identidade, as plataformas sociais se transformam no centro de seu cotidiano. E os radicais, guiados pela urgência de suas causas, recrutam mais radicais. “Criamos uma máquina da indignação na qual as pessoas participam impulsionando o conteúdo”, declarou DiResta. As pessoas que eram radicalizadas seriam, daí em diante, “disseminadoras daquele conteúdo”. Ela vira o padrão se repetir várias vezes. Os recrutas eram atraídos por uma ameaça ostensiva de vida ou morte: a terrível verdade sobre as vacinas, a disseminação do vírus zika pelos agentes dos Illuminati, as feministas que querem tirar o lugar legítimo dos homens no topo da hierarquia dos gêneros, a começar pelos jogos. “Gente comum passou a se sentir como soldado de um exército virtual lutando pela sua causa”, concluiu ela. Era questão de tempo até que se convencessem uns aos outros a tomar uma atitude.

Mas enquanto DiResta conseguia demonstrar que isso acontecia em casos específicos, sem acesso às pilhas de dados exclusivos das empresas ela só podia inferir que as plataformas estavam guiando essa tendência de maneira sistemática. Ela alertou colegas em todo o Vale do Silício — primeiro dentro de seu grupo de vigilância informal, depois de forma mais ampla, em artigos e palestras para o grande público — de que algo estava fora do lugar. Ela se preocupava, contudo, que fosse tarde demais. “Eu tinha uma sensação”, contou, “de que não importava se eram gamers, antivaxxers ” ou outro grupo que estava radicalizado em grande escala. “Era só a dinâmica que estava se moldando por conta do sistema.”

O Gamergate, visto sob essa luz, era inevitável, exatamente o que aconteceria quando os primeiríssimos adeptos das mídias sociais, os gamers, interagissem com uma máquina calibrada precisamente para produzir tal reação. Grupos maiores e mais abrangentes, pessoas comuns sem qualquer vínculo especial com a internet, já estavam entrando nas redes, submetendo-se à influência da máquina. Havia todos os motivos para esperar que suas experiências fossem praticamente a mesma. Em princípios de 2015, já estava começando.

OceanofPDF.com