5. Despertando a máquina

Algoritmificação

Há muito tempo, tanto que poderia ter evitado boa parte do caos posterior, um especialista em inteligência artificial (IA ) no Google tentou trazer às claras um dos maiores segredos escancarados da indústria: ninguém sabe direito como os algoritmos que regem as mídias sociais funcionam de fato. Os sistemas operam de maneira semiautônoma. Seus métodos estão além da compreensão humana. Mas o Vale tinha incentivos para continuar ignorante. Se você for verificar como o ganso consegue os ovos de ouro, talvez não goste do que vai descobrir. Talvez tenha até que devolver os ovos.

O especialista em IA , um francês chamado Guillaume Chaslot, admirava as empresas das mídias sociais desde os tempos de seu doutorado na Europa nos anos 2000. A tecnologia das plataformas não era tão sofisticada na época, mas o potencial delas, acreditava ele, era revolucionário. Depois de terminar sua tese, Chaslot partiu para a Califórnia. No fim de 2010, conseguiu um emprego no Google.

“Eu não sabia no que ia trabalhar, porque eles primeiro contratam a pessoa e depois alocam-na num projeto”, disse Chaslot, que fala em balbucios sussurrados, mas com vigor. Ele descobriu que viria a trabalhar numa plataforma de vídeo comprada pelo Google por insistência de uma executiva de publicidade chamada Susan Wojcicki (pronuncia-se uou-jísqui). Em 1998, Larry Page e Sergey Brin, criadores e cofundadores do Google, haviam montado os primeiros servidores na garagem de Wojcicki. Quando o mecanismo de busca deles deu certo, Wojcicki largou o emprego na Intel e foi trabalhar para eles. Ela supervisionava os produtos de publicidade e um serviço de streaming, o Google Videos, que tinha três vezes menos acessos do que uma startup magrinha chamada YouTube. Wojcicki, que acreditava ser tarde demais para se equiparar ao YouTube, propôs aos seus chefes que comprassem a empresa, o que eles fizeram em 2006 pelo valor estupendo de 1,65 bilhão de dólares.

Apesar das projeções de crescimento, contudo, a renda com publicidade nunca subiu a ponto de justificar o custo. Quatro anos depois, tentando recuperar o investimento, o Google convocou vários programadores altamente especializados, entre os quais Chaslot. Eles encarregaram a coordenação do projeto a um veterano das ferramentas de busca chamado Cristos Goodrow. “Em setembro de 2011, enviei um e-mail provocador ao meu chefe e à equipe de liderança do YouTube”, Goodrow viria a escrever. “No assunto: ‘Tempo assistido e nada mais'. Era um convite a repensar

como medíamos o sucesso.” [1]

Goodrow pediu a seus chefes que pensassem em um usuário hipotético que pesquisa como dar o nó em uma gravata. Imagine que o YouTube, escreveu ele, poderia mostrar ao usuário um vídeo que demonstrasse a resposta em um minuto. Ou podia mostrar um vídeo “com dez minutos, cheio de piadas, divertido mesmo, e no final pode ser que você tenha

aprendido a dar o nó na gravata ou não”. [2] A ortodoxia do Google dizia para mostrar o primeiro vídeo: trazer à tona a informação mais útil o mais rápido possível. Mas Goodrow defendeu que o YouTube devia promover o segundo vídeo. “Nossa função é manter as pessoas envolvidas e andando com a gente”, escreveu. Se você der um vídeo longo para os usuários, eles não vão querer desligar, depois vão querer outro e mais outro. Mais tempo assistindo “gera mais publicidade, o que incentiva mais criadores de

conteúdo, o que atrai mais audiência”, defendeu. [3] Os chefes concordaram.

Chaslot assumiu um componente essencial da sua perspectiva: a busca. A busca tradicional depende de palavras-chave: você digita “baleias” e recebe uma lista dos vídeos mais novos ou mais assistidos que tenham tag com essa palavra. A equipe de Chaslot ia substituir esse tipo de busca por uma IA projetada para identificar o vídeo que melhor servia aos interesses dos usuários. Pesquisar “baleias”, em teoria, faria a IA esquadrinhar os bilhões de horas de vídeo do YouTube atrás daquela joia rara que era o documentário do Jacques Cousteau ou um clipe amador impressionante de uma orca saindo do mar. Podia até sugerir o que assistir depois, guiando os usuários por um mundo infinito de descobertas e prazeres. “Foi um trabalho”, disse Chaslot, “que teve impacto imenso e positivo no dia a dia real de muita gente.”

Chaslot entendeu por que tinha sido encarregado daquela função. A nova busca teria que fazer o serviço de um executivo de TV de altíssima linha, medindo os gostos e preferências do público, mas fazendo sua seleção entre uma gama de vídeos milhões de vezes maior que o de qualquer emissora, e tudo isso em velocidade quase instantânea. Chaslot conhecia um jeito de fazer isso por causa de sua pesquisa de doutorado, a partir de uma coisa chamada machine learning [aprendizado de máquina], tecnologia que recentemente havia resolvido um problema que já fora tratado como insolúvel: o spam.

Os primeiros filtros de spam conseguiam identificar o e-mail lixo com base apenas em identificadores que eram instruídos a procurar, como o endereço de e-mail de um spammer conhecido ou certas palavras-chave. Mas os supervisores dos filtros de spam tinham que identificar e programar tudo nos próprios marcadores. O e-mail em grande volume, automatizado, tinha como sobrepujar os recursos de defesa, dando retorno fácil aos spammers . Em 2002, o spam representava 40% de todos os e-mails e

estava em crescimento. [4] Não havia como vencer a guerra contra ele. Os sistemas de monitoramento da internet alertavam que o tráfego de spam chegaria a ponto de tornar o e-mail inutilizável e talvez quebrar a própria internet.

Com o machine learning , os engenheiros podiam fazer coisa melhor do que escrever um programa que pescasse spam. Eles projetaram um programa que ia orientar sua própria evolução. Alimentaram o programa com grandes lotes de e-mails de spam e não spam. O sistema construiu automaticamente milhares de filtros de spam, com diferenças mínimas entre eles, e os testou em e-mails de amostra. Depois ele construiu uma nova geração de filtros de spam baseados nos que tinham melhor desempenho e repetiu o processo, várias vezes, como um botânico que identifica e cria híbridos das plantas mais resistentes. O programa estava evoluindo à velocidade da luz, até que rendeu uma variação de si mesmo tão sofisticada e potente que conseguia fazer o que nenhum filtro criado por humanos daria conta: identificar e bloquear proativamente quase todo spam. Não há como um mecânico levantar o capô do filtro de spam e ver como ele funciona, porque estaria de frente com uma máquina que, passado um tempo, foi projetada por máquinas, complexa demais para se entender. Mas e daí? Essas máquinas derrotaram facilmente os spammers e pouparam a internet do desastre.

Google, Facebook e outras sugaram os maiores nomes no ramo do machine learning . Muitos ficaram com uma variação da mesma tarefa que Chaslot. Em vez de identificar spam, eles iam construir máquinas que aprenderiam exatamente quais combinações de textos, imagens e sons nos ajudariam a ficar passando a barra de rolagem.

Lançado no início de 2012 no YouTube, esse sistema e seus poderes iam muito além de meros resultados de busca. Imagine assistir, digamos, ao clipe de um debate entre candidatos à Presidência em 2012. A página agora recomendaria, ao lado do seu vídeo, thumbnails de uma dezena de outros a que você podia assistir a seguir: um vídeo das maiores gafes de Obama, uma paródia do programa Saturday Night Live , um vlogueiro a menosprezar as propostas do candidato republicano Mitt Romney. Assim que o vídeo que você estivesse vendo terminasse, o sistema selecionaria um dos demais para rodar a seguir. Cada um era selecionado entre os bilhões de vídeos do YouTube por uma IA patenteada que atendia pelo codinome “algoritmo” — um dos sistemas de machine learning mais potentes na tecnologia comercial. Suas seleções, guiadas pelo poder do machine learning , se provaram de uma eficiência enorme. “Em questão de meses, com uma equipe pequena, tínhamos um algoritmo que aumentava o tempo assistido e gerava milhões de dólares de receita extra em publicidade”, disse Chaslot. “Foi muito, muito empolgante.”

Esses sistemas estavam se alastrando por várias facetas da vida. O da Netflix, por exemplo, aprende os gostos dos usuários acompanhando o que a pessoa assiste e por quanto tempo, disparando recomendações com tanta eficiência que a empresa credita a seu algoritmo a retenção de assinantes

que vale 1 bilhão de dólares por ano. [5] A Spotify adquiriu empresas de IA para construir algoritmos de seleção de playlist que guiam boa parte de seu

negócio de 8 bilhões por ano. [6] Se você compra na Amazon, um algoritmo extrai dados sobre seus gastos para orientar sobre quais produtos você vai ver. Se lê o Google Notícias, um algoritmo determina quais manchetes no site vão chamar mais sua atenção. Até o amor passou a ser regido pelos algoritmos dos apps de relacionamento, que reduzem os encantos e esperanças de cada usuário a dados, os quais o programa usa para estimular gente a se juntar.

O sistema do YouTube busca uma coisa que tem alcance maior do que uma taxa de assinatura mensal. Seu olho que tudo vê acompanha cada detalhe do que você assiste, por quanto tempo assiste, no que você clica em seguida. Ele monitora tudo isso entre 2 bilhões de usuários, acumulando o que decerto é o maior conjunto de dados sobre preferências de público que já se montou, o qual ele vistoria constantemente atrás de padrões. Chaslot e outros fizeram ajustes no sistema conforme ele cresceu, incentivando seu processo de aprendizado até cumprir melhor sua meta: o maior tempo assistido possível.

Uma das ferramentas mais potentes do algoritmo é a afinidade entre tópicos. Se você assiste a um vídeo de gato até o final, explicou Chaslot, o YouTube vai lhe mostrar mais desses quando você voltar ao site. Ele vai impulsionar principalmente os vídeos de gato que considerou mais eficientes para captar sua atenção. Uma compilação bem longa de gatinhos fazendo bobagem, digamos. Como praticamente todo usuário da internet, já passei por isso. Ando de bicicleta nos finais de semana e, enquanto estava morando no exterior, buscava no YouTube vídeos de trilhas nas redondezas para ter noção do terreno. O sistema começou a recomendar vídeos de ciclismo que eu nunca havia pensado em procurar: corridas profissionais, testes de novos modelos. Funcionou; assisti a mais vídeos. Com o tempo, as recomendações ficaram mais extremas. Colisões impressionantes, choques entre dez bicicletas, manobras para quem não tem medo da morte. Embora longe de me fazerem mal, também não eram divertidas — eram só uma coisa que me envolvia e eram fora do comum, como um acidente de trânsito. Em alguns casos, eram mesmo acidentes de trânsito. O efeito é que você atrai o usuário para variações cada vez mais estimulantes do que interessa a ele. Se o interesse for gatos ou bicicletas, o impacto é mínimo. Se for política, saúde ou outros tópicos mais graves para a sociedade, as consequências podem ser fortes.

Conforme o sistema afinava seu poder, Chaslot percebeu que ele criou hábitos estranhos. O algoritmo começou a impulsionar muitos usuários a assistir a vídeos que defendiam a raiva contra as mulheres. Às vezes mulheres específicas, como a crítica da cultura gamer Anita Sarkeesian. Às vezes às mulheres em geral. Homens passavam 40% mais tempo no YouTube do que mulheres, um resquício da quantidade de conteúdo

relacionado a videogames que o site tinha na época. [7] O natural para um algoritmo, percebeu Chaslot, seria privilegiar o conteúdo centrado no usuário homem.

Tal como acontecia no Twitter e no Reddit, a indignação e o tribalismo ativam as emoções dos usuários da maneira mais efetiva no YouTube, o que os leva a assistir a cada vez mais vídeos — exatamente o que Goodrow havia pedido que o time de Chaslot priorizasse. O algoritmo aprendeu a aumentar o tempo assistido de fãs de videogame mostrando um vídeo que expressasse a indignação antifeminista, depois outro, depois outro. Os clipes normalmente se dirigiam a homens que não tinham certeza quanto ao que pensar sobre questões de gênero, talvez pelo único motivo de serem jovens. “É um círculo vicioso”, explicou Chaslot. “Esse é o problema das tocas de coelho.” Mesmo que muitos usuários não dessem bola para os vídeos, um número que já bastava ia ficar vidrado e isso ia ensinar o sistema a impulsionar clipes parecidos, repetidamente. Os criadores de vídeos perceberam que títulos como “A VERDADE SOBRE O FEMINISMO ” faziam espectadores virem aos borbotões, então fizeram mais.

Uma das liberdades mais estimadas do Google, herdada dos fundadores do Vale do Silício em meados do século e tomada de empréstimo dos programas de Stanford do outro lado da cidade, é a regra do 80/20. Os funcionários dedicam 80% do tempo a funções formais, mas podem passar 20% desenvolvendo projetos paralelos. Chaslot e seu líder, com quem dividia suas preocupações, dedicaram seus 20% a criar um novo algoritmo que podia equilibrar as metas de lucro com o bem-estar do público.