18. Ficção científica: O futuro não é o que você vê nos filmes

18. Ficção científica

O futuro não é o que você vê nos filmes

 

Os humanos controlam o mundo porque são capazes de cooperar melhor do

que qualquer outro animal, e são capazes de cooperar tão bem porque acreditam

em ficções. Poetas, pintores e dramaturgos são, portanto, pelo menos tão

importantes quanto soldados e engenheiros. As pessoas vão à guerra e constroem

catedrais porque acreditam em Deus, e acreditam em Deus porque leram poemas

sobre Deus, porque viram imagens que representam Deus e porque ficaram

hipnotizadas ao assistir a peças teatrais sobre Deus. Da mesma forma, nossa

crença na moderna mitologia do capitalismo é sustentada pelas criações artísticas

de Hollywood e pela indústria pop. Acreditamos que comprar mais coisas vai

nos fazer felizes, porque vemos o paraíso capitalista com nossos próprios olhos,

na televisão.

No início do século XXI, talvez o gênero artístico mais importante seja a ficção

científica. Muito pouca gente leu os artigos mais recentes nos campos do

aprendizado de máquina ou da engenharia genética. Em vez disso, filmes como

Matrix e Ela e séries de televisão como Westworld e Black Mirror expressam

como as pessoas entendem os mais importantes desenvolvimentos tecnológicos,

sociais e econômicos de nossos tempos. Isso significa também que a ficção

precisa ser muito mais responsável quanto ao modo como descreve realidades

científicas, do contrário poderá incutir nas pessoas ideias erradas, ou focar sua

atenção nos problemas errados.

Como observado em um capítulo anterior, talvez o maior pecado da ficção

científica atual seja a tendência a confundir inteligência com consciência. Como

resultado, está preocupada demais com uma possível guerra entre robôs e humanos, quando na realidade devemos temer um conflito entre uma pequena

elite de super-humanos com poderes ampliados por algoritmos e uma vasta

subclasse de Homo sapiens sem nenhum poder. Quando se pensa no futuro da IA,

Karl Marx ainda é um guia melhor que Steven Spielberg.

De fato, muitos filmes sobre inteligência artificial são tão divorciados da

realidade científica que se pode suspeitar serem só alegorias de preocupações

completamente diferentes. Assim, o filme Ex Machina: instinto artificial parece

ser sobre um especialista em IA que se apaixona por uma robô e acaba sendo

enganado e manipulado por ela. Mas na verdade não é um filme sobre o medo

que humanos têm de robôs inteligentes. É um filme sobre o medo que o homem

tem de uma mulher inteligente, em especial o medo de que liberação feminina

possa levar à dominação dos homens. Sempre que você assiste a um filme sobre

IA no qual a IA é mulher e o cientista é homem, provavelmente é um filme sobre o

feminismo, e não sobre cibernética. Pois por que cargas d’água uma IA teria uma

identidade sexual ou de gênero? O sexo é uma característica de seres orgânicos

multicelulares. O que poderia significar para um ser cibernético não orgânico?

 

VIVER NUMA CAIXA

 

Um assunto que a ficção científica explorou com muito mais discernimento

diz respeito ao perigo de a tecnologia ser usada para manipular e controlar seres

humanos. O filme Matrix descreve um mundo no qual quase todos os humanos

estão aprisionados num ciberespaço, e tudo o que eles vivenciam é configurado

por um algoritmo mestre. O show de Truman concentra-se num único indivíduo

que é o astro involuntário de um reality show na televisão. Sem que ele saiba,

todos os seus amigos e conhecidos — inclusive sua mãe, sua mulher e seu melhor

amigo — são atores; tudo o que acontece com ele segue um roteiro bem

trabalhado; e tudo o que ele diz e faz é gravado por câmeras ocultas e avidamente

acompanhado por milhões de fãs.

No entanto, ambos os filmes — não obstante seu brilhantismo — no fim se

distanciam de tudo o que implicam seus cenários. Presumem que os humanos

presos na armadilha da matrix têm um “eu” autêntico, que permanece intocado

por todas as manipulações tecnológicas, e que além da matrix está à espera uma realidade autêntica, que os heróis podem acessar se se esforçarem. A matrix é só

uma barreira artificial que separa seu autêntico “eu” interior do autêntico mundo

exterior. Após muitas tentativas e atribulações, os dois heróis — Neo em Matrix

e Truman em O show de Truman — conseguem transcender e escapar da rede de

manipulações, descobrir seu “eu” autêntico e alcançar a autêntica terra

prometida.

Muito curiosamente, essa autêntica terra prometida é idêntica em todos os

aspectos importantes à inventada matrix. Quando Truman escapa do estúdio de

televisão, ele busca se reencontrar com a namorada da época do ensino médio,

que o diretor do programa tinha banido do elenco. Mas, se Truman realizasse

sua fantasia romântica, sua vida seria exatamente como o perfeito sonho de

Hollywood que O Show de Truman vendeu a milhões de espectadores em todo o

mundo — com direito a férias nas ilhas Fiji. O filme não nos dá uma dica sequer

sobre que tipo de vida alternativa Truman poderia encontrar no mundo real.

Da mesma forma, quando Neo sai da matrix engolindo a famosa pílula

vermelha, ele descobre que o mundo de fora não é diferente do mundo de

dentro. Tanto fora como dentro há conflitos violentos e pessoas movidas por

medo, luxúria, amor e inveja. O filme deveria terminar quando dizem a Neo que

a realidade que ele acessou é só uma matrix maior, e que se ele quiser escapar

para o “verdadeiro mundo real”, terá de escolher novamente entre a pílula azul e

a vermelha.

A atual revolução tecnológica e científica implica não que indivíduos

autênticos e realidades autênticas podem ser manipulados por algoritmos e

câmeras de televisão, e sim que a autenticidade é um mito. As pessoas têm medo

de ficar presas numa armadilha dentro de uma caixa, mas não se dão conta de

que já estão presas dentro de uma caixa — seu cérebro — que está trancada

dentro de uma caixa maior — a sociedade humana com suas incontáveis ficções.

Quando você escapa da matrix, a única coisa que descobre é uma matrix maior.

Quando camponeses e trabalhadores se revoltaram contra o tsar em 1917, eles

acabaram com Stálin; e, quando você começa a explorar as múltiplas maneiras

com que o mundo o manipula, no fim você constata que sua identidade mais

íntima é uma ilusão completa criada por redes neurais.

As pessoas têm medo de que, ao estarem presas dentro de uma caixa, perderão todas as maravilhas do mundo. Enquanto Neo está preso na matrix, e Truman

está preso no estúdio de televisão, eles nunca visitarão as ilhas Fiji, ou Paris, ou

Machu Picchu. Mas, na verdade, tudo o que você experimentar na vida está

dentro de seu próprio corpo e sua própria mente. Escapar da matrix ou ir para

Fiji não fará nenhuma diferença. Não é que em algum lugar de sua mente exista

um baú de ferro com uma grande placa advertindo em vermelho “Abra apenas

em Fiji!”, e quando você finalmente viajar para o Pacífico Sul vai poder abrir o

baú e vivenciar todos as emoções e sensações especiais que só se pode ter em Fiji.

E se nunca visitar Fiji em sua vida, então você perdeu para sempre essas

sensações especiais. Não. O que quer que você seja capaz de sentir em Fiji, você é

capaz de sentir em qualquer lugar do mundo; até mesmo dentro da matrix.

Talvez estejamos vivendo dentro de uma gigantesca simulação de

computador, no estilo de Matrix. Isso estaria em contradição com todas as

nossas narrativas nacionais, religiosas e ideológicas. Mas nossas experiências

mentais ainda seriam reais. Se se descobrir que a história humana é uma

elaborada simulação conduzida num supercomputador por ratos cientistas do

planeta Zircon, isso seria bastante embaraçoso para Karl Marx e para o Estado

Islâmico. Mas esses ratos cientistas ainda teriam de responder pelo genocídio

armênio e por Auschwitz. Como isso teria passado pelo comitê de ética da

Universidade de Zircon? Mesmo que as câmaras de gás tenham sido apenas

sinais elétricos em chips de silício, as experiências da dor, do medo e do

desespero não teriam sido nem um pouco menos excruciantes.

Dor é dor, medo é medo, e amor é amor — mesmo na matrix. Não importa se

o medo que você sente seja inspirado por um conjunto de átomos ou por sinais

elétricos manipulados por um computador. O medo continua a ser real. Assim,

se você quiser explorar a realidade de sua mente, poderá fazer isso dentro ou fora

da matrix.

A maioria dos filmes de ficção científica na verdade conta uma narrativa

muito antiga: a vitória da mente sobre a matéria. Trinta mil anos atrás, a

narrativa era: “Mente imagina uma faca de pedra — mão cria a faca — humano

mata mamute”. Mas a verdade é que os humanos ganharam o controle do

mundo não tanto por terem inventado facas e matado mamutes quanto por

manipularem mentes humanas. A mente não é o sujeito que modela a seu bel-prazer ações históricas e realidades biológicas — a mente é um objeto que está

sendo modelado pela história e pela biologia. Mesmo nossos ideais mais

profundos — liberdade, amor, criatividade — são como uma faca de pedra que

alguém modelou para matar algum mamute. Segundo as melhores teorias

científicas e as mais atualizadas ferramentas tecnológicas, a mente nunca está

livre de manipulação. Não existe um “eu” autêntico esperando ser libertado da

carapaça da manipulação.

Você tem alguma ideia de quantos filmes, romances e poemas consumiu ao

longo dos anos, e como esses artefatos esculpiram e aguçaram sua noção de o que

é o amor? Comédias românticas estão para o amor assim como filmes

pornográficos estão para o sexo e Rambo está para a guerra. E, se você pensa que

pode apertar algum botão “delete” e erradicar todo traço de Hollywood de seu

subconsciente e de seu sistema límbico, está iludindo a si mesmo.

Gostamos da ideia de modelar facas de pedra, mas não gostamos da ideia de

sermos, nós mesmos, facas de pedra. Assim, a variante da matrix para a antiga

história do mamute é algo assim: “Mente imagina um robô — mão cria um robô

— robô mata terroristas mas também tenta controlar a mente — mente mata

robô”. Mas essa narrativa é falsa. O problema não é que a mente não seja capaz

de matar o robô. O problema, para começo de conversa, é que a mente que

imaginou o robô já era o produto de manipulações muito anteriores. Por isso

matar o robô não vai nos libertar.

 

A DISNEY PERDE A FÉ NO LIVRE-ARBÍTRIO

 

Em 2015, os estúdios Pixar e Walt Disney lançaram uma animação sobre a

condição humana muito realista e perturbadora e que rapidamente tornou-se um

grande sucesso entre crianças e adultos. Divertida mente conta a história de uma

menina de onze anos, Riley Anderson, que muda com seus pais de Minnesota

para San Francisco. Com saudade dos amigos e de sua cidade natal, ela tem

dificuldade para se adaptar à nova vida, e tenta fugir de volta para Minnesota.

Porém, sem que Riley saiba, um drama muito maior está acontecendo. Riley não

é uma estrela involuntária de um reality show, e não está presa na matrix. A

própria Riley é a matrix, e há algo preso dentro dela.

Disney construiu seu império recontando um mito repetidas vezes. Em vários

de seus filmes, os heróis enfrentam dificuldades e perigos, mas triunfam no final,

encontrando seu verdadeiro eu e seguindo sua livre escolha. Divertida mente

desmonta esse mito por completo. Adota a mais recente visão neurobiológica dos

humanos e leva os espectadores numa jornada para dentro do cérebro de Riley,

para revelar que ela não tem um eu autêntico e que nunca fez quaisquer escolhas

livres. Riley é na verdade um enorme robô manejado por um conjunto de

mecanismos bioquímicos em conflito, os quais o filme personifica na forma de

simpáticos personagens de animação: a amarela e alegre Alegria, a azul e morosa

Tristeza, o vermelho e irascível Raiva, e assim por diante. Manipulando uma

série de botões e alavancas no Quartel-General, enquanto observam cada

movimento de Riley numa enorme tela de televisão, esses personagens controlam

todos os humores, decisões e ações de Riley.

O fracasso de Riley em se adaptar a sua nova vida em San Francisco resulta de

uma confusão no Quartel-General que ameaça pôr o cérebro de Riley totalmente

fora de equilíbrio. Para corrigir as coisas, Alegria e Tristeza partem numa

jornada épica pelo cérebro de Riley, viajando no trem do pensamento,

explorando a prisão do subconsciente e visitando o estúdio interno onde uma

equipe de neurônios artistas está ocupada na fabricação de sonhos. Enquanto

percorremos esses mecanismos bioquímicos personalizados nas profundezas do

cérebro de Riley, nunca encontramos uma alma, um autêntico eu ou um livre-

arbítrio. De fato, o momento de revelação no qual toda a trama se articula

acontece não quando Riley descobre seu único e autêntico eu, e sim quando fica

evidente que Riley não pode ser identificada por um núcleo único, e que seu

bem-estar depende da interação de muitos mecanismos diferentes.

No começo, os espectadores são levados a identificar Riley com a personagem

líder — a amarela e contente Alegria. Mas depois constata-se que esse foi o erro

crucial que ameaçou arruinar a vida de Riley. Pensando que ela é, sozinha, a

essência autêntica de Riley, Alegria intimida todos os outros personagens

interiores, rompendo o delicado equilíbrio do cérebro. A catarse acontece

quando Alegria percebe seu erro e — junto com os espectadores — constata que

Riley não é Alegria, ou Tristeza ou qualquer um dos outros personagens. Riley é

uma narrativa complexa produzida pelos conflitos e pela colaboração de todos os personagens bioquímicos juntos.

O mais espantoso é não só que a Disney ousou lançar no mercado um filme

com uma mensagem tão radical — mas que ele tenha se tornado um sucesso no

mundo todo. Talvez tenha sido assim porque Divertida mente é uma comédia

com final feliz, e é bem capaz que a maioria dos espectadores não tenha captado

seu significado neurológico e suas sinistras implicações.

Não se pode dizer o mesmo do mais profético livro de ficção científica do

século XX. Não é possível deixar de perceber sua natureza sinistra. Foi escrito

quase um século atrás, mas torna-se mais relevante a cada ano que passa. Aldous

Huxley escreveu Admirável Mundo Novo em 1931, com o comunismo e o

fascismo entrincheirados na Rússia e na Itália, o nazismo em ascensão na

Alemanha, um Japão militarista dando início a sua guerra de conquista na China

e o mundo inteiro tomado pela Grande Depressão. Mas Huxley conseguiu

enxergar através de todas essas nuvens escuras e prever uma sociedade sem

guerras, fome e epidemias, usufruindo de paz, prosperidade e saúde

ininterruptas. É um mundo consumista, que deixa reinar livremente o sexo, as

drogas e o rock ‘n’ roll, e cujo valor supremo é a felicidade. O pressuposto que

subjaz no livro é que os humanos são algoritmos bioquímicos, que a ciência é

capaz de hackear o algoritmo humano e que a tecnologia pode ser usada para

manipulá-lo.

Nesse admirável mundo novo, o Governo Mundial utiliza biotecnologia

avançada e engenharia social para garantir que todos estejam sempre contentes e

que ninguém tenha nenhum motivo para se rebelar. É como se Alegria, Tristeza

e outros personagens no cérebro de Riley tivessem se tornado agentes leais ao

governo. Não há, portanto, necessidade de uma polícia secreta, ou de campos de

concentração, ou de um ministério do amor, à la 1984, de Orwell. Na verdade, o

genial em Huxley consiste em demonstrar que é possível controlar pessoas com

muito mais segurança mediante amor e prazer do que por medo e violência.

Quando se lê 1984 fica claro que Orwell está descrevendo um assustador

mundo de pesadelo, e a única questão deixada em aberto é “Como evitamos

chegar a um estado tão terrível?”. Ler Admirável Mundo Novo é uma experiência

muito mais desconcertante e desafiadora, porque é difícil identificar exatamente

o que o faz distópico. O mundo é pacífico e próspero, e todos estão satisfeitos o tempo todo. O que poderia estar errado?

Huxley faz essa pergunta diretamente, no momento de clímax do romance: o

diálogo entre Mustafá Mond, o Controlador do Mundo para a Europa ocidental,

e John, o Selvagem, que viveu toda sua vida numa reserva nativa no Novo

México, e que é o único homem em Londres que nunca ouviu falar em

Shakespeare ou Deus.

Quando John, o Selvagem, tenta incitar o povo de Londres a se rebelar contra

o sistema que os controla, eles reagem a seu chamado com apatia total, mas a

polícia o prende e o traz à presença de Mustafá Mond. O Controlador do Mundo

tem uma agradável conversa com John, explicando que se ele insiste em ser

antissocial deveria retirar-se para algum lugar isolado e viver como um eremita.

John então questiona as ideias que sustentam a ordem global, e acusa o Governo

Mundial de que, na busca da felicidade, ele eliminou não só a verdade e a beleza,

mas tudo o que é nobre e heroico na vida.

“Meu jovem querido amigo”, diz Mustafá Mond, “a civilização não precisa de nobreza ou heroísmo.

Essas coisas são sintomas de ineficiência política. Numa sociedade bem organizada como a nossa,

ninguém tem qualquer oportunidade para ser nobre ou herói. As condições teriam de ser totalmente

instáveis para que surgisse uma situação como essa. Onde há guerras, onde há divisão de lealdades, onde

há tentações às quais resistir, objetos de amor pelos quais lutar ou os quais defender — lá, obviamente,

nobreza e heroísmo fazem algum sentido. Mas aqui não há guerras hoje. Tomam-se grandes cuidados

para impedir que você ame alguém demais. Não existe essa coisa de lealdade dividida; você está tão

condicionado que não pode evitar fazer o que deve fazer. E o que você deve fazer é tão prazeroso, tantos

são os impulsos naturais aos quais se permite livre manifestação, que na verdade não há quaisquer

tentações às quais resistir. E se alguma vez, por algum infeliz acaso, algo desagradável de algum modo

acontecesse, bem, sempre temos soma [a droga] para você tirar umas férias dos fatos. E sempre tem soma

para aplacar sua raiva, reconciliá-lo com seus inimigos, fazer com que seja paciente e estoico. No passado

você só poderia realizar essas coisas fazendo um grande esforço e após anos de rigoroso treinamento

moral. Agora, você engole dois ou três tabletes de meia grama, e pronto. Agora qualquer um pode ser

virtuoso. Você pode levar pelo menos metade de sua moralidade num frasco. Cristianismo sem lágrimas

— é isso que soma é.”

“Mas as lágrimas são necessárias. Não se lembra do que disse Otelo? ‘Se após cada tempestade

vêm tais calmarias, que soprem os ventos até terem despertado a morte.’ Há uma história que um desses

velhos índios costumava nos contar, sobre a Garota de Mátsaki. O jovem que quisesse casar com ela teria

de fazer a capina matinal em seu jardim. Parecia fácil; mas havia moscas e mosquitos, mágicos. A

maioria dos jovens simplesmente não conseguia aguentar as mordidas e picadas. Mas aquele que

conseguiu — conseguiu a garota.”

“Encantador! Mas em países civilizados”, disse o Controlador, “você pode ter garotas sem capinar

por elas; e não há quaisquer moscas ou mosquitos para picar você. Livramo-nos de todos eles séculos

atrás.”

O Selvagem assentiu, franzindo a testa. “Vocês se livraram deles. Sim, isso é típico de vocês.

Livrando-se de tudo o que é desagradável em vez de aprender a suportá-lo. Saber se é mais nobre na

mente suportar as pedradas e flechas da fortuna atroz ou tomar armas contra as vagas de aflições e, ao

afrontá-las, dar-lhes fim… Mas vocês não fazem nenhum dos dois. Nem sofrer nem se opor. Vocês

apenas aboliram os estilingues e as flechas. É fácil demais… O que vocês precisam”, continuou o

Selvagem, “é de algo com lágrimas, para variar… Viver perigosamente não tem sua graça?”

“Muita”, replicou o Controlador. “Homens e mulheres devem ter suas suprarrenais estimuladas

de vez em quando… É uma das condições para uma saúde perfeita. É por isso que fizemos com que os

tratamentos S.P.V. sejam compulsórios.”

“S.P.V.?”

“‘Substituto da Paixão Violenta.’ Uma vez por mês inundamos todo o sistema de adrenalina. É o

exato equivalente fisiológico do medo e da raiva. Todos os efeitos tônicos de assassinar Desdêmona e ser

assassinada por Otelo sem nenhuma das inconveniências.”

“Mas eu gosto de inconveniências.”

“Nós não”, disse o Controlador. “Preferimos fazer as coisas confortavelmente.”

“Mas eu não quero conforto. Eu quero Deus, quero poesia, quero perigo real, quero liberdade.

Quero bondade. Quero pecado.”

“Na verdade”, disse o Controlador, “você está reivindicando o direito de ser infeliz.”

“Tudo bem, então”, disse o Selvagem, desafiador. “Estou reivindicando o direito de ser infeliz.”

“Sem falar no direito de ficar velho, feio e impotente; o direito de ter sífilis e câncer; o direito de

ter muito pouco o que comer; o direito de ser horrível; o direito de viver em constante apreensão quanto

ao que vai acontecer amanhã; o direito de pegar tifo; o direito de ser torturado por dores indizíveis de

todo tipo.”

Houve um longo silêncio.

“Reivindico tudo isso”, disse o Selvagem afinal.

Mustafá Mond deu de ombros. “Disponha”, disse ele.1

 

John, o Selvagem, retira-se para um deserto desabitado e vive lá como um

eremita. Os anos que passou na reserva indígena recebendo lavagem cerebral

sobre Shakespeare e religião o condicionaram a rejeitar todas as bênçãos da

modernidade. Mas as palavras de um sujeito tão incomum e excitante espalham-

se rapidamente, e as pessoas acorrem para vê-lo e registram tudo o que faz, e logo

ele se torna uma celebridade. Enjoado até a alma com essa atenção indesejada, o

Selvagem foge da matrix civilizada, não engolindo uma pílula vermelha, mas se

enforcando.

Diferentemente dos criadores de Matrix e de O show de Truman, Huxley duvidava da possibilidade de fuga, porque questionava se haveria alguém

disposto a fugir. Uma vez que seu cérebro e seu eu são parte da matrix, para fugir

dela você tem de fugir de seu eu. No entanto, é uma possibilidade que vale a pena

explorar. Escapar da definição estreita do eu pode bem se tornar uma habilidade

para sobrevivência necessária no século XXI.