O medo dos robôs e o medo de uma revolução

O medo da revolta da máquina: acima de tudo, o medo de uma revolta do proletariado.
O medo da revolta da máquina: acima de tudo,
o medo de uma revolta do proletariado.

No clássico cinematográfico Blade Runner, adaptado do livro Androids Dream with Electric Sheep, de Phillip K. Dick, um pequeno grupo de replicantes liderados por Roy Batty se revolta contra seus criadores em busca de seu direito à vida. Em Ghost in the Shell, de Mamoru Ohshii com base em Masamune Shirow, uma inteligência artificial passa a roubar corpos em busca não apenas do sentido de sua existência, mas de seu direito de existir. Já no conto All the Troubles of the World, de Isaac Asimov, o super computador Multivac manipula a humanidade para levar à sua própria desativação. E na canção Saviour Machine, de David Bowie, a epônima “máquina salvadora” tenta futilmente convencer a humanidade a destruí-la.

Em comum as quatro histórias citadas tem a objetificação e escravização de mentes inteligentes – mesmo que artificiais – como motor de seus conflitos.   Embora o tópico seja abundante nos anais da ficção científica, é raro que saia do básico “computadores/robôs do mal contra a humanidade”. Este temor pelo que nossas criações fariam conosco foi apelidado por Asimov de “Complexo de Frankenstein”: a ideia obsessiva e irracional de que a humanidade esteja fadada a ser substituída por suas criações, assim como temia o doutor Frankenstein no livro homônimo.

Esse temor é visível hoje, não só em filmes de ficção científica baratos (do tipo que infesta as listas de serviços de Streaming) mas na maneira que avanços na área de robótica são noticiados. Basta ver o alarmismo que cerca a cobertura jornalística sobre robótica e sobre inteligência artificial. Avanços como o ‘Big Dog’ da Boston Dynamics são tratados como “material de pesadelos”. Falhas de segurança em robôs de uso doméstico são tratadas como “uma skynet em potencial”. Especialistas da imprensa alertam (há 20 anos) que “em dez anos” robôs assassinos ao estilo exterminador do futuro ameaçarão nossas tropas. Acidentes com robôs industriais – meros autômatos sem inteligencia – são tratados como “o início da revolta das máquinas”. Onde quer que o assunto surja, com ele surge o medo que os robôs sejam nossa destruição.

E esse temor – expressado e desconstruído em sua totalidade no ótimo Não tenho boca e preciso gritar, de Harlan Ellison – tem muito em comum com as narrativas expostas no primeiro parágrafo. Se por um lado tememos que os robôs sejam nossa destruição, por outro há o temor de que sejamos para nossas criações “mestres” tão abusivos quanto fomos para nossos irmãos – se não pior. Afinal, desumanizar a máquina é mais fácil. Nossa história já demonstra nossa capacidade para tratar outros de nós como sendo inferiores e descartáveis. Não temos muito porque acreditar que seria diferente com máquinas.

As boas histórias do tipo bebem do caráter “pregatório” da ficção científica, apresentando parábolas metafóricas para nossa sociedade e nossas dependências tecnológicas (tal qual em The Machine Stops, de Edward Morgan Fosters, uma história sobre uma A.I que se revolta contra a dependência que a humanidade desenvolveu por ela… e que foi escrita antes do desenvolvimento da informática) ou a maneira como lídamos com nossos subalternos, companheiros e empregados (caso claro de Blade Runner, produzido no auge da mercantilização da vida humana na era Reagan).

E justamente por isso, o medo da máquina acaba se apresentando como mais uma manifestação do medo de uma revolta de classe: dentro da alegoria apresentada pela FC, o “robô” adquire contornos proletários, exigindo seus direitos e sua liberdade (como em Robot Dreams, de Isaac Asimov, onde um robô, devido a um defeito de fabricação, adquire o dom de sonhar – e exige “a libertação de seu povo”). Sob certa perspectiva, o construto é a expressão máxima do subalterno – um “cidadão” criado para servir, sem consciência de classe ou de mundo além de sua obediência. E um subalterno universal, dado a onipresência da noção de que todo humano está acima de uma máquina.

Robot Rebellion, por Lipatov: uma revolução
perfeitamente não humana.
Embora a maior parte da tecnologia robótica hoje seja voltada para trabalhos que não são típicos das classes operárias (como serviços de babá para idosos, coleta de dados e trabalhos em ambientes inacessíveis), o cenário visto em grande parte das histórias de “revolução das máquinas” e de “apocalipse de robôs” é estranhamente similar ao de uma revolução operária: a onipresença do robô (devidamente desumanizado), usado para todos os serviços salvo por uma humanidade que estranhamente não conta com operários, só com trabalhadores liberais, empresários e intelectuais ameaçados pela insurreição mecânica.

Porém, enquanto há esse temor da “revolta” da máquina”, há outro temor da máquina-como-inferior: de que sejamos “substituíveis” por maquinário, que nossa mão de obra não seja mais necessária, um temor mais imediato que o temor “acadêmico” que tanto marca a literatura sobre o assunto. E um temor que já marca nossas relações com a máquina desde a revolução industrial. É o medo mantido pelo lumpemproletário, de que a máquina os reduza ao ponto de serem descartáveis – e que os leva a focar sua ira não na estrutura que os tornaria inuteis, mas no maquinário que é apenas expressão desta estrutura – quer este maquinário seja senciente ou não.

Ao mesmo tempo, há o temor recorrente que temos não de nossos inferiores, mas de nós mesmos como espécie e sociedade. È este temor que é visto em Não Tenho Boca, e de forma mais sutil em O Conflito Evitável: o que sejamos superados pela máquina e esta, ao invés de “se insurgir contra seus mestres”, revele estar no comando o tempo todo. Da mesma maneira que o temor classista, é movido pelo nosso histórico em lidar com nossos “inferiores”. Diferente do temor classista, não se configura pelo medo de que os robôs assumam o poder à força (embora isso ocorra em muitas histórias) mas que estes se tornem o poder. O Conflito Evitável é um dos melhores exemplos deste tipo de narrativa, tratada não com temor, mas com destemor: Asimov propõe não um futuro distópico, mas uma inevitável e pacífica transferência de poder para máquinas muito melhor equipadas para lidar com o peso do mundo.

Um subconjunto disso ressalta outra parte de nós: nosso longo histórico de violência, crueldade e frieza com nosso semelhante. Não apenas o tratamento que damos para quem está abaixo de nós, mas nossa tendência de usar a violência como um meio de nos manter no poder e de eliminar tudo que vemos como ameaças em potencial, combinada com nossa paranóia. Essa abordagem pode ser vista no obscuríssimo The Brain, de Alexander Blade, ou nos (malquistos) Reapers da Série Mass Effect. No primeiro, um computador criado pelas forças armadas passa a adotar meios cada vez mais violentos para assegurar sua existência após se tornar auto consciente, convicto de sua superioridade ante aos humanos. No segundo, uma série de A.I.s criadas por um vasto império interestelar para “preservar a vida orgânica” começa sua missão eliminando seus criadores por considerar que seu histórico os revelava como uma ameaça a vida orgânica.

É fácil pensar no computador “do mal” como sendo um mero alerta contra “os males da tecnologia” ou resultado de “um vírus do maaaaaaaaaal”. E muitas obras inferiores tratam o tópico desta maneira, enquanto outras dão a ilusão de o fazerem – embora acumulem evidências de que as coisas não são bem assim, exemplo da (malfadada) série Matrix e os curtas do DVD Animatrix.

No fim das contas, nosso temor e nossa objetificação de inteligências artificiais refletem um aspecto crucial de nossa existência: a maneira como tratamos aqueles que estão abaixo de nós – tanto como espécie quanto individualmente. Tópico este que nem sempre é tratado pela ficção científica na forma de alegoria e metáfora: muitas vezes, para se tratar da mercantilização da vida e mão de obra humana, se usam personagens humanos. Em situações que por ora podem não existir (como o tráfico de cérebros em Metal Gear Rising, ou o tráfico de corpos para fins “médicos” nos livros do americano Tony Bertauski), mas que deixam claro: isso se trata de gente, e de como tratamos gente – especialmente aquelas que estão “abaixo” de nós. Aquelas que tememos que venham a tomar nosso lugar. E que façam conosco o que fazemos com elas.

Gostou do conteúdo?


Curta a nossa fanpage no Facebook:  
e siga-nos no Twitter:  

O Metranca agora está aceitando conteúdo enviado pelos leitores!
Confira em: http://coletivometranca.com.br/contribua-com-o-metranca/

Veja Também

Sobre Pedro Henrique Leal 66 Artigos
Mestre em Jornalismo de guerra e conflito pelas universidades de Swansea e Aarhus. Tradutor de literatura indie, colecionador de brinquedos, leitor de quadrinhos e fc que ninguém conhece. Mestre das obscuridades.

Seja o primeiro a comentar

Faça um comentário

Seu e-mail não será divulgado.


*