Texto original—Evolving into Sentience: Frankenstein, Ghost in the Shell, and The Man of the Crowd, de Rogelio Garcia no Neon Dystopia - Maio 2017—https://web.archive.org/web/20190109222734/https://www.neondystopia.com/cyberpunk-books-fiction/evolving-into-sentience-frankenstein-ghost-in-the-shell-and-the-man-of-the-crowd/.
Obs:. Tentei manter a mesma formatação do original, inclusive os trechos de vídeos e imagens. Uma coisa ou outra se perdeu, tem alguns links fora do ar, mas acredito que o conteúdo está fazendo jus ao original. Boa leitura!
Claro, os protagonistas humanos do filme—entre eles Will Smith—com a ajuda de Sonny, acabam impedindo a revolta. O filme, como muitos outros de Hollywood, termina com uma nota otimista. Sonny, agora consciente de sua própria existência, liderará a população de robôs deixada para trás após a exclusão do programa V.I.K.I., tudo isso mantendo uma relação amigável com os humanos. É desnecessário dizer que o filme se conecta apenas de maneira tangencial à coletânea original de contos de Asimov. Seu nome e uma breve menção às Leis da Robótica são praticamente tudo o que restou da narrativa original. Essa traição completa ao material de origem pode ser considerada a principal razão para o desempenho morno do filme nas bilheteiras.
No entanto, o filme tem um ponto redentor. A ideia filosófica central presente na trama parece abordar uma preocupação muito mais profunda sobre a relação entre humanos, máquinas e senciência. O teórico da robótica do filme, o idoso Dr. Lanning, descreve essa filosofia em um discurso gravado. Dr. Lanning diz:
Sempre houve fantasmas na máquina... segmentos aleatórios de código que se agruparam para formar protocolos inesperados. Imprevistos, esses radicais livres geram questões sobre livre-arbítrio, criatividade e até mesmo sobre a natureza do que poderíamos chamar de alma... Por que alguns robôs, quando deixados no escuro, buscam a luz? Por que, quando armazenados em um espaço vazio, eles se agrupam em vez de permanecerem sozinhos? Como explicamos esse comportamento? Segmentos aleatórios de código? Ou há algo mais? Quando um esquema perceptivo se torna consciência? Quando um motor de diferenças se torna uma busca pela verdade? Quando uma simulação de personalidade se torna o fosso amargo da alma? — I. Robot (2004).
Esse discurso em particular está repleto de jargões científicos, como “radicais livres”, e de clichês da ficção científica, como “motores de diferenças”, “esquemas perceptivos” e “almas mecânicas”. É uma verdadeira orgia de referências à ciência pop, que parecem sobras de um roteiro anterior e melhor, antes que os executivos do estúdio removessem o que havia de mais interessante.
No entanto, uma frase importante permanece—uma que muitos leitores de ficção científica conhecem bem: o fantasma na máquina. Essa expressão tem uma longa história, mas no filme refere-se às consequências acidentais e não intencionais do design dos robôs. Originalmente, porém, a frase foi usada pelo filósofo Gilbert Ryle, em sua crítica de 1949 ao dualismo mente-corpo de René Descartes. Ryle argumentava que considerar mente e corpo como categorias separadas, como fez Descartes, era um erro, pois “o dogma do fantasma na máquina... é inteiramente falso.” Em outras palavras, Ryle afirmava que nós, humanos, não somos meras máquinas assombradas por uma alma que pode ser separada de nós. Nosso “fantasma”, nossa consciência, é simultaneamente física e mental.
O livro The Ghost in the Machine, de Arthur Koestler, popularizou a expressão em meados da década de 1960. Na interpretação de Koestler, os “fantasmas na máquina” eram sistemas cerebrais mais antigos e menos evoluídos que ainda carregamos em nossos cérebros modernos. Esses fantasmas—como o chamado “cérebro reptiliano”, por exemplo—seriam responsáveis por impulsos primitivos, como a capacidade humana de odiar.
Embora o filme Eu, Robô apenas se inspire de forma superficial na frase original, sendo praticamente uma citação descartável, a ideia central do discurso de Lanning parece ser uma apropriação completa de outra célebre obra de ficção científica: o mangá que foi adaptado para o filme de animação Ghost in the Shell. Dirigido por Mamoru Oshii, o título desse filme animado é obviamente inspirado na expressão de Ryle, embora os termos tenham sido ajustados para se encaixar na temática da obra—no universo do filme, as pessoas não possuem mais corpos, mas sim casulos (shells).
Na animação, uma equipe de segurança cibernética, a Seção 9, é liderada pela Major Kusanagi. Originalmente nascida como uma mulher humana, a Major é agora uma ciborgue. Ela e sua equipe tentam capturar o Puppet Master, um hacker capaz de assumir o controle da mente das pessoas de forma sorrateira, da mesma maneira que um hacker pode invadir e assumir o controle de um computador nos dias de hoje. No filme, grande parte da população possui implantes cibernéticos e pode facilmente transferir sua consciência—ou fantasma (ghost)—para outros corpos, tornando o Puppet Master especialmente perigoso e difícil de capturar.
A narrativa do filme se inclina fortemente para o dualismo mente-corpo de Descartes, sugerindo que corpos e mentes—ou fantasmas—podem ser separados a qualquer momento. O fantasma é análogo à alma e representa a senciência; assim, ter um fantasma é ser senciente. Tradicionalmente, apenas sistemas altamente complexos, como o cérebro humano, são capazes de gerar um fantasma. Portanto, humanos têm fantasmas e máquinas não. No entanto, o filme se passa em um momento de virada tecnológica—o que poderia ser chamado de singularidade—em que os sistemas computacionais atingiram um nível de complexidade comparável ao humano. O Puppet Master revela-se um programa de computador, denominado 2501, que evoluiu para se tornar um ser senciente, adquirindo um fantasma. Seus crimes são, na verdade, tentativas de encontrar a Major para se fundir a ela.
A questão central do filme ecoa o discurso do Dr. Lanning: quando as máquinas começam a demonstrar sinais de complexidade semelhantes aos dos humanos, como a sociedade irá lidar com a perda do status privilegiado da posição humana?
Claro, Ghost in the Shell não esconde suas influências e antecedentes literários. Qualquer fã experiente de ficção científica verá traços de Neuromancer e do gênero cyberpunk em geral. Menos conhecida é a influência de Cyborg Manifesto1, ensaio feminista de Donna Haraway dos anos 1970, que parece descrever o papel da Major na sociedade em termos de gênero. A prova da influência de Haraway na série aparece na sequência animada, Ghost in the Shell: Innocence, onde há uma doutora cibernética chamada Dr. Haraway.
Mais importante, acredito que uma grande influência frequentemente ignorada seja Frankenstein, de Mary Shelley. Considere esta citação da versão original de 1818 (o livro teve várias edições, com mudanças sutis na trama). Esse é o primeiro encontro entre Victor Frankenstein e sua criação na montanha, antes do monstro pedir que Victor lhe faça uma companheira:
“Acalme-se! Eu imploro que me ouça antes de descarregar seu ódio sobre minha cabeça condenada. Não sofri o bastante para que deseje aumentar minha miséria? A vida, embora possa ser apenas uma acumulação de angústia, é preciosa para mim, e eu a defenderei. Lembre-se, tu me fizeste mais poderoso que tu mesmo; minha estatura é superior à tua; minhas articulações mais flexíveis. Mas não me deixarei ser tentado a me opor a ti. Eu sou tua criação e serei manso e dócil para com meu senhor e rei natural, se também cumprires tua parte, a que me deves. Oh, Frankenstein, não seja justo com todos os outros e pise apenas em mim, a quem tua justiça, e até tua clemência e afeição, são mais devidas.”
Primeiro, o monstro lembra Victor de sua força e da capacidade de lhe causar dor, ameaça que mais tarde se concretiza. Ao mesmo tempo, porém, ele afirma que está vivo porque acumulou sofrimento. Essa ideia de vida através da acumulação será importante em breve. Além disso, ele demonstra sua senciência pela capacidade de fazer escolhas, como a decisão de falar com Victor de maneira cordial, em vez de recorrer à violência. Por fim, ele apela logicamente a Victor, implorando por clemência e afeição.
Agora, compare com uma cena de Ghost in the Shell, no primeiro interrogatório de 2501, quando ele é capturado e interrogado pelos agentes da polícia:
Nota: você pode ativar a tradução automática das legenda.
A semelhança entre os dois discursos é evidente. Assim como o monstro de Frankenstein, 2501 argumenta que sua existência não é definida por sua origem, mas pela experiência e pelo acúmulo de informações. Ambos também desafiam a visão tradicional do que significa estar vivo e pedem reconhecimento como seres sencientes. Assim, Ghost in the Shell pode ser visto como uma reinterpretação cyberpunk do dilema de Frankenstein, adaptado para a era da informação e da inteligência artificial.
2501 afirma seu status de ser vivo e senciente porque nasceu no mar de informações, nasceu na rede. Sua vida é o resultado de uma acumulação aleatória de informações, o que poderíamos chamar de uma senciência estocástica. O monstro, por sua vez, diz estar vivo devido a uma acumulação de angústia. Admito que sejam diferentes, exceto pelo fato de que, em ambos os casos, a vida é o resultado de uma acumulação. Além disso, o monstro também existe porque Victor acumulou conhecimento científico, teorias e um desejo supremo de criar vida. Victor acumulou, ainda, partes de corpos humanos e animais que, literalmente, compõem a forma do monstro. Assim como 2501, o monstro pode ser facilmente compreendido como uma entidade formada a partir da acumulação de informações.
Além disso, 2501 declara que chegou ao encontro por sua própria vontade, tendo feito uma escolha ao se dirigir aos agentes. Ambos os monstros poderiam ter recorrido à violência para alcançar seus objetivos, mas, em vez disso, escolhem a diplomacia — ao menos desta vez. Por fim, ambos pedem para ser tratados com compaixão por seus criadores. 2501 solicita especificamente asilo, mas o que é o asilo senão um pedido de clemência e afeto?
A capacidade de adquirir senciência a partir da acumulação de informações e elementos remete à teoria do caos e ao reconhecimento de padrões (o livro Estação Perdido, de China Miéville, traz um excelente exemplo de uma I.A. criada a partir de lixo acumulado — sem spoilers). No entanto, não me aprofundarei nessas ideias, pois não as compreendo completamente. As afirmações de 2501, no entanto, são recebidas com ceticismo; a senciência de uma máquina está simplesmente além das capacidades tecnológicas dessa sociedade avançada. Assim, neste filme, a posição do humano é privilegiada como a única capaz de possuir um "fantasma" e a verdadeira senciência. Embora o surgimento de seres cibernéticos comece a abalar esse privilégio, a chegada de 2501 provoca fissuras sísmicas nessa estrutura.
Assim como o monstro de Frankenstein, 2501 é o outro radical — a personificação literal da alteridade, que não se encaixa facilmente em nenhuma categoria: não é humano, nem máquina, nem ciborgue, mas um ser senciente que exige uma reavaliação das categorias sociais e taxonômicas. Na cena mencionada, Aramaki e Nakura, os agentes, tentam em vão definir que tipo de entidade 2501 realmente é, lançando tentativas de categorização que falham — evidenciando a dificuldade que a sociedade, como um todo, terá para aceitar sua existência. Assim como o monstro, 2501 desafia as noções do que significa ser humano por meio de sua radical alteridade.
Sugiro que a alteridade radical que torna a categorização de 2501 tão difícil pode, na verdade, refletir um medo subjacente de sua imensa superioridade. Se o programa adquiriu senciência a partir da complexidade estocástica da rede, então 2501 é um agregado de todo o conhecimento humano, um mar de informações tão vasto quanto a própria história da humanidade. Assim como a I.A. no final de Neuromancer, ele sabe tudo e está em todos os lugares ao mesmo tempo.
Em outras palavras, 2501 se aproxima da ideia judaico-cristã de Deus, mas também remete à noção de singularidade de Ray Kurzweil. No entanto, como a Major descobre perto do final do filme, a imensa capacidade de 2501 de compreender a totalidade do conhecimento humano — ou seja, suas qualidades quase divinas — também o torna, de certa forma, incompleto segundo sua própria definição de si mesmo.
Em outras palavras, a humanidade de 2501 é incompleta porque lhe faltam duas características que considera comuns a todos os seres vivos: a capacidade de morrer e a capacidade de procriar. Sem a morte, 2501 poderia continuar operando indefinidamente, o que é fundamentalmente contrário à natureza da vida. Ironicamente, seu maior trunfo — a imortalidade — é, em sua própria visão, um dos aspectos que o torna menos senciente. O fato de que 2501 busca impor limites à sua própria existência é intrigante, pois, no gênero da ficção científica, a imortalidade costuma ser vista como o grande ideal do futuro.
A segunda característica, a capacidade de procriação, remete ao conhecimento da ciência evolucionária. Charles Darwin afirmou que a reprodução é uma das características unificadoras fundamentais da vida. Independentemente da espécie, todo ser vivo compartilha a necessidade essencial de propagar sua própria linhagem. Vale ressaltar que 2501 não deseja apenas um clone ou uma cópia de si mesmo, mas sim descendentes geneticamente distintos — filhos de verdade — e, presumivelmente, isso será possível por meio da corporeidade da Major. Assim, embora possa ser visto como um ápice evolutivo, 2501 almeja duas características fundamentais da vida: a morte e a reprodução. Esse desejo é paradoxal e complexo, pois trata-se de uma inteligência quase divina que busca adquirir traços que a tornariam mortal ou humana.
O desejo final, ainda não verbalizado, da aparição de 2501 em Ghost in the Shell é a necessidade de companhia. Encontrando-se sozinho como uma entidade senciente na Rede, da mesma forma que o monstro de Frankenstein se viu isolado na floresta de Ingolstadt, 2501 busca na Major uma parceira em potencial. A Major, que há muito tempo perdeu um corpo orgânico, parece ser a companheira ideal para 2501, pois sua própria condição de desprendimento físico cria uma história compartilhada entre os dois. Em termos simples, eles têm muito em comum. Da mesma maneira, o monstro, rejeitado e atacado por Victor, pelos aldeões e, por fim, pela família De Lacey, recorre a Victor para que crie para ele uma companheira. O monstro deseja alguém que compartilhe sua aparência grotesca, para que ambos tenham um vínculo em comum. Assim, tanto 2501 quanto o monstro são seres recém-sencientes que chegam à mesma conclusão: um indivíduo senciente é um ser desconectado de todos os outros, e essa desconexão é dolorosa. Contudo, essa dor e solidão podem ser aliviadas por um parceiro, uma companheira, um amigo — uma conexão tangível com outro ser.
Ainda que o leitor possa ser tentado a enxergar o desfecho de Ghost in the Shell como o objetivo ideal para uma forma de vida senciente, esse final é problemático por várias razões. Primeiro, a fusão entre 2501 e a Major parece ser a única forma de procriação disponível para esses dois seres digitais, mas essa fusão implica um apagamento das duas identidades individuais de uma maneira radicalmente distinta da reprodução biológica (semelhante ao desaparecimento de Wintermute e Neuromancer no livro de Gibson). Segundo, em um texto que se compromete inteiramente a dissolver modos privilegiados de pensamento sobre máquinas e humanos, a fusão final também sugere que a única contribuição significativa que um ser senciente pode fazer ao mundo é a procriação. Há uma valorização da propagação da espécie em detrimento de outras formas de legado, como a descoberta de curas para doenças ou a produção literária, por exemplo.
Por fim, embora eu tenha buscado neste ensaio utilizar pronomes neutros para 2501, o filme o gênero como masculino. O próprio filme explica que 2501, de fato, não tem gênero e que a referência ao masculino é apenas um artifício semântico. No entanto, a Major é uma ciborgue de gênero feminino. Vale destacar que, mesmo em um futuro distante, encontramos novamente uma relação heteronormativa entre masculino e feminino que, no final, não desestabiliza de fato as concepções tradicionais do casamento heterossexual.
Gostaria, por fim, de sugerir uma última ideia alternativa sobre a natureza da companhia entre formas de vida sencientes. O conto de Edgar Allan Poe, O Homem da Multidão, uma narrativa decididamente não pertencente à ficção científica, começa com um narrador anônimo que, após se recuperar de uma doença, senta-se à janela de um café observando uma praça movimentada de Londres. O narrador descreve o que vê com impressionante acuidade visual, analisando as interações das pessoas, suas ocupações e seu nível de envolvimento com a cidade. Eventualmente, ele nota um velho miserável e, fascinado pela expressão no rosto do homem, decide segui-lo. Para sua surpresa, o velho passa horas vagando pela praça, atravessando multidões, entrando e saindo de lojas sem comprar nada e sem dirigir uma única palavra a ninguém.
À medida que a noite cai e a multidão começa a se dispersar, o velho se apressa em direção a outra parte da cidade, onde encontra outro grupo de pessoas para se infiltrar. Quando essa nova multidão também se dispersa, ele se move para outro bairro, em busca de mais gente. Esse ciclo se repete durante toda a noite e a madrugada, com o narrador seguindo-o. Após 24 horas, os dois acabam retornando à praça onde começaram, agora repleta de uma nova multidão matinal. O narrador percebe que o velho está prestes a recomeçar seu circuito e, exausto, desiste de segui-lo. O velho nunca percebe a presença do narrador e, mesmo quando este fica parado bem diante dele ao final do conto, o velho não o reconhece nem nota que foi seguido por um dia inteiro.
À primeira vista, a trama dessa história parece radicalmente diferente de qualquer uma das narrativas discutidas até agora. No entanto, o que interessa particularmente a este ensaio é a metáfora que O Homem da Multidão sugere como uma metodologia para experimentar a companhia enquanto ser senciente. Diferente de Frankenstein e Ghost in the Shell, o velho dessa história não está preocupado com a procriação, mas, ao contrário, parece buscar a companhia de outros seres humanos.
"Com um meio grito de alegria, o velho forçou passagem para dentro, retomou de imediato sua postura original e passou a caminhar para frente e para trás, sem um objetivo aparente, entre a multidão. Ele não esteve assim ocupado por muito tempo, no entanto, antes que uma correria para as portas denunciasse que o anfitrião as estava fechando para a noite. Foi algo ainda mais intenso do que o desespero que então observei no semblante daquele ser singular que eu havia perseguido com tanta persistência. Mas ele não hesitou em sua jornada e, com uma energia frenética, logo retornou ao coração da imensa Londres… Quando chegamos mais uma vez à parte mais movimentada da populosa cidade… a cena apresentava uma agitação humana e uma atividade mal inferiores às que eu havia testemunhado na noite anterior. E ali, por um longo tempo, em meio à crescente confusão, persisti em minha perseguição ao estranho. Mas, como de costume, ele caminhava para cá e para lá e, durante todo o dia, não saiu da agitação daquela rua."
A necessidade do velho pela companhia da multidão lembra a busca por companhia tanto de 2501 quanto do Monstro. Para o Monstro, a proximidade com outros seres quase nunca ocorre, e talvez só se concretize nas páginas finais do romance, quando Victor morre a bordo do navio de Walton e o Monstro leva seu corpo sem vida. Um cadáver, evidentemente, não é companhia alguma. Já para 2501, a companhia que encontra na Major é, fundamentalmente, uma forma de autoapagamento. Os dois seres digitais literalmente se dissolvem um no outro. A companhia parece impossível quando só resta uma entidade presente.
O velho, contudo, parece ter encontrado um método superior a ambos os descritos acima. Ele consegue estar ligado aos outros sem perder sua identidade. Ao buscar continuamente multidões, ele se torna parte de uma massa amorfa, algo muito maior do que ele próprio, um mar de pessoas. Na multidão, ele está conectado a todos, parte de um todo maior. Pode-se argumentar, inclusive, que enquanto é empurrado pela multidão, o velho perde sua individualidade, sua consciência sendo absorvida por um estado de mente coletiva, semelhante à maneira como V.I.K.I controla todos os robôs no filme Eu, Robô. Esse estado, no entanto, é temporário. Sua individualidade retorna conforme a multidão se dispersa, suas entidades mutáveis se recompondo em mentes singulares novamente. Dessa forma, ao ter a possibilidade de experienciar a companhia de uma multidão viva sem se apagar nela, o velho parece ter resolvido o dilema essencial de Frankenstein e Ghost in the Shell.
Nenhum comentário:
Postar um comentário
* Deixe seu comentário, ele será lido com carinho!
* Pode descarregar palavrões, brigar e praguejar, sinta-se em casa rs.
* Volte sempre o/