Robôs podem dominar o mundo?

A constituição de um novo mundo cibernético-informacional e o povoamento deste com extraordinárias máquinas sensíveis e pensantes

Por Alexandre Quaresma* | Adaptação web Caroline Svitras

 

Depois da invenção dos computadores há mais ou menos cinquenta anos, estas formidáveis máquinas informacionais – processadoras de dados e bits que nos mediam e nos suportam culturalmente – sofrem uma brutal evolução no que tange progressivos aperfeiçoamentos e sofisticações. E, de fato, constituímos uma monumental parafernália informática global totalmente interconectada, e estes dispositivos (hardwares e ­softwares) tornam-se mais e mais complexos e sofisticados, alcançando um patamar de desenvolvimento que agora na atualidade – e especialmente nos últimos dez anos – beiram sensibilidades e capacidades já comparáveis com as dos seres humanos em diversos aspectos, e, de fato, já vão os superando em atividades específicas, aqui e alhures.

 

Presumivelmente, todo esse processo deve acelerar, ampliar, multiplicar e, principalmente, consolidar-se nas sociedades pós-modernas como algo posto, normal, funcional e aceito. A tendência dessa dinâmica de evolução tecnológica é que tenhamos cada vez mais sensíveis e hábeis as nossas máquinas e maquinarias – nossas próteses – e que essas venham a nos superar pontualmente em vários segmentos cotidianos específicos, de forma a nos substituir em diversíssimos setores da vida civilizada, agora e no futuro, dando início (seja para o bem, seja para o mal) a uma nova era.

 

Do desamparo ao esquecimento

 

Substituir, diga-se, por superioridade, eficácia de performance e resultados, ou seja, por terem mais capacidade, aptidão e desempenho em lidar com um problema ou situação específica (em comparação conosco), e isso tem e provocará desdobramentos ­antropossociológicos e culturais significativos para este mesmo ser humano que concebe e cria tais sistemas e complexificações informático-digitais.

 

 

Redes Vivas

Uma rede autoconsciente é um sistema informático-computacional regido por um algoritmo complexíssimo, que é dotado de tamanha capacidade e potência aplicativa em termos de processamento e lógica computacional, que, além de ser sensível ao seu próprio funcionamento técnico, ou seja, capaz de otimizar suas fontes de dados de maneira mais viável e econômica durante os processos demandados, adquire uma sensibilidade tal – devido a seus sofisticados sistemas de processamento – que é capaz até de uma espécie de autopercepção de si mesmo e de seus funcionamentos e rotinas de trabalho mais elementares (mesmo que replicadas algoritmicamente), e, por consequência, são capazes também de tomar decisões.

 

O mais importante em termos operacionais para uma rede complexa inteligente é poder tomar decisões, principalmente, as apropriadas diante de situações imprevistas que possam surgir durante sua operação funcional cotidiana. E essas sempre acontecem. Numa linguagem simples, o sistema de IA (Inteligência Artificial) – para ser considerado um bom sistema, ou seja, para ser confiável – deve saber encontrar por si mesmo o caminho diante de (ciber-)problemas e (ciber-)obstáculos que possam aparecer durante seu funcionamento.

 

 

A isso também chamamos de emergência de consciência. Ou seja, o surgimento de soluções inesperadas para problemas também inesperados devido à extrema complexidade do sistema que, por sua própria dinâmica, propicia tais emergências. São emergências de soluções para problemas que, de igual maneira, emergem inesperadamente.

 

O que importa realmente à nossa análise crítica da tecnologia é que esse momento de desenvolvimento das IA(s) (Inteligências Artificiais) poderia ser considerado como um ponto intermediá­rio – em um ponto histórico – entre as máquinas frias, acéfalas e subservientes, como as que temos atualmente, e uma inteligência artificial mais evoluída e superior em termos de estado da arte informático-cibernética da tecnologia computacional, e o mais notável, diga-se, será poder observar essas mesmas inteligências artificiais em interação direta com as próprias sociedades tecnológicas que as criam, gerando o que chamaremos nesta coluna de um evento extraordinário.

 

 

Ou seja, a emergência de uma inteligência complexa que interage com a própria inteligência que a criou. Se a máquina realmente (a médio e longo prazo) se comportar como um ser vivo comum, no sentido de experimentar sentimentos, dor e prazer, por exemplo, desejo e repulsa, amor e paixão, felicidade e quem sabe até ódio, teremos um problemão para resolver.

 

 

Dinâmicas complexas

Hoje já é possível para um programa de computador conduzir um procedimento continuamente repetitivo que comece com uma questão simples, como “quem sou eu?”, por exemplo, para em seguida efetuar experimentos lógicos tentando responder à pergunta, avaliar os resultados e até formular novas questões. Seus criadores e fomentadores (engenheiros da IA), em determinados momentos de pura perplexidade, afirmam: “Estamos escrevendo coisas que não conseguimos mais ler!”.

 

Esta afirmação, para um matemático ou designer de IA tem um impacto fulminante em termos de lógica e também de prática, pois a lógica clássica associada à tecnologia binária de processamento de dados – pelo menos em tese – deveria ser capaz de compreender sua própria dinâmica lógica de validação operacional, ou seja, ser capaz de identificar os detalhes mais ínfimos das operações algorítmicas empreendidas e realizadas por seus próprios algoritmos, o que nem sempre acontece.

 

 

Quanto a isso, inclino-me a pensar que a tendência é que tenhamos algoritmos cada vez mais complexos e sofisticados para, progressivamente, realizar atividades mais especializadas, sensíveis e delicadas em diversas áreas; sempre com maior responsabilidade e poder de decisão sobre o mundo que nos cerca e sobre eles mesmos (algoritmos), nessas surpreendentes replicações de ambientes naturais e processos evolutivos virtuais, onde os softwares e algoritmos evolucionários podem apresentar comportamentos não previstos, semelhantes aos apresentados por espécies vivas em plena evolução.

 

Visão Jurídica: Direito robótico: a jurisprudência criada para as máquinas

 

 

De quem é o controle?

Quem estará no controle destes ­softwares e engenhos da IA? Nós, ou outros engenhos e softwares da IA? Eis a questão posta. Por enquanto, ainda é cedo para falarmos seriamente em revolta cibernético-maquínica, até porque mantemos todo (ou quase todo) o controle sobre as nossas máquinas e computadores, dos parâmetros estruturais de design ao fornecimento de energia e informações.

 

Ainda assim, podemos afirmar que já existe uma capacidade extraordinariamente grande de tecnologia e desenvolvimentos tecnológicos de extrema sofisticação nesse sentido de inteligência cibernético-informacional autoconsciente e autônoma, mas que estes se encontram ainda dispersos e embrionários, pairando no ar dos acontecimentos sempre velozes e fugidios da Pós-modernidade.

 

 

Não nos esqueçamos também do que está em Kaku (2001:143-144), onde se vê que a tendência evolutiva natural parece sempre favorecer os mais aptos e inteligentes, e se os nossos aparatos tecnológicos forem mais aptos e inteligentes do que nós (em termos gerais), poderemos esperar interações mais extremadas entre o maquínico e o humano, também num sentido inusitado de fusão simbiogênicas, já que: “A evolução sempre favoreceu o organismo dotado daquelas adaptações que melhor o capacitam para sobreviver. Talvez uma combinação de propriedades humanas e mecânicas possa gerar uma espécie com possibilidades de sobrevivência superiores. Segundo essa linha de raciocínio, os seres humanos talvez estejam criando os corpos para o próximo estágio da evolução humana”.

 

Evolução humana ou Pós-humana? Como vemos, trata-se de inventos, engenhos e projetos tecnológico-cibernéticos extraordinários, que vão – anelarmente – se conformando em realidade ao sabor dos ventos que altera os próprios transformadores que empreendem a referida alteração tecnicista, ou seja, os seres humanos.

 

*Alexandre Quaresma é pesquisador de tecnologias e impactos sociais e ambientais, membro ativista da Rede de Pesquisa em Nanotecnologia, Sociedade e Meio Ambiente (Renanosoma) e vinculado à Fundação Amazônica de Defesa da Biosfera (FDB). Autor dos livros Nanocaos e a responsabilidade global e Nanotecnologias: Zênite ou Nadir? E-mail: a-quaresma@hotmail.com

Adaptado do texto “Redes autoconscientes”

Revista Sociologia Ciência & Vida Ed. 41