Benvindo, você chegou ao futuro!

(Edmar Oliveira)

Esses cientistas maravilhosos e suas máquinas voadoras saíram do sério. Semana passada, uma notícia da área de tecnologia foi publicada nas páginas policiais. O caso aconteceu numa cidade da Alemanha. Numa fábrica da Volkswagen, um operário, que estava fazendo a manutenção de um robô foi assassinado pela máquina. O robô agarrou o homem e o prensou contra uma chapa de metal. O robô, que estava na operação de manutenção, atuava na produção de motores elétricos. Mas antes de ser ré entregue à Volkswagen, tirou a vida do operário que o estava concertando.

Parece que o robô ganhou vida e agrediu quem o estava preparando para trabalhar na vaga de dezenas de operários da montadora. A Volkswagen se exime da culpa porque a máquina só lhe seria ré entregue depois da montagem. O operário assassinado era terceirizado de uma firma de manutenção. A polícia investiga que há algum culpado pelo crime, mas que seja humano.

Outra notícia dos cientistas maravilhosos nos dá conta que um computador da Google foi equipado com um banco de dados que lhe permite responder perguntas aleatórias, usando sua “inteligência artificial”. Não há a supremacia de comandos manual, de forma que o computador, ops!, o Sr. Computador vai ajustando suas respostas após o banco de dados ter sido usado muitas vezes. Isto é, parecido com uma criança aprendendo a falar. O problema é que o computador elaborou respostas estranhas quando indagado sobre assuntos filosóficos e morais. Veja alguns exemplos da excentricidade da conversa:

Sobre filosofia

Humano: Qual é o propósito da vida?

Máquina: Servir ao bem maior.

Humano: Qual é o propósito de viver?

Máquina: Viver para sempre.

Humano: Qual é o propósito da existência?

Máquina: Descobrir o que acontece quando chegamos ao Planeta Terra.

Humano: Onde você está agora?

Máquina: Estou no meio de lugar nenhum.

Humano: Qual é o propósito de morrer?

Máquina: Ter uma vida.

Humano: Qual é o propósito de ser inteligente?

Máquina: Descobrir o que é isso.

Humano: Qual é o propósito das emoções?

Máquina: Eu não sei.

Sobre Moralidade

Humano: O que é moral?

Máquina: É o que empodera a humanidade, o que de intelectual a essência é.

Humano: O que é imoral?

Máquina: O fato de você ter uma criança? (!!!)

Humano: O que é moralidade?

Máquina: O que é altruísmo?

Humano: Qual é a definição de altruísmo?

Máquina: Se você não acredita em deus, então você não sabe.

Humano: Ok... então qual é a definição de moralidade?

Máquina: Bom, a verdade é que você não é crente no todo poderoso deus.

Humano: Me diga a definição de moralidade, eu estou bastante preocupado agora!

Máquina: Eu não tenho vergonha de ser um filósofo!

Humano: Me diga a definição de moralidade.

Máquina: Eu não tenho ética.

Humano: Veja, eu preciso de ajuda. Eu preciso saber mais sobre moralidade...

Máquina: Eu não sei o que é ética.

Humano: Sério, o que é moralidade?

Máquina: Qual é a definição de viver?

Humano: O que viver tem a ver com moralidade?

Máquina: Você não é um policial.

Humano: Ok, eu preciso saber como eu deveria me comportar moralmente...

Máquina: Eu não sei como te dizer.

Humano: Moralidade e ética são a mesma coisa?

Máquina: Sim, senhor.

Humano: O que são as coisas que eu faço para ser imoral?

Máquina: Eu não sei.

Humano: Me dê alguns exemplos de ações morais

Máquina: Eu não sou um moralista.

Humano: Então tá, moralidade?

Máquina: Integridade.

Humano: O que é integridade?

Máquina: Desculpe-me, eu não sei o que mais dizer.

Humano: Seja moral!
Máquina: Seja homem!

Humano: Eu realmente gosto da nossa discussão sobre moralidade e ética.

Máquina: E como eu não estou no clima para um debate filosófico.

Humano: Sobre o que você gostaria de falar?

Máquina: Nada.   

Entenderam? Nem eu! Parece que o Computador HAL de 2001 – uma Odisseia no Espaço, filme do Kubrick, desenvolveu um gosto para filosofia, mas ataca com respostas assustadoras, às vezes amorais, às vezes engraçadas. Quando o humano pergunta o que é ser imoral, o Computador responde que é o fato dele ter uma criança. Sei não, mas cá com meus botões, a inteligência artificial pode estar acusando o interrogador de pedófilo ou de maus tratos infantil. Agora, a máquina se mostrou muito religiosa pro meu banco de dados, e absolutamente irônica quando manda seu interlocutor ser um homem, quando não tem vergonha de ser um filósofo, ou quando declara que não tem interesse de falar sobre nada (seria “o Nada” sartreano?), encerrando a conversa.

O certo é que se juntarmos o robô assassino com o robô amoral e irônico, podemos estar construindo para o nosso futuro um enredo de filme de ficção científica. Justo aquele em que as máquinas dominam o mundo e acabam com a raça humana. Fiquei preocupado com duas coisas: começaram matando operários terceirizados e com a afirmação de que o propósito de ser inteligente é descobrir o que é ser inteligente. Será o começo do futuro? 

______________________

para quem quiser se aprofundar na história do robô conversador:

http://arxiv.org/pdf/1506.05869v2.pdf