Luz Profana

Como educar as máquinas?

Por Carlota Cafiero

O que impede nossos filhos de nos destruírem? O amor, o afeto, as boas lembranças, o instinto, a dependência, o caráter? Pode ser um pouco de tudo isso, mas, principalmente, dos valores humanos que transmitimos a essas criaturas. Tão importante quanto a carga genética é a carga ética que passamos às novas gerações. Disso depende nosso futuro como espécie: garantir que o desenvolvimento econômico e tecnológico venha acompanhado de fundamentos éticos, que respeitem a dignidade humana — mais importantes do que os divinos, pois a história nos mostra que causamos muita dor e destruição em nome das religiões.

Encontrar motivos para segregar e declarar guerras é algo que o ser humano sempre fez bem, como se a culpa fosse do outro, do estrangeiro, do extraterrestre, como se a ameaça fosse sempre externa à nossa comunidade, feudo, planeta ou sociedade.

O slogan Make America Great Again, que gerou a sigla MAGA, das duas campanhas de Donald Trump, traz embutido o desejo de reviver feudos, ao erguer um muro gigante de concreto e aço contra “hordas bárbaras” vindas do México e outros países da América Central. Desde 2018, foram construídos mais de 730 quilômetros do muro, e a cada dia são erguidos mais de 800 metros ao longo dos quase 3.218 km de fronteira, consumindo cifras bilionárias.

No final da primeira década do século 21, descobrimos que a maior ameaça à espécie humana veio de um agente infeccioso microscópico, entre a fronteira do vivo e do não vivo, o vírus SARS-CoV-2, causador da Covid-19. Criado propositadamente ou não por nós mesmos, o vírus motivou a humanidade a pensar coletivamente e agir de maneira global no desenvolvimento de uma vacina em tempo recorde, mas ainda assim houve países cujos líderes puseram em dúvida o vírus, a pandemia, as organizações mundiais, os tratados, as descobertas científicas e a vacina. A consequência desse comportamento conspiratório foi a população desses países assistir, entre estarrecida e impotente, ao aumento do número dos seus mortos.

A dúvida é uma prerrogativa humana que deve ser preservada e até incentivada, mas não a dúvida motivada pela estupidez, pela morbidez ou pela sanha de impor um só ponto de vista, ainda mais sem bases empíricas.

O Ph.D. em História pela Universidade de Oxford e autor do livro “21 Lições para o Século 21”, Yuval Noah Harari, escreveu que “pessoas temerosas de perder sua verdade são propensas a ser mais violentas do que pessoas acostumadas a olhar para o mundo de diferentes pontos de vista”, e conclui de maneira brilhante: “Perguntas às quais você não é capaz de responder são geralmente muito melhores do que respostas que você não é capaz de questionar”.

O vírus e a pandemia provocaram muitas perguntas às quais ainda não somos capazes de responder, e a busca coletiva por respostas nos levou a evoluir como civilização. Mas é preciso humildade para assumir a própria ignorância diante do desconhecido.

Essa evolução deve vir acompanhada dos valores éticos e humanos, daí a importância dos tratados e das organizações mundiais na vigilância no uso dessas descobertas. Do contrário, nossas conquistas formidáveis nos campos da biotecnologia, da nanotecnologia e da Inteligência Artificial (IA) correm o risco de serem apossadas por indivíduos ou organizações com vistas a lucrar muito ao beneficiar com saúde e longevidade somente aqueles mais ricos do planeta.

Se assim acontecer, a massa de pessoas economicamente desfavorecida será cada vez mais empurrada para fora desse paraíso artificial, vítima de um violento processo de eugenia, que considera muito mais a qualidade dos genes, desde a concepção, numa seleção feita talvez não mais por seres humanos, mas por máquinas e algoritmos — e aí volto à questão que abre este artigo, adaptando-a: o que impede a IA de nos destruir? Como transmitir ética e valores humanos à máquina?

O artista suíço H. R. Giger (pronuncia-se “guíguer”, 1940-2014) imaginou e pintou um mundo em que humanos e máquinas se fundem e formam seres biomecânicos (imagens que ilustram esse artigo), num tempo em que, assim como prescreveu o midiólogo norte-americano Reed Mercer Schuchardt para o século 21, não só trabalharemos para a máquina, mas por ela seremos criados, viveremos e seremos usados de acordo com seus desígnios.

Carlota Cafiero é jornalista e historiadora da arte.