A inteligência artificial não tem alma

A história sugere que o desfecho é imprevisível. Vivemos em um mundo disruptivo e voltado para a destruição. Nem mesmo os cientistas e especialistas em inteligência artificial (IA), que trabalham em testes avançados em seus laboratórios secretos, sabem que alcance terão as novas tecnologias descobertas. Empresas competem pela liderança em um novo mercado; líderes das superpotências competem para assegurar um poder abso-luto, capaz de destruir o outro.

A decisão de colocar na rua o ChatGPT disparou uma corrida na qual os contendores ignoram os valores éticos. Daqui a no máximo dez anos, a humanidade, tal como a conhecemos, poderá ter desaparecido, como aconteceu a Hiroshima, a graciosa cidade ja-ponesa alvo de uma bomba atômica lançada de um avião B-29 americano, em agosto de 1945, ao final da II Grande Guerra.

Minutos após a explosão, um cogumelo cinzento de poeira, calor e fragmentos de fissão radioativa se ergueu no céu de Hiroshima. Em poucas horas a cidade começou a derreter e centenas de milhares de pessoas foram mortas. Uma tragédia de amplitude inima-ginável que abalou a humanidade, cujos efeitos perduraram por várias gerações.

Desafortunadamente, foi em Hiroshima, Japão, que líderes do G7, as nações mais ricas e poderosas do mundo, se reuniram para acertar a combinação de alianças que decidirá a solução final para esta guerra em andamento. Ao mesmo tempo, abriram um entendimento com vistas às próximas guerras que virão no futuro, Pequim e Moscou alijados dos centros de poder.

Lá estava Joe Biden, presidente dos EUA, com ares de pesar diante do Monumento aos milhares de mortos pelo artefato nuclear americano. Os japoneses nunca ouviram um pedido de desculpas.
Em outro canto do planeta, o ex-todo poderoso Henry Kissinger, secretário de Estado e conselheiro de segurança nacional dos EUA ao longo do último meio século, se disse alarmado e cético quanto à interferência da IA no destino da humanidade, que está na dependência de um entendimento entre EUA e China. No longo período em que co-mandou a política externa americana, Kissinger teve poderes para matar, declarar guer-ras, apoiar ditaduras e determinar a invasão de vários países, do Vietnã ao Chile.

Hoje um velhinho alquebrado, prestes a fazer cem anos, meio corcunda, apoiando-se numa bengala para andar, o experiente expert em guerras acredita que o rápido progresso da IA dará um tempo curto, de cinco a dez anos, para as lideranças encontrarem um caminho. Em artigo no The Economist, prevê que estamos no inicio de um processo em que máquinas poderão impor contaminações globais ou espalhar outras pandemias, não apenas nucleares, em qualquer campo da destruição humana. O controle do uso da IA será fator crucial para a segurança da humanidade.

Para o tarimbado conselheiro, a solução reside em alcançar um equilíbrio entre as for-ças internas de cada país, e o comedimento dos lideres. Líderes fortes e sábios capazes de entender que a inteligência artificial não deve ser levada ao limite. Os que se fiam na supremacia de seu próprio poder são capazes de destruir o mundo.

Isto é uma coisa absolutamente crucial, pois dela depende nossa sobrevivência. Outra coisa é saber como tomaremos decisões pessoais neste contexto de insegurança e grandes transformações. Causa assombro que novas ferramentas poderão tomar uma direção inesperada, adquirindo habilidades para manipular e gerar uma linguagem. Como escovarei os dentes e usarei meu computador amanhã? Devo parar por aqui esse texto ou peço ao ChatGPT para produzir uma coluna?

A chamada inteligência artificial generativa é uma categoria capaz de gerar novos dados, como textos, imagens e tabelas, semelhantes aos dados com que foram treinados. Ela funciona a partir de modelos de linguagem de grande escala. Dada uma sequência de palavras, o modelo seleciona a palavra com maior probabilidade de ser a próxima. Fiquei maluco ao ler isto, Não sei nem quero saber mais.

O escritor Julián Fuks provocou seus leitores escrevendo, em sua coluna no UOL, que seu texto fora escrito por um programa eletrônico de produção textual, do tipo ChatGPT. Depois disse que não, era mentira, que a coluna publicada era a que escrevera de verdade. Desconfiou do texto que recebeu, parecia redigido por robôs indiferentes à história humana, sem espaço para nossas dores e prazeres.
Entendi que ele quis dizer que lhe enviaram uma coluna sem alma. Como seria se os artificiais inteligentes tivessem que falar do amor e do sexo? Da próxima vez, vou tentar.

*Jornalista e escritor