Inteligência Artificial e o fim da realidade

“As tecnologias de IA, como deepfake, CGI e modelos de voz, permitem “ressuscitar” artistas falecidos, rejuvenescê-los e modificar suas feições para homenagens, preservação cultural e novas formas de entretenimento. No entanto, isso traz desafios éticos, como questões de consentimento, autenticidade e respeito à privacidade, que precisam ser gerenciados cuidadosamente.”

Epígrafe acima produzida pelo ChatGPT, em função das solicitações:

1. “Atualmente é possível ‘ressuscitar’ artistas que já morreram, rejuvenescê-los, enfim, modificar suas feições em qualquer nível, graças às novas tecnologias de IA. ChatGPT, o que você diz sobre isso?” (retornou resposta longa); e,
2. “Você pode resumir sua resposta em três ou quatro linhas?” (a resposta literal produziu a epígrafe acima).

“Evite a todo custo, nem comece a utilizar!”, disse-me um jovem conhecido meu, estudante do ensino médio, quando conversávamos sobre a conhecida ferramenta de Inteligência Artificial (IA), o ChatGPT. A advertência vinha carregada de certo remorso, pois confessou: “Eu sei que o mecanismo funciona e agora fiquei mal-acostumado com tamanha facilidade.”

Surpreendente, pensei, por dois aspectos. Primeiro, a IA se mostra aliciante, quase como um entorpecente, sobretudo para o caso de estudantes ávidos de resolver incômodos deveres escolares. Em segundo lugar, a sinceridade do rapaz ao admitir que melhor seria se a ferramenta não existisse, pois vê bem a lacuna que seu uso indiscriminado representa na formação escolar de qualquer aluno. Eis aí uma boa lição.

Esse jovem reconhecia-se como uma das incontáveis vítimas da “inundação-IA” e desejava que eu não me tornasse mais uma delas. Sim, trata-se de uma inundação. Mas essas águas, para seguir a metáfora, chegam por enquanto apenas aos nossos tornozelos. Há ainda muita enxurrada por vir. O ChatGPT é somente um exemplo dos aplicativos que podem facilmente produzir textos ou redações, fornecer respostas rápidas a virtualmente qualquer pergunta, e até resolver problemas intricados de matemática ou física. Maravilhas tecnológicas para fomentar a indolência estudantil, já tão generalizada em nossas escolas. Porém, outras ferramentas vão despontando. O que mais vem do mundo da IA?

Futuro sombrio da “Inteligência Artificial”

Um crítico apressado diria que tais recursos facilitam a vida e seria estupidez não os utilizar. Não nego em princípio que o progresso tecnológico traga certos benefícios num plano geral. Mas a questão se complica se alguém com um pouco de bom senso perguntar: a que custos? E quais os limites? Com um tema tão vasto, aponto aqui apenas alguns aspectos, talvez os mais inquietantes.

Muitos estudantes deixam de lado o esforço intelectual só porque se tornou “terrivelmente” prática e rápida a utilização dos aplicativos de IA instalados no celular. Para que extenuar-se em exercícios metódicos do raciocínio diante de tanta facilidade?

Além do perigo da produção em massa de “preguiçosos escolares”, como lamentou o meu jovem amigo, a IA constitui outro fator de preocupação quanto à difusão de notícias, imagens e vídeos. A insegurança gerada pelas Fake News — terreno onde a IA há tempos já penetrou — nos conduz à instintiva desconfiança do noticiário. Frequentemente nos perguntamos: “Isso aí não será notícia falsa?” Daí a proliferação das agências de checagem de fatos. E, então, outra pergunta de bom senso poderia ecoar: “Quem checa as agências de checagem?”

Parece que nos aproximamos da extinção da realidade. O triste fim para o qual nos arrasta o progresso tecnológico seria um beco escuro, onde não existe mais a possibilidade de encontrar a verdade. Se a razão humana não encontra mais a verdade e certezas, do que vale a razão? E do que vale o homem sem a razão? Tornar-se-á um bruto escravizado pelos instintos cegos, ou melhor, pelos quase “onipresentes” aplicativos de IA?

Graves riscos para a humanidade

Por falar nisso, o leitor já se perguntou se este mesmo artigo que está lendo agora não seria gerado por IA? Confie em mim… Como disse, nunca utilizei o ChatGPT ou qualquer outro aplicativo para geração automática de textos. Mas se alguém tem alguma dúvida, existem recursos — mais tecnologia e mais aliciamento! — para detectar textos saídos de IA. Tais ferramentas já se tornam bastante utilizadas por professores na “caça” a alunos fraudulentos.

Um recente artigo publicado no Washigton Post demonstra que esse tipo de inquietação ganha mais e mais ressonância: “Em carta pública, um grupo de funcionários atuais e antigos da OpenAI e de outras empresas proeminentes de IA alertaram que a tecnologia representa graves riscos para a humanidade, e pediram às empresas que implementem mudanças abrangentes para garantir transparência”.¹ A carta foi assinada por 13 pessoas, incluindo atuais e ex-funcionários da Anthropic e da DeepMind, do Google.

Esse estranho “desaparecimento da realidade” também invadiu a indústria do cinema. Atualmente é possível “ressuscitar” artistas que já morreram, rejuvenescê-los, enfim, modificar suas feições em qualquer nível, graças às novas tecnologias de IA. E se o produtor de filmes deseja colocar uma conhecida personalidade internacional para “atuar”, basta usar o recurso conhecido como deepfake. No recente filme intitulado “Putin”, o cineasta polonês Patryk Vega pôs a tecnologia ao seu serviço para criar e gerar o rosto do protagonista, proporcionando a quem assiste ao filme a ilusão de ver Vladimir Putin encenando sua própria biografia, adaptada para o cinema.²

Outro exemplo chocante: o cineasta suíço Peter Luisi declara que utilizou o ChatGPT para escrever o enredo completo do filme “Prinzessin” no qual o protagonista descobre que a IA é mais eficiente do que ele próprio! “O roteiro é terrivelmente bom, todo mundo está surpreso como ficou bem feito”, diz Luisi. “Na trama, Jack, um roteirista célebre, sente seu mundo desmoronando quando encontra um sistema de roteiro de IA de última geração. Embora ele comece a usá-lo com ceticismo, logo descobre que a IA o supera em empatia e compreensão das emoções humanas”.³

Mundo lunático, artificial e delirante

“Apenas entretenimento”, alguém dirá. O problema, entretanto, persiste, pois se grande parte da população vive em busca de entretenimento, ela não acabaria agindo como se nada tivesse valor real? Afinal, tudo não passa de IA e diversão…

Assim como existem agências de checagem e aplicativos para detectar IA geradora de textos, há também mecanismos recentes para descobrir fotos ou vídeos com deepfake⁴. Entretanto, tudo isso só contribui para a sensação de que o mundo vai afundando na paranoia da irrealidade. Isso constitui um dos mais preocupantes aspectos da “inundação-IA”.

Penso que o conselho de meu jovem amigo relatado no início deste artigo deveria ser seguido pelo maior número de pessoas, para impedir que se afoguem na enchente: “Evite a todo custo, nem comece a utilizar”. Pondero, contudo, que a utilização da IA para questões pontuais e para fins legítimos não deveria ser condenada em princípio. Mas todo cuidado é pouco.

E quanto às pessoas que já caíram nas águas turvas da IA e se sentem aliciadas por ela, vai aí um conselho: peça a Deus, pela intercessão de Nossa Senhora, para sair da enchente o mais cedo possível.

Por Paulo Henrique Américo de Araújo.
Publicado originalmente pela Revista Catolicismo, edição número 883 de julho de 2024.

Notas: