“O louco não é o homem que perdeu a razão. O louco é o homem que perdeu tudo, exceto a razão.”
G. K. Chesterton (1874-1936)
Quando eu era criança, existiam muitas revistas infantis e, pasmem: todas eram físicas, e precisávamos ir até as bancas de jornais para adquiri-las. Sempre traziam uma página chamada Ligue os Pontos, que parecia representar um céu estrelado, onde cada “estrela” era, na verdade, um ponto numerado. Bastava ligar o ponto 1 ao 2, o 2 ao 3 e assim sucessivamente para que surgisse uma figura.
Nunca esquecerei um exemplar no qual eu já havia ligado boa parte dos pontos e, mesmo assim, nenhum indício de desenho surgia. Aliás, quanto mais eu avançava, mais estranho tudo ficava, o que me deixava mais determinado a terminar. No fim, só havia um amontoado de linhas.
Como sou insistente, no mês seguinte comprei a nova edição. Na seção de erratas, a editora explicava que havia ocorrido um erro de impressão em alguns dos exemplares da edição anterior. Porém, minha intuição de criança indicava algo mais simples: alguém havia resolvido debochar de jovens leitores.
O fato é que eu havia ligado todos os pontos corretamente. Claro, poderia ter me confundido, minha vista poderia estar cansada ou eu poderia, por brincadeira, ter burlado alguma linha. Mas, naquela edição, fiz tudo certo. Fiz certo e obtive um resultado errado.
Se fosse hoje, possivelmente eu entregaria aquela desconcertante distração para uma inteligência artificial. Ela não ficaria empolgada, não se cansaria, não faria uma brincadeira alterando um traço para que um gesto de carinho fosse transformado em algo “menos carinhoso” e também não confundiria números. Porém, fatidicamente, a IA também produziria um resultado errado sem errar. Eu só iria constatar o que já intuía: há um problema externo ao papel e a mim.
IAs sempre fazem certo. Ainda que forneçam uma resposta errada, executam cálculos, cumprem algoritmos e manipulam probabilidades com perfeição. Enfim, sempre “ligam os pontos ‘binariamente’ corretamente”. Sendo justamente por isso que muitos questionam: o que sobrará para nós?
Há pouco, conversei com um ex-colega de trabalho que, em outras palavras, lançou essa pergunta. Não o chamarei pelo nome real, mas de Analógico Ferreira. Ele disse: “IAs irão acabar com muitas coisas. Precisam de limitações, principalmente pelo fato de que tornarão obsoletas inúmeras profissões. Estou preocupado com o futuro da minha”.
Concordei, não plenamente. Disse que ferramentas sempre substituíram e naturalmente continuarão substituindo parte do trabalho humano, depois completei: “se as IAs devem ser evitadas para não causarem desempregos, deve-se, pela mesma razão, evitar o uso de escavadeiras”.
Lembrei-me então de uma frase que só agora sei que é de Martha Gabriel: “Para não ser substituído por um robô, não seja um robô”. Depois de proferi-la, ele questionou: “Como? Como?” — sem notar que isso já o diferenciava enormemente de uma máquina. Afinal, dúvidas exigem consciência e sensação de que algo está errado, sem saber explicar exatamente o quê.
Porém, não comparei inteligência com consciência. Apenas respondi que negociações, liderança, confiança e trabalho em equipe pertencem ao domínio da inteligência emocional. Algo que, como a consciência, só pertence aos humanos.
Então lembrei-me de um fato conhecido por muitos: a amerissagem (pouso na água) realizada pelo comandante Chesley “Sully” Sullenberger.
Logo após a decolagem, a aeronave que estava sendo pilotada pelo primeiro oficial Jeffrey Skiles colidiu com um bando de gansos-do-canadá, provocando a perda da potência dos dois motores daquele bimotor a jato, um Airbus A320. Sully imediatamente proferiu a frase padrão da aviação: “My aircraft” (meu avião), tomou o controle da aeronave, intuiu que não havia tempo de seguir procedimentos padrão e nem de retornar ao aeroporto de origem ou qualquer outro e, então, julgou que o Rio Hudson seria a “pista de pouso” mais adequada. Sua decisão salvou todos — 150 passageiros e 5 tripulantes. Difícil imaginar uma inteligência artificial tomando tal decisão.
Ferreira gostou do exemplo. Provavelmente serviu para que ele compreendesse que a subjetividade humana não é um defeito do qual a técnica nos libertará, mas é justamente aquilo que torna possível lidar com situações imprevistas.
Simplificando, Analógico reconheceu que sempre haverá decisões que não envolverão apenas cálculos, algoritmos ou probabilidades. Sempre existirão resoluções que inevitavelmente deverão ser tomadas sob medos, responsabilidades, pressões, questões éticas, incertezas, hesitações e outros aspectos exclusivamente humanos.
Em suma, a inteligência humana não funciona isoladamente. Ela opera integrada às emoções, à consciência, à memória, à experiência, aos valores, ao medo, à esperança, à responsabilidade e a outras subjetividades. Podemos deitar em nossas camas sem saber como solucionar um determinado problema e acordar com a solução — não sabemos exatamente como isso acontece; sabemos apenas que acontece.
Na sequência, ele corretamente disse que o caso de Sully, de tão raro, deu origem ao filme O Milagre do Rio Hudson. No entanto, ele mesmo lembrou um acontecimento relativamente comum.
Ferreira passou meses testando uma atualização em um sistema de alta criticidade. Depois implantou as mudanças gradualmente e, somente quando tudo parecia funcionar corretamente, entrou em férias.
No último dia de seu descanso, percebi que um processo semestral utilizaria um conjunto de dados que jamais havia sido considerado durante os testes. A atualização não funcionaria corretamente para aqueles casos. Avisei nosso gestor e combinamos uma solução simples: depois do expediente, corrigiríamos manualmente os itens afetados para que ninguém fosse prejudicado.
Passamos boa parte da noite resolvendo manualmente aquilo que a automação não conseguiria fazer. Antes de sairmos, deixamos um bilhete orientando que aqueles registros não fossem liberados antes de nossa chegada, que seria um pouco depois do horário habitual. Naquele caso, havia necessidade de executar, no horário comercial, mais um “mini procedimento”, que só eu e meu gestor tínhamos permissão para disparar.
Na manhã seguinte, porém, a faxineira descartou nosso bilhete.
Quando Ferreira voltou ao trabalho, liberou apenas alguns itens e imediatamente percebeu que havia algo errado. Curiosamente, não sabia dizer o motivo. Não era capaz de apontar um erro específico; apenas sentiu que alguma coisa não parecia certa. Ligou para nosso gestor e só então compreendeu o que havia acontecido.
Nenhum de nós apenas executou procedimentos. Intuímos, julgamos circunstâncias imprevistas, percebemos sinais ambíguos e tomamos decisões antes mesmo de conseguirmos explicá-las racionalmente. Nosso gestor também notou o contexto abissal — realmente, uma quantidade enorme de possíveis cenários — e, em vez de procurar culpados, acabou fortalecendo a confiança em nós. Ele também mencionou uma situação parecida que já havia ocorrido com ele. Portanto, aquilo que, naquele instante, para nós era uma “ferida”, para ele já era uma “cicatriz”.
Em suma, IAs não possuem inteligência emocional, não possuem consciência (inclusive da própria finitude), não sentem medo ou coragem, nem dor ou prazer — aliás, coisas que ainda estamos distantes de compreender como funcionam em nós mesmos. Justamente por tais motivos, um notebook, um glicosímetro ou um computador, mesmo que participem de uma ação, não responderão moralmente por ela.
O cérebro de um médico e um glicosímetro trabalham por processos físicos, incluindo processos eletroquímicos. Mesmo diante dessa semelhança, nunca afirmamos que o glicosímetro foi negligente. Julgamos o médico ou o fabricante do equipamento porque reconhecemos neles consciência, capacidade de julgamento e responsabilidade moral — são capazes de pensar sobre o pensar; em outras palavras, possuem autoconsciência. É exatamente essa distinção que também existe entre um ser humano e uma inteligência artificial. Afinal, se os dados de entrada ou o código conviverem com um “ponto cego”, o software (IA) tratará esse “ponto cego” como uma realidade, ao passo que nós pensaremos: “acho que há um erro”.
E, por causa da nossa capacidade de sermos subjetivos e de assim “enxergar o externo”, ferramentas sempre poderão ser usadas para o bem e para o mal. E, curiosamente — não paradoxalmente —, para que o bom uso prevaleça não bastará que o operador seja inteligente.
Ted Kaczynski, conhecido como Unabomber, foi um matemático prodígio. Graduou-se em Harvard e, aos 25 anos, tornou-se o professor assistente mais jovem da história da prestigiada Universidade da Califórnia, em Berkeley. Porém, fabricava bombas em uma cabana, sem eletricidade ou máquinas sofisticadas. Também atacou secretárias de universidades, estudantes, professores e executivos de empresas de aviação. Kaczynski acreditava que a morte e a mutilação de pessoas inocentes eram meios perfeitamente aceitáveis e necessários para atrair a atenção pública para sua causa ideológica antitecnologia.
Portanto, onde houver necessidade de julgamento, responsabilidade, confiança, relacionamento, percepção de situações ambíguas e capacidade de lidar com imprevistos, “Analógicos” serão necessários.
Por Eric M. Rabello.
Nota da editoria:
A imagem da capa é um recorte da obra: “O Juramento dos Horácios” (1784), por Jacques-Louis David (1748-1825).
Sobre a imagem e a relação com o texto:
A pintura representa os irmãos Horácios jurando lutar por Roma diante das espadas que lhes são apresentadas pelo pai. A cena não trata apenas de força ou habilidade, mas de decisão, dever, responsabilidade e das consequências de uma escolha. As espadas, instrumentos centrais da composição, não possuem finalidade própria: são os homens que decidem como e para quê serão utilizadas.
