Corremos o sério risco de tomarmos como verdade uma invenção

Por Demi Getschko

Em experimentações com modelos amplos de linguagem (LLM) de inteligência artificial (IA), ficam muito claros seus surpreendentes resultados, tanto em “entender” contextos, como, a partir de fontes, em criar resumos. E sempre com linguagem de ótima qualidade. Como exemplos adicionais, a IA fez-me um belo resumo de capítulo de livro que um grupo de colegas de leitura estamos discutindo. Seguindo ainda na linha comentada, pediu-se à IA que elaborasse uma possível analogia entre Amlet (o Hamlet histórico), real príncipe da Dinamarca famoso por sempre dizer a verdade, e a “verdade” na internet. Segue o pequeno trecho do que IA generativa produziu:

“A tragédia de Amlet na era da internet seria essa: um príncipe da verdade em um reino de incertezas, onde a autenticidade é constantemente questionada e a verdade é uma moeda rara e valiosa. Sua saga nos lembra que, mesmo em tempos de tecnologia avançada e comunicação instantânea, a luta pela verdade é eterna e sempre complexa, exigindo coragem, astúcia e, acima de tudo, uma fé inabalável na importância de se manter fiel aos fatos, mesmo quando ninguém mais acredita”.

Há, entretanto, contraponto a essa “profissão de fidelidade pela verdade”. Em outras “conversas”, sobre temas de esperança, provoquei-a a citar poemas em português sobre o mito de Pandora. Entre os exemplos que ela trouxe, dois me eram completamente desconhecidos: “A caixa de Pandora”, poema de Olavo Bilac, e a “A canção do ódio”, de Alberto Caeiro (Fernando Pessoa). Busquei-os na rede e nada achei. Pedi mais dados à IA. Ela reforçou o que já tinha dito e anexou na íntegra, e em estilo parnasiano, o que seria o tal poema de Bilac. Também a “Canção do Ódio” foi explicitada, inclusive com comentários relacionando-a ao tema “esperança”. Busquei e, de novo, nada encontrei na internet.

Resolvi perguntar a outra IA bem conhecida, se havia o poema de Bilac e se podia repassá-lo. Ela foi incisiva em dizer que “sim, é um poema bem conhecido” e me repassou. E… não era o mesmo poema que a primeira IA inventou! Ou seja, ambas criaram poemas verossímeis, que poderiam ser atribuídos a Olavo Bilac. O mesmo se passou com a tal “Canção do ódio”, com o detalhe adicional que a segunda IA, de forma ainda inventiva, o atribuiu a um outro heterônimo de Fernando Pessoa: Álvaro de Campos!

Por prioridades ou estratégia, a IA prefere inventar algo a dizer que “não conhece”. Assim gera-se um poema que passaria como sendo de Olavo Bilac, e faz-se o mesmo com Fernando Pessoa, mesmo que IAs diversas o atribuam a diferentes heterônimos. O fato é que, se não falhei nas buscas, ambos os poemas inexistem: são criações da IA. Certamente, se formos superficiais na análise do que recebemos dela, corremos sérios riscos de tomar como verdade uma invenção.

Como muitos já disseram, meias-verdades são as mentiras mais insidiosas, porque revestem-se da roupagem de verdade. Chesteron, em 1910, havia advertido de que, enquanto a verdade integral alia-se à virtude, uma meia-verdade sempre está acoplada a algum vício. Sempre alerta!