Frankenstein ajuda a entender riscos da inteligência artificial

Frankenstein, de Mary Shelley, é considerada uma obra atemporal, capaz de fazer refletir sobre as ansiedades e contradições da modernidade. Keystone

Mais de dois séculos após sua publicação, Frankenstein, de Mary Shelley, continua atual ao tratar das consequências imprevistas da inovação. Na era da inteligência artificial, o romance funciona como metáfora dos desafios éticos e legais de tecnologias que fogem ao controle humano.

Foi numa “noite sombria de novembro” que Victor Frankenstein, o cientista de Genebra protagonista de um dos romances mais famosos da literatura universal, testemunha a realização de seus “trabalhos”: uma criatura montada a partir de pedaços de cadáveres humanos e animais ganha vida, para espanto e desgosto de seu criador. “Vi o olho amarelo e imóvel da criatura se abrir; ela respirava com dificuldade, e um movimento convulsivo agitava seus membros”: é assim que Frankenstein descreve o momento que mudaria sua própria existência.

Segue-se uma história em que a invenção tecnológica escapa ao controle humano: a criatura foge, aprende a falar e depois se vinga de seu criador, que se sente culpado.

Frankenstein, concebido pela escritora Mary Shelley durante uma estada no Lago Genebra em 1816, espelha há mais de dois séculos as ansiedades associadas à modernidade e às mudanças culturais. A acadêmica americana Mitzi Myers o chamou de “o canivete suíço do romantismo”, devido à sua capacidade de se adaptar a novos desenvolvimentos ao longo do tempo. “Você pode usá-lo para falar sobre qualquer coisa: gênero, revolução política, raça e drama familiar”, diz Sarah Marsh, professora de inglês na Seton Hill University, nos EUA.

Hoje em dia, pode ser tentador comparar a parábola de Frankenstein com a de uma tecnologia em particular: a inteligência artificial (IA). As semelhanças são fáceis de perceber: a criatura é um ser artificial que age de acordo com sua própria vontade; seu criador é um cientista confiante e ambicioso. A criatura é montada a partir de partes humanas, assim como os modelos de IA são treinados em textos humanos existentes.

A IA também está se espalhando rapidamente. Em apenas alguns anos, ela passou a estar presente em quase todos os aspectos da vida moderna: desde as ferramentas que usamos para trabalhar e acessar serviços cotidianos até os algoritmos que determinam o que ouvimos e assistimos em nosso tempo livre.

O poder e a onipresença dessa tecnologia geram temores de que, como a criatura de Frankenstein, ela possa acabar nos prejudicando: destruindo empregos, causando danos ecológicos com centros de dados ou tornando realistas cenários apocalípticos relacionados a armamentos movidos a IA.

Os aplicativos de IA e as preocupações dos usuários devem aumentar em 2026. Um olhar para a história nascida às margens do Lago Genebra pode oferecer insights sobre o que acontece quando inovações poderosas, como a IA, evoluem sem controle.

>> AI na arte: leia o artigo abaixo

Criador ou a criatura?

Um tema central do romance de Shelley é a responsabilidade. A criatura de Victor Frankenstein é inicialmente inofensiva. Ela age com boas intenções e só se torna violenta quando é rejeitada por seu criador e atacada pelas pessoas que encontra. O romance levanta a questão de quem é responsável pelas ações da criatura: o criador, a sociedade ou a própria criatura?

De acordo com Elisabeth Bronfen, professora aposentada da Universidade de Zurique, o livro de Shelley sugere que sua simpatia está com a criatura, vítima da hybris imprudente de Victor Frankenstein. “A criatura se expressa em uma linguagem poética, enquanto Victor Frankenstein aparece como um fanático, indiferente aos que o cercam”, diz Bronfen.

Apesar da simpatia de Shelley pela criatura, o romance não oferece uma resposta definitiva sobre quem, em última análise, é o responsável. Victor Frankenstein nunca é punido legalmente por seus pecados, e a criatura também não. No entanto, o imaginário de Shelley oferece ao leitor um valioso alimento para reflexão.

Depois que a criatura cometeu vários crimes, Frankenstein recorre a um juiz em Genebra em busca de justiça. O magistrado, embora abalado pela história, declara sua impotência: não há nada que ele possa fazer para levar perante a lei uma criatura que “parece possuir poderes tais que tornam ineficazes todos os meus recursos”.

No romance, a criatura não pode, portanto, ser considerada legalmente responsável por suas ações – uma situação que, de acordo com Sarah Marsh, se assemelha muito à situação jurídica atual dos modelos de linguagem ampla (LLMs). Os LLMs podem ajudar a diagnosticar doenças ou incentivar a automutilação, mas os tribunais e os órgãos reguladores ainda não determinaram quem deve assumir a responsabilidade pelo uso dessas ferramentas. “Se você estiver lidando com uma entidade não humana, como um chatbot, e o chatbot machucar você, quem o machucou? O chatbot? A empresa que o criou? Você mesmo? Essas são perguntas muito atuais”, diz Sarah Marsh.

É provável que essas questões sejam debatidas nos tribunais em 2026. Atualmente, várias famílias acusaram empresas de IA, como a OpenAI, de levar seus familiares – inclusive menores de idadeLink externo – ao suicídio e até mesmo ao assassinatoLink externo, mas ainda não há decisões legais.

>> Suíça também desenvolve inteligência artificial

Consequências não intencionais

O título completo do romance de Shelley é Frankenstein, ou o Prometeu moderno. Trata-se de uma referência ao titã da mitologia grega que criou o homem e foi eternamente atormentado por lhe ter dado o fogo.

À medida que o romance avança, Victor Frankenstein sofre a tortura infligida tanto pela criatura – que mata seus entes queridos – quanto por sua própria consciência pesada. “Eu havia sido o autor de males irreparáveis e vivia com medo diário de que o monstro que eu havia criado cometesse algum novo mal”, observa o cientista.

O drama de uma criatura que se rebela contra seu criador torna-se o drama de um cientista que, sem querer, dá vida a um ser destrutivo. “Muitas vezes, nós, cientistas, nos pegamos resolvendo problemas sem pensar nos efeitos. Esse romance nos dá a oportunidade de explorar as consequências não intencionais das ações da ciência”, disse Andy Bell, chefe de pesquisa e inovação da Universidade de Sheffield, no Reino Unido.

O desenvolvimento da IA é tão rápido que as consequências indesejadas são inevitáveis. Empresas como a OpenAI estão se esforçando para lidar com os muitos problemas imprevistos. Recentemente, a empresa anunciou que contratará uma pessoa responsávelLink externo pela previsão de riscos relacionados à IA.

No entanto, é difícil consertar as coisas uma vez que o dano foi causado, como mostra o romance de Shelley. Victor Frankenstein passa os anos seguintes à sua descoberta consumido pelo remorso e incapaz de corrigir suas ações.

Parte da comunidade científica levou a sério o ensinamento de Shelley. Em 2017, a editora do Instituto de Tecnologia de Massachusetts, um dos principais centros de pesquisa e desenvolvimento tecnológico do mundo, publicouLink externo uma versão anotada de Frankenstein para “cientistas, engenheiros e criadores de todos os tipos”. O objetivo? Deixar o remorso se dissipar antes que criações perigosas sejam colocadas em circulação.

Edição: Gabe Bullard

Adaptação: Alexander Thoele, com ajuda do Deepl