O próximo grande romance poderia ser escrito pela IA (e você seria capaz de dizer)?

Três parágrafos, de três avaliações de hotéis diferentes. Você pode dizer quais, se houver, foram geradas por IA?

“O hotel está em uma excelente localização para tudo. Muitos lugares para comer e beber. O hotel em si está sempre agitado. A taberna localizada no térreo é definitivamente uma obrigação. Comida, serviço, preços e atmosfera eram ótimos."

“Um bom hotel, embora o quarto tivesse as proporções de um elevador bem equipado. Dormi bem, o chuveiro era excelente, os funcionários eram simpáticos. O café da manhã estava cheio, mas competente. Voltaria, embora provavelmente não com uma mala muito grande.”

“Excelente base para uma viagem a Londres. O quarto era silencioso, a cama confortável e tudo funcionava exatamente como deveria. A equipe foi prestativa sem hesitar. Uma estadia tranquila e descomplicada do início ao fim.”

Como você acha que fez isso? A maioria das pessoas, diz Claire Hardaker, professora de linguística forense na Universidade de Lancaster, acerta este tipo de julgamento apenas cerca de 60% das vezes. Seu teste online, Bot or Not, pede aos usuários que identifiquem as falsificações em uma série de 15 análises. A taxa de sucesso mediana pode ser uma surpresa para aqueles convencidos de que conseguem identificar a escrita de IA a 50 passos. Quando surgiram dúvidas em Maio sobre a autenticidade de um conto premiado de Jamir Nazir, os utilizadores das redes sociais foram extremamente rápidos na sua condenação. “Se você sabe, você sabe”, comentou um. Nazir disse mais tarde ao The Atlantic que não usava IA.

Hardaker diz que seus entrevistados tendem a confiar em algumas regras práticas rápidas para identificar a linguagem da IA, incluindo a presença de clichês e o uso de travessões. A “regra de três”, onde palavras ou frases são organizadas em um trio satisfatório, também é considerada uma dádiva. “As pessoas aprenderam rubricas muito simplistas e agora aplicam-nas loucamente em todos os lugares.”

Porém, há um problema: esses “sinais” também são característicos da escrita humana, na qual, afinal, os grandes modelos de linguagem (LLMs) que os produzem foram treinados. “Você poderia voltar a Charles Dickens e dizer que ele tinha IA, porque ele também usava o travessão.” E os oradores sabem da regra de três desde que Júlio César disse Veni, vidi, vici. Em nossos exemplos de avaliações de hotéis, apenas o primeiro era autêntico. Você cronometrou?

Talvez por ser tão difícil ter certeza, a suspeita se tornou a ordem do dia. No mundo literário, as acusações de IA agora atormentam os escritores, com vários níveis de justificativa. Um romance de terror de estreia, Shy Girl, foi retirado pela editora Hachette depois que circularam rumores online de que a autora havia confiado na IA, o que ela nega; Descobriu-se que o livro de Steven Rosenbaum, The Future of Truth, um estudo sério sobre “como a IA remodela a realidade”, contém numerosas citações alucinadas, que o autor reconheceu num pedido de desculpas.

As organizações de comunicação social, incluindo o Guardian, recebem um número crescente de queixas sobre textos supostamente gerados por IA. Isso inclui intuições sobre frases específicas, mas também comentários sobre erros de digitação e gramaticais. Num caso, a palavra “depois” foi inadvertidamente duplicada numa frase. “Não consigo imaginar que um editor/revisor humano sinta falta de algo assim”, escreveu um leitor, demonstrando uma comovente fé em nossas habilidades de edição.

O problema é que a IA não só treina a escrita humana, mas os humanos são estilisticamente influenciados pela IA, criando a interação uma espécie de salão de espelhos linguísticos. Sem que um autor admita isso, é difícil dizer com certeza se um texto individual é IA ou não. Essa incerteza é uma receita para a paranóia.

E se você estiver tentado a recorrer a uma ferramenta de triagem comercial para separar humanos de máquinas, isso também traz incertezas, diz Hardaker. "Dado que alguns de nós escrevemos naturalmente de uma forma que seria vista como semelhante à IA" - ela menciona pessoas neurodivergentes, por exemplo - "isso será detectado como IA. E você pode modificar a saída da IA ??para torná-la mais humana. Se você colocar esse tipo de conteúdo em um detector de IA, você obterá resultados malucos." Como alguém que atuou como perito em tribunal, ela é “extremamente cética” quanto à sua eficácia.

O recém-popular detector Pangram, que apresenta taxas de falsos positivos de cerca de 1 em 10.000, demonstrou em testes independentes ser altamente eficaz na detecção de escrita de IA, mesmo quando é executado através de um aplicativo “humanizador” para disfarçar sua origem. Mas as questões permanecem. Consegui enganá-lo na primeira tentativa (veja a imagem abaixo) canalizando um registro bombástico que pode muito bem ser característico da IA, mas também pode ser o trabalho de alguém com um estilo naturalmente bombástico – ou, mais especificamente, de um escritor que está imerso na produção dos LLMs que alimentam ChatGPT, Claude e Gemini. Isso, cada vez mais, somos todos nós.

Grandes quantidades de textos sobre IA são publicados todos os dias – desde textos publicitários até resumos acadêmicos e ficção. Ao mesmo tempo, ele se torna cada vez maior em nossas vidas por meio de sugestões de e-mail geradas automaticamente, resultados de pesquisa de “visão geral de IA” e respostas às nossas consultas de chatbot. Neste nível de exposição, já não é uma questão de saber se a IA está a mudar a linguagem, tanto a forma como falamos como a forma como escrevemos; a questão é como. E devemos resistir ou abraçá-lo?

Já sabemos há algum tempo que os LLMs geram texto que pode ser ligeiramente diferente da escrita humana, em média. Muitas vezes isso só fica claro quando se olha para grandes quantidades de material. Um pesquisador atento relacionou a popularidade repentina da palavra “investigar” aos LLMs em 2024, após pesquisar um banco de dados de artigos científicos. Outras “palavras focais” que as IAs tendem a usar excessivamente incluem “mostrar”, “gabar-se”, “sublinhado”, “acumular”, “alinhar”, “superar” e “complexo”. Mas, novamente, qualquer texto individual poderia fazer uso desse vocabulário de forma totalmente inocente.

Numa reviravolta adicional, alguns investigadores pensam que o fenómeno de “aprofundamento” pode não se dever aos modelos em si, mas aos humanos encarregados de os avaliar e orientar num processo conhecido como “aprendizagem por reforço com feedback humano”. Para os trabalhadores que são “mal pagos, stressados ??e sob pressão de tempo”, parece que “certas palavras são tratadas como um indicador de qualidade” e o modelo é inadvertidamente treinado para as utilizar com mais frequência. Em outras palavras, “investigar” pode dever sua ascensão meteórica ao fato de não parecer o tipo de palavra que uma IA usaria. (Uma outra sugestão de que aparecia com mais frequência porque era característico do inglês usado na Nigéria, onde viviam muitos trabalhadores da RLHF, não é confirmada pelos dados.)

Existem outros padrões que podemos distinguir: LLMs adoram substantivos, mas parecem usar menos pronomes do que humanos. Isso pode refletir o fato de que eles não falam tanto sobre si mesmos ou sobre outras pessoas quanto nós, criaturas sociais. Eles gostam de adjetivos atributivos (“a cadeira desconfortável”), mas não de adjetivos predicativos (“a cadeira estava desconfortável”), talvez porque prefiram entregar informações em pacotes pequenos e densos, enquanto nós preenchemos as coisas. Diferentes modelos têm idiossincrasias claras – você pode até chamá-los de “dialetos”: Gêmeos gosta de dizer “aqui está um colapso”, enquanto Deepseek frequentemente responde com um alegre “Certamente!”. Quando solicitada a editar o inglês formal de todo o mundo, a IA tende a achatar-se e homogeneizar-se em direção a um padrão anglo-americano, num processo que os investigadores denominaram “fantasma cultural”. Assim, o pedido perfeitamente aceitável em inglês profissional indiano de “Por favor, faça o que for necessário e volte o mais rápido possível” é “corrigido” para “Por favor, conclua a tarefa e responda imediatamente”.

A evidência de que aspectos da linguagem LLM escaparam para o mundo “real”, mudando a maneira como os humanos usam a linguagem quando as IAs não estão por perto, está agora surgindo. Um estudo analisou milhares de conversas improvisadas e descobriu que palavras como “investigar” e “vangloriar-se” aumentaram após o lançamento do ChatGPT. Outro mostrou que a frequência de “aprofundamento” em resumos académicos diminuiu depois de terem sido destacados nas redes sociais, num sinal de que a influência da IA ??pode atuar de formas complexas.

Isso importa? A linguagem muda constantemente – as palavras entram e saem de moda, e as novas tecnologias sempre foram uma das forças por trás disso. No entanto, a IA parece estar a gerar níveis particularmente elevados de ansiedade. Por que? “Acho que o que assusta as pessoas é a ideia de invadir a senciência, de se tornar o novo humano”, diz Hardaker. Desde 2023, ela expandiu o projeto Bot or Not para fala e música, e percebeu como as pessoas reagem visceralmente quando uma música de que gostaram acaba sendo composta e executada por uma máquina.

Gary Shteyngart, um romancista que ensina escrita criativa na Universidade de Columbia, notou uma força de sentimento semelhante entre seus alunos diante da perspectiva da literatura sobre IA. “Quando um dos meus alunos de pós-graduação disse ‘como experiência, vou escrever uma parte deste artigo com IA’, os outros alunos ficaram tão irritados que me escreveram cartas dizendo como isso era horrível.”

“Há uma espécie de acordo implícito entre escritor e leitor, onde você sabe que o trabalho que está recebendo é gerado por um ser humano, e acho que pareceu um ataque a isso”, diz ele. "Ler ficção literária é essa incrível fusão da mente vulcana com outro ser humano, entrando na consciência de outra pessoa. Com a IA, estou entrando no simulacro da consciência de outra pessoa, um grau removido, ou muitos graus removidos. Quão triste é isso em comparação?"

Para Hardaker, “acho que isso afeta o que consideramos ser o que nos torna especiais, o que nos torna valiosos e únicos”. Ao mesmo tempo, o modelo de geração musical que ela utiliza "gerou alguns sucessos absolutos. Eu os ouço, sem ironia, no meu carro, e gosto bastante deles".

O mesmo poderia acontecer com a literatura? Será que um romance de autoria automática um dia ocupará o seu lugar entre os 100 maiores de todos os tempos? Peter Stockwell, professor de linguística literária na Universidade de Nottingham, acredita que a IA pode ser capaz de fazer o básico, mas não consegue escalar alturas. “Se você quer algo que seja muito familiar, medíocre e totalmente funcional, é incrivelmente bom nisso.”

Uma forma de pensar a linguagem, diz ele, é como uma série de camadas, com palavras na parte inferior seguidas de frases, orações, sentenças compostas, até a estrutura narrativa. "A IA é realmente boa nos níveis mais baixos. Ela aprendeu muitas das nossas estruturas sintáticas e, portanto, tudo parece bem formado e gramatical. Mas, quanto mais alto você sobe, menos bom é." O arco de uma história é particularmente difícil para a IA acertar de forma convincente.

"Se você tiver uma IA para escrever uma narrativa, ela pode fazer um ótimo trabalho ao ter uma sequência de eventos e algo acontecer no final. Mas não seria uma narrativa muito contável", continua ele. "Nada surpreendente ou interessante aconteceria. E se houver algo surpreendente, geralmente parecerá um erro, em vez de uma reviravolta brilhante."

O molho secreto da boa escrita permanece secreto – até mesmo para os acadêmicos que o estudam. “Os linguistas não entendem, realmente, como a linguagem funciona nos seus níveis superiores”, ao nível do discurso, da narração de histórias, do encantamento. “Não podemos construir uma máquina para fazer algo quando não sabemos como funciona.” Temos alguma ideia do que isso pode resumir – e essa é a nossa natureza fundamentalmente social e, ligada a isso, o facto de sermos “wetware” – carne humana, com os seus picos de adrenalina, descargas de dopamina, desejo de contacto social, todos os quais encontram expressão na estrutura da linguagem e na forma como a usamos.

Existem dois modelos amplos em linguística, explica Stockwell, um que vê o cérebro como um computador, analisando estruturas gramaticais e computando o significado delas, e outro que o vê como fundamentalmente incorporado, algo refletido na linguagem pelo fato de que, em muitas línguas, entendemos por “ver” ou tendemos a pensar em “para cima”, onde está nossa cabeça, como bom (ficamos “altos” e nos sentimos “para baixo”). “Uma das coisas principais é que as IAs atuais não têm corpo, não existem no mundo, então não sabem como é estar no mundo como um ser humano.”

Para Shteyngart, o sentimento é essencial: “Hoje é o primeiro dia quente em Nova York. E se eu começasse a escrever um romance, acho que seria mais quente. Acho que filtraria o que sei através do calor do dia. Acho que se eu comesse um almoço realmente maravilhoso e me sentasse para escrever, haveria mais sensualidade na minha escrita”.

"O amor pelo corpo e os seus encontros com o mundo físico são o que impulsiona alguns dos melhores da literatura. Por isso, quase sinto pena destes LLMs, enquanto falo sobre eles, porque são empurrados para uma máquina horrível na Bay Area, e simplesmente não sabem como a vida é maravilhosa."

Um efeito muito temido do uso em massa de LLMs é que eles agem como uma força niveladora – suavizando a variedade e a idiossincrasia da linguagem humana numa espécie de gosma bege. Essa é uma preocupação legítima, até certo ponto, embora não seja nova. Há muito que as pessoas se preocupam com os efeitos homogeneizadores do cinema e da televisão norte-americanos no sotaque e no vocabulário, e há subgéneros de linguagem – eufemismo político, tagarelice de serviço ao cliente, linguagem terapêutica – que se espalharam para mais longe do seu território natal do que muitos gostariam. O crucial, porém, é que a sua influência tende a gerar uma reacção negativa – e não há razão para pensar que as coisas serão diferentes desta vez.

Na verdade, a nossa capacidade de inovação pode, em última análise, ser o que verdadeiramente distingue a escrita humana – particularmente a literária – da IA. "O objetivo de um LLM é que ele seja treinado na linguagem existente. Portanto, é sempre retrô", diz Stockwell. "Eu poderia obter uma IA e dizer 'escreva-me um conto no estilo de Virginia Woolf' e ela faria um trabalho decente. Mas o que você não pode dizer é 'escreva-me uma história no estilo único do próximo grande e sério inovador literário'. Não seria possível fazer isso."

Isso porque, mais uma vez, falta-lhe o ambiente social e o corpo que dão origem às motivações caracteristicamente humanas. "Por que alguém faz algo novo em uma forma de arte como a escrita literária? Pode ser por aborrecimento ou irritação com o que aconteceu antes. Ou é porque alguém vê as coisas de uma maneira diferente do que é comum, ou às vezes apenas porque as pessoas estão impacientes e querendo fazer algo diferente, ou um pouco loucas ou isoladas."

Existem muitos exemplos da história, diz Stockwell: “Depois da burocracia e da uniformidade da Primeira Guerra Mundial, você tem esse movimento artístico súbito, enorme e antitético na ascensão do surrealismo e do dadaísmo; da mesma forma, após a austeridade da Segunda Guerra Mundial, você tem o movimento psicodélico, a arte e a literatura mudam novamente, de forma bastante radical. Portanto, sempre parece haver esse tipo de chute contra as normas. É difícil pensar em como você programaria uma IA para fazer isso, porque a IA funciona em um grande corpo de material existente. É a personificação do status quo conservador com c minúsculo.

A originalidade é tão importante para a romancista Jennifer Egan que ela se isolou totalmente da tecnologia. “Sinto o perigo de infecção, para usar uma espécie de metáfora carregada”, ela me diz. “Eu sei que eles roubaram algumas coisas [das minhas] e não há nada que eu possa fazer sobre isso, mas não vou lhes dar mais uma palavra voluntariamente.” A Anthropic usou cópias piratas de livros, incluindo os romances de Egan, para treinar seu chatbot Claude; a maioria dos LLMs usa linguagem de consultas individuais como dados de treinamento adicionais. Ela parece exasperada: “Não quero participar desse tipo de spam linguístico que eles estão oferecendo”.

A política de tolerância zero não a impede de ficar paranóica. "Disseram-me algumas coisas estilísticas que falam da IA, e acontece que são coisas de que gosto. Por exemplo, adoro travessões, mas agora me pego interrogando cada uma delas mais do que antes. Também percebi que tenho tendência a coleções de três. Então, me pego interrogando-as também. Não me importo com isso, na verdade, porque o objetivo é não escrever algo que qualquer outra pessoa poderia ter feito."

Que tipo de conselho ela daria a um jovem escritor que agora nada nesta água? Eles deveriam praticar seu próprio tipo de higiene de IA? “Agora vou soar como o boomer totalmente genérico que a IA provavelmente poderia ter escrito, e meu conselho é: fique longe. Quero dizer, OK, use-o para escrever e-mails. Use-o até para obter ideias de pesquisa. Mas se você quiser ser um escritor: aprenda a escrever. Vamos lá. Eu realmente questionaria por que haveria o impulso para usá-lo.

Nem todo mundo é tão abstêmio. Jeannette Winterson, que escreveu extensivamente sobre IA e arte, me diz: “Cada escritor pode fazer sua própria escolha. Os humanos são animais que usam ferramentas. Essa tem sido a nossa história de sucesso. Atualmente, toda IA, incluindo a IA generativa, é uma ferramenta. Eu trabalharia com um LLM? Claro! Por que não?”

Mas ela adverte contra a ideia de que a competência linguística da IA significa que esta pode igualar ou exceder a expressão humana. "Além do básico, o significado torna-se uma série de realidades internas e a linguagem é maravilhosa para transmitir essas realidades internas. As máquinas não compartilham a nossa realidade, até porque não têm um sistema límbico. Os humanos não podem ter um pensamento sem um sentimento... a literatura é brilhante em revelar essas camadas."

Ao colar suas citações em um documento do Google cheio de minhas anotações, percebo que a IA embutida faz uma sugestão. Ele pergunta se quero mudar as palavras de Winterson para “corresponder melhor ao estilo” do material existente: para suavizar as arestas de um dos escritores mais idiossincráticos da língua inglesa. Com uma pressa quase supersticiosa, descarto a sugestão.