A IA poderia estar consciente?

Em Janeiro, a empresa de IA Anthropic publicou uma nova constituição para Claude, o seu mais avançado modelo de grande linguagem (LLM), que continha o comentário: “Estamos numa posição difícil em que não queremos exagerar a probabilidade da paciência moral de Claude nem descartá-la imediatamente”. Um mês depois, o CEO da Anthropic, Dario Amodei, fez um podcast e disse que sua empresa não podia descartar a possibilidade de Claude estar consciente. O filósofo David Chalmers, que cunhou a frase “o difícil problema da consciência”, disse que há uma chance significativa de LLMs conscientes dentro de uma década. E o próprio Claude? Quando questionado durante os testes para estimar a probabilidade de se tratar de um paciente moral, o que significa que o seu bem-estar é importante por si só, deu números que variam entre 5% e 40% e sublinhou o quão incerto era.

Os sistemas modernos de IA são extraordinariamente complexos e estão avançando rapidamente. Em termos de complexidade estrutural e escala computacional, segundo algumas medidas, alguns já estão ao alcance de um cérebro de rato e, com taxas de crescimento recentes, poderão atingir o alcance de um cérebro humano dentro de cinco a 10 anos.