O problema dos modelos de IA

O que acontece quando alguém diz que existe um processo-chave que sustenta toda a nossa inteligência? A reação natural é pensar: então é só programar o computador para fazer isso, e finalmente teremos uma IA superinteligente. O título deste ensaio já entrega que a história não é tão simples: esse processo é justamente um problema para a IA. Chego lá daqui a pouco.

Uma observação antes de seguir. O argumento deste texto vem principalmente do trabalho do cientista cognitivo John Vervaeke e de colaboradores sobre o que eles chamam de realização de relevância (relevance realization), e se apoia em ideias de Daniel Dennett, Craig Kaplan e Herbert Simon, Humberto Maturana e Francisco Varela e John Searle, que cito ao longo do texto. Eu reorganizei tudo com as minhas palavras, mas as ideias têm dono, e as referências estão no final.

Primeiro, preciso dizer o que entendo por inteligência. Mesmo com tanta gente brilhante estudando o assunto, os especialistas ainda não chegaram a uma definição fechada. Há um debate sem fim sobre QI, sobre o peso da inteligência social e emocional, sobre inteligência de livro contra inteligência de rua e por aí vai. Não vou entrar nisso aqui. O que me interessa é que a maioria das definições acadêmicas e dos testes converge para três temas: resolução geral de problemas, categorização e comunicação.

Começo pela resolução de problemas. Em pesquisa de IA, um problema costuma ser modelado como uma busca num espaço de estados: há um estado inicial, um estado objetivo e operadores que transformam um estado em outro. Jogar xadrez, jogar StarCraft e dirigir um carro são problemas bem definidos, porque o objetivo é claro, o ponto de partida é claro e o conjunto de operações é claro. Só que, na vida real, os problemas costumam ser mal definidos: o objetivo é nebuloso, o ponto de partida é incerto e as operações possíveis nem estão especificadas. Escrever este ensaio é um problema assim. Não sei exatamente que passos o tornam bom. Ele precisa ser sofisticado, mas não difícil demais de acompanhar, e divertido, mas sem perder a substância.

Deixa eu te dar um exemplo concreto. Imagine um tabuleiro de xadrez 8×8 e um monte de dominós, cada um cobrindo exatamente duas casas. Quantos dominós são necessários para cobrir o tabuleiro? Isso é só aritmética: 64 casas divididas por 2, ou seja, 32 dominós. Agora tire duas casas de cantos opostos, de modo que restem 62. Dá para cobrir o que sobrou com 31 dominós, sem sobreposição e sem sair do tabuleiro?

A maioria das pessoas encara isso como um problema de cobertura e tenta imaginar arranjos de dominós para ver se 31 cabem. Por esse caminho, o problema vira uma explosão combinatória: o número de arranjos possíveis é tão absurdamente grande que você nunca resolveria testando um por um. Esse problema, conhecido como o do tabuleiro mutilado, foi estudado por Kaplan e Simon (1990), justamente para entender como as pessoas mudam, ou deixam de mudar, a forma como representam um problema.

Agora veja de outro jeito. Todo dominó, onde quer que você o coloque, cobre uma casa preta e uma branca. Então, para cobrir o tabuleiro inteiro, é preciso ter o mesmo número de casas pretas e brancas. As duas casas que removi têm a mesma cor, o que deixa o tabuleiro com 30 casas de uma cor e 32 da outra. Logo, é impossível cobri-lo com 31 dominós. O problema deixou de ser uma explosão combinatória e virou algo trivial só porque mudamos a forma de enxergá-lo. Em vez de olhar para a geometria da cobertura, olhamos para a cor das casas e para como ela se relaciona com a posição do dominó. Em vez de focar nos detalhes irrelevantes, focamos nos relevantes.

É aqui que mora a grande força da resolução humana de problemas: conseguimos evitar explosões combinatórias nos concentrando na informação relevante. Vervaeke, Lillicrap e Richards (2012) chamam essa capacidade de realização de relevância.

Passo agora à categorização. Agrupamos as coisas pelo que têm em comum, e fazemos isso de forma automática. Mas como explicar isso? Quaisquer dois objetos compartilham um número indefinidamente grande de características. Uma toranja e o mouse do meu computador têm carbono, pesam menos de uma tonelada, não existiam há 300 milhões de anos, nenhum dos dois é uma arma muito boa, nenhum dos dois jamais apareceu num jogo de basquete, e assim por diante, sem fim. Você pode responder que essas semelhanças são irrelevantes. Certo, mas como sabemos quais são as relevantes?

Pense nesta lista de coisas: cônjuge, filhos, animais de estimação, obras de arte, materiais explosivos e materiais tóxicos. O que elas têm em comum? Nada, até que eu diga que a sua casa está pegando fogo. Aí a lista faz todo o sentido. O problema da categorização é o mesmo da resolução de problemas: temos diante de nós um conjunto explosivo de informações e, de alguma forma, nos concentramos no que é relevante, e é isso que nos permite formar categorias.

Por fim, a comunicação. Quando falamos, transmitimos sempre muito mais do que dizemos. Imagine que eu encoste o carro ao seu lado numa estrada, abra a janela e diga: acabou a gasolina. Você entende que estou falando do meu carro, e não de mim. Entende que é gasolina, e não outro combustível. E entende que não estou só informando um fato: estou pedindo ajuda para chegar a um posto, e não a qualquer posto, mas a um que fique por perto. Se essa cena acontecesse de verdade, você dificilmente ficaria confuso com o que eu quis dizer. Você me entende porque entende o que é relevante ali.

Aqui alguém pode objetar: mas o GPT-3 já resolveu a linguagem, não é preciso nenhuma realização de relevância. O GPT-3 é treinado com quantidades enormes de texto da internet, identifica padrões e gera uma comunicação parecida com a humana. Mas é discutível que um sistema desses tenha compreensão de verdade do texto que analisa e gera. É o ponto do argumento do quarto chinês, de John Searle (1980), e vale dizer que esta é uma posição disputada, não um consenso.

Então o que fiz até aqui foi mostrar que os três aspectos da inteligência que destaquei, resolução de problemas, categorização e comunicação, dependem todos da realização de relevância. Você pode discordar da forma como descrevi a inteligência, mas duvido que seja fácil encontrar um comportamento inteligente que não envolva esse processo.

Pois bem: se a nossa capacidade de identificar o que é relevante é a chave, vamos programar um computador para detectar relevância por meio de um algoritmo. O problema é que a realização de relevância não pode ser um mecanismo especializado desse tipo, porque ele esbarra no problema do quadro (frame problem), formulado por McCarthy e Hayes (1969) e tornado famoso fora da IA por Dennett (1984). Um experimento mental de Dennett ilustra bem.

Um robô foi projetado para buscar baterias, sua fonte de energia, e levá-las para outro lugar. Ele encontra um vagão com uma bateria em cima, mas há uma bomba no mesmo vagão. O robô conclui corretamente que, se puxar o vagão, a bateria virá junto, como efeito pretendido. O efeito colateral não pretendido é que a bomba também vem junto e destrói o robô na hora. Certo, então vamos consertar o robô: ele passa a considerar os possíveis efeitos colaterais de suas ações. Só que agora ele fica preso, calculando sem parar, porque para fazer isso precisa montar duas listas, a dos efeitos colaterais relevantes e a dos irrelevantes, e as duas são indefinidamente grandes. O robô não pode ignorar todos os efeitos colaterais, porque deixaria passar coisas importantes como a bomba. Também não pode verificar todos, porque seria uma explosão combinatória para um agente com um objetivo relativamente simples. Ele precisa, de algum modo, ignorar de forma inteligente uma enorme quantidade de informação, o que parece paradoxal. Prestar atenção só ao que importa exige traçar uma moldura em volta da cognição, e daí vem o nome do problema.

Isso nos leva a uma conclusão incômoda: não parece possível ter uma teoria científica do que é relevante. Por quê? Pelo mesmo motivo pelo qual não podemos ter uma ciência das coisas azuis. A classe das coisas azuis é instável: coisas que são azuis agora não serão mais amanhã. Com a relevância é igual: quando eu estava no problema do tabuleiro, o número de casas pretas e brancas era decisivo, mas na semana seguinte, numa partida comum de xadrez, essa informação não tem a menor importância. A classe das coisas azuis também não é homogênea: não existe característica ou semelhança profunda que una todas elas, além do fato de serem azuis. O mesmo vale para a relevância. Não há nada de profundamente parecido entre as coisas que importam durante um incêndio, a não ser o fato de importarem durante um incêndio. Se não conseguimos achar um critério do que é relevante numa dada situação, não dá para construir um detector de relevância e programar um computador com ele.

Mas nem tudo está perdido. Em vez de procurar uma teoria do que é relevante, podemos procurar uma teoria de como a relevância é realizada. Vou usar uma analogia: a aptidão evolutiva. Não existe uma essência do que faz uma espécie ter sucesso suficiente para sobreviver até se reproduzir. Não é algo intrínseco à física, à biologia ou à química do animal. Alguns conseguem sendo muito grandes, outros sendo muito pequenos, alguns sendo duros, outros sendo moles. O ambiente é tão complexo, variado e em constante mudança que aparecem nichos diferentes, e a própria aptidão se redefine o tempo todo pela interação com o ambiente e pela competição.

Pode não haver uma essência da aptidão evolutiva, mas não precisamos dela. Precisamos de uma teoria de como a aptidão é realizada de maneira contínua e auto-organizada, e essa teoria existe: a evolução por seleção natural de Darwin. Podemos pensar na realização de relevância como uma espécie de aptidão cognitiva, isto é, como a mente se ajusta de forma eficaz ao seu ambiente.

Um aspecto fundamental dos seres humanos, como seres vivos, é que somos auto-organizados e temos o objetivo intrínseco de preservar essa própria auto-organização. Maturana e Varela (1980) chamaram essa estrutura de autopoiese, uma propriedade fundamental dos sistemas vivos, de uma célula a um ser humano. A realização de relevância parece depender dessa estrutura autopoiética. Para perceber o que é relevante, é preciso um sistema com objetivos internos e constitutivos.

Não somos sistemas cognitivos desencarnados: temos corpo. E nossos corpos são, em essência, economias. Temos recursos valiosos, como tempo, energia metabólica e capacidade de processamento, e os distribuímos a serviço do objetivo constitutivo de preservar o próprio corpo. Repare que dizemos que pagamos atenção às coisas, como quem paga com uma moeda escassa. O corpo não é apenas um veículo da cognição; é parte profunda dela. E também não somos corpos cognitivos flutuando no vazio, estamos sempre inseridos num ambiente.

Volto um instante à analogia da aptidão. A aptidão de uma criatura não é uma propriedade da criatura em si, mas da interação dela com o ambiente. Um tubarão-branco não é intrinsecamente adaptado: coloque-o no deserto do Saara e ele morre em poucos minutos. Com a relevância é a mesma coisa. Objetos ou conceitos não são intrinsecamente relevantes, e a relevância tampouco é uma propriedade das nossas mentes subjetivas. Ela é co-criada, a partir de como o ambiente e a cognição corporificada se ajustam um ao outro de forma dinâmica.

A pergunta que sobra é: uma IA pode fazer alguma dessas coisas? Sinceramente, não sei. Depende do que se entende por IA e por computação. Alan Turing (1936) descreveu a computação como um sistema de manipulação de símbolos binários. Se é com isso que estamos lidando, provavelmente não chegaremos à realização de relevância, porque esse tipo de cálculo é definido de forma puramente sintática, e a realização de relevância exige semântica, ou seja, significado. Um trecho de código, por si só, não significa nada: o significado só aparece quando um humano interpreta o código e entende o que ele faz. O código apenas manipula símbolos, não entende o que faz nem a que propósito serve. Esse é o passo mais discutível do argumento, e há quem ache que sistemas corporificados ou de outra natureza podem fugir dessa limitação.

Para a maioria dos fins práticos, nada disso importa se um carro dirige sozinho ou se o GitHub Copilot completa o código. Quem se importa se o sistema é inteligente no sentido estrito que descrevi? O que está em jogo é a perspectiva de construir máquinas realmente inteligentes, e não a de a IA fazer coisas úteis e complicadas com os métodos que temos hoje. Se o argumento estiver certo, não importa o tamanho do nosso conjunto de dados nem o poder do nosso processamento: sistemas que não são corporificados nem autopoiéticos continuarão batendo no problema do quadro, e não chegarão à relevância, à realização, à inteligência de verdade.

Se quisermos construir máquinas inteligentes, talvez seja preciso reformular o problema da inteligência artificial, buscar novas ideias em ciência e tecnologia e, acima de tudo, garantir que estamos prestando atenção ao que é relevante. Isso é um argumento, não um veredito: dá para discordar de cada passo, principalmente do último.

Referências

• Dennett, D. C. (1984). Cognitive wheels: the frame problem of AI. Em C. Hookway (Org.), Minds, Machines and Evolution. Cambridge University Press.
• Kaplan, C. A., & Simon, H. A. (1990). In search of insight. Cognitive Psychology, 22(3), 374–419.
• Maturana, H. R., & Varela, F. J. (1980). Autopoiesis and Cognition: The Realization of the Living. Reidel.
• McCarthy, J., & Hayes, P. J. (1969). Some philosophical problems from the standpoint of artificial intelligence. Em B. Meltzer & D. Michie (Orgs.), Machine Intelligence 4. Edinburgh University Press.
• Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–457.
• Turing, A. M. (1936). On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, s2-42(1), 230–265.
• Vervaeke, J., Lillicrap, T. P., & Richards, B. A. (2012). Relevance realization and the emerging framework in cognitive science. Journal of Logic and Computation, 22(1), 79–99.