Comentários sobre singularidade tecnológica e Hype tech

Recentemente tive uma conversa com um primo sobre futurismo, filosofia e, claramente, singularidade tecnológica.

O conceito, saído direto da ficção científica, parece agarrar os mais empolgados com o hype da IA atual. Meu primo parecia realmente agarrado por ele, convencido pelos argumentos de Ray Kurzweil e de Ben Goertzel.

Claro, assim como o vídeo do Hinton afirmando a inteligência suprema das IAs, esses argumentos capturam a nossa mente e, às vezes, a nossa imaginação.

Eu sou um cético, é minha natureza. Compactuo com as falas de Jürgen Schmidhuber e com as ideias de François Chollet sobre inteligência.

Meu primo é filósofo e um cara inteligente. Ele me inspirou a escrever este texto para deixar claro que essa é uma discussão profunda, com muitos lados argumentando, e não só a favor da ideia. E também para postular a minha posição atual.

Que fique claro que não estou esnobando intelectuais como Kurzweil e Goertzel. São cientistas e inventores incríveis, que eu admiro e que influenciam o meu trabalho, e eu ficaria insanamente honrado de conhecê-los para que me explicassem algumas de suas teses.

O que é a singularidade

A singularidade tecnológica é um ponto hipotético no futuro em que o progresso da tecnologia fica tão rápido que escapa ao nosso controle e à nossa capacidade de prever o que vem depois. Na versão mais popular da ideia, o gatilho seria uma inteligência artificial capaz de melhorar a si mesma: ela fica mais inteligente, usa essa inteligência para ficar ainda mais inteligente, e o ciclo se acelera até chegar a uma superinteligência muito distante de qualquer mente humana.

A ideia tem uma história mais antiga do que o hype atual faz parecer. Stanislaw Ulam (1958) relatou uma conversa com John von Neumann sobre o progresso cada vez mais acelerado da tecnologia, que parecia se aproximar de uma espécie de singularidade essencial na história humana. Em 1965, o matemático I. J. Good descreveu a possibilidade de uma máquina ultrainteligente. Vernor Vinge popularizou o termo no ensaio de 1993, The Coming Technological Singularity, e Ray Kurzweil levou o assunto ao grande público em The Singularity Is Near (2005), com a previsão de que ela chegaria em 2045. Em The Singularity Is Nearer (2024), ele manteve as datas.

A explosão de inteligência

O argumento central é de Good. Se uma máquina fosse melhor do que qualquer humano em todas as atividades intelectuais, ela seria melhor também em projetar máquinas, e então projetaria máquinas ainda melhores. A inteligência humana ficaria para trás. Nas palavras dele, a primeira máquina ultrainteligente seria a última invenção que o homem precisaria fazer, desde que ela fosse dócil o bastante para nos dizer como mantê-la sob controle (Good, 1965). O próprio Good achava mais provável do que não que uma máquina assim fosse construída ainda no século XX.

Repare que o argumento depende de três coisas ao mesmo tempo. Primeiro, cada melhoria precisa abrir caminho para pelo menos uma melhoria seguinte, para o ciclo se alimentar sozinho. Segundo, as melhorias não podem ficar mais difíceis mais rápido do que os ganhos que elas trazem. Terceiro, é preciso que a física e os limites teóricos da computação deixem espaço para tudo isso. Quem acredita na singularidade aposta que essas três condições se sustentam. Quem duvida, como eu, aposta que pelo menos uma delas falha.

Por que eu desconfio

A objeção que eu acho mais forte é a de François Chollet (2017). Sistemas que melhoram a si mesmos não são novidade: a ciência, a civilização e as empresas de tecnologia fazem isso o tempo todo, e o progresso que observamos neles está longe de ser uma explosão. Cada ganho esbarra em gargalos, atritos e custos que crescem junto. Além disso, a inteligência não é uma quantidade isolada que dá para ir aumentando no vácuo. Ela depende do ambiente, das ferramentas, do corpo e da cultura em que está inserida, e é isso que costuma limitar o salto que a explosão promete.

A segunda razão é metodológica. Muita gente que defende a singularidade extrapola tendências do passado, e curvas que parecem exponenciais por um tempo costumam virar curvas em S quando encontram um limite. A Lei de Moore, que alimentou boa parte do otimismo, desacelerou. O economista Robert Gordon (2016) argumenta que o crescimento econômico e da produtividade americana perdeu fôlego desde a década de 1970, o contrário do que se esperaria de um progresso em aceleração. E Joseph Tainter (1988) defende que o aumento da complexidade tende a render retornos cada vez menores.

A terceira é o histórico das previsões. A de Good, de que a máquina ultrainteligente viria ainda no século XX, não se confirmou. Datas muito precisas, como 2045, me parecem mais uma questão de fé do que de método. E conseguir imaginar um futuro com nitidez não é evidência de que ele seja provável.

Por último, os próprios especialistas estão divididos. Em uma pesquisa com autores que publicaram no NIPS e no ICML de 2015, as respostas sobre se o argumento da explosão de inteligência está, grosso modo, correto se espalharam por todo o espectro, de bastante provável a bastante improvável (Grace et al., 2018). Quem diz que há consenso, para um lado ou para o outro, está vendendo algo.

O que eu não descarto

Duvidar da explosão não é o mesmo que achar que está tudo bem. Não preciso acreditar em uma superinteligência para me preocupar com sistemas poderosos que fazem o que a gente pediu de um jeito que não era o que a gente queria, nem com a concentração de poder que uma tecnologia dessas pode trazer. Nick Bostrom (2014) e Bill Joy (2000), cada um à sua maneira, levaram esses riscos a sério muito antes da onda atual, e tenho respeito pelo trabalho deles mesmo discordando de parte das conclusões.

Onde me coloco

Fico mais perto da leitura de Chollet: acho plausível que a IA continue avançando muito, e acho pouco provável uma explosão súbita e ilimitada, do tipo que a versão popular da singularidade descreve. Isso é uma posição, não um dogma. Se aparecerem sistemas que de fato melhorem a própria pesquisa em IA sem esbarrar em gargalos externos, eu reviso a minha opinião.

Referências

• Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
• Chollet, F. (2017). The impossibility of intelligence explosion. Medium.
• Good, I. J. (1965). Speculations concerning the first ultraintelligent machine. Advances in Computers, 6, 31–88.
• Gordon, R. J. (2016). The Rise and Fall of American Growth: The U.S. Standard of Living Since the Civil War. Princeton University Press.
• Grace, K., Salvatier, J., Dafoe, A., Zhang, B., & Evans, O. (2018). When will AI exceed human performance? Evidence from AI experts. Journal of Artificial Intelligence Research, 62, 729–754.
• Joy, B. (2000). Why the future doesn’t need us. Wired, abril de 2000.
• Kurzweil, R. (2005). The Singularity Is Near: When Humans Transcend Biology. Viking.
• Kurzweil, R. (2024). The Singularity Is Nearer: When We Merge with AI. Viking.
• Tainter, J. A. (1988). The Collapse of Complex Societies. Cambridge University Press.
• Ulam, S. (1958). Tribute to John von Neumann. Bulletin of the American Mathematical Society, 64(3, parte 2), 1–49.
• Vinge, V. (1993). The coming technological singularity: how to survive in the post-human era. Simpósio VISION-21, NASA Lewis Research Center.