20221104_180847 Grande

Chomsky na Web Summit: a grande mentira da IA

A designação Inteligência Artificial (IA) é bastante errónea, porque na verdade o processo de resolução dos problemas, mesmo que emulando o funcionamento das redes neuronais, é muito diferente da forma como o ser humano, através de processos cognitivos, os resolve.

Na área da linguagem isto é particularmente visível. Uma lingua tem uma estruturação semântica e sintática, tem uma origem etimológica, tem profundas bases culturais que resultam de processos cognitivos associados à perceção da realidade. A aprendizagem do ser humano usa essas regras e vai construindo uma lógica progressiva misturada com uma intuição simbólica, que permite aprender a lingua.

Durante décadas tentou-se dar à computação características semelhantes. Porém, a via da programação lexical de um computador, nunca conseguiu produzir uma boa qualidade, quer do entendimento da linguagem, quer da reprodução mesma.

Paradoxalmente foi o poder computacional, através dos sistemas abertos baseados na internet e na cloud, que permitiram a aquisição de dados suficientes para que os algoritmos de inteligência artificial conseguissem melhorar a qualidade da sua interação linguística. Não foi a capacidade de interpretação de regras! Não foi a perceção simbólica!

Ou seja, é como se a inteligência artificial fosse apenas força bruta computacional, em vez de inteligência e cognição, e é isso que está na base das objeções que Noam Chomsky expressou.

A conversa no último dia da edição de 2022 da Web summit foi constituída pelo linguista Noam Chomsky, por Gary Marcus, um investigador de AI e pelo jornalista da Fortune, Jeremy Khan.

Há que dizer que os avanços nesta área têm sido muito significativas. Por exemplo o modelo de linguagem GPT3, da OpenAI, consegue criar textos longos perfeitamente coerentes sobre diversos assuntos, com base apenas em pequenas referências.

Chomsky começa por dizer que há deficiências do sistema, cometendo alguns erros básicos como por exemplo certas ordenações de eventos que dependem da interpretação de um dado contexto (mais tarde Gary Markus dá vários exemplos), mas o pior é que o sistema é demasiado forte em determinadas funções que não devia realizar. Por exemplo se se der uma base de dados com uma lingua impossível e errada, o sistema será capaz de lidar com ela apenas com base nos dados, ignorando completamente os conceitos abstratos que estão por detrás da forma como uma lingua se cria e funciona. Uma analogia fácil de entender seria a inteligência artificial criar uma tabela periódica com todos os elementos possíveis, mas também criar elementos impossíveis e agir como se fossem possíveis sem os distinguir. 

Portanto, para Chomsky, um sistema que funciona tão bem com uma lingua impossível, como com uma possível, não diz nada sobre a natureza da linguagem. Chomsky não rejeita a importância tecnológica da Inteligência Artificial, mas diz que é apenas boa engenharia que nada contribui para a ciência, porque ciência é procurar entender como o mundo funciona e estes modelos, não conseguem distinguir o mundo real, do mundo não real e portanto nada se aprende com eles.

No fundo o que resulta claro é que a Inteligência Artificial está longe de perceber o mundo. Não tem essa capacidade e não entende os processos cognitivos associados à linguagem, nem a qualquer outro processo cognitivos.

Podem até existir perigos associados a esta falha na conceção do mundo, porque cria ilusões de que entende como os humanos pensam e pode até agir como eles, mas na verdade não tem uma escala de valores que permita distinguir o que é possível, do que não e pode criar frustrações, provocar manipulações, etc.

É sem dúvida uma conversa que vale a pena ouvir. Concorde-se ou não é um género de contrapeso à forma como habitualmente se analisa a Inteligência Artificial.

Ver vídeo dia 3 Web Summit 2022, 02:48:00 (link em baixo)

www.youtube/websummit.com

Comments are closed.