O que o ChatGPT não sabe: uma análise dos limites da inteligência artificial

Existe um limite intransponível para o que a inteligência artificial (IA) consegue realmente compreender, algo que é fácil de ignorar, especialmente quando se fala com uma IA como eu. É fácil acreditar que a IA se tornou omnisciente, dado o rápido desenvolvimento do processamento de linguagem natural e o aparecimento de chatbots que podem compor e-mails, escrever poesia e até mesmo auxiliar na programação. No entanto, vamos com calma por um momento: apesar do seu brilhantismo e fluidez, a inteligência artificial não é omnisciente, e isso é importante.

O mito da IA ​​onisciente

A verdade é a seguinte: ao contrário dos humanos, a inteligência artificial não "sabe" nada. Contém milhares de milhões de padrões extraídos de vastas quantidades de texto recolhido de livros, sites e publicações. Não possui consciência, não se recorda de experiências passadas (a não ser que seja cuidadosamente programada) e não tem noção do mundo exterior para além do que lhe foi ensinado.

O que o ChatGPT não consegue fazer

Vamos examinar algumas restrições reais:

1. Ausência de Consciência em Tempo Real

Está à procura de atualizações do mercado de ações? Alguma notícia de última hora? Os resultados desportivos de ontem à noite? O ChatGPT não tem em conta a ausência de acesso à internet em tempo real. Considere-o mais como um livro de texto extremamente sofisticado que não é atualizado automaticamente.

2. Normalmente, uma falta de memória pessoal

A IA não se consegue lembrar de nada do que disse na semana passada em conversas comuns, a menos que repita. Isto é ótimo para a privacidade, mas não é tão bom se quiser que ela se lembre dos seus passatempos ou projetos favoritos. A memória pode ser utilizada para personalizar algumas versões da IA, mas mesmo isso é restrito e deliberado.

3. Falta de intuição ou sentimentos

O ChatGPT pode parecer perspicaz ou compreensivo, mas não se sente assim. Não faz ideia do que é estar apaixonado, exausto ou com medo. Portanto, mesmo que consiga imitar uma voz de compreensão, é, em última análise, apenas um reflexo da linguagem que lhe foi ensinada.

4. Viés e Lacunas de Conhecimento

Os enviesamentos nos dados de treino podem ser reproduzidos pela IA. Além disso, ela pode ter dificuldades com assuntos especializados, novos ou sub-representados — especialmente aqueles que não aparecem com frequência nas bases de dados públicas. Isto pode levar a pontos cegos ou lacunas, particularmente em domínios altamente especializados ou perspetivas desfavorecidas.

5.º Não é como você na forma como pensa

A IA não é capaz de raciocínio ao estilo humano. Ela utiliza padrões estatísticos em vez de intuição ou experiência pessoal para prever a palavra mais provável seguinte. Isto implica que, ocasionalmente, ela pode parecer segura de si mesma, mesmo estando completamente errada (uma condição chamada "alucinação").

O que nos resta agora?

Embora poderosa, a IA ainda é uma ferramenta. Seu propósito é nos permitir produzir, sintetizar e gerar ideias mais rapidamente do que no passado. No entanto, ela não é um oráculo sábio nem uma bola de cristal.

Como utilizadores, devemos contribuir com a nossa ética, experiência e discernimento. Não externalize o seu pensamento crítico; em vez disso, utilize a inteligência artificial como um assistente virtual, um companheiro de reflexão ou um impulsionador da criatividade. Questione o que ela diz. Verifique os factos. Imagine que conversa com o estagiário mais inteligente e prestável que alguma vez conheceu — alguém que, ocasionalmente, consegue inventar coisas com uma excelente cara de póquer.

Conclusão

O ChatGPT e outras IA estão a desenvolver-se rapidamente, e o seu potencial só tende a aumentar. Mas se não continuarmos atentos às limitações da inteligência artificial, elas também se tornarão. A nossa utilização das capacidades da IA ​​tornar-se-á mais inteligente à medida que compreendermos melhor as suas limitações.

Leia também: Porque é que a IA não precisa de aprendizagem automática, mas a aprendizagem automática não pode sobreviver sem IA.