Alucinação de IA
Quando um modelo de IA responde algo falso ou inventado, mas com a mesma confiança de uma resposta correta.
Alucinação de IA é o termo usado quando um chatbot ou modelo de linguagem inventa uma informação e a apresenta como se fosse verdadeira — sem sinalizar dúvida, sem avisar que não tem certeza. O nome é uma metáfora: assim como uma pessoa pode “ver” algo que não existe, o modelo “enxerga” um padrão de resposta plausível que, na prática, não corresponde à realidade.
Um exemplo clássico: pedir a um chatbot uma fonte bibliográfica sobre determinado assunto, e ele responder com o nome de um livro, autor e ano que parecem reais, mas simplesmente não existem.
Por que isso acontece
Modelos de linguagem não “sabem” fatos como um banco de dados guarda registros. Eles preveem qual seria a sequência de palavras mais provável para responder a uma pergunta, com base em tudo que aprenderam no treinamento. Quando o modelo não tem informação suficiente sobre um tema, ele ainda assim tenta completar a frase de forma coerente — e é aí que nascem as alucinações.
Por que importa
Alucinações são um dos maiores riscos práticos do uso de IA hoje, especialmente em áreas como direito, saúde e jornalismo. Por isso a recomendação de sempre checar respostas geradas por IA antes de usá-las, principalmente quando envolvem nomes, datas, números ou citações.