Alucinação de IA: por que a inteligência artificial inventa e como se proteger
O que é alucinação de IA, por que ferramentas generativas inventam fatos e fontes, exemplos reais de problemas e práticas para reduzir o risco no trabalho.
Em 2023, advogados nos Estados Unidos foram sancionados por um juiz federal depois de apresentar uma petição com citações de processos que não existiam, geradas por uma ferramenta de IA. Eles não verificaram. O caso, Mata contra Avianca, virou um exemplo conhecido de um fenômeno que qualquer usuário de IA generativa precisa entender: a alucinação de IA.
Este guia explica por que a IA inventa e como se proteger no uso profissional.
O que é alucinação de IA
É a geração de conteúdo incorreto ou inventado apresentado com a mesma confiança de um conteúdo correto. Exemplos:
- Um número de mercado que não aparece em nenhuma pesquisa.
- Uma citação atribuída a alguém que nunca disse aquilo.
- Um livro, artigo ou lei que não existe.
- Um detalhe de produto ou política da empresa que está errado.
- Um cálculo com resultado errado apresentado como certo.
Por que acontece
Situações de maior risco:
| Situação | Por que é arriscada |
|---|---|
| Números e estatísticas específicas | Fáceis de inventar e difíceis de perceber |
| Citações e referências | O formato é fácil de imitar |
| Temas muito recentes | Podem estar fora do que o modelo aprendeu |
| Assuntos de nicho | Pouca informação disponível no treinamento |
| Perguntas que pressupõem algo falso | O modelo tende a seguir a premissa |
| Pedidos de "mais detalhes" sem fonte | Incentivam o preenchimento de lacunas |
Como reduzir o risco
- Forneça as fontes: cole o documento, a política, a tabela, e peça para responder só com base nelas.
- Peça referências verificáveis e confira cada uma.
- Peça para indicar incerteza: "Se não souber, diga que não sabe."
- Use ferramentas com busca ou acesso a documentos quando precisar de fatos atuais ou internos.
- Separe geração de checagem: use a IA para rascunhar, e uma pessoa (ou outra fonte) para verificar.
- Revise com mais atenção o que tem consequência: números, promessas a clientes, temas legais, saúde e finanças.
- Registre erros recorrentes e ajuste instruções e processos.
Como checar rapidamente
- Números: de onde veio? Existe a fonte original?
- Citações: a pessoa disse isso? Onde?
- Referências: o livro, artigo ou lei existe? Diz o que a IA afirma?
- Lógica: o cálculo fecha? A conclusão segue dos dados?
- Coerência com o que a empresa sabe: está de acordo com as políticas e os dados internos?
Alucinação em conteúdo publicado
Conteúdo com informações inventadas prejudica a confiança do leitor e a reputação da marca, e pode ter consequências legais. Para conteúdos de marketing, veja conteúdo gerado por IA e SEO.
Regras da empresa
Inclua na política de uso de IA quais usos exigem revisão, quem revisa e como registrar erros.
O que é alucinação de IA?
É quando uma ferramenta de inteligência artificial generativa produz informações falsas ou inventadas, como dados, citações ou fontes, apresentando-as como verdadeiras.
Por que a IA inventa informações?
Porque os modelos de linguagem geram o texto mais plausível a partir de padrões aprendidos. Quando faltam informações confiáveis no treinamento ou no contexto, podem preencher a lacuna com algo que parece correto.
Como evitar alucinações da IA?
Forneça as fontes e peça respostas baseadas nelas, peça referências verificáveis, permita que a ferramenta diga que não sabe e revise com atenção números, citações e informações com consequência.
A alucinação de IA vai acabar?
As ferramentas vêm melhorando, especialmente quando combinadas com busca e documentos. Ainda assim, para usos profissionais importantes, a verificação continua necessária.