Módulo 1 - O que é IA generativa (e o que ela não é) · 🎓 Lições do Módulo 1
1.4 · Alucinação, data de corte e vieses: os limites "de fábrica"
≈ 2 min de leitura
Ouvir a aula narrada≈ 3 min · na voz do instrutor
Para ouvir a partir de um trecho, passe o mouse ou toque num parágrafo e use 🎧 Ouvir daqui.
Toda ferramenta de traz alguns limites que vêm do próprio jeito como ela funciona. Não são defeitos de uma marca. São limites "de fábrica". Os três principais são estes.
Primeiro limite:
Alucinação é quando a IA dá uma resposta errada ou inventada, mas com cara de certa. O texto é fluente, seguro e cheio de detalhes. E falso.
Um servidor pergunta qual é o prazo para responder a um recurso. A ferramenta responde:
"Conforme o art. 47 da Lei nº 99.999, de 2019, o prazo é de 15 dias corridos, contados da ciência do interessado."
Exemplo fictício, criado para a aula.
Tem número de lei, artigo, prazo e até a forma de contar. Tudo com aparência oficial. Mas essa lei não existe. Lembra da Aula 1.2? O modelo produz o texto que parece a resposta certa. Quando não tem o dado, pode preencher o espaço com algo plausível.
O mesmo pode acontecer com decisões de tribunais, números de processo, nomes de autores e citações entre aspas.
Segundo limite:
O modelo aprendeu com textos reunidos até certa data. Essa é a data de corte do treinamento. O que aconteceu depois, ele pode simplesmente não saber.
Na prática: se uma norma mudou depois dessa data, a IA pode citar a versão antiga, com toda a segurança. O mesmo vale para valores, prazos, nomes de autoridades e estrutura de órgãos. Algumas ferramentas buscam informações recentes na internet, mas, como você viu, a busca também pode falhar.
Terceiro limite: vieses
é uma tendência que distorce o resultado. A IA aprendeu com textos escritos por pessoas, e esses textos carregam os preconceitos e os desequilíbrios da sociedade. A ferramenta pode repetir isso sem que ninguém peça.
Veja o que pode acontecer:
- você pede a imagem de "uma pessoa que chefia um setor" e só aparecem homens;
- um texto de orientação parte do princípio de que todo cidadão tem internet e sabe usar aplicativo;
- um resumo deixa de fora justamente a parte que trata de um grupo minoritário.
Exemplo fictício, criado para a aula.
No serviço público, o viés pesa mais, porque o atendimento deve tratar todas as pessoas com igualdade. O Módulo 5 volta a esse tema.
Nenhum desses limites impede o uso da IA. Mas todos pedem a mesma atitude: confira tudo antes de usar.
💡 Para pensar: que informação do seu setor muda com frequência e, por isso, nunca deveria ser copiada de uma resposta da IA sem conferir?