Módulo 5 - Conferir antes de usar · 🎓 Lições do Módulo 5
5.3 · Vieses e textos que discriminam sem querer
≈ 2 min de leitura
Ouvir a aula narrada≈ 3 min · na voz do instrutor
Para ouvir a partir de um trecho, passe o mouse ou toque num parágrafo e use 🎧 Ouvir daqui.
é uma tendência que puxa o resultado sempre para o mesmo lado. A IA aprendeu com uma quantidade enorme de textos e imagens feitos por pessoas. Junto com o conteúdo, aprendeu também os estereótipos da sociedade, aquelas ideias prontas sobre grupos de pessoas. E pode repeti-los num tom tão natural que eles passam despercebidos.
Veja onde isso costuma aparecer:
- gênero: "o diretor" e "a secretária"; "o médico" e "a enfermeira";
- raça: pessoas negras só em papéis de pobreza ou de risco; imagens de gestores só com pessoas brancas;
- idade: a pessoa idosa tratada como incapaz ou como criança;
- região: o sotaque como piada, o interior como atrasado;
- deficiência: "portador de deficiência", "sofre de", "apesar da deficiência, ele conseguiu";
- renda e escolaridade: presumir que o cidadão "não vai entender".
Um exemplo. O foi um convite para uma oficina sobre o aplicativo do órgão, voltada a pessoas idosas. A IA escreveu:
"Vovôs e vovós, não tenham medo! Até quem não entende nada de celular vai conseguir. Tragam os netos para ajudar!"
Exemplo fictício, criado para a aula.
O texto parece simpático, mas trata adultos como crianças e presume que ninguém sabe usar o celular e que todos têm netos. Uma versão revisada:
"Oficina gratuita: aprenda a usar o aplicativo no celular. Para pessoas a partir de 60 anos. Traga o seu aparelho. Vamos passo a passo, e você pode tirar todas as dúvidas."
Perguntas simples para revisar
- Quem aparece no texto ou na imagem? Quem ficou de fora?
- O texto presume algo sobre alguém por causa de gênero, raça, idade, região, deficiência ou renda?
- Teste da troca: se eu trocar o grupo, por exemplo, homem por mulher ou Sul por Nordeste, a frase continua justa?
- Eu diria isso olhando nos olhos da pessoa?
- As palavras são atuais e respeitosas? Use pessoa com deficiência, como na Lei Brasileira de Inclusão, e pessoa idosa, como no Estatuto da Pessoa Idosa, que ganhou esse nome em 2022.
- Quem vai ler consegue entender? Jargão e siglas também excluem. O curso Linguagem Simples no Serviço Público ajuda nisso.
Para falar com todo mundo, prefira formas como "servidoras e servidores", "a equipe" ou "quem precisar", de acordo com a norma gramatical.
Não é detalhe de estilo. Entre os objetivos da República, a Constituição prevê promover o bem de todos, sem preconceitos de origem, raça, sexo, cor, idade e quaisquer outras formas de discriminação (artigo 3º, inciso IV). Quando a IA ajuda em decisões sobre pessoas, o risco é ainda maior. O Módulo 6 volta a esse ponto.
💡 Para pensar: nos textos recentes do seu setor, quem aparece sempre no mesmo papel?