2.5 · Onde não usar

≈ 2 min de leitura

Diante da porta fechada, o servidor experiente barra a IA: decisões sobre direitos, pareceres sem revisão, sigilo, dados pessoais e a fundamentação própria.

Ouvir a aula narrada≈ 3 min · na voz do instrutor

Para ouvir a partir de um trecho, passe o mouse ou toque num parágrafo e use 🎧 Ouvir daqui.

Até aqui, você viu onde a IA ajuda. Agora, o outro lado: situações em que ela não deve ser usada.

Quadro com as cinco situações em que não usar a IA: 1, decisões sobre direitos, como conceder ou negar benefício, aplicar sanção, dar nota ou julgar propostas; 2, pareceres e documentos oficiais sem revisão, pois ela pode citar leis e decisões que não existem; 3, assuntos sigilosos, como processos disciplinares, investigações e documentos de acesso restrito; 4, dados pessoais, como nome, CPF, endereço, saúde e situação financeira; 5, quando a lei pede a sua fundamentação, como a motivação de um ato, um laudo ou um voto. Abaixo: a IA pode ajudar a escrever sobre uma decisão, mas não pode tomar a decisão; na dúvida, pergunte antes.

1. Decisões sobre direitos de pessoas. Conceder ou negar um benefício, aplicar uma sanção, dar nota numa prova ou num concurso, julgar propostas numa licitação. Nada disso pode ser entregue à IA sem análise humana. Por quê?

ela não conhece o caso inteiro, só o que você colou;
ela pode inventar um fato ou uma regra, com toda a segurança;
ela pode repetir vieses e tratar pior certos grupos de pessoas, como você viu no Módulo 1;
e ela não responde por nada. Quem responde é quem decide.

Há também uma razão de lei. A Lei nº 9.784/1999, que regula o processo administrativo federal, manda motivar, com os fatos e os fundamentos jurídicos, os atos que negam, limitam ou afetam direitos, que impõem sanções, que decidem concursos e seleções e que dispensam licitação, entre outros (art. 50). Motivar é explicar por que se decidiu assim. Estados e municípios podem ter leis próprias de processo administrativo.

A Lei Geral de Proteção de Dados, a , também dá ao cidadão o direito de pedir a revisão de decisões tomadas só por meio automatizado, com os dados pessoais dele, quando elas afetam os seus interesses (art. 20). O Módulo 6 volta a esse ponto.

2. Pareceres e documentos oficiais sem revisão. A IA pode sugerir a estrutura de um parecer ou revisar a clareza de um texto. Mas a análise e a conclusão são suas. Ela pode citar artigos de lei e decisões de tribunais que não existem, com aparência perfeita.

3. Assuntos sigilosos. Processos disciplinares, investigações, informações de segurança, documentos de acesso restrito. Não entram numa ferramenta de IA de uso geral.

4. Dados pessoais. Nome, CPF, endereço, saúde, situação financeira de alguém. Não cole dados pessoais nem informações sigilosas. O Módulo 4 aprofunda o assunto.

5. Quando a lei pede a sua própria fundamentação. A motivação de um ato, um laudo, um voto: nesses textos, espera-se o juízo de quem assina. A IA pode ajudar a organizar e a deixar mais claro. O raciocínio e a conclusão precisam ser seus, e você precisa conseguir explicá-los se alguém perguntar.

Uma frase para guardar: a IA pode ajudar a escrever sobre uma decisão, mas não pode tomar a decisão. E, se não souber se pode usar, na dúvida, pergunte antes (chefia, TI, ).

💡 Para pensar: no seu setor, qual tarefa parece "fácil de automatizar", mas na verdade decide algo sobre a vida de alguém?

AnteriorConcluir e avançar →