Question

Em um órgão público, a equipe de TI vai testar o uso de ferramentas generativas de texto (como ChatGPT, Copilot, Gemini) para agilizar a produção de relatórios, normas e minuta de documentos técnicos. Um servidor acidentalmente insere no prompt da IA um trecho confidencial de um estudo interno, e a IA retorna um rascunho que inclui parte desse conteúdo sensível. Para mitigar esse tipo de risco no futuro, qual diretriz ou política refletida a seguir é mais segura e razoável?

Accepted Answer

A) Definir que dados sensíveis ou confidenciais nunca sejam enviados integralmente ao modelo: usar versões anonimizada ou abstraída dos dados e revisar cuidadosamente a saída antes de uso oficial.

Answer

B) Mandar os documentos inteiros para a IA para que ela garanta melhor "contextualização", já que modelos são confiáveis.

Answer

C) Permitir uso irrestrito, desde que os servidores mantenham sigilo sobre os resultados.

Answer

D) Usar a IA apenas em dispositivos off-line, sem conexão à internet, para evitar vazamento.

Answer

E) Proibir uso de ferramentas de IA para qualquer tarefa envolvendo texto, mesmo públicos.

Mais questões de Inteligência artificial generativa e engenharia de prompt