Questão de Direito Administrativo

Luana Sampaio 1 O uso da Inteligência Artificial (IA) generativa no serviço público brasileiro já é uma realidade. 2 Em 2025, diversas instituições — como o CNJ, o TCU, a CGU e o TCE de São Paulo — publicaram normas 3 orientadoras para garantir o uso ético e responsável dessa tecnologia. O próprio Governo Federal 4 também aderiu ao movimento, lançando uma cartilha com o mesmo objetivo. 5 Esses documentos têm dois propósitos centrais: ampliar a produtividade com o uso da IA 6 generativa e prevenir os riscos significativos que acompanham essa tecnologia tão potente. 7 De fato, a IA generativa é uma aliada poderosa. Com poucos comandos, é possível resumir 8 textos, revisar minutas, propor versões mais claras de pareceres e gerar entregas com uma agilidade 9 inédita. No entanto, esse avanço exige atenção redobrada. A IA generativa não é neutra, nem ética 10 por natureza — e seu uso, sem as devidas cautelas, expõe instituições a riscos importantes. 11 Apesar de carregar “inteligência” no nome, a IA não possui senso crítico, tampouco 12 compromisso com o interesse público. Ela opera com base em padrões estatísticos e correlações — ou 13 seja, sem discernimento moral, legal ou institucional. 14 Trata-se, portanto, de uma tecnologia transformadora e extremamente útil, mas que exige 15 critérios rigorosos de uso, especialmente diante de riscos igualmente grandiosos. Vazamentos de 16 dados, exposição de informações sensíveis e decisões forjadas por IA são riscos concretos que 17 tomaram a realidade e estão sendo amplamente noticiados na imprensa nacional e internacional. 18 O caso Mata v. Avianca, Inc., nos Estados Unidos — em que advogados foram punidos por 19 apresentarem precedentes jurídicos falsos gerados por IA — é emblemático. A multa aplicada foi 20 pequena diante dos danos à reputação dos profissionais penalizados. 21 No Brasil, temos o exemplo de um juiz federal investigado pelo CNJ por utilizar decisões fictícias 22 atribuídas ao STJ. Já a Amazon enfrentou críticas — e reconheceu o erro — ao constatar que seu 23 sistema automatizado de recrutamento reproduzia vieses de gênero. 24 Esses casos evidenciam as chamadas alucinações da IA e seus vieses, que colocam em risco a 25 legalidade, a equidade e a integridade institucional. 26 Não por acaso, corporações como a Samsung optaram por proibir o uso de IA aberta por seus 27 funcionários no sistema corporativo, após incidentes envolvendo o vazamento de dados sigilosos. 28 No setor público, a preocupação é ainda mais crítica. Servidores acessam diariamente 29 ferramentas de IA aberta enquanto lidam com dados sensíveis de milhões de brasileiros — e tomam 30 decisões que impactam diretamente a vida da população. O uso inadequado dessas ferramentas pode 31 expor informações sigilosas, violar o ordenamento jurídico e gerar danos irreparáveis às pessoas, aos 32 cofres públicos e à sociedade. 33 O uso da IA generativa deve respeitar os princípios constitucionais da moralidade, equidade, 34 legalidade e segurança jurídica. A Lei Geral de Proteção de Dados (LGPD) impõe obrigações rigorosas 35 quanto ao tratamento de dados pessoais — 36 contexto do uso da IA no serviço público. exigências que se tornam ainda mais relevantes no 37 Por isso, adotar medidas de compliance, governança e treinamento contínuo de equipes é uma 38 necessidade urgente. Trata-se de proteger processos, recursos públicos, direitos dos cidadãos e a 39 reputação da Administração Pública. A construção de uma cultura de uso consciente e seguro da 40 tecnologia é essencial para que a IA venha a somar — e não comprometer — a gestão pública. P á g i n a 3 | 40 41 É imprescindível estabelecer regras claras, assegurar supervisão humana qualificada, definir 42 protocolos éticos robustos e promover uma cultura organizacional que valorize a responsabilidade 43 digital. 44 Se utilizada com responsabilidade, a IA generativa pode ser uma aliada excepcional da boa 45 governança. Caso contrário, pode gerar prejuízos graves, perda de eficiência, violação de direitos e 46 erosão da confiança social nas instituições. 47 Assim como fizeram o CNJ, o TCU, a CGU, o TCE-SP e o Governo Federal, os demais órgãos 48 públicos também precisam agir. O momento exige liderança, visão institucional e compromisso com a 49 integridade. 50 Mais do que um desafio técnico, trata-se de um compromisso público inadiável: regulamentar 51 para proteger — ou se omitir e responder pelas consequências potencialmente desastrosas. 52 O desafio está posto: as instituições públicas precisam construir uma cultura de uso consciente, 53 ético e seguro da inteligência artificial — reforçando a confiança da sociedade nas instituições e 54 promovendo um serviço público moderno, eficiente e comprometido com os valores democráticos. Fonte: https://irbcontas.org.br/artigos/entre-o-potencial-transformador-e-os-riscos-inadiaveis/. (Adaptado).