Na ausência de uma legislação sobre a utilização da Inteligência Artificial no Brasil, a ministra dos Direitos Humanos e da Cidadania, Macaé Evaristo, tomou a iniciativa de regular a aplicação da tecnologia no âmbito da sua pasta. Por meio da Portaria nº1.522/25, o ministério decidiu que estão proibidas as seguintes ações com o uso da IA e essas medidas serão observadas quando houver a “contratação e supervisão de soluções de inteligência artificial (IA) no âmbito do MDHC”:
I – que tratem dados pessoais ou sensíveis sem fundamento legal adequado;
II – que produzam efeitos jurídicos sem possibilidade de revisão humana;
III – que realizem avaliação preditiva de comportamento com fins discriminatórios; e
IV – que processem dados sigilosos ou protegidos sem anonimização adequada.
Essas medidas de impedimento do uso da IA levam em conta os seguintes princípios a serem adotados pelos servidores:
I – respeito aos direitos humanos e à dignidade da pessoa humana;
II – proteção de dados pessoais e segurança da informação;
III – transparência e rastreabilidade dos resultados automatizados;
IV – supervisão humana efetiva durante todo o ciclo de uso da IA;
V – prevenção de vieses discriminatórios; e
VI – responsabilidade institucional e individual.
“As soluções de IA terão caráter complementar às atividades humanas e não poderão substituir a análise técnica ou jurídica de servidor responsável, salvo nos casos de tarefas meramente procedimentais ou de suporte administrativo, destaca o ministério no parágrafo 3º desta portaria”, destaca
Um Comitê de Governança Digital, com apoio técnico da Coordenação-Geral de TI do ministério, ficarão encarregados de auditar o comportamento dos aplicativos, deliberando se eles são de “Alto Risco” ou tenham “potencial impacto sobre direitos fundamentais”. Os funcionários deverão guardar os registros das soluções utilizadas para efeito dessas auditorias.
A portaria ainda exige que as soluções de IA utilizadas no ministério utilizadas para triagem, análise, atendimento automatizado, sugestão de conteúdo ou apoio à decisão, deverão ser identificadas ao usuário, “com linguagem clara, objetiva e acessível”.
*As novas regras foram publicadas hoje (03) no Diário Oficial da União.
