Ministério da Ciência e Tecnologia define categorias de IA de alto risco

A implementação de high-risk AI categories representa uma etapa fundamental na regulamentação da inteligência artificial, com sistemas agrupados em três níveis de risco: alto, médio e baixo. Observamos que os provedores precisarão classificar inicialmente seus produtos com base em diretrizes técnicas, sendo que sistemas de alto risco enfrentarão supervisão mais rigorosa. Para isso, a classificação de high risk ai categories é determinada por cinco grupos de critérios, incluindo impactos nos direitos humanos fundamentais. Especialmente relevante, sistemas que afetam pelo menos 1.000 indivíduos por mês ou 10.000 por ano são considerados de alto risco. Neste artigo, exploramos como essas risk level categories estão sendo definidas e quais setores críticos serão impactados.

Ministério abre consulta para identificar sistemas de IA de alto risco

O Ministério da Justiça e Segurança Pública lançou consulta pública sobre o Guia de Uso Ético de Inteligência Artificial para cidadãos brasileiros, marcando um passo concreto na definição de high-risk AI categories no país. A iniciativa, conduzida pela Secretaria Nacional de Direitos Digitais (Sedigi), busca estabelecer diretrizes claras para identificar e classificar sistemas que representam diferentes níveis de risco à população.

Processo de consulta aos órgãos técnicos

A consulta está disponível na Plataforma Brasil Participativo e permanecerá aberta até 19 de abril de 2026. Cidadãos, especialistas, servidores públicos, pesquisadores e organizações da sociedade civil podem enviar contribuições que serão analisadas pela equipe da Sedigi para possível incorporação na versão final do documento. Victor Fernandes, secretário nacional de Direitos Digitais, afirma que o guia visa ampliar o entendimento da população sobre a inteligência artificial, seus usos, limitações e os direitos e deveres na interação com essa tecnologia.

O documento foi elaborado em linguagem simples e acessível, refletindo a preocupação em democratizar o conhecimento sobre as risk level categories. Esta abordagem permite que diferentes setores da sociedade compreendam como funcionam os sistemas de IA, seus potenciais de uso, limitações e riscos associados.

Critérios propostos para classificação

A regulamentação prevê dois níveis de risco principais: o risco excessivo, que será proibido, e o alto risco, que traz obrigações adicionais aos provedores. Esta estrutura binária diferencia sistemas que apresentam ameaças inaceitáveis daqueles que, embora exijam supervisão rigorosa, podem operar sob condições específicas de conformidade.

Papel do Instituto Nacional de Tecnologia Digital

A iniciativa integra a Ação 50 do Eixo 5 do Plano Brasileiro de Inteligência Artificial (PBIA), voltado ao apoio ao processo regulatório e à governança de IA. O plano representa o principal instrumento da política pública federal para orientar o desenvolvimento e uso responsável da tecnologia no Brasil, com previsão de investimentos superiores a R$ 115,98 bilhões entre 2024 e 2028. Estes recursos serão direcionados para fortalecer a capacidade técnica de avaliar e monitorar sistemas classificados como high risk ai categories.

Cinco grupos de critérios definem risk level categories

A estrutura de classificação estabelece cinco grupos de critérios técnicos para determinar as high-risk AI categories, permitindo análise sistemática dos sistemas antes de sua implementação no mercado.

Impactos nos direitos humanos fundamentais

A avaliação examina se o sistema pode causar danos irreversíveis, violar direitos fundamentais de forma sistemática ou operar fora do marco legal vigente. Sistemas de IA treinados com dados historicamente marcados por desigualdades sociais e práticas discriminatórias podem reproduzir ou amplificar essas distorções, afetando desproporcionalmente determinados grupos sociais. A discriminação algorítmica constitui ponto crítico, uma vez que ao processar grandes volumes de dados, os sistemas podem reforçar preconceitos e desigualdades. Observamos casos documentados onde 23,9% dos danos registrados referem-se a violações diretas à privacidade, ao devido processo legal e discriminação.

Riscos à segurança e interesse público

A centralização de grandes volumes de dados sensíveis em sistemas automatizados amplia a superfície de exposição a ameaças cibernéticas. Sistemas de IA empregados na segurança pública estão expostos a diversos vetores de ameaças, incluindo acesso não autorizado, manipulação de dados, comprometimento de algoritmos e ataques de negação de serviço.

Setores essenciais de aplicação

Os sistemas enquadrados como high risk ai categories abrangem dados biométricos, infraestruturas críticas, educação, emprego, acesso a serviços essenciais, aplicação da lei, migração e administração da justiça. Quase 30% dos danos decorrentes de uso de inteligência artificial afetam diretamente o bem-estar psicológico das pessoas.

Grau de automação e controle humano

A supervisão humana substancial atua como fator de mitigação na classificação de risco. Sistemas de IA devem ser tratados como ferramenta para aprimorar as capacidades humanas, não substituí-las. A especialização humana deve permanecer como pedra angular da tomada de decisões, com resultados da IA sempre verificados e contextualizados por profissionais treinados.

Escala de impacto e número de usuários afetados

A magnitude considera a medida em que pessoas dependem dos resultados produzidos por um sistema de IA, especialmente quando, por razões práticas ou jurídicas, não lhes for razoavelmente possível autoexcluir-se desse resultado.

Setores críticos onde erros de IA podem ter consequências significativas

Erros em sistemas automatizados geram consequências distintas conforme o setor de aplicação, sendo que algumas áreas apresentam riscos amplificados devido à natureza sensível das decisões envolvidas.

Saúde: sistemas que recomendam tratamentos invasivos

O Conselho Federal de Medicina publicou resolução em 27 de fevereiro estabelecendo que a decisão diagnóstica, terapêutica e prognóstica deve permanecer sob responsabilidade do médico. Quando avaliados isoladamente, modelos de IA identificaram corretamente condições clínicas em 94,9% dos casos, porém na interação com usuários o desempenho caiu para menos de 34,5%. Algoritmos de diagnóstico dermatológico treinados com base em imagens de peles claras podem falhar na identificação de lesões em pessoas negras. Médicos da UCLA documentaram episódios de psicose de início recente em usuários sem histórico prévio, nos quais a interação prolongada com IA funcionou como elemento de reforço de crenças delirantes.

Educação e recrutamento profissional

O SENAI desenvolveu a NAI, assistente pessoal que faz recomendações de carreira e rotas formativas com base em interesses e histórico do estudante. Empresas que utilizam IA para recrutamento precisam adotar práticas responsáveis para evitar discriminação, vieses algorítmicos e decisões injustas.

Finanças, transporte e energia

A operadora Ercot recebeu solicitações para mais de 226 gigawatts de energia até 2030, quase cem vezes mais do que aprovou em 2022. Empresas que utilizam IA para análise financeira enfrentam vulnerabilidade a falhas operacionais quando sistemas apresentam erros ou ficam indisponíveis.

Justiça e infraestrutura técnica crítica

Mais de 60% dos tribunais brasileiros utilizam algum tipo de IA, mas apenas cerca de 30% contam com mecanismos formais de governança. Sistemas que interferem no conteúdo de decisões judiciais devem ser classificados como de alto risco e submetidos a revisões periódicas externas.

Sistema de exclusão permite reclassificação de IA de alto risco

Provedores de sistemas de inteligência artificial podem solicitar revisão da classificação de alto risco quando discordarem dela, segundo mecanismo previsto na regulamentação. Nesse sentido, a lista de aplicações consideradas high-risk AI categories não será fechada ou definitiva, mas aberto-exemplificativa, permitindo inclusão de novas situações conforme avanços tecnológicos.

Funções puramente técnicas podem ser isentas

Sistemas utilizados como ferramentas intermediárias que não influenciem decisões relevantes não serão considerados de alto risco. Esta distinção reconhece que nem toda aplicação de IA em processos críticos necessariamente representa ameaça aos direitos fundamentais.

Supervisão humana substancial como fator de exclusão

A Receita Federal estabeleceu que toda decisão permanece sob responsabilidade exclusiva do agente público, vedando o uso de IA para tomadas de decisão autônomas. Sistemas podem apoiar análises e triagens, porém não substituir atuação humana. A palavra final segue sendo dos servidores públicos, com ferramentas automatizadas impedidas de restringir competências legais dos agentes.

Ferramenta automatizada de classificação no portal único

A implementação de mecanismos automatizados de classificação visa facilitar o enquadramento correto dos sistemas pelos provedores, alinhando-se à necessidade de processos transparentes e acessíveis para determinar risk level categories.

Conclusão

Observamos que a definição das categorias de IA de alto risco representa avanço significativo na governança tecnológica brasileira. De fato, os cinco grupos de critérios estabelecem base sólida para avaliar sistemas que afetam direitos fundamentais, enquanto o mecanismo de reclassificação garante flexibilidade necessária. Igualmente importante, a supervisão humana permanece como elemento central em setores críticos. Desta forma, a consulta pública democratiza o processo regulatório e fortalece nossa capacidade coletiva de desenvolver inteligência artificial responsável e alinhada aos valores sociais.