O Reino Unido quer mudar a lógica usada para regular inteligência artificial na saúde. Em vez de concentrar a fiscalização antes da entrada de um sistema no mercado, um relatório divulgado nesta quinta-feira, 10 de setembro, propõe acompanhar o comportamento da IA também depois que ela estiver em uso nos hospitais.
A Comissão Nacional para Regulamentação da IA na Saúde concluiu que o modelo atual, pensado para equipamentos médicos mais estáveis, não funciona bem para sistemas que podem ser atualizados, mudar de comportamento e apresentar desempenho diferente conforme o hospital, os dados e os profissionais que os utilizam. Por isso, a avaliação feita apenas antes da entrada no mercado “não será suficiente”.
O relatório, de 119 páginas, recomenda que determinadas ferramentas possam receber autorizações em etapas. Uma IA poderia começar a ser usada sob condições mais restritas, enquanto seu desempenho fosse acompanhado em situações reais. Se demonstrasse segurança e eficácia, avançaria para uma autorização mais ampla.
A contrapartida seria uma fiscalização mais intensa depois da implantação. Fabricantes poderiam ter de apresentar, já no pedido de autorização, planos de acompanhamento do produto, fazer estudos com pacientes em condições reais e enviar relatórios periódicos sobre seu desempenho.
Hoje, segundo a comissão, a fiscalização tende a reagir a incidentes depois que eles acontecem. Para sistemas de IA, isso pode ser tarde demais. O relatório registra que 65% dos participantes da consulta consideraram insuficiente o atual acompanhamento pós-mercado.
IA que muda
Outro ponto importante é como lidar com sistemas que continuam sendo alterados depois da aprovação. A comissão recomenda que o regulador permita mudanças previamente autorizadas dentro de limites definidos. Assim, um sistema poderia receber ajustes para hospitais ou grupos específicos de pacientes sem ter de reiniciar todo o processo regulatório a cada atualização.
O relatório também chama atenção para produtos médicos construídos sobre modelos de IA de uso geral. Nesses casos, o fornecedor deveria informar de qual modelo depende, quais riscos essa dependência traz e o que fará se o serviço deixar de funcionar. Essa exigência deveria aparecer não apenas no processo regulatório, mas também nos contratos e nas compras de sistemas de IA.
Isso abre uma discussão importante para o Brasil. Um hospital público que compre uma solução baseada em um modelo estrangeiro deveria saber quem controla a tecnologia, de qual nuvem ela depende e como o serviço continuará funcionando caso o fornecedor mude as regras ou interrompa o acesso.
Quem responde
A comissão também rejeita a ideia de jogar toda a responsabilidade sobre o médico. Fabricantes, hospitais, profissionais e reguladores teriam deveres diferentes. O fornecedor deveria informar previamente quais condições precisam existir para que o sistema seja usado com segurança, inclusive treinamento, proteção contra ataques e capacidade do hospital para operar a ferramenta. Fabricantes que souberem de falhas e não tomarem providências também poderiam sofrer multas proporcionais ao risco causado aos pacientes.
O relatório prevê ainda mais transparência com o paciente. A recomendação é que as pessoas sejam informadas quando a IA estiver sendo usada em seu atendimento e, quando for possível e adequado, possam optar por não utilizá-la.
Para o Brasil, o ponto central é simples: quem fiscaliza uma IA depois que o governo a compra?
À medida que o SUS avance no uso de algoritmos em diagnóstico, triagem, prontuários e apoio à decisão médica, a aprovação inicial pode não bastar. Será necessário acompanhar se o sistema continua funcionando bem meses ou anos depois.
A discussão também alcança Serpro, Dataprev e as compras públicas de IA. O relatório britânico trata a dependência de modelos e plataformas de terceiros como um risco que precisa aparecer nos contratos. O documento ainda não muda a lei. Ele reúne recomendações à MHRA (Agência Reguladora de Medicamentos e Produtos de Saúde do Reino Unido) e ao governo britânico, que deverão decidir quais propostas serão adotadas.
Mas a mudança de conceito já está clara: para o Reino Unido, autorizar uma IA não deve encerrar a fiscalização. Deve ser o começo dela.
