A discussão aberta pelo Reino Unido sobre a necessidade de acompanhar sistemas de inteligência artificial depois que eles entram em funcionamento ganha um ingrediente importante no Brasil. A saúde já é o setor brasileiro no qual uma violação de dados custa mais caro e a rápida disseminação da IA está acrescentando novos riscos a uma infraestrutura tecnológica historicamente fragmentada.
O Cost of a Data Breach Report 2025, produzido pela IBM com pesquisa do Ponemon Institute, calculou em R$ 7,19 milhões o custo médio de uma violação de dados no Brasil, 6,5% acima do ano anterior. Na saúde, a conta chegou a R$ 11,43 milhões por incidente, contra R$ 8,92 milhões no setor financeiro e R$ 8,51 milhões em serviços.
O problema não está apenas nos ataques externos. Hospitais acumulam prontuários eletrônicos, sistemas administrativos, plataformas de compras, estoques, fornecedores e outros programas que nem sempre conversam entre si. Quanto maior a fragmentação, mais difícil saber quem acessou determinada informação, acompanhar o caminho percorrido pelos dados e reagir rapidamente quando alguma coisa sai do controle.
É o que Rafael Fialho, CIO da GTPlan, empresa que fornece tecnologia para gestão da cadeia de suprimentos, chama de “Frankenstein digital”. Segundo ele, mesmo um hospital que invista em cibersegurança pode continuar vulnerável quando opera uma coleção de sistemas isolados.
O problema deixa de ser apenas tecnológico quando um ataque consegue paralisar parte dessa estrutura. A indisponibilidade de sistemas pode atingir compras, estoques, fornecedores e logística e, no limite, afetar o abastecimento de insumos necessários ao atendimento dos pacientes.
IA sem controle
A inteligência artificial tornou essa equação mais complicada porque pode funcionar tanto como instrumento de ataque quanto de defesa.
Os números brasileiros do levantamento da IBM mostram uma lacuna expressiva de controle. 87% das organizações pesquisadas no país disseram não possuir políticas de governança de IA e 61% não tinham controles de acesso para essas ferramentas. Apenas 29% utilizavam tecnologias de governança de IA para reduzir os riscos associados a ataques contra modelos.
“A IA é a nova fronteira dessa discussão. Ela sofistica os ataques e, quando adotada sem critério dentro das instituições, cria vulnerabilidades que ninguém está monitorando”, afirma Fialho.
Mas a mesma tecnologia pode reduzir o prejuízo. No levantamento brasileiro, organizações que utilizavam amplamente IA e automação na segurança registraram custo médio de R$ 6,48 milhões por violação. Nas empresas que não utilizavam essas tecnologias, o valor chegou a R$ 8,78 milhões. A diferença é de R$ 2,3 milhões por incidente, ou cerca de 26%.
Para Fialho, a resposta passa também pela redução da fragmentação dos sistemas. A GTPlan vem incorporando inteligência artificial à sua plataforma de gestão da cadeia de suprimentos para concentrar processos e permitir maior controle sobre acessos, compras, fornecedores e estoques. Trata-se, porém, de uma das abordagens comerciais disponíveis para enfrentar o problema, e não de uma conclusão do estudo da IBM.
Depois da compra
Os números ajudam a colocar em perspectiva o relatório divulgado pela Comissão Nacional para Regulamentação da IA na Saúde do Reino Unido. O documento recomenda justamente abandonar a ideia de que basta verificar a segurança de uma inteligência artificial antes de colocá-la em funcionamento.
A comissão britânica defende monitoramento contínuo depois da implantação, porque sistemas de IA podem ser atualizados, mudar de comportamento ou apresentar resultados diferentes conforme os dados, o hospital e o ambiente em que são utilizados. A recomendação inclui mecanismos para detectar deterioração do desempenho e acompanhar riscos ao longo da vida do sistema.
O documento vai além. Antes de autorizar determinados sistemas, o fornecedor deveria informar quais condições precisam existir no hospital para operá-los com segurança, incluindo cibersegurança, treinamento dos usuários e capacidade da instituição para administrar IA.
Também recomenda que, quando uma solução depender de um modelo de inteligência artificial fornecido por outra empresa, essa dependência e seus riscos sejam declarados. A exigência deveria chegar às compras e aos contratos, acompanhada inclusive de um plano para manter o serviço caso o modelo do qual a aplicação depende deixe de estar disponível.
É nesse ponto que as duas discussões se encontram. Não basta proteger o hospital contra a IA usada pelo atacante. É preciso controlar também a IA que o próprio hospital está colocando dentro de seus sistemas.
Para o SUS, a questão tende a ganhar importância à medida que algoritmos avancem sobre diagnóstico, triagem, prontuários, gestão hospitalar e apoio à decisão médica. O desafio deixa de ser apenas saber se a tecnologia estava segura quando foi contratada. Passa a ser saber quem acompanha o que ela faz depois de instalada, quem controla suas atualizações e quem responde quando seu comportamento muda.
