Doutorando da USP é premiado no México

O doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, foi premiado por criar uma ferramenta que detecta e previne ataques hackers em sistemas médicos. 

Seu artigo, intitulado RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability, venceu a categoria de melhor trabalho de estudante no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado em Guadalajara, no México.

Segundo Aguiar, hackers podem realizar pequenas alterações ou ruídos em imagens médicas, como raio-X ou ressonância magnética, confundindo os sistemas e levando a diagnósticos errados. 

O RADAR-MIX, solução criada pelo doutorando, mitiga esse tipo de ameaça fazendo uso de ferramentas avançadas, como Grad-CAM e SHAP, que mostram de forma visual as partes de uma imagem alterada por um ataque.

Por meio da comparação de imagens limpas e atacadas, o sistema gera mapas de saliência para calcular a efetividade da detecção e a consistência da interpretação. 

O sistema também explica onde e como se deu o ataque, oferecendo uma análise mais completa em comparação a outras ferramentas já existentes no mercado.

“A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O RADAR-MIX é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, explica Aguiar.

O doutorando desenvolveu o artigo sob a orientação dos professores Agma Traina e Caetano Traina, ambos do ICMC. 

“Ver o trabalho desenvolvido pelo Erikson ser premiado em um dos principais fóruns mundiais de computação e medicina mostra a qualidade do que estamos desenvolvendo aqui no ICMC”, comenta Traina.

Segundo a docente, o RADAR-MIX demonstra potencial para ser implementado em sistemas médicos, protegendo hospitais e centros de diagnósticos contra ataques cibernéticos que impactam o tratamento de pacientes.

Após o reconhecimento no CBMS, Erikson já fez uma atualização do RADAR-MIX em um novo artigo que será apresentado no SPIE Medical Imaging, da Sociedade Internacional de Óptica e Fotônica, que acontecerá nos Estados Unidos em fevereiro de 2025. 

A versão atual está disponível no GitHub com código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias.

O doutorando está colaborando também com especialistas da Universidade da Flórida, onde realiza um estágio sanduíche de um ano financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).