As inteligências artificiais (IAs) estão se tornando cada vez mais comuns em várias áreas, incluindo a medicina. No entanto, com o aumento do uso, surgem também os riscos, especialmente em relação a ataques cibernéticos que podem comprometer diagnósticos. Para enfrentar essa ameaça, o doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), criou o Radar-Mix, uma ferramenta projetada para detectar e analisar invasões em sistemas de IA.
O projeto é financiado pela FAPESP e orientado pela professora Agma Juci Machado Traina. Erikson planeja compartilhar suas pesquisas no evento SPIE Medical Imaging, que ocorre entre os dias 16 e 20 de fevereiro na Califórnia, Estados Unidos. Em junho de 2024, ele recebeu o prêmio de “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado em Guadalajara, México.
A solução desenvolvida por Erikson foi apresentada no artigo intitulado “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”. Ele explica que os ataques hackers frequentemente introduzem pequenas alterações em imagens médicas, como as de raios-X e ressonâncias magnéticas, causando confusão nos sistemas e levando a diagnósticos errôneos. O Radar-Mix visa mitigar esses problemas ao oferecer uma análise detalhada das invasões.
Erikson destaca que, embora a inteligência artificial tenha sido uma aliada no diagnóstico de doenças, também se tornou um alvo para hackers. O Radar-Mix não apenas detecta esses ataques, mas também fornece informações sobre como e onde eles ocorrem, essencial para a segurança nos diagnósticos. A ferramenta utiliza tecnologias avançadas como Grad-CAM e SHAP, que ajudam a identificar as áreas afetadas nas imagens.
Com a capacidade de ser integrada a sistemas médicos, o Radar-Mix promete proteger hospitais e centros de diagnóstico contra ciberataques que possam comprometer o tratamento dos pacientes. A professora Traina afirma que a estrutura modular do Radar-Mix facilita sua implementação e adaptação em diferentes contextos, funcionando como um filtro entre os serviços e servidores para garantir uma camada adicional de segurança.
Os ciberataques estão cada vez mais frequentes e podem ter impactos significativos, como danos à reputação de instituições médicas e prejuízos financeiros. O Radar-Mix busca manter a confiança nos sistemas de IA, sendo vital para médicos e pacientes. O código-fonte do Radar-Mix está disponível para reprodução e melhorias no GitHub.
O reconhecimento no CBMS 2024 e a participação no SPIE Medical Imaging sublinham a relevância dessa experiência internacional, contribuindo para a carreira de Erikson ao trabalhar com grandes especialistas em segurança em IA.
