Pesquisadores da Universidade Federal de São Paulo, a Unifesp, desenvolveram uma forma de tornar sistemas de inteligência artificial mais justos no uso em diagnósticos de saúde. O estudo é coordenado pela professora Lilian Berton, do Instituto de Ciência e Tecnologia da Unifesp, em São José dos Campos. O resultado foi publicado na revista Science Direct, e mostra que é possível reduzir erros que atingem mais mulheres, negros, indígenas e pessoas fora da faixa etária média.
A pesquisa foi conduzida no campus de São José dos Campos da Unifesp, com parcerias internacionais, e analisou como esses sistemas aprendem a partir de bancos de dados. O problema é que, na prática, muitos desses dados não representam igualmente todos os grupos da população. Com isso, os algoritmos acabam errando mais justamente com quem aparece menos nos registros.
Segundo Lilian Berton, isso é um problema sério, porque esses sistemas podem indicar doença para quem está saudável ou deixar de identificar um problema real. Na área da saúde, esse tipo de erro pode afetar diretamente a vida das pessoas.
Um sistema pode indicar doença para quem está saudável ou deixar de apontar um problema real, dependendo do grupo analisado. Para enfrentar isso, os pesquisadores propuseram um treinamento que busca equilibrar dois objetivos ao mesmo tempo: manter o bom desempenho geral do modelo e reduzir desigualdades entre diferentes perfis de pacientes.
O método foi testado em três bases públicas de dados médicos: arritmia cardíaca, diabetes e hemorragia intracraniana, somando mais de 2.600 pacientes. Nos testes, as diferenças entre grupos caíram de forma significativa. Em um dos casos, a desigualdade entre homens e mulheres foi reduzida em cerca de 78%. Em outro, o viés racial caiu mais de 50%, sem perda na precisão dos diagnósticos.
Para confirmar que os resultados não ocorreram por acaso, os cientistas aplicaram testes estatísticos que indicaram alto nível de confiança nos ganhos obtidos. Os experimentos usaram desde plataformas gratuitas até supercomputadores brasileiros.
Segundo os pesquisadores, a proposta ajuda a tornar decisões médicas apoiadas por inteligência artificial mais seguras e equilibradas. O estudo, no entanto, foi feito com modelos mais simples e dados em tabelas. A próxima etapa será testar a ideia em sistemas mais complexos, como os usados em imagens médicas.