Notícia 11/07/2022

Adoção de Inteligência Artificial no SUS é tema de defesa de doutorado do PPGICS


Por Assessoria de Comunicação do Icict Fiocruz

Acontece na próxima terça-feira, 19 de julho, a partir das 14h, a defesa da tese de doutorado do aluno Jefferson Lima, que abordará os “Desafios Para a Adoção de Inteligência Artificial Pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade” para o Programa de Pós-Graduação em Informação e Comunicação em Saúde – PPGICS.

Orientado por Marcel Pedroso e tendo como segundo orientador Christovam Barcellos, Lima busca “identificar os fatores, técnicos, regulatórios e éticos que podem contribuir para a construção de um ambiente mais adequado para o desenvolvimento da IA nos serviços de saúde”, a partir da análise do funcionamento dos métodos de interpretabilidade para os modelos de IA, reconhecidamente pouco transparentes (black boxes). Ele também tenta compreender como o funcionamento desses métodos, podem impactar os serviços de saúde. Para isso, ele criou um experimento contrafactual relacionado à “multiplicidade preditiva e consistência de explicações por meio de listas de importância dos atributos de quatro dos principais modelos de predição (classificação)”.

A defesa terá transmissão pela Plataforma Zoom. Seguem outras informações sobre a defesa de Jefferson Lima:

Defesa de Tese de Doutorado

Título: Desafios Para a Adoção de Inteligência Artificial Pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade

Aluno: Jefferson da Costa Lima

Orientador: Marcel de Moraes Pedroso (PPGICS/ICICT/FIOCRUZ)

Segundo Orientador: Christovam de Castro Barcellos Neto (PPGICS/ICICT/FIOCRUZ)

Banca: 

Titulares 
Dr. Rodrigo Murtinho de Martinez Torres (PPGICS/ICICT/FIOCRUZ)
Dr. Ricardo Antunes Dantas de Oliveira (PPGICS/ICICT/FIOCRUZ)
Dr. Flávio du Pin Calmon (SEAS/HARVAD)
Dr. Alexandre Dias Porto Chiavegatto Filho (LABDAPS/FSP/USP)
Dr. Fábio André Machado Porto (DEXL/LNCC)

Suplentes
Drª Renata de Saldanha da Gama Gracie Carrijo (PPGICS/ICICT/FIOCRUZ)
Dr. Eduardo Soares Ogasawara (PPCIC/CEFET-RJ)

Data: 19/07/2022 – 3a. feira | Horário: 14h

Resumo: Nos últimos anos, aplicações que utilizam componentes baseados em Inteligência Artificial (IA) têm se tornado onipresentes em nosso cotidiano. No campo da saúde, ao mesmo tempo em que a IA pode promover enormes avanços, uma questão que se apresenta, e que é desafiadora para a sua adoção, é fazer com que o seu uso seja justo e não discriminatório contra pessoas, grupos, comunidades, populações e instituições.

Outra característica marcante é que parte do êxito recente das aplicações baseadas em IA está relacionada a modelos cada vez mais complexos, sacrificando o entendimento humano sobre o seu funcionamento. Em áreas potencialmente sensíveis como a saúde, a falta de transparência é uma limitação que pode ocultar tratamentos discriminatórios ou, por falta de confiança na solução, funcionar como uma barreira para a adoção da tecnologia, o que pode levar a perda de enormes oportunidades para a melhoria do acesso aos serviços de saúde.

Esta pesquisa, no primeiro momento, se concentra em identificar os fatores, técnicos, regulatórios e éticos, que podem contribuir para a construção de um ambiente mais adequado para o desenvolvimento da IA nos serviços de saúde. Em seguida, busca compreender como o funcionamento dos métodos de interpretabilidade, que podem fornecer, para modelos de IA reconhecidamente pouco transparentes (black boxes), alguma interpretabilidade e como isso pode impactar os serviços de saúde. Para isso, foi criado um experimento contrafactual relacionado a multiplicidade preditiva e consistência de explicações por meio de listas de importância dos atributos de quatro dos principais modelos de predição (classificação).

Esta é uma pesquisa construída com um olhar para o Sistema Único de Saúde (SUS) e, especialmente, o seu princípio doutrinário da Equidade. Com isso, esperamos que o uso de IA na saúde possa contribuir para mitigar os efeitos das iniquidades sociais e econômicas, não para perpetuá-las ou agravá-las, ao criar um ambiente mais transparente e confiável.

Clique aqui para acessar a notícia original.


Artigos Relacionados