Quais os cuidados para aplicação da inteligência artificial sem prejuízos à segurança do paciente?

Artigo publicado pelo JAMA Network relata a importância de programas de segurança; Brasil avança na regulamentação com projeto de lei 

O Fórum de Saúde do JAMA Network publicou, em fevereiro, um artigo opinativo (1) elaborado por especialistas norte-americanos sobre o impacto da inteligência artificial na assistência clinica.  

A tecnologia, que vem quebrando paradigmas ao auxiliar a detecção e previsão de sepse, lesões por pressão, hemorragias pós-parto, eventos adversos a medicamentos e situações de descompensação, pode ganhar um viés negativo, prejudicando os pacientes, caso não seja implementada com atenção. É esse o ponto principal que o artigo aborda. 

Eles mencionam, inclusive, uma situação de falha quando um sistema de detecção de sepse baseado em inteligência artificial diagnosticou apenas 7% dos 2.552 casos, resultando em atraso na administração de antibióticos dos que não foram detectados pela tecnologia. 

O texto traz questões sobre a regulamentação, que difere de país para país. No caso do Brasil, tramita no Senado Federal o Projeto de Lei nº 2.338/2023 (2) que visa criar um marco legal para a inteligência artificial.

O texto inicial do projeto inclui um artigo que considera como alto risco o uso de sistemas de inteligência artificial para aplicações na área da saúde, inclusive as destinadas a diagnósticos e procedimentos médicos. 

Durante a tramitação do projeto, em audiência pública (3) realizada em dezembro do ano passado, foram discutidos os impactos da inteligência artificial na saúde e quais os pontos que devem constar na legislação, entre eles a qualidade dos dados gerados, transparência e explicabilidade para melhor entendimento das decisões tomadas, equidade e justiça, supervisão humana durante o funcionamento do sistema, limites de autonomia para a tecnologia, proteção de dados pessoais e segurança da informação. 

Em paralelo, nos Estados Unidos, em outubro de 2023 houve uma mudança legislativa que obriga os secretários de saúde e serviços humanos a estabelecer um programa de segurança para inteligência artificial capaz de identificar falhas clínicas durante o uso da ferramenta, analisar os dados e gerar diretrizes de melhoria e disseminar essas diretrizes para todos os serviços de saúde interessados. 

Com base nisso, o artigo lista três recomendações a serem integradas a esse programa de segurança: 

1. Desenvolver e incentivar o uso de diretrizes para implementação segura da inteligência artificial nos ambientes clínicos, sempre considerando a força de trabalho, as tecnologias, as políticas e os processos já existentes. Essas diretrizes devem abordar a tendência negativa das pessoas confiarem excessivamente na inteligência artificial, desvios de algoritmos que levam à variação no desempenho da tecnologia em ambientes diversificados, e a complacência dos profissionais de saúde.
    
2. Monitorar a inteligência artificial com frequência para identificar riscos à segurança do paciente por meio de processos bem estabelecidos como, por exemplo, o teste com casos que representam um grupo de pacientes a fim de verificar se os resultados gerados condizem com a realidade. Além disso, é preciso desenvolver a governança corporativa focada na adoção de novas ferramentas de inteligência artificial, na frequência que o monitoramento deve ocorrer e no desenvolvimento de soluções.
    
3. Desenvolver processos para rastreabilidade dos resultados da inteligência artificial em eventos de segurança do paciente é fundamental para entender como o sistema operava nos momentos da falha e do incidente de segurança. Além disso, a rastreabilidade pode auxiliar no combate à discriminação ao padronizar determinantes sociais dos dados de saúde. 

Por fim, os especialistas sugerem que esses programas de segurança da inteligência artificial estejam sempre alinhados com as diretrizes propostas pelas agências reguladoras (como a Anvisa e a FDA).

Pode-se observar, também, que o projeto de lei que está em discussão no poder legislativo traz alguns pontos que se assemelham ao que vem sendo debatido em território norte-americano. 

Referências: 

(1) Patient Safety and Artificial Intelligence in Clinical Care 

(2) Projeto de Lei nº 2.338/2023 

(3) Uso da inteligência artificial aplicada à saúde