Novas diretrizes da OMS para regulamentação da Inteligência Artificial

16/11/2023

Desenvolvido por uma equipe multidisciplinar, o texto resulta de vigorosas discussões sobre o uso da Inteligência Artificial

Em uma busca incessante por orientar a aplicação da Inteligência Artificial (IA) na área da saúde, a Organização Mundial da Saúde (OMS) acaba de lançar um documento — clique aqui para baixá-lo — repleto de considerações essenciais para a regulamentação dessa tecnologia no setor.

O intuito é mitigar riscos para profissionais e pacientes, adotando boas práticas desde o início do processo regulatório.

Elaborado por uma equipe multidisciplinar de especialistas, esse texto resulta de intensos debates em grupos de trabalho sobre vários aspectos das propostas, envolvendo stakeholders como autoridades regulatórias, pesquisadores, representantes da indústria, profissionais da saúde e políticos.

Potencial transformador da Inteligência Artificial na Saúde

O documento destaca o potencial transformador da Inteligência Artificial na saúde, promovendo melhorias na capacidade diagnóstica, reforçando ensaios clínicos e tratamentos.

Os autores enfatizam a utilidade da IA em contextos clínicos carentes de especialistas, como na interpretação de exames de retina ou imagens radiológicas.

Riscos e desafios associados à rápida incorporação da IA

No entanto, o texto alerta para os diversos riscos associados, especialmente com a rápida incorporação de ferramentas cujo funcionamento ainda não é completamente compreendido.

Leia também: Inteligência Artificial: revolução digital e os impactos nos processos de saúde
Ao utilizar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis, demandando frameworks jurídicos e regulamentações robustas para proteger a privacidade, segurança e integridade desses dados.

Orientações da OMS para uma regulação eficaz da Inteligência Artificial

De acordo com o Dr. Tedros Adhanom Ghebreyesus, diretor-geral da OMS, embora a IA prometa avanços na saúde, ela também apresenta desafios sérios, incluindo a coleta antiética de dados, ameaças à cibersegurança e a amplificação de preconceitos ou desinformação, tal qual comentou em um comunicado da companha de lançamento do documento:

As novas orientações auxiliarão os países na eficaz regulamentação da Inteligência Artificial, aproveitando seu potencial no tratamento do câncer, detecção de tuberculose, enquanto minimizam os riscos.

O documento está dividido em seis áreas temáticas que concentram os principais pontos de atenção na regulação da IA:

Transparência;

Gerenciamento de risco;

Aplicações e validação clínica;

Qualidade dos dados;

Privacidade;

Cooperação no setor.

O trabalho destaca não apenas a gestão de códigos e algoritmos, mas também a garantia de rigor em relação aos dados inseridos nessas ferramentas.

Os sistemas de IA são construídos com informações de diversas fontes, desde ensaios clínicos até interações dos usuários.

Para a OMS, é imperativo um esforço regulatório para minimizar os riscos de reprodução de preconceitos e vieses nas bases de dados.

O documento também enfatiza a importância de garantir a privacidade, proteção e consentimento dos pacientes.

Essa publicação, pensada para orientar o processo decisório dos países que fazem parte da OMS, se une a outras iniciativas da organização focadas no crescente uso da Inteligência Artificial.

Em maio, a OMS emitiu um alerta sobre os riscos relacionados à adoção precipitada dessas tecnologias, com destaque para a disseminação de informações falsas e o uso indevido de dados.

Em 2021, antes do lançamento do ChatGPT e de outras plataformas que popularizaram ainda mais a IA, a OMS publicou um extenso relatório destacando aspectos éticos relacionados ao uso dessa tecnologia na saúde.