Relatório do Institute for Healthcare Improvement (IHI) analisa os principais usos da IA generativa na assistência e destaca que supervisão humana continuará sendo indispensável
A rápida expansão da inteligência artificial generativa (IA generativa) promete transformar profundamente a assistência à saúde. Ferramentas capazes de resumir prontuários, sugerir diagnósticos, responder dúvidas de pacientes e apoiar decisões clínicas já começam a ser incorporadas à rotina de hospitais e serviços de saúde. Entretanto, ao mesmo tempo em que oferecem oportunidades inéditas para aumentar a eficiência e a qualidade da assistência, essas tecnologias também introduzem novos riscos que exigem atenção dos profissionais e das instituições.
Essa é uma das conclusões do relatório “Patient Safety and Artificial Intelligence: Opportunities and Challenges for Care Delivery”, publicado pelo Institute for Healthcare Improvement (IHI). O documento reúne especialistas internacionais e, em um dos capítulos, analisa como a IA generativa poderá impactar diretamente a segurança do paciente nos próximos anos, avaliando benefícios, limitações e estratégias para reduzir riscos.
O texto concentrou sua análise em três aplicações consideradas as mais promissoras para o futuro próximo: apoio à documentação clínica, suporte à decisão clínica e chatbots voltados ao atendimento de pacientes. Em todas elas, a conclusão é semelhante: a inteligência artificial pode fortalecer a segurança assistencial, desde que seja utilizada como ferramenta de apoio ao profissional e não como substituta do julgamento clínico.
Documentação clínica
Entre os usos mais maduros da IA generativa está a produção automática de documentação clínica. As ferramentas podem resumir históricos, elaborar notas de evolução, auxiliar na conciliação medicamentosa e transformar conversas entre profissionais e pacientes em registros estruturados.
Segundo o relatório, essa aplicação tem potencial para reduzir significativamente a carga administrativa dos profissionais de saúde, diminuindo o desgaste cognitivo e o burnout associados ao preenchimento de prontuários e registros eletrônicos. Ao liberar tempo antes dedicado à documentação, os profissionais podem concentrar mais esforços na interação direta com os pacientes.
Além disso, a IA pode contribuir para identificar inconsistências nos registros, apoiar a reconciliação de medicamentos e até adaptar documentos para diferentes níveis de letramento em saúde e idiomas, facilitando a compreensão por pacientes e familiares.
No entanto, os especialistas alertam que essa aparente eficiência traz um desafio importante: toda informação produzida pela IA deve ser cuidadosamente revisada antes de ser incorporada ao prontuário.
Presença humana contínua
Uma das principais preocupações do relatório envolve o chamado modelo “human in the loop” (“humano no circuito”), no qual a IA produz uma primeira versão da informação e um profissional é responsável por validá-la antes de sua utilização.
Embora esse modelo pareça seguro, os especialistas destacam que seres humanos nem sempre conseguem identificar erros quando assumem apenas o papel de revisores passivos. A confiança excessiva na tecnologia (conhecida como viés de automação) pode reduzir a vigilância e permitir que falhas passem despercebidas.
Outro risco apontado é o chamado deskilling, processo em que a dependência crescente da IA pode reduzir, ao longo do tempo, determinadas habilidades clínicas dos profissionais.
Por isso, o relatório recomenda que os sistemas de IA informem seu grau de confiança nas respostas, que as instituições monitorem continuamente as correções realizadas pelos profissionais e que sejam desenvolvidas estratégias para manter o julgamento clínico ativo durante a revisão das informações geradas pela tecnologia.
IA não substitui o raciocínio clínico
Outra aplicação considerada estratégica é o suporte à decisão clínica. A IA generativa pode analisar grandes volumes de dados presentes nos prontuários eletrônicos e sugerir diagnósticos diferenciais, tratamentos, protocolos assistenciais e pacientes com maior risco de complicações.
Segundo o IHI, essas ferramentas podem beneficiar não apenas médicos, mas também enfermeiros, farmacêuticos, fisioterapeutas e outros profissionais da equipe multiprofissional, auxiliando na identificação precoce de riscos, na revisão de medicamentos e na seleção de condutas baseadas em evidências.
Apesar desse potencial, os especialistas ressaltam que esses sistemas devem funcionar como copilotos clínicos, oferecendo apoio ao raciocínio dos profissionais, mas nunca assumindo a decisão final.
Entre os principais desafios identificados estão a falta de transparência dos algoritmos, a possibilidade de vieses decorrentes dos dados utilizados no treinamento da IA e a necessidade de validação rigorosa antes da incorporação dessas ferramentas à prática clínica.
Chatbots exigem limites definidos
Os chatbots representam outro campo de rápida expansão. Essas ferramentas podem responder dúvidas frequentes, orientar pacientes, apoiar a navegação pelos serviços de saúde, auxiliar em triagens iniciais e até reduzir parte da sobrecarga causada por mensagens enviadas aos profissionais.
Na avaliação do painel, quando implementados por instituições de saúde e supervisionados adequadamente, os chatbots podem ampliar o acesso à informação confiável, oferecer respostas em diferentes idiomas e adaptar a comunicação ao nível de compreensão dos pacientes.
Entretanto, o relatório destaca que os pacientes devem saber claramente quando estão interagindo com uma inteligência artificial e compreender quais são os limites dessa tecnologia.
Também será fundamental que esses sistemas reconheçam situações potencialmente graves, encaminhando rapidamente os pacientes para atendimento presencial quando necessário. Além disso, as respostas precisam ser continuamente monitoradas e atualizadas para evitar informações incorretas ou potencialmente prejudiciais.
Supervisão humana
Apesar do entusiasmo em torno da inteligência artificial generativa, o relatório do IHI reforça que a tecnologia não elimina a necessidade do julgamento clínico. Quanto maior for sua incorporação aos processos assistenciais, maior será a importância da supervisão humana, da validação contínua dos algoritmos e da construção de modelos de governança capazes de garantir transparência, monitoramento e segurança.
A principal mensagem do documento é clara: a IA generativa deve atuar como uma ferramenta de apoio às equipes de saúde, ampliando sua capacidade de decisão, e não substituindo a experiência clínica dos profissionais.
Novo curso no IBSP Conecta
Os profissionais interessados em compreender os impactos da inteligência artificial na assistência já podem aprofundar seus conhecimentos por meio da videoaula Inteligência Artificial e Segurança do Paciente, disponível para os assinantes do IBSP Conecta Premium.
Com 60 minutos de duração, o conteúdo é organizado em cinco blocos temáticos sequenciais e apresenta uma visão prática sobre as oportunidades, limitações e desafios da IA na segurança do paciente, discutindo aspectos técnicos, éticos e assistenciais que devem orientar sua implementação nos serviços de saúde. Clique AQUI para acessar.
Referências:
(1) Patient Safety and Artificial Intelligence: Opportunities and Challenges for Care Delivery
