A inteligência artificial (IA) vem transformando diversos setores, e a medicina parece também estar sendo impactada. Nos Estados Unidos, uma nova prática vem ganhando força e despertando preocupação: o uso de IA para responder mensagens de pacientes e, inclusive, dar diagnósticos.
Segundo uma reportagem publicada em setembro de 2024 pelo New York Times, cerca de 15 mil médicos e assistentes de mais de 150 sistemas de saúde estão usando a IA para responder às mensagens dos pacientes. O objetivo declarado é otimizar o tempo dos profissionais, permitindo que eles se concentrem em consultas presenciais e outras tarefas essenciais. Entretanto, essa prática tem levantado questões éticas e de segurança.
Prática ou Engano?
Plataformas como o MyChart permitem que pacientes se comuniquem diretamente com seus médicos, relatando sintomas, fazendo perguntas e buscando orientações. Para muitos, essa ferramenta se tornou um canal essencial, especialmente durante a pandemia, quando o atendimento presencial estava limitado. Porém, em 2023, o MyChart introduziu o recurso “In Basket Art”, baseado no GPT-4, capaz de criar respostas automáticas para as mensagens dos pacientes.
A ferramenta analisa o histórico do paciente, incluindo informações do prontuário eletrônico, para redigir um rascunho que o médico pode editar ou aprovar. Segundo o New York Times, o uso desse recurso foi impulsionado pela necessidade de reduzir a sobrecarga de mensagens, que já estava levando profissionais ao esgotamento.
Mas a grande maioria dos pacientes não sabe que as respostas que recebem foram geradas com a ajuda de IA. Isso levanta uma questão: os pacientes não esperam estar falando com um “robô”, e sim com o próprio médico.
O Risco de Respostas Imprecisas
Os defensores do uso da IA apontam que a ferramenta economiza tempo e ajuda a reduzir o cansaço mental dos médicos. Estudos iniciais mostraram que o uso do “In Basket Art” reduziu os sentimentos de esgotamento e a carga cognitiva dos médicos, embora não necessariamente o tempo gasto. Entretanto, críticos apontam que essa tecnologia ainda não é totalmente confiável e pode gerar respostas incorretas, o que traz um risco considerável quando se trata de saúde.
Pesquisadores ainda alertam que a tecnologia pode comprometer a confiança dos pacientes, já que eles esperam que o médico considere seu histórico e contexto. Saber que uma IA gerou a resposta pode fazer com que se sintam traídos.
Uma das principais discussões é sobre a transparência no uso da IA. Alguns sistemas de saúde, como a U.C. San Diego Health, informam os pacientes com uma nota no final de cada mensagem, explicando que ela foi gerada automaticamente e revisada pelo médico.
Outros, como Stanford Health Care e U.W. Health, optaram por não notificar os pacientes, com o argumento de que essa informação poderia reduzir a confiança no conteúdo, mesmo que a mensagem seja cuidadosamente revisada pelo profissional.
A opinião dos próprios médicos divergem sobre a prática, alguns dizem que há o receio de que a transparência sobre o uso de IA leve os médicos a relaxarem na revisão das respostas, sabendo que os pacientes estão cientes da origem automatizada. Por outro lado, outros acreditam que não há problema em ser transparente e que os pacientes geralmente aceitam bem a nova tecnologia.
A Medical Defence Union vai contra a prática
No Reino Unido, a Medical Defence Union (MDU), uma entidade de defesa médica, alertou seus membros sobre os riscos de usar IA para redigir respostas a reclamações de pacientes. Segundo a organização, embora seja compreensível que médicos sobrecarregados busquem ajuda na IA, essa prática pode resultar em respostas imprecisas ou pouco sinceras, além de levantar questões sobre a privacidade dos dados.
A MDU destacou que a IA não substitui o toque humano, especialmente em situações que exigem empatia e reflexão.Alguns riscos citados pela MDU incluem a possibilidade de respostas imprecisas, termos inadequados para o contexto local, e desculpas genéricas que não atendem às expectativas dos pacientes.
A organização alerta que a IA pode ser um ponto de partida, mas que as respostas devem sempre ser cuidadosamente personalizadas pelo profissional para garantir que o paciente se sinta respeitado e bem atendido.
Tendência Global?
A adoção de IA no atendimento ao paciente nos Estados Unidos pode influenciar sistemas de saúde em outros países, especialmente em um cenário onde a tecnologia é cada vez mais integrada às rotinas de trabalho. No entanto, a falta de regulamentação sobre o uso de IA para fins clínicos e de comunicação com pacientes é uma preocupação crescente.
Enquanto alguns sistemas de saúde utilizam a IA apenas para tarefas administrativas, a utilização para dar respostas clínicas exige mais atenção. Sem uma regulamentação específica, cada instituição tem liberdade para definir como e quando usar essas tecnologias (e se os pacientes devem ser informados). No mais, a transparência e a ética devem ser a base dessa relação para que a inovação tecnológica seja um benefício, e não um obstáculo.
Facebook Comments