Notícias

Apr 14, 2024

'Oppenheimer' e os riscos da IA ​​nos cuidados de saúde

Por Junaid NabiAug. 2 de outubro de 2023 Todas as grandes histórias têm finais complicados. Mas isso não significa que não possam oferecer aulas simples e instrutivas. A obra-prima de Christopher Nolan, “Oppenheimer”, destaca

Por Junaid NabiAug. 2, 2023

Todas as grandes histórias têm finais complicados. Mas isso não significa que não possam oferecer aulas simples e instrutivas. A obra-prima de Christopher Nolan, “Oppenheimer”, destaca a trágica história sobre o “pai da bomba atômica”. Mas é também uma história sobre como os Estados Unidos perderam a oportunidade de ser um líder global no desenvolvimento de uma inovação que definiria o século XX. Este século será definido por tecnologias transformacionais — especialmente inteligência artificial — e a história de J. Robert Oppenheimer oferece lições particularmente importantes para líderes de cuidados de saúde, empresários e decisores políticos.

A era de Oppenheimer foi definida pela corrida à energia nuclear, enquanto a nossa está a ser definida pela competição na tecnologia de inteligência artificial. Ambas as tecnologias são ferramentas poderosas que mudarão a trajetória da humanidade. Noutra semelhança desconcertante com a era de Oppenheimer, os actores políticos que enquadram as políticas nacionais em torno da inovação parecem descomprometidos ou estão a politizar as nuances da ciência. Esta politicagem tornou cada vez mais difícil ter conversas construtivas sobre o futuro da inovação nos cuidados de saúde. Já vemos isto acontecer com a desinformação em torno da tecnologia mRNA e o assédio contínuo aos cientistas.

anúncio

Enquanto isso, mais de uma dúzia de empresas de saúde já estão usando o ChatGPT, um chatbot com tecnologia de IA desenvolvido pela OpenAI, para diversas funções. Mas não compreendemos completamente as consequências da integração destes grandes modelos de linguagem nas funções de saúde. Surpreendentemente, muitas das conversas em curso sobre a elaboração de políticas e regulamentação da IA ​​centraram-se nos líderes da indústria tecnológica e não utilizaram plenamente a experiência dos líderes da indústria dos cuidados de saúde, que têm conhecimentos únicos sobre a aplicação da IA ​​na saúde e na medicina. Isto lembrou-me uma cena poderosa no filme “Oppenheimer”, em que o cientista titular tenta persuadir o Presidente Truman sobre os perigos da energia nuclear, apenas para ver as suas preocupações rejeitadas.

A atenção dos meios de comunicação social sobre estes rápidos desenvolvimentos tecnológicos e as preocupações sobre a utilização de dados dos consumidores também estão a aumentar a pressão sobre os legisladores para que atuem. Na semana passada, a senadora republicana Lindsey Graham e a senadora democrata Elizabeth Warren reconheceram que “o Congresso é demasiado lento, falta-lhe conhecimento técnico” e sublinharam a importância de criar uma agência reguladora bipartidária através da Lei da Comissão de Protecção do Consumidor Digital. A ideia proposta parece estar mais focada em empresas tecnológicas de grande escala, o que não entende a razão pela qual estas proteções são necessárias para aplicações de IA e esforços nos cuidados de saúde. Estudos de investigação continuam a destacar como as ferramentas baseadas em aprendizagem automática podem levar a cuidados médicos inadequados.

Sua dose diária de novidades em saúde e medicina

A história de Oppenheimer também ilustrou como existe uma desconexão entre os objetivos da ciência — como a transparência, a colaboração e a procura da verdade — e os objetivos políticos, que estão sempre em fluxo. Compreender isto é particularmente urgente agora, uma vez que o público está continuamente a aprender sobre como a IA irá mudar as indústrias, incluindo os cuidados de saúde.

anúncio

No entanto, a falta de clareza sobre o impacto destas mudanças nos cuidados aos pacientes pode levar a um ambiente de medo e desconfiança que pode, em última análise, sufocar a inovação — porque a saúde é muito mais pessoal do que a economia. Os líderes dos cuidados de saúde que utilizam estas tecnologias para criar aplicações digitais podem desempenhar um papel importante como comunicadores científicos, por exemplo, tendo uma secção dedicada nos seus materiais de comunicação sobre o que os pacientes devem esperar que a sua tecnologia proporcione.

Por último, devemos reorientar os nossos esforços de inovação digital para colmatar lacunas nas disparidades nos cuidados de saúde e tomar medidas para não marginalizar ainda mais as populações vulneráveis. A história de Oppenheimer também é um lembrete do sofrimento causado às comunidades hispânicas e nativas americanas no Novo México durante a época do Teste da Trindade. Estudos recentes já demonstram como os algoritmos digitais na tomada de decisões nos cuidados de saúde podem exacerbar as desigualdades. Os empresários e decisores políticos da tecnologia dos cuidados de saúde devem garantir que todas as estratégias necessárias de mitigação de preconceitos – incluindo a implantação de conjuntos de dados representativos para a construção de aplicações digitais – sejam implementadas para evitar consequências negativas para os pacientes mal atendidos. Esta é também uma das formas mais eficazes para as empresas digitais de saúde construírem confiança.