Um em cada cinco médicos no Reino Unido utiliza ferramentas de inteligência artificial generativa (GenAI), como o ChatGPT da OpenAI ou o Gemini do Google, para auxiliar na prática clínica. Esta informação vem de uma pesquisa recente com cerca de 1.000 clínicos gerais. Os médicos relataram usar GenAI para gerar documentação após consultas, ajudar na tomada de decisões clínicas e fornecer informações aos pacientes, como resumos de alta compreensíveis e planos de tratamento.
Com a crescente atenção ao redor da inteligência artificial, juntamente com os desafios enfrentados pelos sistemas de saúde, não é surpresa que médicos e formuladores de políticas vejam a IA como chave para modernizar e transformar nossos serviços de saúde. No entanto, a GenAI é uma inovação recente que desafia fundamentalmente a forma como pensamos sobre a segurança do paciente. Ainda há muito que precisamos saber sobre GenAI antes que ela possa ser usada com segurança na prática clínica cotidiana.
O uso de IA na prática clínica pode apresentar uma série de problemas. Tradicionalmente, as aplicações de IA foram desenvolvidas para realizar uma tarefa muito específica. No entanto, a GenAI não é treinada para uma tarefa definida de forma restrita. Essas tecnologias são baseadas em “modelos de fundamento”, que possuem capacidades genéricas, podendo gerar texto, pixels, áudio ou até mesmo uma combinação desses elementos.
Outra preocupação no uso de GenAI na saúde é a “alucinação”, fenômeno que resulta em saídas sem sentido ou inverídicas baseadas nas entradas fornecidas. Essas alucinações ocorrem porque a GenAI opera no princípio da probabilidade, prevendo qual palavra sucederá em um determinado contexto, ao invés de “compreender” no sentido humano. Essa plausibilidade, em vez de veracidade, é mais uma razão pela qual ainda é cedo demais para usar GenAI na prática médica de rotina.
A segurança do paciente depende de interações com a IA para determinar como ela funciona em um determinado contexto e ambiente. Contudo, a GenAI não é projetada para um uso específico, o que significa que é adaptável e pode ser usada de formas que não podemos prever completamente. Antes de essas tecnologias serem usadas de forma mais ampla na saúde, a garantia de segurança e a regulamentação precisarão se tornar mais responsivas aos avanços.
É necessário que os desenvolvedores de ferramentas de GenAI e os reguladores trabalhem com as comunidades que utilizam essas tecnologias para desenvolver ferramentas que possam ser usadas regularmente e com segurança na prática clínica.
Para mais informações, acesse o artigo completo em: https://www.sciencealert.com/a-huge-amount-of-doctors-are-already-using-ai-in-medical-care
