O uso não controlado de ferramentas de inteligência artificial (IA) na área da saúde criou uma situação arriscada. À medida que essas ferramentas de IA são aplicadas à medicina, sua segurança e eficácia não passam por um monitoramento governamental completo. Isso levanta questões sobre se estamos priorizando a inovação em detrimento da segurança do paciente.
Médicos estão empregando ferramentas de inteligência artificial como assistentes virtuais para anotações e softwares preditivos para diagnóstico e tratamento de doenças, indicando uma mudança significativa para a digitalização na área da saúde.
A rápida evolução da tecnologia de IA apresenta um desafio para órgãos reguladores como a FDA, que tradicionalmente aprova produtos como medicamentos e dispositivos médicos sem a necessidade de monitoramento contínuo. A natureza dinâmica da IA requer uma abordagem regulatória diferente, para a qual a FDA atualmente não está equipada para lidar devido a limitações de recursos e autoridade.
Apesar da necessidade urgente de regulamentação, os esforços governamentais têm sido lentos, com pedidos de uma resposta coordenada para garantir a segurança e eficácia da IA na área da saúde permanecendo em grande parte não atendidos. A FDA expressou a necessidade de mais autoridade e recursos para regular efetivamente as tecnologias de IA.
A implantação rápida de IA na área da saúde sem uma regulamentação adequada apresenta riscos relacionados à segurança do paciente e à privacidade dos dados, mesmo prometendo avanços significativos na eficiência do tratamento e diagnóstico.
A falta de diretrizes regulatórias claras e a autoridade limitada da FDA sobre certas aplicações de IA criam confusão entre fornecedores de tecnologia e profissionais de saúde, potencialmente sufocando a inovação e afetando a adoção de ferramentas de IA potencialmente benéficas.
Os desafios apresentados pela IA na área da saúde sugerem a necessidade de modelos inovadores de supervisão, como laboratórios de garantia público-privados, para validar e monitorar as tecnologias de IA. No entanto, preocupações sobre a eficácia e imparcialidade de tais modelos persistem, especialmente em diferentes configurações de saúde.
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 12:31
O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…
Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…
O Google acabou de lançar o que está chamando de um novo modelo de inteligência…
A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…
A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…
O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…