A chegada da inteligência artificial (IA) na esfera governamental e regulatória tem sido anunciada como uma revolução capaz de otimizar processos, acelerar aprovações e cortar custos. No entanto, a experiência inicial da FDA (Food and Drug Administration) dos Estados Unidos com sua ferramenta de IA, batizada de Elsa, levanta sérias questões sobre a aplicabilidade atual dessa tecnologia em tarefas críticas, especialmente na regulação de medicamentos e dispositivos médicos.
PUBLICIDADE
Uma reportagem da CNN expõe um cenário que oscila entre o entusiasmo declarado de altos funcionários e o ceticismo, e até mesmo alarme, de quem está na linha de frente.
A Visão Ambiciosa Versus a Realidade Operacional
A retórica em torno da IA é grandiosa. Secretários de saúde e comissários da FDA, como Robert F. Kennedy Jr. e Dr. Marty Makary, têm elogiado publicamente a capacidade da IA para “revolucionar” as aprovações de medicamentos, “acelerar revisões de protocolos clínicos” e “identificar alvos de inspeção de alta prioridade”. A promessa era de uma ferramenta que, além de rápida e eficiente, seria um pilar na busca por reduzir gastos governamentais sem comprometer a qualidade.
No entanto, a realidade revelada por funcionários atuais e antigos da FDA é bem diferente. Elsa, embora útil para tarefas organizacionais como gerar notas de reuniões, resumos e modelos de e-mail, mostra-se não confiável para o trabalho mais crítico da agência: a revisão e aprovação de medicamentos. O problema central é a “alucinação” da IA, um fenômeno onde o modelo cria estudos e informações inexistentes ou deturpa pesquisas existentes. Isso força os funcionários a dedicar um tempo extra considerável para verificar as informações, anulando qualquer ganho de eficiência prometido.
PUBLICIDADE
Os Desafios Técnicos e a Falta de Confiança
A incapacidade da Elsa de acessar documentos relevantes, como submissões da indústria, é uma barreira fundamental para sua utilidade em revisões complexas. Isso significa que a ferramenta não consegue responder a perguntas básicas sobre o histórico de uma empresa ou seus produtos relacionados, informações cruciais para a avaliação de segurança e eficácia.
A frustração dos funcionários é palpável. Um deles chega a afirmar que “qualquer coisa que você não tenha tempo para verificar duas vezes não é confiável. Ele alucina com confiança.” Outro lamenta o tempo desperdiçado “apenas devido à vigilância elevada que tenho que ter” para checar por estudos falsos ou deturpados. Quando confrontada com seus erros, a Elsa pode ser “pedinte de desculpas”, mas isso não resolve o problema da informação incorreta.
Apesar das admissões de Jeremy Walsh, chefe de IA da FDA, de que a Elsa, como muitos modelos de linguagem grandes, pode “potencialmente alucinar”, a resposta do Comissário Makary de que o uso da ferramenta é opcional e que as equipes “fazem um ótimo trabalho” em determinar informações confiáveis, soa um tanto quanto evasiva diante das preocupações levantadas. A expectativa de que o usuário deva fazer perguntas mais “precisas” para mitigar a alucinação também transfere uma parte significativa da responsabilidade para o humano, questionando a verdadeira autonomia e utilidade da ferramenta em cenários complexos.
PUBLICIDADE
A Ausência de Regulamentação e Supervisão
Um dos pontos mais alarmantes da reportagem é a quase inexistente supervisão federal para a avaliação do uso de IA na medicina nos EUA. Enquanto a União Europeia já implementou o “AI Act” em 2024, estabelecendo salvaguardas e protegendo direitos fundamentais em torno do uso de IA de alto risco (incluindo na saúde), os EUA se encontram em um “Velho Oeste” regulatório.
Apesar de grupos de trabalho terem sido formados e audiências no Congresso terem sido realizadas, pouca ou nenhuma legislação substancial foi aprovada para regulamentar a IA. A moratória de 10 anos na aplicação de regulamentações estaduais, proposta inicialmente por Donald Trump, apenas ilustra a prioridade de “dominar” a indústria da IA em detrimento de uma abordagem cautelosa e segura.
Um Chamado à Cautela e Regulamentação
A experiência da FDA com a Elsa serve como um alerta crucial para o campo da inteligência artificial, especialmente em domínios críticos como a saúde. Embora o potencial da IA seja inegável, a implementação precipitada e sem a devida validação e regulamentação pode levar a consequências graves, desde o desperdício de recursos até a disseminação de informações incorretas em decisões que afetam a vida das pessoas.
PUBLICIDADE
A “revolução da IA” realmente chegou, mas ela vem acompanhada de desafios complexos que exigem uma abordagem mais madura. Não basta celebrar os avanços; é fundamental investir em pesquisa e desenvolvimento que mitiguem as falhas, estabelecer estruturas regulatórias robustas e promover uma cultura de transparência e responsabilidade. Sem isso, ferramentas como a Elsa, apesar de bem-intencionadas, correm o risco de se tornarem mais um obstáculo do que uma solução, transformando a “velocidade” em “vigilância redobrada” e a “otimização” em “desperdício de tempo”. A IA não é mágica, e sua aplicação em áreas críticas deve refletir essa realidade.
Leia também:
