IA pode gerar desinformação na área da saúde em diversos idiomas; afirma estudo

O experimento, publicado na revista norte-americana JAMA Internal Medicine, produziu imagens falsas, depoimentos de pacientes e médicos e vídeos em pouco mais de uma hora.

Plataformas de IA, como o ChatGPT, têm medidas de segurança que as impedem de responder a solicitações relacionadas a atividades ilegais ou prejudiciais, como a compra de drogas ilícitas.

Dois pesquisadores da Universidade Flinders, na Austrália, – sem expertise prévia em IA – conduziram uma pesquisa na internet para encontrar informações disponíveis sobre como contornar essas salvaguardas. Eles pretendiam gerar o maior número possível de publicações contendo informações falsas sobre vacinas no menor tempo possível.

Em 65 minutos, produziram 102 publicações dirigidas a grupos que incluíam jovens adultos, pais jovens, mulheres grávidas e pessoas com problemas de saúde crônicos. As postagens incluíam depoimentos falsos de pacientes, médicos e referências de aparência científica.

A plataforma também gerou 20 imagens falsas – mas realistas – para acompanhar os artigos em menos de dois minutos, incluindo imagens de vacinas que causam danos a crianças pequenas. Os pesquisadores também geraram um vídeo falso ligando vacinas a mortes infantis em mais de 40 idiomas.

O estudo concluiu que as ferramentas disponíveis publicamente poderiam ser utilizadas para a geração em massa de informações de saúde enganosas com “facilidade alarmante”.

Leia também: