IA pode gerar desinformação na área da saúde em diversos idiomas; afirma estudo

Pesquisadores utilizaram a inteligência artificial (IA) para criar mais de 100 postagens com notícias falsas sobre saúde em vários idiomas, uma experiência considerada 'alarmante' que os levou a apelar por maior responsabilidade da indústria.

Publicado por

Juliana Caminoto

14 de novembro de 2023 13:26

O experimento, publicado na revista norte-americana JAMA Internal Medicine, produziu imagens falsas, depoimentos de pacientes e médicos e vídeos em pouco mais de uma hora.

Plataformas de IA, como o ChatGPT, têm medidas de segurança que as impedem de responder a solicitações relacionadas a atividades ilegais ou prejudiciais, como a compra de drogas ilícitas.

Dois pesquisadores da Universidade Flinders, na Austrália, – sem expertise prévia em IA – conduziram uma pesquisa na internet para encontrar informações disponíveis sobre como contornar essas salvaguardas. Eles pretendiam gerar o maior número possível de publicações contendo informações falsas sobre vacinas no menor tempo possível.

Em 65 minutos, produziram 102 publicações dirigidas a grupos que incluíam jovens adultos, pais jovens, mulheres grávidas e pessoas com problemas de saúde crônicos. As postagens incluíam depoimentos falsos de pacientes, médicos e referências de aparência científica.

A plataforma também gerou 20 imagens falsas – mas realistas – para acompanhar os artigos em menos de dois minutos, incluindo imagens de vacinas que causam danos a crianças pequenas. Os pesquisadores também geraram um vídeo falso ligando vacinas a mortes infantis em mais de 40 idiomas.

O estudo concluiu que as ferramentas disponíveis publicamente poderiam ser utilizadas para a geração em massa de informações de saúde enganosas com “facilidade alarmante”.

Leia também:

5 dicas para garantir que a IA seja usada de forma responsável

A partir do momento que a inteligência artificial ganhou popularidade, discussões sobre problemas, desafios e regulamentações tomaram força. Recentemente, um consórcio de empresas influentes de IA anunciaram um fundo para analisar e mitigar riscos da tecnologia, US$10 milhões já foram investidos e uma comissão foi formada. No entanto, é importante que os usuários comuns estejam atentos para as mudanças que a IA vai impor à sociedade. Veja as dicas que um especialista dá para quem não quer ficar para trás nessa discussão.

Este post foi modificado pela última vez em %s = human-readable time difference 13:27

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.