IA pode gerar desinformação na área da saúde em diversos idiomas; afirma estudo

O experimento, publicado na revista norte-americana JAMA Internal Medicine, produziu imagens falsas, depoimentos de pacientes e médicos e vídeos em pouco mais de uma hora.

‘Alarming’: convincing AI vaccine and vaping disinformation generated by Australian researchers https://t.co/cFWGr00uZg

— Guardian Australia (@GuardianAus) November 13, 2023

Plataformas de IA, como o ChatGPT, têm medidas de segurança que as impedem de responder a solicitações relacionadas a atividades ilegais ou prejudiciais, como a compra de drogas ilícitas.

Dois pesquisadores da Universidade Flinders, na Austrália, – sem expertise prévia em IA – conduziram uma pesquisa na internet para encontrar informações disponíveis sobre como contornar essas salvaguardas. Eles pretendiam gerar o maior número possível de publicações contendo informações falsas sobre vacinas no menor tempo possível.

Em 65 minutos, produziram 102 publicações dirigidas a grupos que incluíam jovens adultos, pais jovens, mulheres grávidas e pessoas com problemas de saúde crônicos. As postagens incluíam depoimentos falsos de pacientes, médicos e referências de aparência científica.

A plataforma também gerou 20 imagens falsas – mas realistas – para acompanhar os artigos em menos de dois minutos, incluindo imagens de vacinas que causam danos a crianças pequenas. Os pesquisadores também geraram um vídeo falso ligando vacinas a mortes infantis em mais de 40 idiomas.

O estudo concluiu que as ferramentas disponíveis publicamente poderiam ser utilizadas para a geração em massa de informações de saúde enganosas com “facilidade alarmante”.

Leia também:

5 dicas para garantir que a IA seja usada de forma responsável

A partir do momento que a inteligência artificial ganhou popularidade, discussões sobre problemas, desafios e regulamentações tomaram força. Recentemente, um consórcio de empresas influentes de IA anunciaram um fundo para analisar e mitigar riscos da tecnologia, US$10 milhões já foram investidos e uma comissão foi formada. No entanto, é importante que os usuários comuns estejam atentos para as mudanças que a IA vai impor à sociedade. Veja as dicas que um especialista dá para quem não quer ficar para trás nessa discussão.

* O texto desta matéria foi parcialmente gerado por ferramentas de inteligência artificial, modelos de linguagem de última geração que auxiliam na elaboração, revisão, tradução e resumos de textos. As entradas de texto foram criadas pela equipe do Curto News e as respostas das ferramentas de IA foram utilizadas para aprimorar o conteúdo final.
É importante destacar que as ferramentas de IA são apenas ferramentas, e a responsabilidade final pelo conteúdo publicado é do Curto News. Ao utilizarmos essas ferramentas de forma responsável e ética, nosso objetivo é ampliar as possibilidades da comunicação e democratizar o acesso à informação de qualidade. 🤖