Pesquisadores estão utilizando a série de livros do Harry Potter para avaliar como os sistemas de inteligência artificial (IA) generativa aprendem e esquecem informações específicas.
Wachiwit/Shutterstock
A influência duradoura da saga na cultura popular, combinada com a vasta gama de dados linguísticos e intricados jogos de palavras presentes em suas páginas, tem levado um número crescente de pesquisadores a explorar a tecnologia de inteligência artificial (IA) por meio dos livros de Harry Potter.
Revisitar uma lista de estudos e artigos acadêmicos que mencionam Harry Potter proporciona uma visão sobre a pesquisa avançada em IA – e sobre algumas das questões mais complexas que desafiam essa tecnologia.
Um exemplo recente notável é um artigo intitulado “Who’s Harry Potter?” (“Quem é Harry Potter?”), onde os personagens Harry, Hermione e Rony desempenham papéis de destaque. Este artigo apresenta uma nova técnica que auxilia os grandes modelos de linguagem a esquecer informações de maneira seletiva.
Isso é extremamente relevante para a indústria, pois os grandes modelos de linguagem, que alimentam os chatbots de IA, são construídos com base em vastos conjuntos de dados online, que incluem material protegido por direitos autorais e outros conteúdos delicados. Esse cenário tem resultado em processos judiciais e em escrutínio público para algumas empresas de IA.
Os pesquisadores da Microsoft, Mark Russinovich e Ronen Eldan, autores do artigo, afirmam que demonstraram ser possível modificar ou editar os modelos de IA para eliminar qualquer conhecimento sobre a existência das obras de Harry Potter, incluindo personagens e enredos, sem comprometer a capacidade geral de tomada de decisão e análise do sistema de IA.
“Acreditávamos que seria mais fácil para as pessoas da comunidade de pesquisa avaliarem o modelo resultante de nossa técnica e confirmarem por si mesmas que o conteúdo foi de fato ‘desaprendido’. Quase qualquer pessoa pode apresentar sugestões para o modelo que investigaria se ele ‘conhece’ ou não os livros. Mesmo as pessoas que não leram os livros estariam cientes dos elementos e personagens da trama.”, comenta Mark Russinovich, diretor de tecnologia do Microsoft Azure
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 18:03
O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…
Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…
O Google acabou de lançar o que está chamando de um novo modelo de inteligência…
A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…
A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…
O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…