Pesquisadores estão utilizando a série de livros do Harry Potter para avaliar como os sistemas de inteligência artificial (IA) generativa aprendem e esquecem informações específicas.
Wachiwit/Shutterstock
A influência duradoura da saga na cultura popular, combinada com a vasta gama de dados linguísticos e intricados jogos de palavras presentes em suas páginas, tem levado um número crescente de pesquisadores a explorar a tecnologia de inteligência artificial (IA) por meio dos livros de Harry Potter.
Revisitar uma lista de estudos e artigos acadêmicos que mencionam Harry Potter proporciona uma visão sobre a pesquisa avançada em IA – e sobre algumas das questões mais complexas que desafiam essa tecnologia.
Um exemplo recente notável é um artigo intitulado “Who’s Harry Potter?” (“Quem é Harry Potter?”), onde os personagens Harry, Hermione e Rony desempenham papéis de destaque. Este artigo apresenta uma nova técnica que auxilia os grandes modelos de linguagem a esquecer informações de maneira seletiva.
Isso é extremamente relevante para a indústria, pois os grandes modelos de linguagem, que alimentam os chatbots de IA, são construídos com base em vastos conjuntos de dados online, que incluem material protegido por direitos autorais e outros conteúdos delicados. Esse cenário tem resultado em processos judiciais e em escrutínio público para algumas empresas de IA.
Os pesquisadores da Microsoft, Mark Russinovich e Ronen Eldan, autores do artigo, afirmam que demonstraram ser possível modificar ou editar os modelos de IA para eliminar qualquer conhecimento sobre a existência das obras de Harry Potter, incluindo personagens e enredos, sem comprometer a capacidade geral de tomada de decisão e análise do sistema de IA.
“Acreditávamos que seria mais fácil para as pessoas da comunidade de pesquisa avaliarem o modelo resultante de nossa técnica e confirmarem por si mesmas que o conteúdo foi de fato ‘desaprendido’. Quase qualquer pessoa pode apresentar sugestões para o modelo que investigaria se ele ‘conhece’ ou não os livros. Mesmo as pessoas que não leram os livros estariam cientes dos elementos e personagens da trama.”, comenta Mark Russinovich, diretor de tecnologia do Microsoft Azure
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 18:03
O mais recente modelo experimental Gemini da Google (1121) acabou de recuperar o primeiro lugar…
A OpenAI está considerando desenvolver um navegador web que se integraria ao ChatGPT e aos…
O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…
Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…
A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…
A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…