Pesquisadores usam livros da saga Harry Potter para testar sistemas de IA e explorar questões complexas; entenda

Pesquisadores estão utilizando a série de livros do Harry Potter para avaliar como os sistemas de inteligência artificial (IA) generativa aprendem e esquecem informações específicas.

A influência duradoura da saga na cultura popular, combinada com a vasta gama de dados linguísticos e intricados jogos de palavras presentes em suas páginas, tem levado um número crescente de pesquisadores a explorar a tecnologia de inteligência artificial (IA) por meio dos livros de Harry Potter.

PUBLICIDADE

Revisitar uma lista de estudos e artigos acadêmicos que mencionam Harry Potter proporciona uma visão sobre a pesquisa avançada em IA – e sobre algumas das questões mais complexas que desafiam essa tecnologia.

Um exemplo recente notável é um artigo intitulado “Who’s Harry Potter?” (“Quem é Harry Potter?”), onde os personagens Harry, Hermione e Rony desempenham papéis de destaque. Este artigo apresenta uma nova técnica que auxilia os grandes modelos de linguagem a esquecer informações de maneira seletiva.

Isso é extremamente relevante para a indústria, pois os grandes modelos de linguagem, que alimentam os chatbots de IA, são construídos com base em vastos conjuntos de dados online, que incluem material protegido por direitos autorais e outros conteúdos delicados. Esse cenário tem resultado em processos judiciais e em escrutínio público para algumas empresas de IA.

PUBLICIDADE

Os pesquisadores da Microsoft, Mark Russinovich e Ronen Eldan, autores do artigo, afirmam que demonstraram ser possível modificar ou editar os modelos de IA para eliminar qualquer conhecimento sobre a existência das obras de Harry Potter, incluindo personagens e enredos, sem comprometer a capacidade geral de tomada de decisão e análise do sistema de IA.

“Acreditávamos que seria mais fácil para as pessoas da comunidade de pesquisa avaliarem o modelo resultante de nossa técnica e confirmarem por si mesmas que o conteúdo foi de fato ‘desaprendido’. Quase qualquer pessoa pode apresentar sugestões para o modelo que investigaria se ele ‘conhece’ ou não os livros. Mesmo as pessoas que não leram os livros estariam cientes dos elementos e personagens da trama.”, comenta Mark Russinovich, diretor de tecnologia do Microsoft Azure

Leia também:

* O texto desta matéria foi parcialmente gerado por ferramentas de inteligência artificial, modelos de linguagem de última geração que auxiliam na elaboração, revisão, tradução e resumos de textos. As entradas de texto foram criadas pela equipe do Curto News e as respostas das ferramentas de IA foram utilizadas para aprimorar o conteúdo final.
É importante destacar que as ferramentas de IA são apenas ferramentas, e a responsabilidade final pelo conteúdo publicado é do Curto News. Ao utilizarmos essas ferramentas de forma responsável e ética, nosso objetivo é ampliar as possibilidades da comunicação e democratizar o acesso à informação de qualidade.
🤖

PUBLICIDADE

Rolar para cima