A descoberta surgiu do Google DeepMind, onde cientistas estão investigando se grandes modelos de linguagem – que sustentam os chatbots modernos como o ChatGPT da OpenAI e o Bard do Google – podem fazer mais do que reproduzir informações aprendidas no treinamento e gerar novos insights.
PUBLICIDADE
AI scientists make ‘exciting’ discovery using chatbots to solve maths problems https://t.co/GaSUtGwoyY
— Guardian news (@guardiannews) December 14, 2023
“Quando começamos o projeto, não havia indicação de que ele produziria algo genuinamente novo”, disse Pushmeet Kohli, o chefe de IA para ciência na DeepMind. “Pelo que sabemos, esta é a primeira vez que uma descoberta científica genuína foi feita por um grande modelo de linguagem.”
Grandes modelos de linguagem, ou LLMs, são redes neurais poderosas que aprendem os padrões da linguagem – incluindo código de computador – a partir de grandes quantidades de texto e outros dados.
Mas, embora os chatbots tenham provado ser extremamente populares, não geram novos conhecimentos e cometem falhas.
PUBLICIDADE
Quebra-cabeças
Para construir “FunSearch”, abreviação de “pesquisa no espaço funcional”, a DeepMind aproveitou um LLM para escrever soluções para problemas na forma de programas de computador. O LLM é emparelhado com um “avaliador” que classifica automaticamente os programas de acordo com seu desempenho. Os melhores programas são então combinados e enviados de volta ao LLM para melhorias. Isto leva o sistema a evoluir continuamente programas pobres em programas mais poderosos, que podem descobrir novos conhecimentos.
Os pesquisadores soltaram o FunSearch em dois quebra-cabeças. O primeiro foi um desafio antigo e um tanto misterioso em matemática pura, conhecido como problema do conjunto de limites. Trata-se de encontrar o maior conjunto de pontos no espaço onde não há três pontos que formem uma linha reta. O FunSearch produziu programas que geram novos conjuntos de grandes capitalizações que vão além do melhor que os matemáticos criaram.
O segundo quebra-cabeça foi o problema de empacotamento de caixas, que busca as melhores maneiras de embalar itens de diferentes tamanhos em contêineres. Embora se aplique a objetos físicos, como a forma mais eficiente de organizar caixas num contentor de transporte, a mesma matemática aplica-se a outras áreas, como o agendamento de trabalhos de computação em datacenters. O problema normalmente é resolvido colocando os itens na primeira caixa que tiver espaço ou na caixa com menos espaço disponível, onde o item ainda caberá. O FunSearch encontrou uma abordagem melhor que evitou deixar pequenas lacunas que dificilmente seriam preenchidas, de acordo com resultados publicados na Nature.
PUBLICIDADE
Problemas que o FunSearch pode resolver
Os pesquisadores estão agora explorando a gama de problemas científicos que o FunSearch pode resolver. Um grande fator limitante é que os problemas precisam ter soluções que possam ser verificadas automaticamente, o que exclui muitas questões da biologia, onde muitas vezes as hipóteses precisam ser testadas com experimentos de laboratório.
O impacto mais imediato pode ser para os programadores de computador. Nos últimos 50 anos, a codificação melhorou bastante através da criação de algoritmos cada vez mais especializados por humanos. “Isso será realmente transformador na forma como as pessoas abordam a ciência da computação e a descoberta algorítmica”, disse Kohli. “Pela primeira vez, estamos vendo os LLMs não assumindo o controle, mas definitivamente ajudando a ultrapassar os limites do que é possível em algoritmos.”
Leia também: