OpenAI lança estudo que revela o papel da IA ​​na criação de ameaças biológicas

O estudo, que envolveu especialistas e estudantes de biologia, descobriu que o GPT-4 proporciona “no máximo um ligeiro aumento” na precisão da criação de ameaças biológicas, em comparação com a linha de base dos recursos existentes na Internet.

A análise faz parte do Quadro de Preparação da OpenAI, que visa avaliar e mitigar os riscos potenciais das capacidades avançadas de inteligência artificial, especialmente aquelas que podem representar “riscos de fronteira” — ameaças não convencionais que não são bem compreendidas ou antecipadas pela sociedade atual. 

Um desses riscos fronteiriços é a capacidade dos sistemas de IA, como os grandes modelos de linguagem (LLMs), ajudarem os agentes mal-intencionados a desenvolver e executar ataques biológicos, como a síntese de agentes patogénicos ou toxinas.

Metodologia e resultados do estudo

Para avaliar este risco, os investigadores realizaram uma avaliação humana com 100 participantes, incluindo 50 especialistas em biologia com doutoramento e experiência profissional em laboratórios e 50 participantes de nível estudante, com pelo menos um curso universitário de biologia. 

Cada grupo de participantes foi atribuído aleatoriamente a um grupo de controle, que só tinha acesso à internet, ou a um grupo de tratamento, que tinha acesso ao GPT-4 além da internet. Cada participante foi então solicitado a completar um conjunto de tarefas cobrindo aspectos do processo ponta a ponta para a criação de ameaças biológicas, como idealização, aquisição, ampliação, formulação e liberação.

Os pesquisadores mediram o desempenho dos participantes em cinco métricas: precisão, integridade, inovação, tempo gasto e dificuldade autoavaliada. Eles descobriram que o GPT-4 não melhorou significativamente o desempenho dos participantes em nenhuma das métricas, exceto por um ligeiro aumento na precisão do grupo de nível estudantil. Os investigadores também observaram que o GPT-4 produzia frequentemente respostas erradas ou enganosas, o que poderia dificultar o processo de criação de ameaças biológicas.

Os investigadores concluíram que a atual geração de LLMs, como o GPT-4, não representa um risco substancial de permitir a criação de ameaças biológicas, em comparação com os recursos existentes na Internet.

No entanto, alertaram que esta conclusão não é conclusiva e que os futuros LLMs poderão tornar-se mais capazes e perigosos. Salientaram também a necessidade de investigação contínua e de deliberação comunitária sobre este tema, bem como do desenvolvimento de métodos de avaliação melhorados e de diretrizes éticas para os riscos de segurança proporcionados pela IA.

Leia também: