MyCity, chatbot de IA do governo de Nova York, divulga fake news

O MyCity é um chatbot de inteligência artificial (IA) liberado na cidade de Nova York em outubro do ano passado. A ferramenta que deveria auxiliar os residentes da cidade oferecendo informações sobre legislações locais e artigos relacionados à prefeitura, vêm respondendo aos usuários de forma incorreta sobre diversas questões importantes.

Em seu anúncio de lançamento, a Prefeitura afirmou que o chatbot seria uma forma de os munícipes “ganharem […] tempo e dinheiro ao, instantaneamente, fornecer-lhes informações úteis e confiáveis de mais de duas mil páginas da Web de negócios de Nova York e artigos sobre tópicos como conformidade com códigos e regulamentos, incentivos comerciais disponíveis e práticas recomendadas para evitar violações e multas”.

De acordo com o ArsTechnica, uma reportagem do The City e do The Markup, o MyCity trouxe aos usuários informações erradas sobre políticas básicas do município. Um exemplo de informação falsa oferecida pelo chatbot é que o mesmo afirma que os prédios de moradias na cidade “não são obrigados a aceitar vouchers da Seção 8”. No entanto, a página da Prefeitura da cidade de Nova York sobre moradias acessíveis diz exatamente o contrário: os prédios de moradias são obrigados a aceitar vouchers da Seção 8 em algumas unidades.

O MyCity é um chatbot que utiliza modelos preditivos baseados em tokens e ainda utiliza tecnologia da Microsoft Azure. Ele emprega um processo estatístico complexo, analisando milhões de tokens para prever a próxima palavra provável em qualquer sequência. No entanto, essa abordagem não implica uma compreensão real das informações subjacentes transmitidas.

Consequentemente, quando os dados de treinamento não conseguem capturar uma única resposta factual precisa para uma pergunta, isso pode representar um problema.

O MyCity – que segue em versão Beta – afirma, em seus avisos de uso, que “pode ocasionalmente produzir conteúdo incorreto, prejudicial ou tendencioso” e que os usuários “não devem confiar em suas respostas como um substituto para conselhos profissionais”.

Ao mesmo tempo, ele informa que o chatbot é “treinado para oferecer informações oficiais do NYC Business” e está sendo vendida como forma de “ajudar aos empresários a navegar pelo governo”.

Ao The Markup, Andrew Rigie, diretor-executivo da NYC Hospitality Alliance, afirmou que encontrou imprecisões do bot e recebeu relatos idênticos de ao menos um empresário local.

Por sua vez, a porta-voz do Escritório de Tecnologia e Inovação de Nova York, Leslie Brown, disse ao The Markup que o MyCity “já forneceu a milhares de pessoas respostas oportunas e precisas” e que “continuaremos a nos concentrar em atualizar essa ferramenta para podermos apoiar melhor as pequenas empresas em toda a cidade”.

Leia também: