Comissão Europeia investiga riscos da IA no mercado financeiro

A Comissão Europeia está preocupada com o impacto do uso da inteligência artificial (IA) nos mercados bancário, de seguros e de valores mobiliários, de acordo com uma consulta emitida no dia 18 de junho.

A UE acabou de aprovar um amplo Ato de IA (AI Act), tornando-se a primeira jurisdição no mundo a legislar para tornar segura e não discriminatória a tecnologia emergente.

Mas os funcionários agora estão questionando se é necessária mais orientação para adequar as regras ao setor financeiro – um campo que já está sujeito a rigorosos requisitos regulatórios, onde o custo de errar pode ser alto.

“O Ato de IA da UE e as regras existentes do setor financeiro fornecem uma base sólida para permitir a inovação tecnológica”, disse Mairead McGuinness, Comissária da UE para serviços financeiros, em comunicado, solicitando que as pessoas compartilhem suas opiniões sobre uma “área de avanço tecnológico em rápida mudança e cada vez mais importante”.

A nova lei de tecnologia da UE, prevista para entrar em vigor em maio de 2025, se aplicaria em toda a economia, mas identifica ferramentas automatizadas usadas em setores de alto risco, como saúde, aplicação da lei e recrutamento, para monitoramento adicional.

Aplicações financeiras sensíveis, como avaliação da solvência de alguém, também são apontadas como potencialmente necessitando de leis ou orientações mais detalhadas.

Não seria a primeira vez que autoridades de Bruxelas mostram preocupação com o uso da tecnologia no setor financeiro.

Em 2022, a UE concordou com novas regras conhecidas como Digital Operational Resilience Act, DORA, devido ao temor de que o uso por bancos de um pequeno grupo de provedores de computação em nuvem não regulamentados poderia levar a violações de dados ou pânico no mercado.

Da mesma forma, a Comissão parece preocupada com a possibilidade de “manada” – quando vários financistas dependem dos mesmos sistemas de TI para tomar decisões de negócios.

Os balanços resultantes ou a concentração de mercado exagerada poderiam representar um risco para os mercados financeiros – ou os robôs poderiam simplesmente fornecer respostas incorretas, diz o documento da consulta.

“A IA de propósito geral … às vezes pode produzir ‘alucinações’, ou seja, respostas sem sentido ou imprecisas”, afirmou.

Isso é um fenômeno familiar para quem já tentou obter uma resposta direta do ChatGPT – mas também poderia representar problemas para os robô-financistas, dado seu dever legal de fornecer conselhos corretos no melhor interesse de seus clientes.

A IA poderia ter efeitos benéficos, disse a Comissão – por exemplo, identificando atividades comerciais suspeitas que possam indicar abuso de mercado. Mas os funcionários também parecem preocupados com conjuntos de dados de IA mal formados que levem a discriminação generalizada.

Leia também: