Inteligência Artificial: quais são as ameaças para as organizações?

Na semana passada, especialistas em tecnologia, acadêmicos e estudiosos das relações sociais dispararam o sinal de alerta para a aplicação de Inteligências Artificiais, pedindo uma paralisação nas pesquisas e criação de freios, regras e, acima de tudo, controle governamental. Se de um lado o avanço da tecnologia é desejado e bem-vindo, por outro traz dúvidas: como, quando e por que os líderes empresariais empregam a tecnologia são perguntas que precisam ser feitas. A revista Forbes desta semana elencou 10 ameaças reais para as corporações frente as IA. Entenda.

Publicado por

Marcela Guimarães

2 de abril de 2023 10:49

“À medida que a IA avança, as empresas enfrentarão uma série de riscos legais e comerciais, primeiro, de pessoas mal-intencionadas que utilizam essas tecnologias para prejudicar os negócios e, segundo, quando as próprias empresas desejam implementar chatbots ou outras formas de IA em suas funções”, Matthew F Ferraro , um advogado de segurança cibernética do escritório de advocacia Wilmer Hale, para a Forbes.

Ferraro apontou, também, quais áreas há maiores riscos no uso da tecnologia emergente de IA nas empresas e que os líderes devem manter em mente. Abaixo, seguem as 10 ameaças elencadas pelo especialista e a revista Forbes na aplicação de Inteligências Artificiais:

1 – Contratos Comerciais

“As informações inseridas na IA, incluindo os ‘prompts’ que fazem perguntas aos chatbots, devem ser consideradas públicas, não privadas. Isso ocorre porque os chatbots podem usar os dados que ingerem para desenvolver e melhorar seus serviços.

“As empresas devem ter cuidado ao entrar em chatbots que solicitam informações de clientes ou parceiros que estão sujeitos a limitações contratuais de confidencialidade ou outros controles.”

2 – Ciber segurança

“Chatbots podem criar malware e se passar por conversas humanas que podem ser usadas para phishing e golpes de mídia social.”

3 – Dados privados

“As ferramentas de IA podem coletar dados pessoais, e compartilha-las com terceiros, potencialmente violando as leis de privacidade de dados.”

4 – Práticas comerciais enganosas

“O uso de IA, incluindo chatbots, para enganar os consumidores pode violar as leis que proíbem práticas comerciais desleais e enganosas.”

5 – Discriminação

“Os resultados da IA podem ser tendenciosos contra certos grupos devido à natureza tendenciosa dos dados nos quais as ferramentas de IA são treinadas. Os reguladores dos EUA, incluindo a Casa Branca e a Comissão Federal de Comércio, enfatizam o uso responsável da IA e de maneira não discriminatória”.

6 – Desinformação

“Chatbots podem criar informações falsas em grande escala numa conversação crível, mesmo que o usuário não seja tão fluente.”

7 – Ética

“As empresas devem garantir que o uso da IA esteja alinhado com as obrigações éticas, principalmente aquelas impostas por organizações profissionais. Por exemplo, o uso de IA para representar clientes pode constituir a prática não autorizada da lei.”

8 – Contratos Governamentais

“Os contratos governamentais exigem franqueza por parte dos contratantes. Os contratados devem ser transparentes sobre o uso da IA para evitar enganar o governo”.

9 – Propriedade intelectual

“O uso de IA generativa apresenta muitos tipos diferentes de riscos de propriedade intelectual. O material alimentado na IA pode ser protegido por detentores de direitos. E geralmente é incerto quem possui o IP gerado pela IA; o litígio nesta área está em andamento.”

10 – Validação

“Chatbots podem produzir declarações falsas, mas que parecem ter vindo de autoritdades. As empresas que usam chatbots devem validar as respostas antes de confiar nelas para decisões de negócios.”

Antes de adotar totalmente a IA e expor suas organizações a esses e outros gatilhos de crise, os executivos devem considerar avançar com essa nova ferramenta de tecnologia de maneira cuidadosa e cautelosa, pondera a reportagem.