Padrões australianos de IA preocupam empresas sobre segurança online

Os padrões abrangem uma variedade de tecnologias, incluindo sites, serviços de armazenamento em nuvem, mensagens de texto e aplicativos de chat. Eles também cobrem serviços de inteligência artificial (IA) generativa de alto impacto e modelos de aprendizado de máquina de código aberto.

A WeProtect Global Alliance, um consórcio sem fins lucrativos com mais de 100 governos e 70 empresas que visam a exploração e abuso sexual infantil online, destacou a natureza do problema. Ela disse que a IA de código aberto já está sendo usada para produzir material de abuso infantil e deepfakes, e os padrões propostos capturam as plataformas e serviços corretos.

Microsoft abre acesso à sua ferramenta de testes de segurança para modelos de linguagem

A Microsoft está divulgando ao público a ferramenta interna que usa para identificar vulnerabilidades de segurança em seus modelos generativos de inteligência artificial (IA).

“Ao focar na possibilidade de uso indevido, o limiar reflete a realidade de que mesmo modelos de aprendizado de máquina e inteligência artificial com exposição direta limitada a dados sensíveis ou conjuntos de dados contendo dados ilícitos ainda podem ser usados indevidamente para criar conteúdo ilegal, como material de abuso sexual infantil ‘sintético’ e deepfakes sexuais.”

Mas empresas de tecnologia, incluindo Microsoft, Meta e Stability AI, disseram que suas tecnologias estão sendo desenvolvidas com salvaguardas para evitar que sejam usadas dessa maneira.

A Microsoft alertou que os padrões, conforme redigidos, poderiam limitar a eficácia dos modelos de segurança de IA usados para detectar e sinalizar abuso infantil ou material pró-terrorismo.

“Para garantir que os modelos de IA e os sistemas de segurança (como classificadores) possam ser treinados para detectar e sinalizar tal conteúdo, é necessário que a IA seja exposta a tal conteúdo e que sejam estabelecidos processos de avaliação para medir e mitigar os riscos”, disse a Microsoft.

“Dados de treinamento inteiramente ‘limpos’ podem reduzir a eficácia de tais ferramentas e reduzir a probabilidade de operarem com precisão e sutileza.

“Um dos elementos mais promissores da ferramenta de IA para moderação de conteúdo é a capacidade avançada de avaliar o contexto – sem dados de treinamento que suportem tal avaliação sutil, corremos o risco de perder os benefícios de tal inovação.”

A Stability AI também alertou que a IA teria um grande papel na moderação online, e definições excessivamente amplas poderiam dificultar determinar o que deve ser detectado para cumprir com os padrões propostos.

UE vai criminalizar conteúdo de abuso infantil gerado por IA

A Comissão Europeia está propondo atualizações nas regras de direito penal referentes ao abuso sexual infantil e exploração sexual.

A empresa controladora do Facebook, Meta, disse que, embora seu modelo Llama 2 tenha ferramentas de segurança e guias de uso responsável, seria difícil impor salvaguardas quando a ferramenta é baixada.

“Não é possível para nós suspender a provisão do Llama 2 depois que ele foi baixado nem terminar uma conta, ou dissuadir, perturbar, detectar, relatar ou remover conteúdo de modelos que foram baixados”, disse a empresa.

O Google recomendou que a IA não fosse incluída nos padrões e, em vez disso, fosse considerada integralmente como parte da atual revisão governamental da Lei de Segurança Online e das Expectativas Básicas de Segurança Online.

As empresas de tecnologia também ecoaram comentários feitos pela Apple na semana passada de que os padrões devem declarar explicitamente que propostas para escanear serviços em nuvem e mensagens “quando tecnicamente viáveis” não comprometerão a criptografia, e a viabilidade técnica abrangerá mais do que simplesmente o custo para uma empresa desenvolver tal tecnologia.

Em comunicado, a comissária de eSafety, Julie Inman Grant, disse que os padrões não exigiriam que a indústria quebrasse ou enfraquecesse a criptografia, monitorasse textos ou escaneasse indiscriminadamente grandes quantidades de dados pessoais, e a comissária estava agora considerando emendas potenciais para esclarecer esse ponto.

“Fundamentalmente, a eSegurança não acredita que a indústria deva ser isenta de responsabilidade por enfrentar conteúdo ilegal sendo hospedado e compartilhado livremente em suas plataformas. A eSegurança observa que alguns grandes serviços de mensagens criptografadas de ponta a ponta já estão tomando medidas para detectar este conteúdo prejudicial”, disse ela.

As versões finais dos padrões serão apresentadas ao parlamento para consideração ainda este ano, disse Inman Grant.

Leia também:

IA pode deixar fusão nuclear mais próxima da realidade; saiba o motivo

A fusão nuclear, considerada a fonte de energia do futuro, promete ser limpa, segura e ilimitada. Apesar de décadas de pesquisa, dominar essa tecnologia ainda é um desafio. Uma nova inteligência artificial (IA), no entanto, pode ser a chave para finalmente tornar a fusão nuclear uma realidade.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!