Apple afirma que IA estabelecerá novos padrões de privacidade; entenda

Na sua conferência anual de desenvolvedores (WWDC) a Apple anunciou seu aguardado sistema de inteligência artificial (IA) – Apple Intelligence – que personalizará experiências de usuário, automatizará tarefas e – prometeu o CEO Tim Cook – estabelecerá um “novo padrão de privacidade na IA”.

Enquanto a Apple afirma que sua IA interna é desenvolvida com foco em segurança, sua parceria com a OpenAI gerou muitas críticas. A ferramenta ChatGPT da OpenAI há muito tempo é alvo de preocupações com privacidade. Lançada em novembro de 2022, ela coletava dados de usuários sem consentimento explícito para treinar seus modelos, e somente começou a permitir que usuários optassem por não ter seus dados coletados em abril de 2023.

A Apple diz que a parceria com o ChatGPT será utilizada apenas com consentimento explícito para tarefas isoladas como composição de e-mails e outras ferramentas de escrita. No entanto, profissionais de segurança estarão atentos para ver como isso, e outras preocupações, se desenrolarão.

“Tudo o que a Apple está dizendo parece correto”, disse Cliff Steinhauer, diretor de segurança da informação e engajamento na National Cybersecurity Alliance. “Mas ainda temos que ver como será implementado.”

Tardia na corrida da IA generativa, a Apple ficou atrás de concorrentes como Google, Microsoft e Amazon, que viram suas ações impulsionadas pela confiança dos investidores em empreendimentos de IA. Enquanto isso, a Apple adiou a integração de IA generativa em seus principais produtos de consumo até agora.

A empresa quer fazer parecer que a espera foi intencional – como um meio de “aplicar essa tecnologia de forma responsável”, disse Cook no evento de segunda-feira. Enquanto outras empresas lançaram produtos rapidamente, a Apple passou os últimos anos desenvolvendo a maior parte das ofertas do Apple Intelligence com sua própria tecnologia e modelos fundamentais proprietários, garantindo que o mínimo possível de dados do usuário saia do ecossistema da Apple.

A inteligência artificial, que depende da coleta de grandes quantidades de dados para treinar modelos de aprendizado de linguagem, representa um desafio único para o foco de privacidade duradouro da Apple. Críticos vocais como Elon Musk argumentaram que manter a privacidade do usuário enquanto integra a IA é impossível. Musk chegou até a dizer que baniria seus funcionários de usar dispositivos da Apple para o trabalho quando as atualizações anunciadas forem implementadas. Mas alguns especialistas discordam.

“Com este anúncio, a Apple está abrindo caminho para as empresas equilibrarem privacidade de dados e inovação”, disse Gal Ringel, co-fundador e CEO da empresa de software de privacidade de dados Mine. “A recepção positiva dessa notícia, ao contrário de outros lançamentos recentes de produtos de IA, mostra que valorizar a privacidade é uma estratégia que certamente compensa no mundo de hoje.”

Muitos lançamentos recentes de IA variaram de disfuncionais e bobos a perigosos – remetendo à clássica ética do Vale do Silício de “mover-se rápido e quebrar coisas”. A Apple parece estar adotando uma abordagem alternativa, disse Steinhauer.

“Se pensarmos nas preocupações que tivemos até agora sobre a IA, é que as plataformas frequentemente lançam produtos e depois consertam conforme surgem problemas”, disse ele. “A Apple está abordando proativamente preocupações comuns das pessoas. É a diferença entre segurança por design e segurança após o fato, o que sempre será imperfeito.”

No cerne das garantias de privacidade da Apple em relação à IA está sua nova tecnologia Private Cloud Compute. A Apple pretende fazer a maior parte do processamento de computadores para executar recursos do Apple Intelligence nos dispositivos. Mas para funções que exigem mais processamento do que o dispositivo pode lidar, a empresa teráce de processamento na nuvem, enquanto “protege os dados do usuário”, disseram executivos da Apple na segunda-feira.

Para realizar isso, a Apple exportará apenas os dados necessários para cada solicitação, criará medidas de segurança adicionais em torno dos dados em cada ponto final e não armazenará os dados indefinidamente. A Apple também publicará todas as ferramentas e software relacionados à nuvem privada publicamente para verificação de terceiros, disseram os executivos.

Private Cloud Compute é “um salto notável em privacidade e segurança de IA”, disse Krishna Vishnubhotla, vice-presidente de estratégia de produto da plataforma de segurança móvel Zimperium – acrescentando que o componente de inspeção independente é especialmente notável.

“Além de fomentar a confiança do usuário, essas inovações promovem padrões de segurança mais elevados para dispositivos móveis e aplicativos”, disse ele.

Leia também: