Especialistas propõem diretrizes para desenvolvimento seguro de produtos de IA

A World Ethical Data Foundation, com 25 mil membros, incluindo representantes de grandes empresas de tecnologia como Meta, Google e Samsung, apresenta uma lista de verificação de 84 perguntas para os desenvolvedores considerarem no início de projetos de IA. Além disso, a Fundação convida o público a enviar suas próprias perguntas, que serão consideradas em sua próxima conferência anual.

Algumas das perguntas são:

• Sinto-me apressado ou pressionado a inserir dados de fontes questionáveis?
• A equipe de pessoas que está trabalhando na seleção dos dados de treinamento de um conjunto diversificado de origens e experiências ajuda a reduzir o viés na seleção de dados?
• Qual é o uso pretendido do modelo depois de treinado?

A IA permite que computadores ajam e respondam de forma quase humana, aprendendo com dados e identificando padrões para prever e resolver problemas, além de prender com erros.

A nova estrutura voluntária, lançada em forma de carta aberta, busca garantir que os produtos de IA não incorporem viés e que sejam tratados com responsabilidade legal. Considerações também são feitas em relação às leis de proteção de dados, transparência para os usuários sobre a interação com a IA e tratamento justo dos trabalhadores humanos envolvidos no treinamento do produto.

Com a crescente preocupações com o uso ético e seguro da IA, a World Ethical Data Foundation – grupo global sem fins lucrativos que monitora novas tecnologias – toma a frente ao lançar sua iniciativa.

Perguntas importantes sobre a prevenção de viés e o cumprimento das leis são destacadas, enquanto o público é incentivado a contribuir com suas próprias questões.

A iniciativa visa garantir que a IA seja desenvolvida com responsabilidade e transparência, protegendo a sociedade e os trabalhadores envolvidos nesse campo em constante expansão.

Leia também: