OpenAI é pioneira na segurança infantil no cenário da IA

A OpenAI criou uma equipe de segurança infantil para abordar questões de uso indevido de inteligência artificial (IA), garantindo proteção para usuários menores de idade por meio da aplicação e revisão de políticas.

Publicado por

Juliana Caminoto

9 de fevereiro de 2024 13:00

Reprodução: Canva

Em resposta às crescentes preocupações de ativistas e pais sobre o potencial uso indevido e abuso de tecnologias de inteligência artificial por públicos mais jovens, a OpenAI deu um passo proativo ao estabelecer uma equipa dedicada à Segurança Infantil.

Esta iniciativa, divulgada através de um recente anúncio de emprego na página de carreiras da OpenAI, sublinha o compromisso da organização em proteger os utilizadores menores de idade.

A equipe de Segurança Infantil deverá colaborar estreitamente com os departamentos de política, jurídico e de investigações da plataforma da OpenAI, juntamente com parceiros externos, para supervisionar “processos, incidentes e revisões” relativos às interações infantis com ferramentas de IA.

Entre os cargos-chave recrutados está um especialista em aplicação da segurança infantil encarregado de implementar as políticas da OpenAI em relação ao conteúdo gerado por IA e supervisionar mecanismos de revisão para lidar com conteúdo “sensível”, provavelmente sobre questões que afetam crianças.

OpenAI e Common Sense Media firmam parceria visando promover segurança e responsabilidade em IA

A OpenAI fez uma parceria com a Common Sense Media a fim de criar diretrizes de uso de inteligência artificial (IA) para pais, educadores e jovens adultos – com foco na segurança e na responsabilidade.

A nova fronteira da OpenAI: protegendo os usuários mais jovens

A era digital, embora ofereça oportunidades ilimitadas de aprendizagem e inovação, também apresenta desafios únicos, especialmente para os mais vulneráveis entre nós – os nossos filhos.

Smartphone com IA para crianças é lançado; saiba mais

O MMGuardian apresentou na CES 2024 um smartphone com tecnologia de inteligência artificial (IA) para crianças, com o foco na segurança infantil. Saiba mais!

Reconhecendo a natureza de dois gumes do avanço tecnológico, a mais recente iniciativa da OpenAI procura enfrentar estes desafios de frente. A recém-formada equipa de segurança infantil tem a tarefa de realizar pesquisas abrangentes e desenvolver estratégias para garantir que as ferramentas e plataformas de IA sejam concebidas e operadas de forma a dar prioridade à segurança e ao bem-estar das crianças utilizadoras .

Leia também:

IA auxilia bancos americanos na luta contra fraudes em cheques

Uma empresa de prevenção de crimes financeiros afirma que está usando a inteligência artificial (IA) para combater fraudes em cheques.

Este post foi modificado pela última vez em %s = human-readable time difference 10:58

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.