Amazon exclui livros falsos gerados por IA após reação negativa de autores

O recente encontro da jornalista de tecnologia Kara Swisher com biografias geradas por inteligência artificial na Amazon trouxe o problema à tona. Swisher, ao descobrir biografias geradas por inteligência artificial (IA) dela mesma na plataforma, imediatamente entrou em contato com o CEO da Amazon, Andy Jassy, para abordar a questão.

Embora Swisher tenha conseguido remover os livros ofensivos, o incidente destacou preocupações mais amplas dentro da comunidade de autores sobre a prevalência de tais práticas enganosas.

Nvidia é processada por usar obras protegidas por direitos autorais

A Nvidia foi processada por três autores que afirmam que a empresa usou seus livros – protegidos por direitos autorais – sem permissão para treinar sua plataforma de inteligência artificial (IA) NeMo.

Da mesma forma, a escritora Marie Arana se viu enfrentando uma situação semelhante quando descobriu um resumo de seu livro, “LatinoLand: Um Retrato da Maior e Menos Compreendida Minoria da América”, aparecendo na Amazon sob o nome de outro autor.

A proliferação desses resumos não autorizados e obras imitadoras tem alimentado ansiedades entre os autores que temem o impacto em suas vendas e reputações.

Em resposta à pressão crescente de autores e grupos de defesa como o Authors Guild, a Amazon tomou medidas para abordar a questão. No ano passado, a empresa implementou uma política exigindo que os editores que usam o Kindle Direct Publishing divulguem se seu conteúdo é gerado por IA. Além disso, a Amazon impôs limites ao número de títulos publicados em um único dia.

A porta-voz da Amazon, Lindsay Hamilton, enfatizou as medidas proativas da empresa para evitar a listagem de livros enganosos e remover aqueles que violam suas diretrizes. Hamilton destacou o compromisso da Amazon em manter uma experiência positiva para o cliente e afirmou que as contas de editoras podem ser suspensas em casos de abuso repetido.

Além do impacto imediato nas vendas, os autores também estão preocupados com o dano à reputação causado pelos livros gerados por IA.

Executivo da Amazon fala sobre o papel da empresa na corrida pela IA

Um líder do negócio de computação em nuvem da Amazon diz que “a inteligência artificial generativa foi habilitada muito diretamente porque a nuvem existe”.

A analista da indústria de escrita e publicação Jane Friedman destacou a qualidade genérica de tais obras, que frequentemente carecem da autenticidade do conteúdo produzido por humanos.

Ela enfatizou o potencial dano às reputações dos autores, especialmente quando os leitores encontram conteúdo de baixa qualidade falsamente atribuído a eles.

Mary Rasenberger, CEO do Authors Guild, ecoou essas preocupações, observando que a rápida proliferação de livros gerados por IA apresenta desafios tanto para os autores quanto para plataformas como a Amazon. Rasenberger enfatizou a necessidade de vigilância contínua e colaboração para enfrentar a ameaça em constante evolução representada pelas práticas de publicação enganosas.

Embora as medidas atuais visem mitigar o impacto dos livros gerados por IA, autores e especialistas do setor estão cientes da necessidade de permanecer à frente das ameaças emergentes. Rasenberger alertou que, à medida que as ferramentas de IA se tornarem cada vez mais sofisticadas, detectar e enfrentar conteúdos enganosos pode se tornar mais desafiador.

Leia também:

Mark Zuckerberg está se tornando o maior influenciador do Meta