TikTok vil mærke AI-genereret indhold på sin platform

O TikTok planlægger at begynde at mærke billeder og videoer, der er uploadet til deres videodelingstjeneste, som er genereret vha kunstig intelligens (AI), sagde virksomheden i torsdags (9) ved hjælp af et digitalt vandmærke kendt som Content Credentials.

???????? Abonner på den bedste newsletter om AI (på engelsk 🇬🇧) 

🇧🇷 Skriv under det bedste newsletter om AI (på portugisisk 🇧🇷)

Forskere har udtrykt bekymring for, at AI-genereret indhold kunne bruges til at blande sig i valg. ERE i efteråret, og TikTok var allerede blandt en gruppe af 20 teknologivirksomheder som i begyndelsen af ​​dette år underskrev en aftale medpromeJeg har en tendens til at bekæmpe det.

Virksomheden mærker allerede AI-genereret indhold lavet med værktøjer i appen, men den seneste foranstaltning gælderaria til videoer og billeder genereret uden for tjenesten.

"Vi har også politikker, der forbyder realistisk AI, der ikke er mærket, så hvis realistisk AI (genereret indhold) vises på platformen, så vil vi fjerne det for at overtræde vores retningslinjer for fællesskabet," sagde Adam Presser, chef for operationer og tillid og sikkerhed på TikTok, i et interview.

Content Credentials-teknologien blev ledet af Coalition for Content Provenance and Authenticity, en gruppe medstiftet af Adobe, Microsoft og andre, men det er åbent for andre virksomheder at bruge.

Det er allerede blevet vedtaget af skabere af ChatGPT, som OpenAI.

YouTube, ejet af Alfabet do Googleog Meta platforme, som ejer Instagram og Facebook, sagde også, at de planlægger at bruge indholdslegitimationsoplysninger.

For at systemet kan fungere, skal både producenten af ​​det generative AI-værktøj, der bruges til at lave indholdet, og platformen, der bruges til at distribuere indholdet, acceptere at bruge industristandarden.

Når en person bruger værktøjet Dall-E da OpenAI at generere et billede, for eksempel OpenAI tilføjer et vandmærke til det resulterende billede og tilføjer data til filen, der senere kan indikere, om der er blevet manipuleret med den.

Hvis dette taggede billede derefter uploades til TikTok, vil det automatisk blive mærket som AI-genereret.

TikTok, som er ejet af Kinas ByteDance, har 170 millioner brugere i USA, som for nylig vedtog en lov, der pålægger ByteDance at sælge TikTok eller stå over for et forbud. TikTok og ByteDance sagsøgte for at blokere loven og hævdede, at den overtræder det amerikanske første ændringsforslag.

Læs også: