Microsoft lanceert AI-tool voor kopiëren fotorrealistische gezichten en stemmen

aangekondigd op Microsoft Ontsteek 2023, de Azure AI-spraak is getraind op menselijke beelden en stelt gebruikers in staat een script in te voeren dat vervolgens hardop kan worden “voorgelezen” door een avatar fotorrealistisch gemaakt met AI. 

Gebruikers kunnen een vooraf geladen avatar kiezen Microsoft of upload afbeeldingen van een persoon wiens stem en beeld ze willen repliceren. A Microsoft zei in één blog gepubliceerd op woensdag (15) dat de tool kan worden gebruikt om “conversationele agenten, virtuele assistenten, chatbots en meer” te bouwen.

deepfake-maker

Het bedrijf zei dat de nieuwe tekst-naar-spraak-software wordt uitgebracht met een verscheidenheid aan limieten en waarborgen om misbruik te voorkomen. “Als onderdeel van de inzet van Microsoft Met behulp van verantwoordelijke AI is de tekst-naar-spraak-avatar ontworpen met de bedoeling de rechten van individuen en de samenleving te beschermen door transparante mens-computerinteractie te bevorderen en de verspreiding van schadelijke deepfakes en misleidende inhoud tegen te gaan”, aldus de Microsoft.

Wat zijn deepfakes? | Newsverso-woordenlijst 

Een deepfake is een video- en beeldmanipulatietechniek waarbij machine learning-algoritmen worden gebruikt om valse en overtuigende inhoud te creëren. Het combineert de verwerkingskracht van moderne computers met geavanceerde kunstmatige intelligentietechnieken, waardoor video's kunnen worden gemaakt die authentiek lijken, maar in feite volledig verzonnen zijn.

De aankondiging leidde al snel tot kritiek dat de Microsoft er was vrijgegeven een ‘deepfake-maker’ – waardoor het imago van een persoon gemakkelijker kan worden gerepliceerd en gedwongen om dingen te zeggen en te doen die de persoon niet heeft gezegd of gedaan.

In een verklaring verwierp het bedrijf de kritiek en zei dat aangepaste avatars nu een tool met “beperkte toegang” zijn waarvoor klanten zich moeten aanmelden en goedgekeurd moeten worden. Microsoft. Gebruikers moeten ook bekendmaken wanneer AI is gebruikt om een ​​synthetische stem of avatar te creëren.

Lees ook:

5 tips om ervoor te zorgen dat AI verantwoord wordt gebruikt

Vanaf het moment dat kunstmatige intelligentie aan populariteit won, kwamen discussies over problemen, uitdagingen en regelgeving in een stroomversnelling. Onlangs heeft een consortium van invloedrijke AI-bedrijven een fonds aangekondigd om technologierisico's te analyseren en te beperken, er is al 10 miljoen dollar geïnvesteerd en er is een commissie gevormd. Het is echter belangrijk dat gewone gebruikers zich bewust zijn van de veranderingen die AI de samenleving zal opleggen. Bekijk de tips die een expert geeft voor wie niet achter wil blijven in deze discussie.