Facebook heeft besloten om wat het beschrijft als media die zijn gemanipuleerd om te misleiden, aan banden te leggen.
Met name deepfakes komen in de schijnwerpers te staan ??en worden nu veel vaker van het sociale netwerk verwijderd.
In een blogpost legt Monika Bickert, vice-president van Global Policy Management bij Facebook, uit hoe de meeste mediamanipulatie wordt uitgevoerd om goedaardige redenen, zoals het duidelijker maken van audio op een video.
Deepfakes zijn echter een andere zaak en kunnen worden gemaakt om te misleiden.
Facebook gaat dergelijke inhoud verwijderen, maar alleen onder bepaalde omstandigheden.
Als media is "bewerkt of gesynthetiseerd - zonder aanpassingen voor duidelijkheid of kwaliteit", maar op een manier die niet duidelijk is voor de gemiddelde persoon, wordt het gemarkeerd.
Dat is op zichzelf echter niet voldoende.
De media moeten ook zijn gemaakt met behulp van AI of machine learning die "inhoud samenvoegt, vervangt of over een video heen legt, waardoor deze authentiek lijkt."
Inhoud die is geparodieerd, satire of gemanipuleerd "uitsluitend om de woorden weg te laten of de volgorde van woorden te veranderen" is vrijgesteld en zal niet worden verwijderd.
Facebook zal ook doorgaan met het handhaven van zijn gemeenschapsnormen en een netwerk van onafhankelijke externe factcheckers gebruiken om inhoud te beoordelen.
Als de criteria voor het verwijderen van misleidende media nogal restrictief lijken, komt dat omdat Facebook dit doelbewust zo heeft gemaakt.
Het argument van het bedrijf luidt: "Als we alle gemanipuleerde video's die door factcheckers als onwaar waren aangemerkt, zouden verwijderen, zouden de video's nog steeds elders op het internet of het ecosysteem van sociale media beschikbaar zijn.
Door ze achter te laten en ze als onwaar te bestempelen, bieden we mensen met belangrijke informatie en context.
"
Zoals Reuters meldt, komt Facebook's aanpak van gemanipuleerde media voor op de Amerikaanse verkiezingen volgend jaar.
We zullen zeker zien dat veel deepfakes verschijnen die proberen kiezers te misleiden in de aanloop naar november, die hopelijk nu niet zullen verschijnen en gedeeld zullen worden op Facebook.
Als voorbeeld van hoe beperkt de regels van Facebook zijn, blijft de bewerkte video van US House-spreker Nancy Pelosi, die haar afbeeldt als onsamenhangend slordig haar toespraak, beschikbaar op het sociale netwerk.
Aanbevolen door onze redacteuren
Facebook legt uit waarom in een verklaring: "De gemanipuleerde video van Spreker Pelosi voldoet niet aan de normen van dit beleid en zou niet worden verwijderd.
Alleen video's die zijn gegenereerd door kunstmatige intelligentie om mensen te laten zien die fictieve dingen zeggen, zullen worden verwijderd ...
video van Spreker Pelosi werd beoordeeld door een externe factchecker, we hebben de distributie ervan teruggeschroefd, en kritisch, mensen die het zagen, probeerden het te delen of al een waarschuwing hadden gekregen dat het niet waar was.
"
