Facebook beslutter at fjerne vildledende Deepfakes

Facebook har besluttet at klemme ned på, hvad det beskriver som medier, der er blevet manipuleret for at vildlede.

Især deepfakes kommer i fokus og er nu langt mere tilbøjelige til at blive fjernet fra det sociale netværk.

I et blogindlæg forklarer Monika Bickert, vicepræsident for Global Policy Management hos Facebook, hvordan de fleste mediemanipulationer udføres af godartede grunde som f.eks.

At gøre lyd klarere på en video.

Deepfakes er dog en anden sag og kan oprettes for at vildlede.

Facebook vil fjerne sådant indhold, men kun under visse omstændigheder.

Hvis medier er blevet "redigeret eller syntetiseret - ud over justeringer for klarhed eller kvalitet", men på en måde, der ikke er synlig for den gennemsnitlige person, bliver det markeret.

Det er dog ikke nok alene.

Medierne skal også være oprettet ved hjælp af AI eller maskinindlæring, der "fletter, erstatter eller overlejrer indhold på en video, så det ser ud til at være autentisk."

Indhold, der er parodi, satire eller manipuleret "udelukkende for at udelade eller ændre rækkefølgen af ??ord" er undtaget og vil ikke blive fjernet.

Facebook vil også fortsætte med at håndhæve sine fællesskabsstandarder og bruge et netværk af uafhængige tredjeparts faktakontroller til at gennemgå indhold.

Hvis kriterierne for fjernelse af vildledende medier virker ret restriktive, skyldes det, at Facebook har gjort det med vilje.

Virksomhedens argument er: "Hvis vi simpelthen fjernede alle manipulerede videoer, der blev markeret af faktakontrollører som falske, ville videoerne stadig være tilgængelige andre steder på internettet eller på det sociale mediers økosystem.

Ved at lade dem være ope og mærke dem som falske, leverer vi mennesker med vigtig information og kontekst.

"

Som Reuters rapporterer, kommer Facebooks klemme på manipulerede medier foran de amerikanske valg næste år.

Vi er sikker på at se mange dybe forfalskninger vises, der forsøger at vildlede vælgerne i løbet af november, som forhåbentlig ikke nu vises og deles på Facebook.

Som et eksempel på, hvor begrænsede Facebooks regler er, forbliver den redigerede video af US House-højttaler Nancy Pelosi, der skildrer hende som usammenhængende slurring af hendes tale, stadig tilgængelig på det sociale netværk.

Facebook forklarer hvorfor i en erklæring og sagde "Den doktorvideo af højttaler Pelosi, der ikke overholder standarderne i denne politik og ville ikke blive fjernet.

Kun videoer genereret af kunstig intelligens til at skildre folk, der siger fiktive ting, vil blive fjernet ...

Når video af højttaler Pelosi blev bedømt af en tredjeparts faktakontrol, vi reducerede dens distribution, og kritisk set folk, der så det, forsøgte at dele det eller allerede havde modtaget advarsler om, at det var falsk.

"

Facebook har besluttet at klemme ned på, hvad det beskriver som medier, der er blevet manipuleret for at vildlede.

Især deepfakes kommer i fokus og er nu langt mere tilbøjelige til at blive fjernet fra det sociale netværk.

I et blogindlæg forklarer Monika Bickert, vicepræsident for Global Policy Management hos Facebook, hvordan de fleste mediemanipulationer udføres af godartede grunde som f.eks.

At gøre lyd klarere på en video.

Deepfakes er dog en anden sag og kan oprettes for at vildlede.

Facebook vil fjerne sådant indhold, men kun under visse omstændigheder.

Hvis medier er blevet "redigeret eller syntetiseret - ud over justeringer for klarhed eller kvalitet", men på en måde, der ikke er synlig for den gennemsnitlige person, bliver det markeret.

Det er dog ikke nok alene.

Medierne skal også være oprettet ved hjælp af AI eller maskinindlæring, der "fletter, erstatter eller overlejrer indhold på en video, så det ser ud til at være autentisk."

Indhold, der er parodi, satire eller manipuleret "udelukkende for at udelade eller ændre rækkefølgen af ??ord" er undtaget og vil ikke blive fjernet.

Facebook vil også fortsætte med at håndhæve sine fællesskabsstandarder og bruge et netværk af uafhængige tredjeparts faktakontroller til at gennemgå indhold.

Hvis kriterierne for fjernelse af vildledende medier virker ret restriktive, skyldes det, at Facebook har gjort det med vilje.

Virksomhedens argument er: "Hvis vi simpelthen fjernede alle manipulerede videoer, der blev markeret af faktakontrollører som falske, ville videoerne stadig være tilgængelige andre steder på internettet eller på det sociale mediers økosystem.

Ved at lade dem være ope og mærke dem som falske, leverer vi mennesker med vigtig information og kontekst.

"

Som Reuters rapporterer, kommer Facebooks klemme på manipulerede medier foran de amerikanske valg næste år.

Vi er sikker på at se mange dybe forfalskninger vises, der forsøger at vildlede vælgerne i løbet af november, som forhåbentlig ikke nu vises og deles på Facebook.

Som et eksempel på, hvor begrænsede Facebooks regler er, forbliver den redigerede video af US House-højttaler Nancy Pelosi, der skildrer hende som usammenhængende slurring af hendes tale, stadig tilgængelig på det sociale netværk.

Facebook forklarer hvorfor i en erklæring og sagde "Den doktorvideo af højttaler Pelosi, der ikke overholder standarderne i denne politik og ville ikke blive fjernet.

Kun videoer genereret af kunstig intelligens til at skildre folk, der siger fiktive ting, vil blive fjernet ...

Når video af højttaler Pelosi blev bedømt af en tredjeparts faktakontrol, vi reducerede dens distribution, og kritisk set folk, der så det, forsøgte at dele det eller allerede havde modtaget advarsler om, at det var falsk.

"