Bliver du en idiot på Instagram? AI vil fortælle dig

For at bekæmpe mobning bruger Instagram AI-drevne algoritmer til at opdage, om et indlæg, du er ved at lave, indeholder stødende indhold.

Anti-mobningsfunktionen er designet til at få brugerne til at sætte pause og overveje at udgive et indlæg, der kan ende med at chikanere eller latterliggøre nogen.

"I dag, når nogen skriver en billedtekst til et feed-indlæg, og vores AI opdager billedteksten som potentielt stødende, vil de modtage en hurtig meddelelse om, at deres billedtekst svarer til dem, der rapporteres for mobning," sagde Instagram i et mandag-blogindlæg.

Funktionen repræsenterer teknologiindustriens seneste indsats for at bruge kunstig intelligens til at tackle problemet med indholdsmoderering.

Facebook-ejede Instagram bruger i øjeblikket både menneskelige medarbejdere og computeralgoritmer til at hjælpe det med at fjerne ulovlige og voldelige indlæg.

Men dette sker ofte efter indholdet er blevet offentliggjort, hvilket giver det en chance for at cirkulere.

Som svar er Instagram begyndt at anvende AI på præ-postingsprocessen i et forsøg på at skubbe brugere væk fra at offentliggøre indhold, der overtræder platformens regler.

Tilbage i juli begyndte det at udrulle teknologien til brugergenererede kommentarer med en lille advarsel, der siger: "Er du sikker på, at du vil sende dette?"

"Fra tidlige test af denne funktion har vi fundet ud af, at det tilskynder nogle mennesker til at fortryde deres kommentar og dele noget mindre sårende, når de først har haft en chance for at reflektere," sagde Instagram dengang.

Nu bruger platformen teknologien til brug på brugergenererede indlæg og siger, at dens algoritmer kan opdage forskellige former for mobning.

Hvis et indlæg er markeret, viser Instagram en prompt, der siger: "Denne billedtekst ligner andre, der er blevet rapporteret." Brugeren får derefter lov til at redigere billedteksten, eller de kan alligevel vælge at dele den.

Den nye anti-mobningsfunktion rulles ud i dag på udvalgte markeder.

Forvent at det bliver globalt i de kommende måneder.

For at bekæmpe mobning bruger Instagram AI-drevne algoritmer til at opdage, om et indlæg, du er ved at lave, indeholder stødende indhold.

Anti-mobningsfunktionen er designet til at få brugerne til at sætte pause og overveje at udgive et indlæg, der kan ende med at chikanere eller latterliggøre nogen.

"I dag, når nogen skriver en billedtekst til et feed-indlæg, og vores AI opdager billedteksten som potentielt stødende, vil de modtage en hurtig meddelelse om, at deres billedtekst svarer til dem, der rapporteres for mobning," sagde Instagram i et mandag-blogindlæg.

Funktionen repræsenterer teknologiindustriens seneste indsats for at bruge kunstig intelligens til at tackle problemet med indholdsmoderering.

Facebook-ejede Instagram bruger i øjeblikket både menneskelige medarbejdere og computeralgoritmer til at hjælpe det med at fjerne ulovlige og voldelige indlæg.

Men dette sker ofte efter indholdet er blevet offentliggjort, hvilket giver det en chance for at cirkulere.

Som svar er Instagram begyndt at anvende AI på præ-postingsprocessen i et forsøg på at skubbe brugere væk fra at offentliggøre indhold, der overtræder platformens regler.

Tilbage i juli begyndte det at udrulle teknologien til brugergenererede kommentarer med en lille advarsel, der siger: "Er du sikker på, at du vil sende dette?"

"Fra tidlige test af denne funktion har vi fundet ud af, at det tilskynder nogle mennesker til at fortryde deres kommentar og dele noget mindre sårende, når de først har haft en chance for at reflektere," sagde Instagram dengang.

Nu bruger platformen teknologien til brug på brugergenererede indlæg og siger, at dens algoritmer kan opdage forskellige former for mobning.

Hvis et indlæg er markeret, viser Instagram en prompt, der siger: "Denne billedtekst ligner andre, der er blevet rapporteret." Brugeren får derefter lov til at redigere billedteksten, eller de kan alligevel vælge at dele den.

Den nye anti-mobningsfunktion rulles ud i dag på udvalgte markeder.

Forvent at det bliver globalt i de kommende måneder.