Om te voorkomen dat YouTube kinderen ongepaste video’s voorschotelt, gaat het bedrijf extra moderators inhuren.

Volgend jaar zullen er meer dan tienduizend mensen bij Google werken die zich bezighouden met het verwijderen van ongepaste content, belooft YouTube-ceo Susan Wojcicki in een blogpost. De nieuwe werknemers moeten ervoor zorgen dat content die in strijd is met de regels van YouTube, sneller wordt verwijderd. “Ons doel is om kwaadwillenden één stap voor te blijven”, schrijft ze.

Wojcicki’s belofte om harder op te treden tegen ongepaste content komt nadat YouTube de afgelopen maand onder vuur is komen te liggen vanwege gewelddadige en obscene video’s die werden voorgeschoteld aan kinderen én vanwege kanalen met shockerende video’s waarin kinderen de hoofdrol spelen. BuzzFeed News ontdekte dat op YouTube talloze video’s staan waarin jonge, schaars geklede kinderen in compromitterende of uitermate vervelende situaties worden gefilmd.

Het verwijderen van dergelijke content kan niet louter aan slimme algoritmes worden overgelaten. “Menselijke reviewers blijven essentieel voor zowel het verwijderen van content als het trainen van machine learning-systemen”, schrijft Wojcicki. “Het menselijke oordeel is van het grootste belang om op basis van de context een beslissing te nemen over de content.”

Meer kritiek
Eerder dit jaar kreeg YouTube ook al kritiek omdat de videodienst te weinig zou ondernemen tegen extremistische content. Die kritiek heeft YouTube volgens Wojcicki ter harte genomen. Sinds juni hebben de moderators van de site bijna 2 miljoen video’s met extremistische en gewelddadige content handmatig beoordeeld.

Inmiddels wordt 98 procent van de extremistische video’s die YouTube verwijdert, als eerste opgemerkt door de algoritmes die het bedrijf heeft geleerd om dergelijke video’s op te sporen. Op vergelijkbare wijze wil de videosite in de komende tijd video’s aanpakken die ongeschikt zijn voor kinderen of waarin kinderen op onaangename wijze in beeld worden gebracht.