Facebook stopt met zijn systeem voor gezichtsherkenning en gaat de komende tijd meer dan een miljard gezichtsprofielen verwijderen. Volgens het social-mediaplatform wegen de voordelen niet op tegen de kritiek en de vage regelgeving.

Facebook heeft besloten te stoppen met gezichtsherkenning. Volgens Jerome Presenti, directeur AI van moederbedrijf Meta, komt Facebook daarmee tegemoet aan de toenemende 'maatschappelijke zorgen' over deze technologie. “Bovendien”, schrijft Presenti in zijn Facebook-blog, “zijn de regelgevers nog steeds bezig met het opstellen van duidelijke regels voor het gebruik ervan. Te midden van deze aanhoudende onzekerheid zijn wij van mening dat het gepast is om het gebruik van gezichtsherkenning te beperken tot een beperkt aantal gebruiksscenario's.” Met dat laatste doelt de Meta-baas op gezichtsherkenning om een onbereikbaar account of apparaat te deblokkeren.

Deze beslissing is behoorlijk ingrijpend voor het bedrijf dat vanaf 2014 enthousiast met gezichtsherkenning aan de slag ging. In 2017 kwam daar de mogelijkheid bij om een melding te krijgen als iemands gezicht wordt geüpload door een andere Facebook-gebruiker. Volgens Facebook heeft ongeveer een derde van alle gebruikers de ‘Face tag’ aanstaan. In februari zei het bedrijf echter al te twijfelen over de techniek die gezichtsscans omzet in identiteitsgegevens. Dat had wellicht ook te maken met de schikking van 650 miljoen dollar die Facebook trof in een rechtszaak tegen een groep gebruikers wier foto zonder hun toestemming waren ‘getagged’.

Meer afstand
Terwijl gezichtsherkenning in landen met – zoals het wordt genoemd - “autoritaire regimes” steeds meer opmars maakt in de openbare ruimte, nemen westerse autoriteiten zoals de VS en de EU er juist afstand van. In de Europese Unie is de ontwikkeling en toepassing van de techniek voorlopig bevroren. En in Australië heeft toevallig vandaag de privacywaakhond OAIC het Amerikaanse bedrijf Clearview AI opgedragen te stoppen met het verzamelen van gezichten op websites en zijn database te vernietigen. Dit nadat de Australische politie op de vingers werd getikt vanwege een software-experiment in samenwerking met dit bedrijf. Ook de Amerikaanse politie werkt(e) samen met het controversiële Clearview.
Techbedrijven Microsoft en Amazon hebben al enige tijd geleden aangegeven niet langer met justitie in de VS te willen samenwerken totdat er duidelijke regels zijn over het gebruik van hun gezichtsherkenningssoftware.

Slechte werking en discriminatie
Behalve over privacy, is er ook kritiek op gezichtsherkenning omdat de techniek slecht werkt en discrimineert. De technologie is gevoelig voor fouten, vooral met betrekking op mensen met een donkere huidskleur of een Aziatische achtergrond. Zo werden in een test van de Amerikaanse burgerrechtenbeweging ACLU met software van Amazon 28 zwarte congresleden ten onrechte gematcht met arrestatieportretten van de politie.

Volgens Facebook zijn er echter ook goede kanten aan gezichtsherkenning. Het bedrijf noemt onder andere zijn ‘award-winning’ techniek waarbij AI blinden en slechtzienden helpt om vrienden op foto’s te herkennen. Het bedrijf zegt dan ook door te zullen gaan met onderzoek en ervan overtuigd te zijn dat gezichtsherkenning alleen maar belangrijker zal worden. “Zolang mensen zelf maar controle houden over hoe en waar hun gezicht wordt gebruikt”, aldus de verklaring van Meta.