Amazon, IBM en Microsoft willen betere regelgeving voor gezichtsherkenning
Amazon, IBM en Microsoft stoppen voorlopig met het aanbieden van gezichtsherkenning. De technologie kan worden ingezet voor massasurveillance en etnisch profileren, en deze Amerikaanse partijen hebben besloten daar niet langer aan mee te willen werken. Ook het bestuur van San Francisco verbiedt de politie er gebruik van te maken.
IBM zegt er zelf dit over:
“IBM firmly opposes and will not condone uses of any technology, including facial recognition technology offered by other vendors, for mass surveillance, racial profiling, violations of basic human rights and freedoms, or any purpose which is not consistent with our values and Principles of Trust and Transparency.”
Amazon en Google zijn iets terughoudender in hun terugtrekking uit gezichtsherkenningssoftware. Amazon zet zijn levering nu voorlopig een jaar stop. Maar ook Google geeft aan dat het zolang de kwaliteit van de herkenning niet beter wordt, het niet goed is om erop te vertrouwen. De combinatie van het vertrouwen op technologie, het verkeerde gebruik ervan, en het gebrek aan transparantie is gevaarlijk, zegt Google.
Gezichtsherkenningssoftware kan natuurlijk worden gebruikt voor onschuldige toepassingen zoals het ontgrendelen van je smartphone of een slimme deurbel. Maar met gezichtsherkenningssoftware kun je een gezicht onmiddellijk vergelijken met miljoenen gezichten. Zo is het dus ook mogelijk om een hele menigte te analyseren. Dat op zich zorgt al voor een grote machtsongelijkheid tussen overheid en burger, maar als dat gecombineerd wordt met foutieve interpretatie, dan is de verhouding tussen toepassing en resultaat zoek.
Gevaarlijk voor wethandhavingsdoeleinden
De politie en opsporingsdiensten gebruikten de technologie bijvoorbeeld om verdachten op te sporen, en slachtoffers te identificeren door foto’s en video te matchen met databases zoals rijbewijsgegevens. Hierdoor is er veel onrust ontstaan, want gezichtsherkenning heeft ingrijpende gevolgen voor de burgerrechten en privacy, kan de bias voor groepen mensen versterken, en is gevoelig voor misbruik.
Een voorbeeld vind je in Amerika. Hier werd een man onterecht opgepakt doordat hij als ‘overeenkomend’ werd aangeduid door de software. Een foto van een diefstal bij een juwelier werd vergeleken met een database met 49 miljoen foto’s op rijbewijzen. Daarbij ontstond er een foutieve match. Maar dat bleek pas nadat Robert Williams was aangehouden en een dag gearresteerd was. In dit artikel van RTL lees je meer over de onterechte arrestatie van Robert Williams.
Automation bias
Waarschijnlijk speelde iets wat automation bias wordt genoemd hierbij een belangrijke rol. Als je intuïtie je vertelt dat een beeld niet op de verdachte lijkt, maar het computermodel je vertelt dat hij het 99 procent nauwkeurigheid is, dan is de kans groter dat je dat model gelooft, en toch overgaat tot het arresteren van de gematchte persoon. Ook al heeft dat model misschien een voor jou onbekende bias ontwikkeld op basis waarvan het de match maakt.
Maar zelfs als de software volledig accuraat is, kan deze nog steeds worden gebruikt op een manier die schadelijk is voor bepaalde groepen mensen. De machtsverhouding tussen overheid en burger is een belangrijke factor. Als een grote groep mensen zich verzamelt, heeft ze een bepaalde macht ten opzichte van een handhavende groep. Maar als met videobeelden achteraf iedereen automatisch geïdentificeerd kan worden, uiten mensen dan nog hun werkelijke mening? Het is een efficiënt middel om hooligans in een stadion te identificeren, maar niet bij een burgerrechtenprotest, of een pride optocht. Als je dat niet in goede banen leidt, dan is de overstap naar een controlestaat gemakkelijk gemaakt.
Autoriteit Persoonsgegevens en supermarkten
Ook in Nederland speelt de discussie rond gezichtsherkenning. Niet zo sterk tussen overheid en burger als in Amerika, maar rond de toepassing in supermarkten. Steeds meer supermarkten begonnen met het aanleggen van camera’s en het interpreteren van beelden daarvan. Maar volgens de Autoriteit Persoonsgegevens is een gezicht een biometrisch gegeven, net als een vingerafdruk, en is het niet toegestaan daarmee te werken zonder voldoende zwaarwegende reden, en alleen met expliciete toestemming van de klant. Ze heeft de branche er kortgeleden op gewezen dat ze moet stoppen met het zonder vergaande overwegingen ontwikkelen van gezichtsherkenning in supermarkten: https://autoriteitpersoonsgegevens.nl/nl/nieuws/ap-wijst-supermarkten-op-regels-gezichtsherkenning
Wat doen IBM, Amazon en Microsoft
IBM
IBM is gestopt met het onderzoeken, ontwikkelen en aanbieden van systemen die gezichten herkennen. Met deze beslissing hopen ze aanleiding te geven over hoe autoriteiten gebruik zouden moeten maken van gezichtsherkenning.
Lees hier meer.
En hier: https://www.ibm.com/blogs/policy/trust-principles/
Amazon en Microsoft
Amazon en Microsoft zijn gestopt met het leveren van gezichtsherkenningssoftware aan de politie. De bedrijven willen eerst duidelijkere en stengere nationale wet- en regelgeving door de overheid voor ‘ethisch gebruik’ van de technologie.
Lees hier meer op NU.nl.
In dit artikel op NU.nl is te lezen dat nu ook de VN roept om tijdelijk te stoppen met het gebruik van de technologie bij demonstraties. Dit totdat aan voorwaarden kan worden voldaan op het gebied van toezicht en transparantie.
