Bedankt voor dit bezoek. Viruswaarheid gaat door als Voorwaarheid!

Leden van het Europees Parlement: komt u op voor onze rechten?

Op 10 mei 2022  heeft Reclaim Your Face, een wereldwijde coalitie van 53 maatschappelijke organisaties,  de krachten gebundeld om de leden van het Europees Parlement op te roepen de hun democratisch toebedeelde bevoegdheden te gebruiken om ons allen te beschermen tegen biometrische massasurveillancepraktijken. De EU mag deze gevaarlijke praktijken niet legitimeren. Anders lopen de EU-wetgevers het risico een precedent te scheppen voor het gebruik van op AI (=kunstmatige intelligentie) gebaseerde technologie die de anonimiteit van mensen voor altijd zou kunnen vernietigen en een groot aantal van onze rechten en vrijheden zou kunnen onderdrukken.

Laat ook uw stem horen:  teken de brief onderaan de website van Reclaim Your Face.

 

Brussel, dinsdag 10 mei, 2022

Geachte leden van het Europees Parlement,

Wij schrijven u vandaag als 53 organisaties om te vragen: Zult u opkomen voor onze rechten door biometrische massasurveillance te verbieden in de Wet op de Kunstmatige Intelligentie?

In Europa en de rest van de wereld vormt het gebruik van biometrische identificatiesystemen (RBI) op afstand, zoals gezichtsherkenning, in onze publieke ruimtes, een van de grootste bedreigingen voor de grondrechten en de democratie die wij ooit hebben gezien.

Het gebruik op afstand van dergelijke systemen vernietigt de mogelijkheid van anonimiteit in het openbaar, en ondermijnt de essentie van ons recht op privacy en gegevensbescherming, het recht op vrijheid van meningsuiting, het recht op vrijheid van vergadering en vereniging (hetgeen leidt tot de criminalisering van protest en een afschrikkend effect heeft), en het recht op gelijkheid en non-discriminatie.

Zonder een totaal verbod op het gebruik op afstand van deze technologieën in voor publieke ruimtes  zullen alle plaatsen waar wij onze rechten uitoefenen en als gemeenschappen samenkomen, worden omgevormd tot plaatsen van massasurveillance waar wij allen als verdachten worden behandeld.

Deze schade is niet hypothetisch. Oeigoerse moslims zijn door de Chinese regering systematisch vervolgd door het gebruik van gezichtsherkenning. Pro-democratische demonstranten en politieke tegenstanders zijn in Rusland, Servië en Hongkong onderdrukt of het doelwit geworden door het gebruik – en in sommige gevallen zelfs alleen maar de vrees voor het gebruik – van RBI in publieke ruimtes En veel mensen zijn over de hele wereld onterecht en op traumatische wijze gearresteerd.1 

Als reactie op de steeds toenemende verspreiding van deze toepassingen en de schade die zij veroorzaken, nemen mensen het heft in handen en vragen om een verbod. Meer dan 24 Amerikaanse staten hebben stappen ondernomen tegen gezichtsherkenning of andere vormen van biometrische massasurveillance. In Zuid-Amerika hebben twee recente vonnissen in São Paulo en Buenos Aires de opschorting van gezichtsherkenningssystemen bevolen.

Enkele van ’s werelds grootste aanbieders van biometrische bewakingssystemen – Microsoft, Amazon en IBM – hebben zelfs zelf een moratorium ingesteld vanwege de grote risico’s en schade die hun systemen met zich meebrengen, en Facebook heeft zijn massale databank van gezichtsopnamen gewist.

Ondanks de sterke bescherming van biometrische gegevens in de EU-wetgeving inzake gegevensbescherming, zien we dat bedrijven en overheden systematisch misbruik maken van “toestemming” en vage veiligheidsargumenten als basis voor het gebruik van gezichtsherkenning en andere biometrische systemen op een manier die neerkomt op inherent onevenredige massasurveillancepraktijken.

Terwijl democratische landen over de hele wereld maatregelen nemen om hun gemeenschappen te beschermen, gaat de EU de tegenovergestelde richting uit.

Een duidelijk, ondubbelzinnig verbod is nodig in de AI-wet om een einde te maken aan de gevaarlijke status quo.2 In 2021 nam het Europees Parlement een krachtig standpunt in tegen biometrische massasurveillancepraktijken in het ”AI in criminal law report”, waarin wordt opgeroepen tot: “een verbod op elke verwerking van biometrische gegevens, waaronder gezichtsopnamen, voor rechtshandhavingsdoeleinden die leidt tot massatoezicht in voor het publieke ruimtes” (artikel 31).

De AI-wet is de aangewezen manier om deze belangrijke resolutie van het Europees Parlement om te zetten in bindende, impactvolle wetgeving.

Ook op het niveau van de EU-lidstaten is erkend dat verdere actie dringend noodzakelijk is. Italië heeft het eerste moratorium van Europa op openbare gezichtsherkenning ingesteld. De Duitse coalitieregering heeft opgeroepen tot een verbod op biometrische massasurveillancepraktijken in de hele EU. Portugal heeft een wet ingetrokken die een aantal biometrische massasurveillancepraktijken zou hebben gelegaliseerd. En het Belgische parlement overweegt een moratorium op biometrische surveillance.

Zult u (de juiste) geschiedenis schrijven?

Er is al veel bewijs dat Europese ingezetenen systematisch aan biometrische massasurveillancepraktijken zijn onderworpen. Van voetbalfans tot schoolkinderen, forenzen, winkelend publiek en mensen die LGBTQ+-cafés en gebedshuizen bezoeken, de schade is reëel en wijdverbreid. Via de campagne Reclaim Your Face dringen meer dan 70.000 EU-burgers er bij u en uw collegae-wetgevers op aan ons beter te beschermen tegen deze ondemocratische en schadelijke biometrische systemen.

Wereldwijd hebben meer dan 200 maatschappelijke organisaties, van Burundi tot Taiwan, een brief ondertekend waarin zij oproepen tot een wereldwijd verbod op biometrische surveillance. De EU is de eerste regio met een alomvattende regelgeving inzake kunstmatige intelligentie en haar optreden – of het uitblijven daarvan – zal grote gevolgen hebben voor biometrische massasurveillancepraktijken in alle uithoeken van de wereld.

Terwijl tientallen Amerikaanse staten lering trekken uit afschuwelijke fouten, zoals de onderdrukking van demonstranten van Black Lives Matter met behulp van gezichtsherkenning, gaan regeringen in India, China en Rusland de tegenovergestelde kant op. Aan welke kant van de geschiedenis staat de EU: legitimering van autoritair technologisch toezicht of kiezen voor grondrechten?

Hoe kunnen we dit verwezenlijken in de AI-wet?

De AI-wet moet elk gebruik op afstand (d.w.z. algemeen toezicht) van biometrische identificatie (RBI) in publieke ruimtes verbieden. Dit betekent dat toepassingen zoals het ontgrendelen van een smartphone of het gebruik van een ePassport-poort niet verboden zouden zijn. Hoewel artikel 5, lid 1, onder d), al beoogt sommige vormen van gebruik van RBI te verbieden, is de werkingssfeer ervan zo beperkt en bevat het zoveel uitzonderingen dat het in de praktijk een rechtsgrondslag biedt voor praktijken die in feite al verboden zouden moeten zijn krachtens de bestaande gegevensbeschermingsregels.

Wij roepen u daarom op wijzigingen in artikel 5, lid 1, onder d)3 , voor te stellen die leiden tot:

  • Uitbreiding van de werkingssfeer van het verbod tot alle particuliere en openbare entiteiten;
  • Ervoor zorgen dat alle gebruik van RBI (in real time of achteraf) in voor het publiek toegankelijke ruimten onder het verbod valt; en
  • Schrappen van de uitzonderingen op het verbod, waarvan onafhankelijke mensenrechtenevaluaties bevestigen dat ze niet voldoen aan de bestaande EU-normen inzake grondrechten.

Om een alomvattende aanpak van de bescherming van biometrische gegevens te waarborgen, verzoeken wij u voorts met klem de door de AI-wet geboden mogelijkheid te benutten om een einde te maken aan discriminerende of manipulatieve vormen van biometrische categorisering, en de risico’s van emotieherkenning naar behoren aan te pakken.

De EU wil een “ecosysteem van vertrouwen en uitmuntendheid” voor AI tot stand brengen en wereldleider worden op het gebied van betrouwbare AI. Om deze doelstellingen te bereiken, moet een einde worden gemaakt aan toepassingen van AI die het vertrouwen ondermijnen, onze rechten schenden en onze openbare ruimtes in een bewakingsnachtmerrie veranderen. We kunnen AI bevorderen die echt in dienst staat van mensen, terwijl we de gevaarlijkste toepassingen van deze krachtige technologie uitroeien.

Daarom moet de EU de mens echt centraal stellen en amendementen indienen op het IMCO-LIBE-rapport over de AI-wet die een echt verbod op biometrische massasurveillancepraktijken garanderen.

Getekend,

Reclaim Your Face

 

Organisatorische ondertekenaars:

Access Now (Internationaal)

AlgorithmWatch (Europees)

Alternatif Bilisim (AIA – Vereniging voor Alternatieve Informatica) (Turkije)

anna elbe – Weitblick für Hamburg (Duitsland)

ARTIKEL 19: Mondiale campagne voor vrije meningsuiting (Internationaal)

Asociatia pentru Tehnologie si Internet – ApTI (Roemenië)

Barracón Digital (Honduras)

Big Brother Watch (UK)

Bits of Freedom (Nederland)

Blueprint for Free Speech (Internationaal)

Centre for Civil Liberties (Oekraïne)

Chaos Computer Club (Duitsland)

Unie van burgerlijke vrijheden voor Europa (Europees)

D3 – Defesa dos Direitos Digitais (Portugal)

Digital Rights Watch (Australië)

Digitalcourage (Duitsland)

Digitale Freiheit (Duitsland)

Digitale Gesellschaft (Duitsland)

Digitale Gesellschaft CH (Zwitserland)

Državljan D / Burger D (Slovenië / Europees)

Eticas Foundation (Europees / Internationaal)

European Center for Not-For-Profit Law Stichting (ECNL) (Europees)

European Digital Rights (EDRi) (Internationaal)

Europees Disability Forum (EDF) (Europees)

Fachbereich Informatik und Gesellschaft, Gesellschaft für Informatik e.V. (Duitsland)

Fair Trails (Internationaal)

Fight for the Future (Verenigde Staten)

Football Supporters Europe (FSE) (Europees)

Hermes Centrum (Italië)

Hiperderecho (Perú)

Homo Digitalis (Griekenland)

Internet Law Reform Dialogue (iLaw) (Thailand)

Internet Protection Society (Rusland/Europees)

Intersection Association for Rights and Freedom (Tunesië)

IT-Pol Denemarken (Denemarken)

International Legal Initiative (Kazachstan)

Iuridicum Remedium (IuRe) (Tsjechische Republiek)

JCA-NET (Japan)

Korean Progressive Network Jinbonet (Republiek Korea)

La Quadrature du Net (Frankrijk)

Lady Lawyer Foundation (Internationaal)

LaLibre.net Tecnologías Counitarias (Ecuador/Latijns-Amerika)

Ligue des droits de l’Homme (LDH) (Frankrijk)

Ligue des droits humains (België)

LOAD e.V. – Association for liberal internet policy (Duitsland)

Masaar – Gemeenschap voor technologie en recht (Egypte)

Panoptykon Foundation (Polen)

Privacy International (Internationaal)

Privacy-network (Italië)

Statewatch (Europa)

Usuarios Digitales (Ecuador)

Wikimedia Deutschland (Duitsland/Europa)

Wikimedia Frankrijk (Frankrijk / Europees)

 

Individuele ondertekenaars:

Douwe Korff, emeritus hoogleraar internationaal recht

Dr Vita Peacock, antropologe

Edson Prestes, hoogleraar, Federale Universiteit van Rio Grande do Sul (Brazilië)

 

1.  Bijvoorbeeld: https://www.aclu.org/news/privacy-technology/i-did-nothing-wrong-i-was-arrested-anyway ; https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html ; https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/; https://edri.org/our-work/dangerous-by-design-a-cautionary-tale-about-facial-recognition/ ;
https://www.law.georgetown.edu/privacy-technology-center/publications/garbage-in-garbage-out-face-recognition-on-flawed-data/

2.  De algemene verordening gegevensbescherming, artikel 9, lid 4, voorziet in aanvullende bescherming van biometrische gegevens: “De lidstaten kunnen met betrekking tot de verwerking van (…) biometrische gegevens nadere voorwaarden, met inbegrip van beperkingen, handhaven of invoeren”.

3.  Dit moet worden ondersteund door een nieuwe overweging om “gebruik op afstand” beter te definiëren als gevallen waarin camera’s/apparaten zijn geïnstalleerd op een afstand die de mogelijkheid schept om meerdere personen te scannen, waardoor in theorie één of meerdere personen zonder hun medeweten kunnen worden geïdentificeerd. Waarschuwingsberichten doen niets af aan een dergelijke definitie.

Initiatief van het maatschappelijk middenveld voor een verbod op biometrische massatoezichtpraktijken

Wij roepen de Europese Commissie op het gebruik van biometrische technologieën strikt te reguleren, om te voorkomen dat de grondrechten onrechtmatig worden geschonden.

Wij verzoeken de Commissie met name om het willekeurige of willekeurige gebruik van biometrische gegevens, dat kan leiden tot onwettig massatoezicht, in rechte en in de praktijk te verbieden. Deze indringende systemen mogen niet worden ontwikkeld, ingevoerd (zelfs niet bij wijze van proef) of gebruikt door openbare of particuliere entiteiten, voor zover zij kunnen leiden tot onnodige of onevenredige inmenging in de grondrechten van mensen.

Uit de feiten blijkt dat het gebruik van biometrische massabewaking in de lidstaten en door de EU-agentschappen heeft geleid tot schendingen van de EU-wetgeving inzake gegevensbescherming, en tot een onrechtmatige beperking van de rechten van mensen, waaronder hun recht op privacy, op vrije meningsuiting, op protest en op non-discriminatie. Het wijdverbreide gebruik van biometrische surveillance, profilering en voorspelling vormt een bedreiging voor de rechtsstaat en onze meest fundamentele vrijheden.

In dit ECI dringen wij er daarom bij de Commissie op aan een wetgevingshandeling voor te stellen die voortbouwt op de algemene verbodsbepalingen in de GDPR en de LED en deze volledig eerbiedigt, om ervoor te zorgen dat de EU-wetgeving biometrisch massatoezicht uitdrukkelijk en specifiek verbiedt.

Laat ook uw stem horen: teken de brief onderaan de website van Reclaim Your Face.

Meld je aan voor de nieuwsbrief