Steeds vaker wordt geëxperimenteerd met AI-camera’s: Is het gebruik daarvan veilig?
Camera’s zijn overal: tijdens het doen van je boodschappen tot het reizen met de trein. Steeds vaker worden traditionele camera’s vervangen door slimme camera’s. Deze camera’s zijn gedreven door kunstmatige intelligentie, handig om verdachte bewegingen te analyseren. Toch brengt de inzet van deze AI-camera’s ook risico’s met zich mee. Is het wel duidelijk wanneer je wordt gefilmd via AI-camera’s? En wat gebeurt er met de analyses die van jou worden gemaakt? Radar zoekt het uit.
De opkomst van AI-camera’s
Steeds vaker worden AI-camera’s gebruikt voor toezicht of bescherming. Zo vervangt de Nederlandse spoorwegbeheerder ProRail 288 camera’s voor slimme camera’s. Daarover schrijft ze op haar webpagina: “Met slimme camera’s kunnen we sneller reageren op situaties die gevaarlijk zijn. Denk aan mensen die het spoor op lopen, stilgevallen voertuigen bij bewegingen, koperdiefstal of vandalisme.”
Ook supermarktketens experimenteren met de toepassing van kunstmatige intelligentie. Radar stelde vragen aan een aantal Nederlandse winkeliers. Over het gebruik van AI-camera’s vertelt ALDI: “Wij gebruiken camera’s met kunstmatige intelligentie in één testwinkel in Eindhoven. Daar testen we momenteel een op computervisie gebaseerd zelfbedieningssysteem.”
Ook de Lidl experimenteert met AI-technologie in hun camerasysteem. De supermarkt vertelt: “Deze technologie wordt uitsluitend ingezet om het scanproces bij de zelfscankassa’s te ondersteunen en te optimaliseren. Een concreet voorbeeld hiervan is de automatische productherkenning van groenten en fruit. Er vindt geen identificatie van individuele klanten plaats en we maken geen gebruik van biometrische gegevens zoals gezichtsherkenning.”
Bezorgde geluiden
Hoewel slimme camera’s veel voordelen kunnen hebben, klinken er ook bezorgde geluiden over deze ontwikkeling. De Autoriteit Persoonsgegevens (AP) vertelt ons: “Mensen worden niet meer alleen gefilmd, maar in real-time continu geanalyseerd om bepaalde informatie over hen te verzamelen. Hierbij worden ook nieuwe persoonsgegevens gegenereerd, zoals het benoemen van iemand als ‘verdacht’.”
De autoriteit vervolgt: “AI-camera’s maken namelijk gebruik van een (risico)score om bepaald gedrag op te sporen. Deze scores zijn vaak ook persoonsgegevens. In dat licht betwijfelt de AP de rechtmatigheid van de inzet van AI-camera’s in supermarkten, waarbij camera’s niet alleen registeren wat mensen doen, maar ook proberen te analyseren hoe zij zich gedragen.”
“De inzet van AI-camera’s in supermarkten zonder menselijke tussenkomst is in ieder geval verboden. Ook ziet de AP risico’s voor de fundamentele rechten en vrijheden van mensen bij de inzet van AI-camera’s, waaronder autonomie, keuzevrijheid en de mogelijkheid tot vrije persoonlijke ontwikkeling.”
De inzet van AI-camera’s in supermarkten zonder menselijke tussenkomst is in ieder geval verboden.Woordvoerder Autoriteit Persoonsgegevens
Risico’s voor de openbare ruimte
Ook de digitale burgerrechtenorganisatie Bits of Freedom betwijfelt de veiligheid van AI-technologie bij camerasystemen. “Je kunt op vrijwel elk moment dat je je in de openbare ruimte begeeft gevolgd worden. Dat zorgt ervoor dat we niet echt meer kunnen spreken over een vrije en open samenleving en dat heeft veel impact op de maatschappij en op mensen,” aldus Nadia Benaissa, beleidsadviseur bij Bits of Freedom.
Ze vervolgt: “Privacy is zo’n belangrijk recht dat het is opgenomen als grondrecht en internationaal mensenrecht. Maar als je continu gevolgd wordt of kan worden, kun je je dus eigenlijk niet vrij bewegen. Je kunt je dan afvragen of het effect daarvan heel anders is op mensen dan wanneer je in een politiestaat woont waarbij op elke hoek van de straat een agent staat om je vragen wie je bent en wat je doet.”
Hoe zit het met de wet- en regelgeving?
Vanwege de zorgen rondom de toepassing van kunstmatige intelligentie is de Europese wet AI-verordening aangenomen. “Het bevat regels voor een verantwoorde ontwikkeling en toepassing van AI door bedrijven, overheidsinstanties en andere organisaties,” beschrijft de AP op hun webpagina.
De wet wordt stapsgewijs geïmplementeerd en zal op 2 augustus 2027 volledig van toepassing zijn. “In de AI-verordening is een verbod opgenomen dat gaat over het gebruik van biometrische identificatie, op afstand, in real time, in de openbare ruimte met het oog op rechtshandhaving,” legt Bits of Freedom uit. Aan biometrische gegevens kun je ieder uniek persoon herkennen, zoals de manier waarop je loopt of je gezichtsuitdrukking.
De digitale burgerrechtenorganisatie vervolgt: “Ook is het dankzij deze wet niet toegestaan om databanken aan te leggen met het gebruik van gezichtsherkenning.”
AI-camera’s tussen de supermarktschappen
Om een beeld te krijgen van de slimme camera’s in supermarkten, stelde Radar een aantal vragen aan de Nederlandse winkelketens. Naast de ALDI en de Lidl, maken ook enkele winkels van de PLUS gebruik van AI-camera’s. Welke ketens van de coöperatie PLUS hiervan gebruik maken, kan de PLUS ons niet duiden: “Wij weten dat er een aantal ondernemers zijn die AI-camerasystemen gebruiken of in het verleden gebruikt hebben, maar hebben niet in kaart wie dat specifiek zijn.”
De winkel vervolgt: “Vanuit het centrale beleid maken wij geen gebruik van gezichtsherkenning of kunstmatige intelligentie met betrekking tot de camerasystemen.” De Dirk, Albert Heijn en Jumbo vertellen ons geen gebruik te maken van slimme camera’s.
Wel onderzoekt de Jumbo het mogelijk gebruik van deze camera’s. “We onderzoeken mogelijkheden om meer gebruik te maken van slimme technieken op camerasystemen in de strijd tegen georganiseerde winkeldiefstal. Er zijn op dit vlak nog geen concrete ontwikkelingen hierover te melden.”
Wat moet je weten?
Om duidelijkheid te krijgen over jouw rechten rondom de opkomst van AI-camera's, stelde Radar een aantal vragen aan de AP. Daarop lichtte de AP vier belangrijke aspecten toe.
Dit zijn jouw rechten:
Je hebt het recht om te weten welke gegevens worden verwerkt.
Wanneer een winkel persoonsgegevens verzamelt, gebruikt of bewaart van mensen, dan hebben de mensen het recht om te weten welke gegevens van hen worden verwerkt. Er zijn geen specifieke eisen over de vorm van deze communicatie. Wel moet de communicatie over de verwerking transparant en begrijpelijk zijn, ook voor kinderen.
Winkels moeten transparant zijn over algoritmes
Als winkels algoritmes gebruiken waarbij persoonsgegevens van mensen worden verzameld en gebruikt, dan moet de winkel hierover transparant zijn. Bij AI-camera’s is dit extra belangrijk. Mensen gaan er meestal namelijk niet van uit dat wanneer cameratoezicht aanwezig is, er ook sprake is van een AI systeem dat mensen geautomatiseerd analyseert.
De bewaartermijn mag niet langer zijn dan voor de doelen waarvoor de gegevens zijn verzameld.
De AP geeft niet concreet aan hoe lang dat bewaartermijn mag en kan zijn.
Je hebt als consument het recht om bezwaar te maken.
Wanneer supermarkten gebruik maken van AI-camera’s op basis van de grondslag gerechtvaardigd belang, geef je als consument geen expliciete toestemming voor de verwerking. Je kunt bezwaar maken door een voorbeeldbrief bezwaar specifieke situatie te richten aan de organisatie.