maandag, 04 maart 2024 11:35

AI- camerasysteem supermarkt- ook zaak van publiek belang

In oktober 2023 liet de eigenaar van Boon’s supermarkt in het centrum van Utrecht een camera surveillance systeem installeren dat gebruik maakt van artificiële/kunstmatige intelligentie (AI). Om onopgehelderde reden ontstond hier in februari dit jaar ineens landelijke media aandacht voor. Omdat toen pas doordrong dat er best grote bezwaren kleven aan de opmars van dergelijke systemen. Vrijbit heeft per brief aan B&W van Utrecht duidelijk gemaakt dat het daarbij niet uitsluitend om een private zaak van een particuliere ondernemer gaat maar wel degelijk ook een zaak van publiek belang vormt waar het stadsbestuur, vanwege de zorgplicht voor haar inwoners, een rol in dient te spelen.

Ogenschijnlijk gaat het hier immers om een particuliere winkel die zich met dit systeem hoopt te vrijwaren van winkeldiefstal en lijkt dit geen zaak van publiek belang omdat mensen niet verplicht zijn om in de betreffende winkel hun boodschappen te doen.

Dat zou op zich geen probleem zijn in geval deze kruidenier A. de enige ondernemer in Utrecht was die zo’n herkenningsdetectiesysteem zou gebruiken. En B. mits daarbij de mensen voordat zij die de winkel betreden duidelijk wordt gemaakt dat zij binnen constant zullen worden gefilmd. Zodat het beeldmateriaal- waaronder voor gezichtsherkenning geschikte opnamen- beschikbaar komen voor een zelflerend kunstmatige intelligentie systeem en uitwisseling met andere computersystemen.

Toch ligt dat volgens Vrijbit genuanceerder omdat het gaat over een onderneming die de inwoners voorziet van eerste levensbehoeften. Want wat nou als alle supermarkten de raad van de betreffende ondernemer ‘Ik raad dit iedere winkelier aan’ ter harte zouden nemen? En als de wildgroei van deze AI surveillance systemen zich zou uitstekken tot alle ondernemingen en instellingen waar iedereen van afhankelijk is voor de eerste levensbehoeften. Te denken valt dan aan apotheken en onderwijsinstellingen bijvoorbeeld. Dan ontstaat er een systeemdwang waarbij het fundamentele mensenrecht op bescherming van een privéleven voor onschuldige burgers wordt aangetast en waarbij de pijler van het onschuldsprincipe onder de rechtsstaat instort.

Vandaar dat Vrijbit het stadsbestuur heeft opgeroepen:

  • Om een inventarisatie bij te houden van waar in de stad dergelijke systemen worden geëxploiteerd,
  • Onderzoek te laten doen naar de manier waarop deze AI-surveillance systemen functioneren,
  • Te overwegen of ondernemers die de bewoners voorzien van eerste levensbehoeften wel gerechtigd zijn om bij gebruik van AI-surveillance systemen een vergunning te krijgen of te behouden.

Waarbij we niet moeten vergeten dat de consequenties van het gebruik van dergelijke particuliere camerasystemen door politie en justitie als een gratis aan te boren goudmijn zullen worden beschouwd, omdat men daarmee- net als met het ‘ Camera in Beeld’ systeem intensief gebruik kan maken bewakingscamera systemen ook wanneer deze niet voldoen aan wettelijke bepalingen.