Op de universiteitscampus van NewCastle is in 2011 een interessant experiment uitgevoerd bij de fietsenstalling. Er werden posters opgehangen met daarop ogen afgebeeld en de waarschuwende tekst: ‘Cycle thieves, we are watching you.’ En wat blijkt? Het werkte. In de drie proefstallingen waar de poster te zien was, daalde het aantal diefstallen met 62% in vergelijking met soortgelijke stallingen zonder de opvallende poster. En, opvallend genoeg steeg het aantal diefstallen met 65% in de stallingen waar geen poster hing. Potentiële dieven voelen zich duidelijk ongemakkelijk onder de ‘alziende ogen’ die hen in de gaten houden.
Als een poster met afgebeelde ogen al in staat is ons gedrag te beïnvloeden, kunnen we ons afvragen welke invloed AI-camera’s dan wel niet kunnen hebben.
Onlangs kondigde Jumbo-supermarkten aan kunstmatige intelligentie (AI) te gaan inzetten om ‘afwijkend gedrag’ bij klanten te detecteren.
Een algoritme bepaalt of jij een potentiële winkeldief bent.
Maar dat systeem is niet perfect; het maakt fouten, heeft training nodig en gaat soms te kort door de bocht met zijn oordeel.”
Bij fitnessketen Basic-Fit gaat het nog iets verder en worden AI-gestuurde ‘slimme camera’s’ en sensoren gebruikt om agressie, ongeautoriseerde toegang, gezondheidsproblemen zoals flauwvallen, en andere incidenten te herkennen.
Het gaat niet altijd goed met de slimme camera’s. Dat bleek bijvoorbeeld onlangs nog bij de verkeersboete die iemand kreeg omdat hij niet belde, maar aan zijn oor krabde. Het algoritme van de politiecamera was niet perfect afgesteld waardoor deze automobilist onterecht een bekeuring kreeg.
Natuurlijk is veiligheid belangrijk, en het is nodig om stappen te ondernemen tegen agressie en diefstal. Maar we moeten ook nadenken over de kosten van deze veiligheidsmaatregelen. Zijn we bereid om onze privacy op te geven voor een gevoel van veiligheid? En wat zijn de langetermijneffecten van deze surveillance-maatregelen op onze samenleving?
Het Hawthorne-effect
Studies hebben aangetoond dat wanneer mensen zich bekeken voelen, ze zich anders gaan gedragen. Dit wordt ook wel het “Hawthorne-effect” genoemd. Mensen passen hun gedrag aan de normen en verwachtingen aan, zelfs als dit niet overeenkomt met hun natuurlijke gedrag. In 1791 ontwierp de filosoof Bentham een revolutionaire observatiemethode voor een gevangenis: het ‘panopticum’. Het ontwerp van Bentham heeft een cirkelvormige structuur met in het midden een toren van waaruit gevangenen in de gaten kunnen worden gehouden, zoals de koepelgevangenis in Breda. Dit concept had als doel het gedrag van gevangenen te beheersen en te disciplineren. De gevangenen kunnen niet zien of er iemand in de controlekamer aanwezig is. Hierdoor kan de gevangene dus niet weten of hij daadwerkelijk geobserveerd wordt of niet, maar doordat hij constant de centrale toren voor ogen heeft voelt hij zich altijd bekeken. Hierdoor voelt de gevangene genoeg druk om zich continu te gedragen alsof hij bekeken wordt; zo wordt hij gedwongen zichzelf aan de regels te houden. Dit betekent dat de aanwezigheid van AI-camera’s ons gedrag zal beïnvloeden, zelfs als we ons er niet bewust van zijn.
Het is maar een spelletje
In China wordt er al jaren gewerkt aan het opzetten van een systeem dat het gedrag van haar enorme bevolking in de gaten houdt en rangschikt op basis van hun ‘sociale krediet’. Het plan houdt in dat alle Chinese burgers een bepaalde score krijgen op basis van hun gedrag. Door deze score kunnen mensen op een zwarte lijst worden geplaatst en allerlei (voor)rechten verliezen.
‘Onaangepast’ gedrag kan bijvoorbeeld zijn het niet of niet op tijd betalen van belastingen, roken in de trein, verkeersovertredingen begaan, drugs gebruiken of je hond niet aan de riem houden tijdens het uitlaten of wandelen. Overtredingen worden op verschillende manieren geregistreerd. Steeds vaker gaat dat automatisch. Zo wordt er al geruime tijd geëxperimenteerd met camera’s met gezichtsherkenning bij zebrapaden die registreren wanneer iemand door het rood wandelt.
Momenteel is het systeem echter vrijwillig. Aangezien China geen centraal sociaal kredietsysteem heeft, hebben veel lokale overheidsinstanties geëxperimenteerd met hoe het systeem eruit zou kunnen zien. Dit gebeurt allemaal met een handige app op hun smartphone. Voor veel Chinezen lijkt het een soort leuk spelletje, omdat ze de gevolgen niet direct merken. Toen de Chinese overheid in 2018 in totaal 23 miljoen burgers had verboden een trein- of vliegticket te kopen vanwege een te lage score in het ‘sociaal kredietsysteem’ was het voor die Chinezen geen spelletje meer. Daarvoor dachten ze waarschijnlijk dat ze toch “niets te verbergen” hadden.
Nu zou je kunnen denken: “Dat gaat hier nooit gebeuren. Wij leven in een democratie!”, maar technologie gaat zo snel dat we soms niet beseffen hoe het onze levens beïnvloedt en wat de gevolgen zijn op lange termijn. Als we van Nederland een plek maken waar iedereen in de gaten gehouden en beoordeeld wordt om een paar boeven te vangen leveren we allemaal in op vrijheid. Dan hebben we met elkaar als het ware een samenleving gecreëerd die lijkt op een gevangenis, terwijl de echte boeven nog steeds manieren vinden om hun gang te gaan. Dat is een dure prijs voor het gevoel van (iets meer) veiligheid en gemak.
Dans alsof niemand kijkt
Onze taak is ervoor te zorgen dat we de samenleving niet laten veranderen in een samenleving waarin surveillance en controle de norm zijn. Privacy is belangrijk omdat het ons de ruimte geeft om dingen te doen die waardevol zijn voor ons als mensen. Het is als een plek waar we uniek kunnen zijn, waar we nieuwe dingen kunnen proberen, creatief kunnen denken en onze eigen grenzen kunnen ontdekken en testen. Het is een plek waar we ruimte hebben om fouten te maken en ze zelf te corrigeren. Laat je niet wijsmaken dat privacy iets heeft te maken met het “verbergen van dingen”.
Toen ik zelf 14 jaar oud was, kon ik nog onbezorgd gek doen, fouten maken en een keer door de grond zakken, zonder me zorgen te hoeven maken dat mijn omstanders alles zouden filmen om het vervolgens op TikTok te delen voor likes. De huidige generatie kent deze vrijheid niet meer.
Als veiligheid zwaarder wordt gewogen dan vrijheid, worden er maatregelen genomen om risico’s te verminderen, zoals strengere wetten, meer surveillance, en beperkingen op bepaalde vrijheden. Dit kan leiden tot een meer gecontroleerde samenleving waarin individuele vrijheden mogelijk worden ingeperkt ten gunste van algemene veiligheid.
Misschien heb je een Nest deurbel om je huis te beveiligen. Wat veel mensen niet beseffen is dat de politie burgers met grote regelmaat vraagt om videobeelden die door hun deurbelcamera zijn opgenomen af te staan. Weigeren is strafbaar. Ook advocaten maken zich zorgen om het feit dat de politie steeds vaker videobeelden van burgers vordert. Bij vordering moeten Nederlanders namelijk ook hun naam en adres opgeven. Privégegevens van burgers kunnen zo ongewenst in strafdossiers terecht komen. Geen prettig idee. Maar je hebt je keuzevrijheid ingeleverd toen je koos voor een stukje veiligheid (of gemak).
Laten we ervoor zorgen dat we deze surveillance ontwikkeling kritisch blijven volgen en ons inzetten voor een samenleving waarin privacy en vrijheid gewaarborgd blijven.
Je hebt misschien niets te verbergen, maar wel een hoop te verliezen.
