Verdachte pakketjes, menigten, branden... Senator stelt algoritmische videobewaking te veralgemeniseren

Senator Horizons Pierre-Jean Verzelen, initiatiefnemer van dit wetsvoorstel, is van mening dat «Frankrijk niet aan de zijlijn kan blijven van deze ontwikkeling», ondanks aanhoudende vragen over de effectiviteit en het kader van deze met AI uitgeruste camera's.

Binnenkort videobewakingscamera's uitgerust met artificiële intelligentie in de openbare ruimte? Senator Horizons Pierre-Jean Verzelen heeft zojuist een wetsvoorstel ingediend om «algoritmische videobescherming te veralgemenen», bijna twee jaar na het experiment dat werd uitgevoerd tijdens de Olympische Spelen van Parijs 2024 — en sindsdien verlengd tot 2027. «Algoritmische videobescherming is al ingezet in België en het Verenigd Koninkrijk. Frankrijk kan niet aan de zijlijn blijven van deze ontwikkeling», oordeelt het verkozene uit Aisne. «De Olympische Spelen van 2024 hebben het bewezen: we hebben de middelen om technologie in te zetten ten dienste van de veiligheid van burgers, onder menselijk toezicht, zonder algemene gezichtsherkenning en zonder aanleg van biometrische bestanden.»

De tekst van de centristische senator bepaalt dat «beelden verzameld door middel van videobeschermingssystemen [...] het voorwerp kunnen uitmaken van verwerkingen die een systeem van artificiële intelligentie omvatten» om «de veiligheid van personen en goederen te beschermen en elke aantasting van de openbare orde te voorkomen». Deze apparaten zouden als taak hebben om in real time «vooraf bepaalde gebeurtenissen die risico's voor de veiligheid kunnen vormen of doen blijken» te detecteren, alvorens deze te melden aan de politiediensten, hulpdiensten, maar ook aan de veiligheidsdiensten van de SNCF of de RATP. Concreet berust algoritmische videobewaking op zogenaamd «versterkte» camera's, die in staat zijn beelden automatisch te analyseren via algoritmen van artificiële intelligentie (AI). Deze kunnen bijvoorbeeld menigbewegingen detecteren, inbreuken in verboden zones, achtergelaten pakketjes, brandhaarden of ook als abnormaal beoordeeld gedrag.

De centristische senator heeft echter diverse waarborgen ingebouwd. Zijn wetsvoorstel preciseert dat deze algoritmische verwerkingen «geen enkel biometrisch identificatiesysteem gebruiken», «geen biometrische gegevens verwerken» en «geen enkele techniek van gezichtsherkenning toepassen». Ze zouden ook beperkt zijn tot een eenvoudige «attentiemelding» en «kunnen op zichzelf geen enkele individuele beslissing gronden».

Frankrijk had dit type camera's al uitzonderlijk getest tijdens de Olympische Spelen van Parijs 2024. In een rapport gepubliceerd in januari 2025 had het evaluatiecomité dat was belast met de analyse van het systeem de prestaties «over het algemeen bevredigend» bevonden in bepaalde situaties, met name voor «de indringing van individuen of voertuigen in een niet-toegestane zone» of ook «de personendichtheid». Het rapport wees echter op verschillende technische beperkingen. De software had soms moeite om te dicht opeengepakte groepen te tellen «vanwege de plaatsingshoogte van de camera's». Het systeem was ook «minder effectief wanneer er weinig verlichting is». De evaluatoren spraken ook van een «lage technologische maturiteit», waarbij bepaalde algoritmen etalages van winkels of koplampen van auto's verwarren met brandhaarden.

Vóór de Olympische Spelen hadden al meerdere gemeenten experimenten opgestart. In Nice waren algoritmische videobewakingscamera's met name al sinds 2020 gebruikt om voertuigen te signaleren die langer dan vijf minuten voor scholen geparkeerd stonden, voordat de Cnil haar oplegde dit systeem in mei 2025 los te koppelen. Een beslissing die door de Raad van State in januari 2026 werd bevestigd. Cannes heeft zich eveneens opgeworpen als een van de pioniersteden op dit vlak. Tijdens het Festival de Cannes 2024 waren 17 «versterkte» camera's rondom het Palais des Festivals ingezet om achtergelaten pakketjes, menigbewegingen of brandhaarden te detecteren. De stad beroepte zich eind vorig jaar op meer dan 1000 camera's en zet haar experimenten op het gebied van artificiële intelligentie voort.

Het initiatief van Pierre-Jean Verzelen is te onderscheiden van het experiment, medio februari gestemd in de Assemblée, van algoritmische videobewaking in winkels, om in real time diefstallen in winkels te identificeren. Deze bepaling is sindsdien in de vorm van een amendement opgenomen in het wetsvoorstel «Ripost», dat maandag in de Senaat wordt behandeld en waarvan de plechtige stemming in de Hoge Kamer gepland is op 26 mei. Pierre-Jean Verzelen is ook van plan zijn tekst in de vorm van een amendement op het wetsvoorstel «Ripost» voor te stellen.