| Ingediend | 28 augustus 2023 |
|---|---|
| Beantwoord | 13 oktober 2023 (na 46 dagen) |
| Indiener | Hind Dekker-Abdulaziz (D66) |
| Beantwoord door | Dilan Yeşilgöz-Zegerius (minister justitie en veiligheid) (VVD) |
| Onderwerpen | openbare orde en veiligheid politie, brandweer en hulpdiensten recht staatsrecht |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2023Z14315.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20232024-222.html |
De politie zet algoritmes in als ondersteuning van het politiewerk, bijvoorbeeld in toepassingen voor het doorzoeken van in beslaggenomen gegevensdragers op afbeeldingen met beeldherkenning. Het gebruik van algoritmes versnelt het werk van rechercheurs en maakt het werk effectiever en efficiënter.
Ook het Risico Taxatie Instrument Geweld (hierna: RTI-G) werd ingezet ter ondersteuning van het politiewerk. Het RTI-G werd nooit op zichzelf gebruikt en werd altijd door politiemedewerkers geduid (human in the loop), waarbij het doel was om te signaleren- en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan.
Ik vind het belangrijk dat de menselijke tussenkomst bij het gebruik van algoritmes voldoende geborgd is in de organisatie, zodat risico’s zoals die in het artikel worden aangehaald gemitigeerd kunnen worden. Indien de effectiviteit van een algoritme twijfelachtig is zou dat algoritme niet gebruikt moeten worden. De politie heeft de inzet van het algoritme RTI-G recent opnieuw tegen het licht gehouden. Omdat nut, noodzaak en kwaliteit hiervan onvoldoende te onderbouwen zijn, heeft de politie het gebruik van RTI-G gestopt.
Het RTI-G was geen zelflerend algoritme.
In algoritmes (en ook in bijvoorbeeld het maken van handmatige selecties) die consequenties hebben voor individuele personen bestaat de mogelijkheid van een discriminerende werking, ook als er andere factoren dan geslacht en leeftijd worden gebruikt. Het is daarom belangrijk dat er doorlopende controle en evaluatie plaatsvindt op het algoritme om te bezien of (soms ongemerkt) sprake is van directe of indirecte discriminatie. Belangrijk daarbij is de manier waarop een algoritme wordt ingezet, en bijvoorbeeld de wijze waarop menselijke tussenkomst geborgd is.
De politie heeft bij mij aangegeven dat er geen onderzoek is gedaan naar in hoeverre er sprake zou kunnen zijn van confirmation bias in het RTI-G. Omdat het niet meer in gebruik is, zal er geen onderzoek meer plaatsvinden.
De politie heeft geen gegevens om deze vragen te beantwoorden. Het gebruik van het RTI-G is gestopt.
In de periode dat het RTI-G werd gebruikt, werden rapportages opgesteld die geraadpleegd konden worden, maar niet werden vastgelegd in de politiesystemen.
De politie heeft aangegeven inmiddels met het gebruik van RTI-G te zijn gestopt.
Voor zover bekend is niet uit te sluiten dat hiervan sprake is geweest voor 2017. Afkomst of etniciteit mag niet meewegen in een risico-taxatie gericht op geweldpleging. De factor etniciteit is in 2017 uit het algoritme gehaald. Sindsdien wordt deze variabele niet meer gebruikt. De politie is inmiddels gestopt met het gebruik van RTI-G.
Personen kunnen zich niet altijd verzetten of verdedigen tegen de inzet van een specifiek middel door de politie. Dat geldt in principe voor veel middelen die de politie inzet, waaronder het gebruik van een algoritme maar ook bijvoorbeeld het vorderen door een agent van een identiteitsbewijs ter controle, of het gebruik van camera’s op straat. Dit is niet mogelijk omdat het zou betekenen dat een verdachte gedurende het opsporingsonderzoek geïnformeerd moet worden over het feit dat hij of zij verdacht wordt. Wanneer een onderzoek naar een persoon naar de rechter gaat, is er wel mogelijkheid tot verzet tegen algoritmes die zijn ingezet.
Op het moment dat er gestart werd met de persoonsgerichte aanpak, waarnaar verwezen wordt in het artikel, zijn de betrokken personen daarover geïnformeerd.
De politie heeft aangegeven inmiddels met het gebruik van RTI-G te zijn gestopt.
Zie antwoord vraag 8.
Hierbij deel ik u mede dat de schriftelijke vragen van het lid Dekker-Abdulaziz (D66), van uw Kamer aan de Minister van Justitie en Veiligheid over het voorspellend algoritme van de politie (ingezonden 28 augustus 2023) niet binnen de gebruikelijke termijn kunnen worden beantwoord, aangezien nog niet alle benodigde informatie is ontvangen. Ik streef ernaar de vragen zo spoedig mogelijk te beantwoorden.