De toenemende online lhbti+-haat |
|
Bouchallikh , Lisa Westerveld (GL) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Robbert Dijkgraaf (minister onderwijs, cultuur en wetenschap) (D66) |
|
Heeft u kennisgenomen van het artikel «Tijd voor geweld tegen deze lui» over de toenemende online lhbti+-haat?1
Ja, daar ben ik bekend mee.
Wat vindt u van de bevindingen van het onderzoek dat op alle digitale platformen de vijandigheid richting lhbti+-groepen groeit en dat met name homo- en transfobie online razendsnel zijn toegenomen? Deelt u de mening dat een stijging van anti-transgeluid van 67 procent onacceptabel is?
Ik vind de bevindingen van dit onderzoek verontrustend. Ook in de online omgeving is geen plaats voor homo- en transfobie en andere haatzaaiende discriminatoire uitingen. Iedereen, dus ook de gehele lesbische, homoseksuele, bi+, transgender, intersekse en queer (lhbtiq+) gemeenschap, moet zichtbaar zichzelf kunnen zijn zonder (online) dreiging van wie dan ook. Iedere vorm van discriminatie is volstrekt ontoelaatbaar in onze samenleving. Het gevoel van onveiligheid dat hiermee gemoeid gaat veroorzaakt veel leed en dat is onacceptabel. Deze ontwikkelingen staan haaks op het Nederlands antidiscriminatie- en emancipatiebeleid waar Nederland voor staat.
Welke aantoonbaar succesvolle maatregelen zijn er beschikbaar om homo- en transfobie online en in de publieke ruimte te lijf te gaan? Wordt hier volop gebruik van gemaakt in Nederland en is dit succesvol geweest? Zijn deze maatregelen preventief of repressief?
Het kabinet vindt het belangrijk om discriminatie, waaronder homo- en transfobie, online en in de publieke ruimte tegen te gaan. Het kabinet voert een actief antidiscriminatie en emancipatiebeleid. In de Emancipatienota 2022–2025 heeft het kabinet een overzicht gegeven van de maatregelen die het kabinet neemt om de emancipatie van lhbtiq+ personen te stimuleren.2 Het Ministerie van OCW zet zich onder andere in op het verbeteren van welzijn, sociale acceptatie en sociale veiligheid van lhbtiq+ personen door samen te werken met gemeenten in
Nederland, de Regenboogsteden en met Regenboogprovincies. Op het punt van veiligheid zet dit kabinet in op discriminatierechercheurs, versterken van het politienetwerk «Roze in Blauw», aanpassingen in het curriculum van politieopleidingen en hogere straffen bij discriminerend geweld. Ook is op 28 september 2023 de aftrap geweest van «Ons voetbal is van iedereen» (OVIVI) 2.0. Dit is een gezamenlijk initiatief van de Ministeries van VWS, SZW, JenV en de KNVB, dat inzet op een effectieve aanpak van discriminatie en racisme in het voetbal waarbij racisme en discriminatie (zoals homofobe uitingen, gedragingen of spreekkoren) op en rond de voetbalvelden niet wordt getolereerd.
Het kabinet evalueert momenteel de maatregelen uit het Actieplan Veiligheid LHBTI 2019–2022. Deze maatregelen richtten zich met name op de strafrechtelijke aanpak van discriminatie en het bevorderen van het gevoel van fysieke veiligheid bij de doelgroep. Daarnaast wordt in het voorjaar van 2024 een onderzoek opgeleverd dat inzicht zal geven in daders van geweld tegen lhbti personen. De uitkomsten van bovengenoemde trajecten zullen een belangrijke basis vormen voor het bepalen van de vervolginzet. De veiligheid van lhbtiq+ personen blijft onverminderd een aandachtspunt.
Daarnaast heeft het Kennisplatform Inclusief Samenleven (KIS) in 2022 onderzoek gepubliceerd over de Nederlandse aanpak van online discriminatie door verschillende stakeholders, waaronder de overheid.3 In het rapport worden verbeterkansen van deze aanpak, alsmede effectieve preventieve en repressieve maatregelen geïdentificeerd. Zo deed KIS de aanbeveling om voor meer bekendheid van het centrale meldpunt voor online discriminatie te zorgen: het Meld. Online Discriminatie (voorheen: Meldpunt internetdiscriminatie (MiND)).
Bij het Meld. Online Discriminatie kunnen slachtoffers van online strafbare discriminatoire content terecht. Indien hiervan sprake is, wordt door het meldpunt naar de internettussenpersoon bij wie deze content staat een verwijderverzoek gestuurd. Het Meld. Online Discriminatie heeft in 2023 concrete stappen gezet om de naamsbekendheid en vindbaarheid van het meldpunt te vergroten. Een voorbeeld hiervan is de naamswijziging van het meldpunt.
Ook benoemt KIS het gebruik maken van kunstmatige intelligentie als een kans voor verbeterde moderatie. Het Ministerie van Sociale Zaken en Werkgelegenheid (SZW) is in het kader hiervan in 2023 een pilot gestart om te onderzoeken welke uitdagingen kleine en middelgrote sociale mediaplatformen ervaren in het modereren van hun content. Binnen deze pilot wordt bekeken of, en onder welke voorwaarden, kunstmatige intelligentie hier ondersteunend in kan zijn.
Ten slotte is de strafrechtelijke aanpak van discriminatie van belang. In de Aanwijzing discriminatie van het Openbaar Ministerie (OM) is vastgelegd dat dit discriminatieaspect als strafverzwarende omstandigheid in de eis van de Officier van Justitie dient te worden betrokken. Concreet betekent dit dat bij een ingrijpend strafbaar feit met een discriminatieaspect staat voorgeschreven dat de verdachte moet worden gedagvaard en dat het uitgangspunt bij de strafeis een strafverzwaring van 100% is ten opzichte van het uitgangspunt in de richtlijn van het betreffende commune delict.
Hoe groot is de verantwoordelijkheid van de platformen om tegen online lhbti+-haat op te treden? Vertrouwt u deze taken aan de platformen toe? Waarom wel of waarom niet? Welk toezicht wordt gehouden op de acties van platformen om de vrijheid en veiligheid van lhbti+»ers online te beschermen?
De internetsector speelt een belangrijke rol in het veilig houden van de online omgeving en in het bestrijden van de verspreiding van content die de veiligheid van burgers en instituties ondermijnt. Omwille van dit belang zet het kabinet in op een goede samenwerking met de internetsector. We treden in dialoog met verschillende departementen, OM, politie en de verschillende soorten aanbieders in de internetsector. Bijvoorbeeld via de «publiek-private samenwerking online content moderatie» (Procom).
Bovendien zijn er de afgelopen jaren allerlei nieuwe verplichtingen gekomen voor tussenhandeldiensten, waaronder online platformen, om de uitwassen van hun diensten aan te pakken. Het betreft onder meer de Digital Services Act (DSA). De Digital Services Act bevat zowel regels voor illegale content als een kader voor de omgang met zeer schadelijke content. Lhbtiq+-haat kan in potentie beide vormen aannemen. Wanneer er sprake is van illegale content dan worden online platforms bijvoorbeeld verplicht om gebruikers in staat te stellen om daar een melding van te doen. De DSA stelt een aantal eisen voor de zorgvuldige behandeling van die meldingen. Belangrijk in dit kader is dat een melding ertoe kan leiden dat het online platform kennis heeft van die inhoud. Zodra die kennis er is, moet het platform prompt handelen om de illegale inhoud te verwijderen of de toegang daartoe onmogelijk te maken. Doet een online platform dat niet, dan kan dit resulteren in aansprakelijkheid. De DSA schrijft bovendien voor dat gebruikers de mogelijkheid moeten hebben om een klacht in te dienen over de afhandeling van hun melding. Verder moeten online platformen beleid hebben voor de omgang met gebruikers die frequent kennelijk illegale inhoud verstrekken.
Vanaf 17 februari 2024 geldt de DSA voor alle tussenhandeldiensten. Sinds 25 augustus jl. is de DSA reeds van toepassing op zogenaamde zeer grote online platformen en zeer grote online zoekmachines. Deze partijen moeten aan extra strenge zorgvuldigheidsverplichtingen voldoen, waaronder de verplichting om de zogenaamde systeemrisico's die voortvloeien uit hun diensten of algoritmes, te beoordelen en te beperken. Systeemrisco’s omvatten onder meer de verspreiding van illegale inhoud, zoals illegale haatzaaiende uitlatingen of content die werkelijke of voorzienbare negatieve effecten heeft op grondrechten, verkiezingsprocessen, de volksgezondheid, minderjarigen en gendergerelateerd geweld. Het is voorstelbaar dat er vormen van lhbtiq+-haat zijn die dusdanig ernstige vormen aannemen dat ze een systeemrisico vormen, en online platformen dus maatregelen moeten treffen om daar iets tegen te doen. Zie voor meer informatie het antwoord op vraag 6.
Welke verantwoordelijkheid ziet u voor uzelf weggelegd om dit tegen te gaan? Heeft u voldoende grip op online platformen om hierin op te treden?
Het toezicht over de DSA is verdeeld over de Europese Commissie en nationale toezichthouders. Het toezicht op de zeer grote online platformen en zeer grote online zoekmachines ligt voor wat betreft de bestrijding van systeemrisico’s bij de Europese Commissie. Voor het overige geldt dat de toezichthouder uit de lidstaat van vestiging bevoegd is.
De invoering van de DSA is een mooie stap, maar niet alomvattend. Voor een effectieve aanpak van online discriminatie, is inzet van veel partijen in onze samenleving nodig. Het kabinet en maatschappelijke partijen hebben in de afgelopen jaren een aantal belangrijke stappen gezet om het complexe probleem van ongewenst online gedrag beter in kaart te brengen en aan te pakken. De Ministers van Binnenlandse Zaken en Koninkrijksrelaties (BZK), Justitie en Veiligheid (JenV), Sociale Zaken en Werkgelegenheid (SZW), Onderwijs, Cultuur en Wetenschap (OCW) en Langdurige Zorg en Sport hebben de Tweede Kamer op 22 februari een Kamerbrief4 gestuurd over online discriminatie, racisme en hate speech. In de brief is een inventarisatie gemaakt van lopend beleid en wordt benadrukt dat het kabinet de komende jaren inzet op een meer geïntegreerde, samenhangende en gestructureerde aanpak. Deze aanpak zal vorm krijgen aan de hand van de pijlers ondersteuning van slachtoffers, handhaving en wet- en regelgeving, preventie en bewustwording, betere registratie en onderzoek, zoals ook wordt opgeroepen in de aanbeveling van de Raad van Europa. Deze pijlers worden op dit moment uitgewerkt tot concrete acties door een interdepartementale werkgroep. Deze uitwerking vindt onder andere plaats door sessies met het veld over deze thematiek. Zo vinden er dit najaar bijvoorbeeld twee sessies plaats over de ondersteuningsbehoefte van slachtoffers van online discriminatie.
Tot slot is het kabinet bezig met het opstellen van een Versterkte Aanpak Online inzake extremistische en terroristische content. Hierover wordt uw Kamer binnenkort op nadere wijze geïnformeerd. Deze aanpak zal zich richten op de dialoog met de internetsector, wet en -regelgeving, de lokale aanpak en de internationale inzet.5 Tevens heeft de Minister van Justitie en Veiligheid recentelijk het WODC-onderzoek «rechts-extremisme op sociale mediaplatforms? Ontwikkelingspaden & handelingsperspectieven» verzonden.6 In dit waardevolle onderzoek worden handelingsperspectieven ten aanzien van de internetsector weergegeven. De aanbevelingen van dit onderzoek worden nader bestudeerd en gebruikt bij de Versterkte Aanpak Online inzake extremistische en terroristische content.
Welke voorschriften uit de Digital Services Act (DSA) en Digital Markets Act (DMA) voorzien in het bestrijden van online lhbti+-haat en het zonder uitleg verwijderen van lhbti+-content? Zijn deze voorschriften toereikend? Zo niet, op welk vlak moeten deze richtlijnen nog worden aangescherpt om de aanpak te verbeteren?
De DMA bevat geen specifieke regels betreffende lhtbi+-haat. Wel bevat de DSA een aantal regels die in dit kader van betekenis kunnen zijn. Deze zijn reeds gedeeltelijk beschreven in het antwoord op vraag 4.
Voor het zonder uitleg verwijderen van lhbtiq+-content is verder artikel 17 van de DSA relevant. Dit artikel schrijft voor dat online platformen bij het verwijderen van content een duidelijke en specifieke motivering moeten geven wanneer zij besluiten om informatie te verwijderen. Gebruikers moeten op grond van artikel 20 bovendien een klacht kunnen indienen over deze en andere moderatiebesluiten van online platforms. Wanneer lhbtiq+-haat de vorm van bijvoorbeeld strafbare haatzaaiing aanneemt, dan kan er op grond van artikel 16 melding van worden gemaakt bij het betreffende online platform. Die moet zo’n melding op tijdige, zorgvuldige, niet-willekeurige en objectieve wijze verwerken.
Relevant zijn mogelijk ook artikel 34 en 35 van de DSA, die uitsluitend gelden voor zogenaamde zeer grote online platformen- en zoekmachines. Deze partijen hebben maandelijks meer dan 45 miljoen actieve gebruikers in de Unie en moeten als zodanig zijn aangewezen door de Europese Commissie. Op grond van deze bepalingen moeten dergelijke partijen de zogenaamde systeemrisico’s die voortvloeien uit het ontwerp of uit de werking van hun dienst identificeren en beperken. Eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van grondrechten, zoals het grondrecht op non-discriminatie, of gendergeralateerd geweld kunnen een dergelijk systeemrisico vormen. Toezicht hierop ligt bij de Europese Commissie.
Zoals gezegd geldt de DSA sinds 25 augustus jl. voor de zeer grote online platforms en zeer grote online zoekmachines. Voor het overige wordt de DSA met ingang van 17 februari 2024 van toepassing. Het is dus nog te vroeg om uitspraken te doen over de vraag of deze voorschriften al dan niet toereikend zijn.
De DMA bevat regels over kernplatformdiensten die poortwachters verlenen of aanbieden aan zakelijke gebruikers en gaat dus niet over de wijze waarop online platformen omgaan met de inhoud van gebruikers.
Bent u het ermee eens dat, zolang het verdienmodel van online platformen gebaat is bij de aanzuigende werking van ophef, er voor deze bedrijven een perverse prikkel is om online haat ongecontroleerd te laten gaan of dit zelfs breder te delen? Is het inperken van dit verdienmodel daarmee ook een integraal deel van het Nederlandse emancipatiebeleid?
Het verdienmodel van online platformen is voor een belangrijk deel gebaseerd op de algoritmen die in de programmatuur gebruikt worden. Het is niet simpel om een algemeen oordeel te vellen over aanbevelingsalgoritmes. Voor veel mensen bieden deze algoritmes ook plezier en meerwaarde. Het internet is ook een plek om een gemeenschap en waardevolle informatie te vinden. Tegelijkertijd kunnen we onze ogen niet sluiten voor de negatieve effecten. Er kan inderdaad een prikkel zijn om content die veel reacties krijgt, breder te verspreiden.
In elk geval wordt in de DSA geregeld dat zeer grote online platformen en zeer grote online zoekmachines gebruikers de mogelijkheid moeten bieden om het aanbevelingsalgoritme uit te zetten (zie artikel 38 van de DSA). Zie ook antwoord 6 over de zogenaamde systeemrisico’s.
Binnenkort wordt aan de Tweede Kamer een algemene verkenning naar AI en lhbtiq+-emancipatie verzonden. Momenteel wordt gekeken hoe de uitkomsten hiervan in het emancipatiebeleid kunnen worden meegenomen. (Online) veiligheid is een van de maatschappelijke deelgebieden waar de verkenning naar kijkt.
Vindt u het, met oog op de groeiende onveiligheid voor lhbti+»ers online, essentieel om hun privacy en onherleidbaarheid zo goed mogelijk te borgen? Hoe weegt dit op tegen de anonimiteit van mensen die online haat en bedreigingen rondsturen?
Het kabinet vindt het van groot belang dat iedereen zich veilig voelt op het internet. Op dit moment is onze inzet en het beleid er vooral op gericht om het internet een veiligere plek te maken voor gemarginaliseerde groepen, waaronder de lhbtiq+-gemeenschap.
De Minister van BZK laat op dit moment een literatuurstudie uitvoeren naar welke aspecten van sociale media bijdragen aan de risico’s voor onze democratie. De rol van anonimiteit wordt daarin expliciet meegenomen. De Minister van BZK komt hiermee tegemoet aan een motie van het lid Gündogan. Begin 2024 wordt uw Kamer geïnformeerd over de resultaten van deze literatuurstudie.
Daarnaast coördineert de Staatssecretaris van BZK in samenwerking met het Platform voor de Informatiesamenleving (ECP) ook ethische begeleidingssessies met betrekking tot technologische hulpmiddelen die een rol spelen in de spanning tussen anonimiteit en zichtbaarheid op het internet. Gedurende deze sessies vindt er een dialoog plaats tussen wetenschappers, vertegenwoordigers van maatschappelijke organisaties en burgers, waarbij het ethische vraagstuk met betrekking tot het gebruik van technologie of technieken die anonimiteit of pseudonimiteit waarborgen en de effecten ervan op online discriminatie en haatzaaien wordt besproken.
Wat is uw appreciatie van de bevinding dat lhbti+-content en in het bijzonder content van transpersonen vaker wordt verwijderd op social media platforms? Wat is uw appreciatie van de bevinding dat het internet dankzij systemen met ingebouwde vooroordelen steeds conservatiever en daarmee onveiliger voor minderheden wordt? Ziet u mogelijkheden hier maatregelen tegen te treffen, bijvoorbeeld in EU-verband? Zo nee, waarom niet?
Het kabinet vindt het uiteraard belangrijk dat alle personen zich kunnen uiten op het internet, waaronder ook transgender personen. Uit het artikel van de Groene Amsterdammer waar de leden Westerveld en Bouchallikh naar verwijzen, blijkt niet hoe breed het probleem van het verwijderen van content van transgender personen speelt. Als dit fenomeen inderdaad wijdverspreid en systematisch is, is dat uiteraard een onwenselijke ontwikkeling.
In Europees verband spreekt het kabinet over dergelijke ontwikkelingen en de uitwisseling van best practices om (online) discriminatie tegen te gaan, zoals met de EU High Level Group on combating hate speech and hate crime. Verder verwijzen we naar het antwoord op vraag 5 over onze inzet op de aanpak van online discriminatie, racisme en hate speech en vraag 6 ten aanzien van het verwijderen van lhbtiq+-content.
Wat is de inzet van het kabinet om online haat tegen lhbti+-personen te voorkomen en te verminderen en op welke manier wordt gemeten wat het effect van dit beleid is?
De overheid is er in Nederland voor iedereen en streeft naar een inclusieve samenleving met gelijke rechten, kansen en vrijheden voor iedereen, ongeacht genderidentiteit, seksuele oriëntatie, ideologie, kleur, religie, beperking etc. Met de blik op de toekomst gericht is het essentieel om de voedingsbodem voor lhbtiq+-haat weg te nemen. We verwijzen naar het antwoord op vraag 5 voor onze inzet op de aanpak van brede online discriminatie, racisme en hate speech.
Een overzicht van alle maatregelen gericht op de emancipatie van lhbtiq+ personen is opgenomen in de bijlage bij de Emancipatienota 2022–2025.7 Algemene maatregelen gericht op het vergroten van de acceptatie en het verkleinen van vooroordelen dragen (op termijn) ook bij aan een veiligere online omgeving voor lhbtiq+ personen.
Verder zet het kabinet zich ook in op preventief beleid om de online wereld veiliger te maken, ook voor lhbtiq+ personen. OCW stimuleert, vanuit de mediabegroting, de activiteiten van het Netwerk Mediawijsheid. Een kern van de activiteiten in het nieuwe meerjarenplan van 2024–2029 is de maatschappelijke opgave «samen sociaal online», om het online klimaat te verbeteren. Bij slachtoffers van bijvoorbeeld homo- of transfobie leidt het asociale klimaat tot een onveilig gevoel, maar ook bij omstanders. «Samen Sociaal Online» is het jaarthema van de Week van de Mediawijsheid, dit jaar van 10 tot en met 17 november.8 In de Week is het initiatief #hierniet gelanceerd, waarmee mensen en organisaties worden aangemoedigd om asociaal gedrag te normeren. De website bevat tips en handvatten om te gaan met asociaal gedrag online en kan ook worden doorgestuurd naar de «aanstichters» van dit gedrag.
Daarnaast vergoten we de bekendheid van het Meld. Online Discriminatie (voormalig Meldpunt Internetdiscriminatie/MiND), zodat mensen sneller melding zullen maken van online discriminatievormen. BZK is op dit moment bezig met een stelselherziening van de antidiscriminatievoorzieningen (adv’s). Deze voorzieningen bieden op een laagdrempelige manier bijstand aan burgers met discriminatie-ervaringen. In het huidige stelsel zijn deze adv’s op gemeentelijk niveau georganiseerd. Het nieuwe stelsel zal zorgen voor één centrale organisatie. Bezien zal worden of en hoe er in het nieuwe stelsel ook meer aandacht kan worden gegeven aan het tegengaan van online discriminatie.
Verder subsidieert JenV een project dat zich richt op het bewustmaken van jongeren op de negatieve effecten van hate speech, ze het te leren herkennen en hen handelingsperspectieven mee te geven in de praktijk. Ook wordt ingezet op onderzoek. In mei jl. is in de Monitor Online Veiligheid en Criminaliteit over het jaar 2022 door het CBS gepubliceerd. Uit deze monitor blijkt dat 2 procent van de Nederlanders zich online gediscrimineerd heeft gevoeld. Ongeveer een kwart daarvan noemde seksuele gerichtheid als discriminatiegrond. Voor de discriminatiegrond genderexpressie/genderidentiteit is dat percentage ongeveer 10 procent. Het kabinet houdt de ontwikkelingen in deze cijfers nauwlettend in de gaten.
Deelt u de zorgen dat deze online vijandigheid overslaat in meer agressie en intolerantie in de maatschappij? Zo nee, waarom niet? Zo ja, welke stappen zet u om dit te voorkomen? Welke bronnen bevestigen de link tussen online haat en toenemende onveiligheid in het openbaar?
Deze zorgen delen deel ik zeker. De doorwerking van online gebeurtenissen op de offline leefwereld dient niet te worden onderschat. Uit onderzoek is bijvoorbeeld bekend dat acties online verstrekkende gevolgen heeft in de fysieke wereld (Online Ontspoord, Rathenau).
Uit bovengenoemde monitor Online Veiligheid van het CBS blijkt dat ruim een derde van de personen die online discriminatie ervoeren in 2022 problemen hebben of hebben gehad als gevolg van het voorval. Als het gaat om emotionele of psychische gevolgen gaf meer dan de helft van degenen die online discriminatie ervoeren aan dat ze daardoor minder vertrouwen in mensen hebben. Iets meer dan 30 procent voelt/voelde zich minder veilig.
Zoals in het antwoord op vraag 5 reeds genoemd wordt op dit moment de interdepartementale aanpak van online discriminatie geïntensiveerd.
Ziet u ook hoe sociale media door publieke figuren gebruikt worden om hun volgers impliciet op te hitsen tegen specifieke (organisaties die zich inzetten voor) lhbti+-personen? Bent u het er ook mee eens dat deze vorm van online aanzetten tot intimidatie aangepakt moet worden? Zo ja, welke mogelijkheden ziet u hiertoe, bijvoorbeeld in EU-verband? Zo nee, waarom niet?
In hoeverre publieke figuren sociale media gebruiken om hun volgers impliciet op te hitsen tegen specifieke (organisaties die zich inzetten voor) lhbti+ personen is mij niet bekend. Maar ik ben het met u eens dat online intimidatie verwerpelijk is en bestreden moet worden. Daartoe bestaan verschillende – ook door het Europese recht gecreëerde – mogelijkheden, waarop ik in de antwoorden op de vragen 3, 5, 6 en 10 ben ingegaan.
Het bericht dat AI-sites teksten van nieuwsmedia gebruiken, zonder daar bronvermelding aan toe te voegen |
|
Hind Dekker-Abdulaziz (D66), Sjoerd Sjoerdsma (D66), Hülya Kat (D66) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Franc Weerwind (minister zonder portefeuille justitie en veiligheid) (D66) |
|
Kunt u reflecteren op het gegeven dat AI-sites teksten van nieuwsmedia gebruiken, zonder daar bronvermelding aan toe te voegen?1
Als ik de vraag zo mag interpreteren dat de vraagstellers zich zorgen maken dat het ontbreken van bronvermelding bij AI gegenereerde tekst kan zorgen voor de verspreiding van onder andere mis- en desinformatie, dan deel ik die zorg. De verspreiding van mis- en desinformatie kan verminderen door correcte bronvermelding, aangezien dit de lezer en factcheckers in staat stelt om de herkomst en betrouwbaarheid van informatie te kunnen controleren en beoordelen. Daarom vind ik het van belang dat AI-sites en andere generatieve artificiële intelligentie bronnen correct vermelden.
Het is een andere vraag of de ontwikkelaars van generatieve artificiële intelligentie op grond van het auteursrecht ook verplicht zijn om te melden met welke werken van letterkunde, wetenschap of kunst de generatieve artificiële intelligentie is getraind. Het antwoord op die vraag luidt ontkennend. Artikel 25a, derde lid, van de Auteurswet bevat een definitie van tekst- en datamining. Onder «tekst- en datamining» wordt verstaan een geautomatiseerde analysetechniek die gericht is op de ontleding van tekst en gegevens in digitale vorm om informatie te genereren, zoals, maar niet uitsluitend, patronen, trends en onderlinge verbanden. Die definitie, die op de EU-richtlijn auteursrecht in de digitale eengemaakte markt is gebaseerd, is zo ruim geformuleerd dat daaronder naar het zich laat aanzien ook het trainen van artificieel intelligente applicaties met teksten van nieuwsmedia kan ressorteren. Het geven van een authentieke interpretatie is echter niet aan mij, maar uiteindelijk aan het Hof van Justitie van de Europese Unie voorbehouden. Artikel 15o van de Auteurswet regelt in lijn met de voornoemde richtlijn dat het maken van een reproductie van een werk van letterkunde, wetenschap of kunst in het kader van tekst- en datamining onder twee cumulatieve voorwaarden geen inbreuk maakt op het auteursrecht. Een reproductie is dan dus toegestaan zonder voorafgaande toestemming van de maker of zijn rechtverkrijgenden. In de eerste plaats moet degene die de tekst- en datamining verricht rechtmatig toegang hebben tot het werk. In de tweede plaats moet het maken van zo’n reproductie ten behoeve van tekst- en datamining niet door de makers of zijn rechtverkrijgenden uitdrukkelijk op passende wijze zijn voorbehouden. Bronvermelding is dus geen voorwaarde voor het rechtmatig kunnen maken van een reproductie in het kader van tekst- en datamining.
Momenteel wordt in de Europese Unie onderhandeld over een Europese AI-verordening. Binnen de triloogonderhandelingen van de AI-verordening is onderwerp van discussie of en hoe bij door AI gegenereerd materiaal verantwoording moet worden afgelegd over met welke (auteursrechtelijk beschermde) bronnen de data is getraind. Het Europees Parlement heeft een verplichting voorgesteld om aan te geven of de AI-systemen zijn getraind met auteursrechtelijk beschermde werken. Het gaat om een eigenstandige verantwoordingsbepaling die de auteursrechtelijke uitzondering inzake tekst- en datamining nadrukkelijk onverlet laat. Het niet naleven van zo’n eigenstandige verantwoordingsbepaling zou, als die bepaling in de verordening zou worden opgenomen, een onrechtmatige daad kunnen opleveren.
In hoeverre klopt het geschetste beeld dat u het standpunt is toegedaan dat een uitzonderingsbepaling uit de Auteurswet geldt voor hetscrapen(tekst- en datamining) van nieuwsartikelen en andere journalistieke content door tech-bedrijven?2
Artikel 15o van de Auteurswet bevat een uitzondering op het auteursrecht voor tekst- en datamining. Die uitzondering kan door iedereen, dus ook door tech-bedrijven, worden ingeroepen, mits de twee voorwaarden worden nageleefd die aan de inroepbaarheid van de uitzondering worden gesteld. Zoals bij de beantwoording van vraag 1 is aangegeven, moet degene die zich op de beperking beroept in de eerste plaats op rechtmatige wijze toegang tot het auteursrechtelijk beschermde werk hebben verkregen. In de tweede plaats moet de rechthebbende het maken van een kopie van het werk ten behoeve van tekst- en datamining niet uitdrukkelijk op passende wijze hebben voorbehouden.
In hoeverre klopt het dat de Minister van Economische Zaken en Klimaat hier een andere kijk op heeft en vindt dat het scrapen van auteursrechtelijk beschermd werk niet is toegestaan? Hoe verklaart u deze verschillende visies?
Van een andere kijk op de zaak of een verschil van inzicht tussen de Minister van Economische Zaken en Klimaat en mij is geen sprake. De Minister van Economische Zaken en Klimaat heeft opgemerkt dat het auteursrecht onverkort geldt met betrekking tot tekst- en datamining. Het auteursrecht kent de hoofdregel dat voor het maken van een reproductie van een werk van letterkunde, wetenschap en kunst in beginsel telkens voorafgaande toestemming van de maker of zijn rechtverkrijgenden is benodigd. De toestemming is «in beginsel» vereist, want er kan een uitzondering op het auteursrecht van toepassing zijn. Een voorbeeld van zo’n uitzondering is artikel 15o van de Auteurswet op grond waarvan het maken van een kopie van werk ten behoeve van tekst- en datamining onder bepaalde voorwaarden is toegestaan zonder voorafgaande toestemming van de rechthebbende. Als de bij de beantwoording van de eerste twee vragen geduide voorwaarden van artikel 15o van de Auteurswet niet worden gerespecteerd is er alsnog sprake van een inbreuk.
In hoeverre deelt u de overtuiging dat hetscrapen van artikelen die nieuwsmedia achter een betaalmuur hebben geplaatst in strijd is met de Auteurswet, aangezien ook voor de uitzonderingsbepaling van de Auteurswet een voorwaarde hangt van rechtmatige toegang (dus enkel als het werk voor het publiek online vrijelijk beschikbaar is gesteld)?3
De vragenstellers merken terecht op dat alleen een beroep op artikel 15o van de Auteurswet kan worden gedaan als er rechtmatige toegang bestaat tot het werk van letterkunde, wetenschap of kunst dat wordt gereproduceerd in het kader van tekst- en datamining. Dat wil echter niet zeggen dat de bepaling alleen maar kan worden ingeroepen voor tekst- en datamining van werken die online vrij toegankelijk zijn. Ook het scrapen van artikelen die door nieuwsmedia achter een betaalmuur zijn geplaatst, kan onder artikel 15o van de Auteurswet vallen, mits degene die zich op die bepaling beroept rechtmatige toegang tot die artikelen heeft verkregen door daarvoor te betalen. Uiteraard moet ook de andere voorwaarde, dat het auteursrecht niet uitdrukkelijk is voorbehouden door de maker of zijn rechtverkrijgenden, worden nageleefd. Nieuwsmedia die niet willen dat hun achter een betaalmuur geplaatste artikelen worden gebruikt om artificieel intelligente applicaties te trainen, kunnen dus een daartoe strekkend uitdrukkelijk voorbehoud maken en de gebruikers van die artikelen daarop wijzen bij het verlenen van toegang. Daar wordt in toenemende mate gebruik van gemaakt. Het voorbehoud kan ook in de metadata van de nieuwsartikelen worden opgenomen.
Onderschrijft u de conclusie dat het onbeperkt vergaren en verwerken van journalistieke content achter paywalls door grote techbedrijven ten koste gaat van de exploitatie van rechthebbenden? Acht u het wenselijk dat de marktmacht van grote techbedrijven daardoor wordt vergroot ten koste van traditionele media?
Tegen het onbeperkt kunnen vergaren en verwerken van journalistieke content zijn rechthebbenden beschermd via artikel 15o van de Auteurswet, die makers en hun rechtverkrijgenden in staat stelt daaraan desgewenst paal en perk te stellen, in het bijzonder door hen in de gelegenheid te stellen het auteursrecht uitdrukkelijk op passende wijze voor te behouden. De EU-richtlijn auteursrecht in de digitale eengemaakte markt, waar artikel 15o Auteurswet op is gebaseerd, zal in 2026 worden geëvalueerd.
Vermeldenswaardig is voorts dat recent de Europese Digital Markets Act (DMA) van kracht is geworden die (oneigenlijk) gebruik van data door de allergrootste tech-bedrijven (zogeheten poortwachters) moet beteugelen en tot eerlijker marktgedrag van die bedrijven moet leiden. De DMA heeft als doel concurrentie op digitale markten te versterken en meer keuzevrijheid te bieden aan gebruikers. In september 2023 zijn de eerste poortwachters aangewezen. Deze poortwachters moeten binnen zes maanden aan de verboden en verplichtingen uit de DMA voldoen. De DMA bevat onder andere transparantievereisten en verplichtingen tot het hanteren van eerlijke en niet-discriminerende voorwaarden voor poortwachters.
Hoe kan de maker van een tekst het recht op reproductie voorbehouden (de tweede voorwaarde voor de uitzonderingsbepaling binnen de Auteurswet)?
Artikel 15o van de Auteurswet schrijft in het voetspoor van de EU-richtlijn auteursrecht in de digitale eengemaakte markt op dit specifieke punt voor dat het auteursrecht door de maker of zijn rechtverkrijgenden niet uitdrukkelijke en passende wijze is voorbehouden zoals door middel van machinaal leesbare middelen bij een online ter beschikking gesteld werk. Uit overweging 18 van de voornoemde richtlijn blijkt dat de rechthebbenden specifiek de rechten om reproducties te maken en opvragingen te verrichten ten behoeve van tekst- en datamining op passende wijze kunnen voorbehouden. Bij content die online voor het publiek beschikbaar is gesteld, wordt het voorbehouden van die rechten enkel als passend beschouwd indien hierbij machinaal leesbare middelen worden gebruikt, waaronder metagegevens en de voorwaarden van een website of een dienst. Het voorbehouden van rechten ten behoeve van tekst- en datamining mag dus geen betrekking hebben op andere vormen van gebruik. In andere gevallen dan online gebruik kan het passend zijn om rechten voor te behouden met behulp van andere middelen, zoals contractuele overeenkomsten of een eenzijdige verklaring. Rechthebbenden moeten maatregelen kunnen nemen om te waarborgen dat indien zij de rechten hebben voorbehouden, dit ook wordt nageleefd. Het geven van een authentieke interpretatie van de uitzondering en daarin opgenomen voorwaarden is uiteindelijk aan het Hof van Justitie van de Europese Unie voorbehouden.
Kunt u toelichten in hoeverre de AI Act handvatten biedt om hiertegen op te treden? Wat doet u om het vrijelijk scrapen van nieuwsartikelen aan banden te leggen?
De AI-verordening biedt naar verwachting handvatten om risico’s te voorkomen en te mitigeren die ontstaan door de inzet van AI-systemen die voor een breed scala aan toepassingen kan worden ingezet, de zogeheten General Purpose AI (GPAI), maar lijkt minder geschikt om alle risico’s op schendingen van auteursrecht te adresseren. Hierbij is het wel belangrijk om te vermelden dat de AI-verordening geen afbreuk doet aan het bestaande juridische kader voor het auteursrecht. De Raad en het Europees Parlement hebben voor GPAI een andere aanpak voorgesteld waarover nog overeenstemming moet worden gevonden in de triloog in Brussel. Hiervoor verwijs ik naar de geannoteerde agenda voor de informele Telecomraad.4 Het kabinet vindt het belangrijk dat er eisen worden gesteld GPAI die leiden tot een eerlijke AI-ontwikkelketen. Omdat veel AI wordt ontwikkeld op basis van GPAI, is het noodzakelijk dat andere ontwikkelaars de juiste informatie hebben als ze op een GPAI-systeem voortbouwen. Het kabinet steunt de eis aan aanbieders van GPAI om informatie te geven en ondersteuning te bieden aan aanbieders die voortbouwen op deze GPAI om er een «nieuw» systeem van te maken waardoor ze aan de eisen van de AI-verordening die voor hen gelden kunnen voldoen.
Zoals in het antwoord bij vraag 1 is aangegeven, is binnen de triloogonderhandelingen van de AI-verordening onderwerp van discussie of en hoe bij door AI gegenereerd materiaal verantwoording moet worden afgelegd over met welke (auteursrechtelijk beschermde) bronnen de data is getraind. Het Europees Parlement heeft een aantal aanvullende eisen voorgesteld, waaronder een verplichting om te markeren dat er gebruik is gemaakt van auteursrechtelijk beschermd materiaal bij het trainen van grote AI-modellen. Dit betreft geen verplichting tot bronverwijzing, maar een samenvatting van het gebruik van trainingsdata dat is beschermd onder het auteursrecht. Deze verplichting zou rechthebbenden beter in staat moeten stellen om te controleren of de voorwaarden worden nageleefd die aan de inroepbaarheid van artikel 15o van de Auteurswet zijn gesteld, aldus het Europees Parlement. Het kabinet zet op dit moment in op goede informatieverplichtingen voor alle GPAI zoals hierboven beschreven, wat naar verwachting al gevolgen zal hebben voor de wijze waarop grote AI-modellen worden getraind. Daarnaast heeft het kabinet conform de motie Dekker-Abdulaziz en Rajkowski,5 zoals ook naar verwezen in de geannoteerde agenda van de informele Telecomraad en het bijbehorend schriftelijk overleg, een mogelijke verdergaande verplichting die zich richt op door AI gegenereerde tekst- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal in de trainingsdata bij het Spaanse voorzitterschap onder de aandacht gebracht. De discussie hierover loopt echter nog. De specifieke risico’s op schendingen van auteursrecht kunnen daarnaast worden meegenomen in de evaluatie van de EU-richtlijn auteursrecht in 2026, wanneer ook de AI-verordening enkele tijd van kracht is en de eerste gevolgen kunnen worden bezien.
Heeft u er kennis van genomen dat de privacywaakhonden van twaalf landen waarschuwingen hebben uitgedeeld aan social mediabedrijven omdat zij datascraping moeten uitbannen? Wat is uw visie hierop? Vindt u dat dit ook in Nederland moet gebeuren?4
Ja, ik heb kennis genomen van de gezamenlijke verklaring die de Australische privacytoezichthouder samen met elf andere gegevensbeschermings- en privacytoezichthouders uit niet-EU landen heeft uitgebracht om scraping op sociale media en andere publiekelijk toegankelijke websites te adresseren. Organisaties dienen volgens de Australische privacytoezichthouder redelijke stappen te nemen om persoonsgegevens te beschermen tegen misbruik, inmenging, verlies, ongeoorloofde toegang en verandering. Ook het beschermen tegen het ongeoorloofd verzamelen van deze gegevens via scraping, zou daaronder vallen.
Ik zie dat ook in EU-verband organisaties die persoonsgegevens verwerken deze gegevens op een passende manier moeten beschermen. Dit wordt geregeld in de Algemene Verordening Gegevensbescherming (AVG). De AVG telt zes basisprincipes waaraan de verwerking van persoonsgegevens dient te voldoen. De verwerking van persoonsgegevens dient rechtmatig, behoorlijk en transparant te zijn, terwijl ook dient te zijn voldaan aan de beginselen van doelbinding, minimale gegevensverwerking, juistheid, opslagbeperking en integriteit en vertrouwelijkheid (artikel 5 AVG). Het laatstgenoemde beginsel van integriteit en vertrouwelijkheid houdt onder andere in dat de nodige technische of organisatorische maatregelen dienen te worden getroffen om een passende beveiliging van persoonsgegevens borgen. Daarbij noemt dit artikel uitdrukkelijk dat persoonsgegevens moeten zijn beschermd tegen ongeoorloofde of onrechtmatige verwerking, opzettelijk verlies, vernietiging en beschadiging. In lijn daarmee vereist artikel 32 AVG dat, rekening houdend met de stand van de techniek, de uitvoeringskosten, en de aard de omvang en de context van verwerking en de risico’s, voor de rechten van de betrokkene een op het risico afgestemd beveiligingsniveau moet worden gewaarborgd. Zo kan het noodzakelijk zijn om een procedure in te stellen voor het op gezette tijdstippen testen, beoordelen en evalueren van de doeltreffendheid van de technische en organisatorische maatregelen ter beveiliging van de verwerking (artikel 32 AVG). Welke maatregelen in concrete gevallen zijn vereist – bijvoorbeeld om te beschermen tegen de gevolgen van scraping – vraagt om een risicoanalyse waarin met alle relevante omstandigheden wordt rekening gehouden. Of in concrete gevallen is voldaan aan het vereiste niveau van beveiliging uit de AVG is uiteindelijk aan de onafhankelijke toezichthouder om te beoordelen, in Nederland de Autoriteit Persoonsgegevens.
In hoeverre heeft u reeds uitvoering gegeven aan de motie-Dekker-Abdulaziz en Rajkowski, over het Europees voorzitterschap te verzoeken om watermerken te verplichten bij door AI gegenereerde tekst en beelden?5
In het Commissievoorstel voor de AI-verordening en de raadspositie op die verordening worden gebruikers van deepfaketechnologie verplicht om bekend te maken dat het gegenereerde beeld-, audio- of videomateriaal kunstmatig gegenereerd of bewerkt is. Een dergelijke plicht draagt bij aan het zoveel mogelijk (vooraf) mitigeren van het gevaar dat gemanipuleerd materiaal ten onrechte voor authentiek wordt gehouden. Nederland heeft deze transparantieverplichting in de onderhandelingen in de Raad en in de trilogen met het Europees Parlement gesteund. Een mogelijke verdergaande verplichting die is gericht op door AI gegenereerde tekst-, audio- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal in de trainingsdata, zal door het kabinet bij het Spaanse voorzitterschap onder de aandacht worden gebracht als het onderwerp op de agenda staat.
In hoeverre wordt de ontwikkeling van de kabinetsvisie op generatieve AI beïnvloed door de val van het kabinet?
De ontwikkelingen van de (kabinets)visie op generatieve AI worden voortgezet. De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties zal deze begin 2024 met uw Kamer delen. De opgaven rondom (generatieve) AI zijn te groot om hier als kabinet geen stappen in te zetten tijdens deze demissionaire periode. Daarbij heeft uw Kamer in grote meerderheid gevraagd om deze visie via het steunen van de motie Dekker-Abdulaziz en Rajkowski.8 Daarom is het van belang om een integrale visie neer te leggen die recht doet aan de korte- en lange termijn impact en een handelingsperspectief formuleert waarmee deze technologie op verantwoorde wijze in de samenleving wordt ingebed.
Daarnaast stuurt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties uw Kamer voor het einde van het jaar het voorlopige standpunt inzake de omgang met generatieve AI door Rijksorganisaties. Om tot dit standpunt te komen, is onder andere advies ingewonnen van de Landsadvocaat.
Het artikel ‘Miljoenen snappen digitale overheid onvoldoende, meeste hoofdpijn over DigiD’ |
|
Barbara Kathmann (PvdA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het artikel «Miljoenen snappen digitale overheid onvoldoende, meeste hoofdpijn over DigiD»?1
Ik ben bekend met dit artikel en de inhoud ervan.
Hoe kijkt u aan tegen het feit dat 4,5 miljoen Nederlanders onvoldoende in staat zijn om digitale overheidsinformatie te vinden en gebruik te maken van online dienstverlening van de overheid? Welke oorzaken ziet u?
Ik vind het belangrijk dat alle mensen in Nederland gemakkelijk gebruik kunnen maken van publieke dienstverlening. In de brief Voortgang en tussenevaluatie vervolgaanpak laaggeletterdheid 2020–2024 van 14 juli jl. geeft de Minister van OCW, mede namens mij, de bevindingen van de tussentijdse evaluatie van de Vervolgaanpak Laaggeletterdheid. Deze interdepartementale aanpak heeft tot doel om de grote groep volwassenen die moeite heeft met lezen, schrijven, rekenen en digitale vaardigheden te bereiken en ze te motiveren om met hun basisvaardigheden aan de slag te gaan. In de brief kunt u lezen welke acties de afgelopen jaren zijn ondernomen voor de versterking van basisvaardigheden voor volwassenen. Daarnaast geeft de Minister een doorkijk naar de fase na 2024.
Zoals ik heb aangegeven in de reactie op het verantwoordingsonderzoek van de Algemene Rekenkamer naar de Informatiepunten Digitale Overheid, is het ook nodig beter inzicht te krijgen in de behoefte van de groep mensen die (al dan niet tijdelijk) niet in staat is om zelfstandig gebruik te maken van de (digitale) publieke dienstverlening. De mate waarin mensen in staat zijn om zelfstandig zaken te doen met de overheid hangt samen met de mate van hun zelfstandigheid (zoals bijvoorbeeld de beheersing van digitale basisvaardigheden), maar ook met de complexiteit van hun persoonlijke situatie en de complexiteit van wetten, regels en de organisatie(s) waarmee zij te maken hebben. Ik werk aan het helder krijgen van de ondersteuningsbehoeften van verschillende doelgroepen binnen de groep kwetsbare burgers en ondernemers. Ik zal de Kamer hier in het voorjaar van 2024 over informeren.
Welke mogelijkheden ziet u om de groepen die vaak moeite hebben met digitale overheidscommunicatie te helpen, te weten laaggeletterden, mensen met een licht verstandelijke handicap, mensen met een taalachterstand en ouderen?
Voor mensen die het lastig vinden om digitaal te communiceren met de overheid moet er altijd een alternatief zijn om op een andere manier in contact te treden met publieke dienstverleners. Laaggeletterden, mensen met een licht verstandelijke handicap, mensen met een taalachterstand, ouderen en andere mensen die hier behoefte aan hebben, kunnen voor hulp ook terecht bij het Informatiepunt Digitale Overheid in de bibliotheek. Hier kunnen ze ook leren om zelf digitaal vaardiger te worden.
Ik werk daarnaast aan de brede beschikbaarheid van voorzieningen om een ander langs digitale weg te kunnen vertegenwoordigen (zowel voor gemachtigden als voor wettelijk vertegenwoordigen). En ik stimuleer dat overheidsorganisaties hun teksten samen met de doelgroep verbeteren, zodat deze begrijpelijk zijn voor iedereen. Daarvoor heb ik één vindplek2 gecreëerd waar publieke dienstverleners kennis en kunde vinden over begrijpelijke taal en toegankelijke overheidsdienstverlening.
Welke mogelijkheden ziet u om de aanpakken van laaggeletterdheid en beperkte digitale vaardigheden te bundelen, aangezien deze zaken vaak hand in hand gaan?
Er is al sprake van een gecombineerde aanpak. De aanpak laaggeletterdheid verloopt via het interdepartementale actieprogramma Tel mee met Taal en dit programma richt zich op mensen met onvoldoende basisvaardigheden: taal, rekenen én digitale vaardigheden.3 Om goed mee te kunnen doen in onze samenleving, heb je immers al deze vaardigheden nodig. Bijvoorbeeld om veiligheidsinstructies op je werk te lezen op een iPad of om een formulier in te vullen op een computer.
Via Tel mee met Taal krijgen gemeenten jaarlijks 80 miljoen euro voor het aanbieden van cursussen basisvaardigheden aan volwassenen in bibliotheken en buurthuizen.4 Gemeenten mogen zelf beslissen hoe dit wordt besteed. Op veel plekken waar taalcursussen worden aangeboden, worden ook cursussen voor digitale vaardigheden aangeboden. Er zijn ook combinatiecursussen waarin zowel taal- als digitale vaardigheden aan bod komen. Uit cijfers van het CBS blijkt dat in 2022 12,5% van de aangeboden cursussen binnen dit programma een combinatiecursus taal en digitale vaardigheden betrof.5
Hoe kijkt u aan tegen het feit dat het geregeld voorkomt dat mensen met beperkte digitale vaardigheden voorzieningen mislopen zoals toeslagen, de bijstand en de aanvullende studiebeurs? In hoeverre heeft u zicht op het effect van beperkte digitale vaardigheden onder 4,5 miljoen mensen op niet-gebruik van regelingen? Bent u bereid hier onderzoek naar te verrichten?
We willen burgers die mogelijk in armoede verkeren of dreigen te komen, in een eerder stadium benaderen en hen dienstverlening aanreiken. Daarbij zetten we onder andere in op het verstevigen van het (lokale) netwerk in gemeenten en gaan we aan de slag met proactieve dienstverlening rondom specifieke levensgebeurtenissen. Zo helpen we mensen die in een kwetsbare situatie zitten, zoals een ondernemer met schulden of iemand die werkloos dreigt te worden.
Bij de uitwerking van proactieve dienstverlening maken we verder gebruik van de uitkomsten van onderzoek naar vroegsignalering en armoede van het CBS6 en de inzichten van het Ministerie van SZW7 naar niet-gebruik.
In vervolg hierop gaat mijn departement kwantitatief en kwalitatief onderzoek uitvoeren naar niet-gebruik onder diverse groepen kwetsbare of niet-zelfredzame mensen.
Is het aantal Informatiepunten Digitale Overheid voldoende volgens u? Zo nee, bent u voornemens dit aantal uit te breiden? Waarom wel of niet? Zijn er andere niet-digitale alternatieven voor burgers die er niet uit komen?
Het netwerk van Informatiepunten Digitale Overheid (IDO’s) is landelijk dekkend. Ik heb maatregelen genomen om het bereik van de IDO’s te vergroten, onder andere door een regierol bij gemeenten te beleggen en te stimuleren dat er ook IDO’s worden ingericht buiten de muren van de bibliotheek, bijvoorbeeld bij wijk- en buurthuizen.
Daarnaast zijn in de gemeenten Amsterdam, Utrecht en Enschede, in samenwerking met 7 uitvoeringsorganisaties, praktijkinitiatieven gestart met loketten waar mensen fysiek en via andere kanalen terecht kunnen met hun hulpvraag. Bij persoonsgebonden vragen neemt een overheidsdienstverlener de coördinatie op zich als er meer uitvoeringsorganisaties betrokken zijn.
Op basis van de ondersteuningsbehoeften van (kwetsbare) burgers en ondernemers verken ik samen met onder andere gemeenten en uitvoeringsorganisaties wat er verder nodig is om de dienstverlening goed vorm te geven, wie daarin het beste welke rol kan vervullen en welke bevoegdheden daarvoor nodig zijn.
In aansluiting op de nieuwe zorgplicht (die vanaf 1 januari 2024 voor alle bestuursorganen geldt en hen verplicht om in het contact met burgers voor passende ondersteuning te zorgen) gaat het ook om het daar waar nodig bieden van niet-digitale alternatieven en ondersteuning. De ondersteuning moet passend zijn voor de burger/doelgroep. Vanuit mijn departement ondersteun ik bestuursorganen om invulling te geven aan deze zorgplicht.
Waarom denkt u dat met name DigiD voor mensen lastig blijkt? Op welke manieren zou de app toegankelijker gemaakt kunnen worden? Zou het een optie zijn om wijzigingen in het gebruik van de app in toekomst te beperken, zodat mensen niet telkens opnieuw hoeven te wennen?
DigiD biedt een veilige en betrouwbare methode voor digitale authenticatie, waarmee gebruikers toegang krijgen tot diverse overheidsdiensten. Om digitale publieke dienstverlening te kunnen gebruiken, is het essentieel dat de identiteit van de burger op betrouwbare wijze wordt vastgesteld. De verhoogde veiligheidseisen voor het vaststellen van identiteit vereisen extra controlestappen. Een voorbeeld hiervan is het eenmalig controleren van een identiteitsbewijs met behulp van de DigiD-app, zodat het voldoet aan de eisen vanuit de eIDAS-verordening voor het uitgeven en gebruiken van middelen op het betrouwbaarheidsniveau substantieel.
Het stellen van hogere eisen aan het betrouwbaar vaststellen van de identiteit maakt dat de gebruiksvriendelijkheid en toegankelijkheid van de DigiD-app in het geding kan komen. Bij het doorvoeren van wijzigingen in de DigiD-app is het uitgangspunt om de impact voor burgers te beperken tot een minimum.
Tegelijkertijd werkt Logius voortdurend aan het verbeteren van de toegankelijkheid van DigiD en de DigiD-app. Dit gebeurt aan de hand van burgeronderzoek en signalen van burgers en publieke dienstverleners (zoals de Belastingdienst). Op basis van deze informatie wordt het in de volgende update van de DigiD app makkelijker om bepaalde eenmalige stappen in de app te doorlopen. Denk daarbij aan het activeren van de app of het uitvoeren van een ID check.
Wanneer er bij een wijziging iets in het gebruik van de app verandert, krijgen gebruikers na de update bij het openen van de app eerst een korte rondleiding. Vervolgens worden mensen stap-voor-stap door een proces (zoals activeren of inloggen) geleid. De app refereert ook naar de DigiD website, waar introductievideo’s te vinden zijn. Die video’s zijn vooraf getest met minder-digitaal vaardigen. Daarnaast informeert Logius tijdig organisaties die hulp bieden bij het gebruik van DigiD zoals de Informatiepunten Digitale Overheid en Digisterker. Zij kunnen hun hulpaanbod dan op tijd aanpassen op de aanstaande wijzigingen.
Op welke termijn zal de eerstvolgende update van DigiD plaatsvinden, waar volgens Logius een aantal verbeteringen worden doorgevoerd, zoals het kunnen overslaan van stappen die mensen als lastig ervaren?
Kort na de zomer zal de volgende update van de DigiD app verschijnen die zal voldoen aan alle 50 toegankelijkheidscriteria uit de «Web Content Accessibility Guidelines (WCAG) 2.1». Een mijlpaal, de DigiD app verkrijgt dan een toegankelijkheidsverklaring met het stempel A: «voldoet volledig».
Voor verdere toelichting rondom het overslaan van stappen, zie het antwoord op vraag 7.
Het bericht ‘Het internet is vervuilender dan de luchtvaart, met dank aan alle mails, crypto’s, videogesprekken, streams en de cloud’ |
|
Evert Jan Slootweg (CDA), Henri Bontenbal (CDA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Rob Jetten (minister zonder portefeuille economische zaken) (D66) |
|
Bent u bekend met het bericht «Het internet is vervuilender dan de luchtvaart, met dank aan alle mails, crypto’s, videogesprekken, streams en de cloud»?1
Ja, daar ben ik mee bekend.
Klopt het dat volgens nauwkeurige schattingen het digitale leven goed is voor zo’n 4 procent van de totale wereldwijde uitstoot van broeikasgassen?
Er doen vele schattingen de ronde over de uitstoot van digitale technologieën, als gevolg waarvan verschillende percentages worden gehanteerd. Deze percentages liggen veelal rond de 4 procent of komen op een lagere inschatting uit. Hieraan ligt ten grondslag dat de ontwikkelingen op dit gebied snel gaan en deze schattingen vaak verschillen in hun reikwijdte. Hoewel het percentage wellicht niet met zekerheid te benoemen is staat vast dat digitale technologie bijdraagt aan de uitstoot van broeikasgassen en dat de ontwikkeling van deze bijdrage in absolute en relatieve zin verband houdt met de adoptie van digitale technologieën.
Voor Nederland laat ik momenteel een tweetal onderzoeken uitvoeren, waarin de bijdrage aan de verduurzaming van Nederland en de uitstoot van Nederlandse digitale sector wordt meegenomen. Ik zal deze onderzoeken met uw Kamer delen, zoals eerder meegedeeld.
Heeft u de beschikking over soortgelijke cijfers of schattingen over het energieverbruik van het digitale leven en welk deel daarvan wordt veroorzaakt door Nederland?
Zie antwoord bij vraag 2.
In hoeverre levert Nederland wereldwijd een positieve of negatieve bijdrage aan de kosten van het digitale leven, gezien de hoge mate van digitalisering van de Nederlandse samenleving?
Het is niet mogelijk een exact antwoord te geven op de netto bijdrage van de Nederlandse digitale economie aan de totale mondiale milieukosten van digitalisering. Er is hierbij sprake van een complexe wisselwerking tussen het intensieve gebruik van digitale producten en diensten in Nederland en de positieve milieu-impact die het gebruik hiervan kan opleveren. Bovendien vereist dit een diepgaand inzicht in de precieze locaties van digitale infrastructuur die gebruikt wordt voor in Nederland gebruikte digitale producten en diensten.
Ik vind het belangrijk om te benadrukken dat in de Europese interne markt er een vrij verkeer van goederen en diensten is. De verspreiding van digitale diensten over de unie en het aanbod van deze diensten is daarmee vanwege het innovatie gedreven karakter inherent aan verandering en ontwikkeling onderhevig. Mede hierdoor is een feitelijk juist antwoord op de vraag moeilijk te geven. Bovendien hebben de vigerende beleidskaders op het gebied van economische ontwikkeling en klimaatmitigatie ook geen specifieke doelstellingen met betrekking tot de spreiding van digitale diensten over de interne markt.
In het algemeen kan gesteld worden dat Nederland relatief sterk gedigitaliseerd is. Het is echter zo dat niet alleen het gebruik maar ook het aanbod van digitale diensten in Nederland groot is. Een studie van de Europese Commissie over datastromen in de Unie toont aan dat in Nederland relatief veel data worden verwerkt, ook voor dienstverlening in andere lidstaten2. Dit heeft onder andere met de hoge kwaliteit van de Nederlandse digitale infrastructuur en onze positie als internetknooppunt te maken. Deze hoge dataverwerkingscapaciteit is positief voor de innovatiekracht van het Nederlandse digitale bedrijfsleven. Het beeld dat deze studie schetst is in die zin onvolledig dat datastromen naar derde landen hier niet in worden meegenomen. Op basis hiervan kan dus geen volledig beeld worden geschetst met betrekking tot de relatieve bijdrage die Nederland levert aan de kosten van het digitale leven.
Indien er geen of onvoldoende cijfers beschikbaar zijn over de kosten van het digitale leven in termen van CO2-uitstoot, energieverbruik en elektriciteitsverbruik, bent u bereid onderzoek te (laten) doen naar deze kosten en deze te delen met de Kamer?
Op dit moment beschik ik niet over een integraal beeld van de duurzaamheidseffecten van onze digitale economie. Zoals eerder aangegeven wordt hier op dit moment onderzoek naar uitgevoerd. Wanneer deze onderzoeken afgerond zijn zal ik deze delen met de Tweede Kamer.
Wordt binnen de rijksoverheid de digitale voetafdruk gemonitord, om er bijvoorbeeld voor te zorgen dat overbodige data wordt verwijderd? Zo nee, waarom niet?
Er is op dit moment geen beeld van de digitale voetafdruk van de Rijksoverheid. Dit heeft ermee te maken dat er een overlap is met de andere domeinen van onze bedrijfsvoering. Het energieverbruik van onze ICT-hardware is bijvoorbeeld opgenomen in het energieverbruik van onze gebouwen, bijvoorbeeld voor monitors of wanneer medewerkers hun apparatuur op kantoor opladen.
Op deelaspecten wordt wel onze digitale voetafdruk gemonitord, zoals het energieverbruik van onze datacenters of de voetafdruk van alle ICT-hardware die we inkopen. In de Werkagenda Waardengedreven Digitaliseren (4.3.7) heeft mijn collega, de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, opgenomen dat we duurzaamheidsdata over onze ICT op het rijks ICT-dashboard zullen plaatsen. Hier wordt momenteel voorbereidend werk voor gedaan, zoals het valideren en structureren van de betreffende data. In 2023 zullen de eerste gegevens op het dashboard worden geplaatst. Wanneer nieuwe data beschikbaar komen zal dit verder worden aangevuld.
Daarnaast geeft u aan dat overbodige data mogelijk verwijderd kunnen worden. In de verschillende programma’s op het gebied van informatiehuishouding binnen het Rijk wordt hier aandacht aan besteed. Uiteraard wordt daarbij rekening gehouden met wettelijke kaders als de WOO en de archiefwet. Naast het verwijderen van overbodige data werken we ook aan het beperken van het ontstaan van overbodige data. Bijvoorbeeld door dataminimalisatie en het faciliteren van online samenwerking, waarmee mailverkeer en versiebeheer van documenten wordt beperkt.
Om de digitale voetafdruk van de Rijksoverheid verder te reduceren zullen ook interbestuurlijke en publiek-private coalities nodig zijn. In de agenda «Coalities voor de digitale samenleving» staat duurzaamheid dan ook genoemd als één van de vier thema’s. Onderzocht wordt of en op welke wijze een coalitie van toegevoegde waarde kan zijn op dit thema.
Deelt u de zorg dat het aandeel energieverbruik en CO2-uitstoot van het digitale leven in absolute zin en als percentage van het wereldwijde verbruik sterk stijgen zalmet de komst van de 5G- en 6G-netwerken en kunstmatige intelligentie waarvoor steeds meer rekenkracht en dus energie nodig is?
Ja, ik deel deze zorg voor zover het gaat om situaties waar de toename van het gebruik van nieuwe netwerktechnologieën en AI leiden tot een groter energiegebruik. Ik constateer dat digitale ontwikkelingen elkaar tegenwoordig in hoog tempo opvolgen en dat de economie en maatschappij steeds verder digitaliseren. Met een steeds groter deel van onze economische en maatschappelijke activiteit online is het evident dat energieverbruik en de CO2-uitstoot als gevolg van deze activiteit zullen stijgen wanneer er niet wordt geïnnoveerd op het gebied van duurzaamheid van deze technologieën. Het is daarom belangrijk dat nieuwe technologieën zelf ook zo duurzaam mogelijk zijn. Op dit vlak zien wij ook dat er door bedrijven veel stappen worden gezet, waardoor de toepassing van nieuwe technologieën niet a priori gelijkstaat met een toenemend energieverbruik.
Deelt u de mening dat nog flinke stappen gemaakt moeten worden in het monitoren van de digitale voetafdruk door overheden, bedrijven en consumenten?
Bewustwording en betere monitoring van de digitale voetafdruk is een proces dat binnen alle economische sectoren en activiteiten ontstaat. Voorbeelden van stappen die al genomen worden zijn bijvoorbeeld de Corporate Social Responsibility Richtlijn (CSRD-richtlijn) die vanaf 2024 steeds meer bedrijven verplicht om te rapporteren over hun klimaatimpact en de vierjaarlijkse rapportageplicht die voortkomt uit de energiebesparingsplicht. Ik deel met uw Kamer dat naast deze voorbeelden nog volop stappen te zetten zijn.
Bent u bereid te bezien of extra maatregelen nodig zijn om de digitale voetafdruk van de overheid en bedrijven te monitoren en daarmee ook te verminderen, bijvoorbeeld via nieuwe wettelijke normen, protocollen of gedragscodes? Wilt u hierover in gesprek gaan met het bedrijfsleven en de digitale sectoren?
Het goede nieuws is dat dit gesprek al volop gaande is. De Nationale Coalitie voor Duurzame Digitalisering heeft mij afgelopen jaar een Manifest aangeboden met ideeën voor een duurzame digitale sector. Dit manifest bevat handvatten voor de sector en overheden om actie te kunnen nemen. Ik vind het belangrijk dat we bij het aanpakken van dit probleem samenwerken met bedrijven, kennisinstellingen en medeoverheden.
Onder andere op basis van de onderzoeken die nu worden gedaan zal ik uitvoering geven aan de motie-Kathmann voor een duurzame digitale sector, hierbij is de NCDD een natuurlijke gesprekspartner. U kunt dit plan eind dit jaar verwachten. Ik kan daarbij nog niet stellen welke extra maatregelen nodig zijn.
In hoeverre zijn bedrijven en consumenten zich voldoende bewust van hun digitale voetafdruk? Vindt u dat er een rol is voor de overheid om dit bewustzijn te vergroten en zo ja, welke stappen neemt u hiertoe?
Zoals ook eerder gesteld: de bewustwording is nog zeker niet compleet binnen samenleving en bedrijfsleven. Ik wil met mijn collega’s inventariseren welke rol de Rijksoverheid hierin kan nemen.
Wat vindt u van het Franse principe Sobriété digitale, digitale gematigdheid, dat staat voor het bewust matigen met sommige digitale technologieën die weinig toevoegen maar vooral vervuilen?
Sobriété digitale is een interessante benadering van digitale ontwikkeling, niet alles wat kan hoeft immers ook gedaan te worden. Desalniettemin ben ik van mening dat de overheid terughoudend moet zijn in het sturen op de omvang van maatschappelijke activiteiten sector. De rol van de overheid ligt primair bij het voorkomen en terugdringen van negatieve effecten van activiteiten, waarbij steeds zorgvuldig zal moeten worden gekeken of sturen op de omvang een effectieve optie is. Hoe dit principe dan wel kan worden toegepast is een vraagstuk waar nog naar gekeken dient te worden samen met betrokkenen uit maatschappij en economie.
In hoeverre zou het Sobriété digitale-principe ook in Nederland als uitgangspunt voor nieuw beleid kunnen dienen?
Als het gaat om digitaliseringsbeleid binnen de overheid krijgt duurzaamheid een steeds prominentere plek in de belangenafwegingen, naast bijvoorbeeld belangen als informatieveiligheid, privacy en dienstverlening. De beleidskeuzes die we maken moeten het immers mogelijk maken dat we de klimaatdoelstellingen die we onszelf opleggen gaan realiseren.
Als het gaat om beleid richting bedrijfsleven en samenleving zetten we flinke stappen met de eerdergenoemde energiebesparingsplicht en CSRD-richtlijn. Ik onderschrijf het belang van bewustzijn over de digitale voetafdruk van bedrijven en de verantwoordelijkheid die bedrijven hebben. Ik hecht echter ook aan het belang van ondernemersvrijheid.
Het bericht over het algoritmeregister |
|
Farid Azarkan (DENK), Hind Dekker-Abdulaziz (D66) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Wat is uw reactie op het bericht van de NOS?1
Het Algoritmeregister maakt deel uit van een breder pakket aan maatregelen voor verantwoorde inzet van algoritmen uit de Werkagenda Waardengedreven Digitaliseren. Zo is begin dit jaar de algoritmetoezichthouder gestart. Voor de zomer ontvangt uw Kamer nog een eerste versie van het implementatiekader verantwoorde inzet van algoritmen voor de overheid. Het kabinet werkt daarnaast aan de Wet versterking waarborgfunctie Awb. Op Europees niveau wordt er gewerkt aan de AI-verordening en binnen de Raad van Europa aan het AI-verdrag. Hierbij is het Algoritmeregister een deel van de oplossing, maar wel een belangrijk onderdeel. Daarmee lopen we voorop in Europa.
Het Algoritmeregister is in december 2022 van start gegaan, met de inzichten en algoritmen die we toen hadden. Ik wilde niet wachten tot alles helemaal perfect was en tot we alle algoritmen in beeld hadden. In de brief die ik toen stuurde heb ik toegezegd het register door te ontwikkelen. Dat ben ik ook aan het doen. Er is een eerste werkdefinitie van welke algoritmen in het Algoritmeregister horen: ten minste de hoog-risico AI-systemen volgens de definitie van de Raadstekst van de AI-verordening. De velden die ingevuld moeten worden in het register worden doorontwikkeld. Daarnaast loopt er een doelgroepenonderzoek. Ik heb het verder makkelijker gemaakt voor overheden om aan te leveren via een webformulier of via hun eigen (interne) register.
Het is nu aan overheden om hun algoritmen te publiceren. Sinds de lancering heeft een aantal organisaties algoritmen gepubliceerd. Van veel weet ik dat zij bezig zijn met de voorbereidingen. Zoals het NOS-artikel opmerkt, is bij een aantal algoritmen nog niet alle velden ingevuld. Een aantal organisaties heeft dit al verbeterd. Anderen hebben aangegeven hiermee aan de slag te gaan, waaronder de gemeente Utrecht.
Ik wijs overheden actief op het publiceren van algoritmen en ook spreek ik mijn collega’s in het kabinet erop aan. Het inventariseren, beleggen van verantwoordelijkheden en het uiteindelijke registreren kost echter tijd en capaciteit voor overheidsorganisaties, omdat dit zorgvuldig moet en tot een toegankelijk resultaat moet leiden. De ambitie is om het Algoritmeregister in 2025 volledig gevuld te hebben met alle algoritmen die voldoen aan de definitie van hoog-risico AI. In de tussentijd zijn we al aan de slag waarbij we de door uw Kamer aangenomen motie meenemen om nieuwe algoritmen op te nemen en te komen tot een planning per departement.2
Ik vind het goed dat er, terwijl in de hele overheid mensen aan het werk zijn, zo kritisch gekeken wordt naar het functioneren van het Algoritmeregister. Om die reden voeren we een open proces waarin iedereen kan meedenken over het register. Met de feedback gaan we aan de slag.
In hoeverre voldoet het huidige algoritmeregister aan het doel om meer transparantie te creëren?
Het Algoritmeregister als instrument biedt nu al meer transparantie, als deel van een breder pakket aan maatregelen zoals ook genoemd in het antwoord bij vraag 1. Als een algoritme geregistreerd is, wordt allereerst het bestaan duidelijk. Het geeft daarnaast inzicht waarvoor het gebruikt wordt, waarom het gebruikt wordt en hoe het gebruikt wordt. In het bijzonder moet het ook inzicht geven in welke gegevens van burgers en bedrijven daarbij gebruikt worden. We voeren momenteel een doelgroepenonderzoek uit en hanteren een open aanpak, waarin mensen kunnen meedenken.
Het is voor de transparantie van belang dat alle relevante algoritmen gepubliceerd worden door overheden. En dat kan natuurlijk beter. Er zijn momenteel 123 algoritmen geregistreerd. Bij een deel daarvan zijn alle velden ingevuld. Natuurlijk is het doel van het Algoritmeregister pas bereikt, als het gevuld is met alle relevante algoritmen. Zoals eerder genoemd, stimuleer ik overheden om te publiceren en zoveel mogelijk velden in te vullen.
In hoeverre is de Staatssecretaris nog van plan om het algoritmeregister aan te passen, om bijvoorbeeld meer inzage te geven in de beslismodellen?
Het register biedt nu al de mogelijkheid daar inzage in te bieden. In de meest recente versie van de publicatiestandaard is het veld «Technische werking», waarin uitgelegd kan worden hoe het algoritme werkt, en is er de mogelijkheid om te linken naar de broncode.
Een andere ambitie uit de Werkagenda Waardengedreven Digitaliseren is het inzicht bieden in welke «regels» gehanteerd worden (actie 3.3.2). Er wordt gekeken naar hoe het register hier een rol in kan spelen.
Deelt de Staatssecretaris de opvatting dat het register juist inzage zou moeten bieden op basis waarvan beslissingen worden genomen, bijvoorbeeld dat nationaliteit een rol speelt bij de risico-inschatting van het algoritme bij een visumaanvraag bij het Ministerie van Buitenlandse Zaken?
Ik ben het met u eens dat het register inzage zou moeten bieden in wat voor gegevens gebruikt worden door algoritmen, in het bijzonder waar het bijzondere persoonsgegevens betreft. Met onder meer het veld «Gegevens» biedt het Algoritmeregister daar de ruimte voor.
Kan de Staatssecretaris een inschatting geven hoe vaak het algoritmeregister wordt geraadpleegd?
Ruim 10.000 bezoekers hebben sinds openstelling de website bezocht. Gemiddeld bezoeken 400 mensen per week het Algoritmeregister.
Decentrale algoritmeregisters zoals die van het UWV en de gemeente Amsterdam zijn hierin niet meegenomen.
Wanneer wordt het algoritmeregister geëvalueerd?
Zoals ook toegelicht in vraag 1, is het Algoritmeregister nog volop in ontwikkeling. Er is daarom sprake van continue evaluatie. Het doelgroepenonderzoek is daarvan een belangrijk onderdeel. Ook het open proces dat we voeren is daar onderdeel van, waarin iedereen feedback kan geven op het register.
Hoeveel hoog-risico algoritmes worden binnen de rijksoverheid ingezet?
Daar is momenteel geen zicht op. De vulling van het Algoritmeregister moet daar inzicht in gaan geven.
In hoeverre klopt het dat direct na de inwerkingtreding van de AI Act het verplicht wordt om algoritmes in het register op te nemen? Zo nee, op welke termijn verwacht de Staatssecretaris wetgeving in te dienen?
Ja, dat klopt. De AI-verordening zal een verplichting bevatten voor het registreren van AI-systemen in een Europese database. De details van deze verplichting, waaronder de te registreren informatie, hangt echter af van de uitkomst van de triloog tussen het Europees Parlement, de Europese Raad en de Europese Commissie. Ik wil de nationale verplichting in samenhang bekijken met de inwerkingtreding van de AI-verordening. Het is belangrijk dat regels uit de AI-verordening en die voor het register goed op elkaar aansluiten. Dit om te voorkomen dat de uitvoeringspraktijk met steeds andere verplichtingen wordt geconfronteerd.
Het onderzoek naar mogelijk discriminerende algoritmen door DUO |
|
Renske Leijten , Peter Kwint |
|
Robbert Dijkgraaf (minister onderwijs, cultuur en wetenschap) (D66), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar voren komt?1, 2, 3
Zoals aangegeven in mijn Kamerbrief van 21 juni vind ik deze signalen zeer verontrustend en heb ik direct een onafhankelijk extern onderzoek aangekondigd.
Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd, namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien u deze gegevens nu niet hebt?
Op dit moment beschikt DUO in het kader van de uitvoering van de WSF 2000 en daarbinnen specifiek de controle op uitwonendheid, niet over gegevens die direct inzicht geven in een eventuele migratieachtergrond. Op basis van de beschikbare data kan ik vooralsnog niet zeggen of het percentage van 97%, dat in het artikel wordt geschetst, klopt. De vraag of de werkwijze van DUO een disproportionele impact heeft op studenten met een migratieachtergrond, staat centraal in het onderzoek dat ik heb aangekondigd.
Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit algoritme buiten werking te stellen?
Ja. Op 22 juni heb ik aan uw Kamer medegedeeld dat ik DUO heb gevraagd om tot nader order uitsluitend te controleren op grond van een aselecte steekproef onder uitwonende studenten. Daarbij worden geen nadere criteria gebruikt.
Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?
Ja, hier zijn wij mee bezig. De beoordeling van dit specifieke algoritme zal ook deel uitmaken van het onafhankelijke onderzoek dat ik aan uw Kamer heb toegezegd. In bredere zin is DUO reeds gestart met een lerende aanpak om voor te sorteren op de toekomstige verplichting om algoritmes op te nemen in het Algoritmeregister. Alvorens over te gaan tot publicatie van een algoritme moeten een aantal stappen doorlopen worden, binnen de bredere scope van het Algoritmeregister wordt ook dit algoritme in de inventarisatie meegenomen.
Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister? Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde register?
Ja, dat is de inzet van het kabinet. In december 2022 is het Algoritmeregister gelanceerd. Dit register wordt momenteel doorontwikkeld. Verschillende organisaties hebben hun algoritmes hier al in aangeleverd. Conform de Werkagenda moet het register in 2025 gevuld zijn met alle algoritmes die relevant zijn voor burgers. Er zijn veel organisaties die hier actief aan werken, maar het vullen van het register kost tijd en capaciteit om zorgvuldig te doen. Zoals ik in het antwoord op de vorige vraag heb aangegeven, werkt DUO eraan om haar algoritmes ook in het register laten opnemen.
Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme gevoed? Zit daar ook informatie van het FSV bij?
Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet uit onderzoek blijken. Wel kan ik alvast aangeven dat DUO geen gebruik maakt van de gegevens uit FSV.
Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid en discriminatoire werking? Zo nee, waarom niet?
Ja. Ik heb in mijn brief van 21 juni aangekondigd dit te gaan doen.
Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve kijk op de werking van algoritmen door DUO?
DUO heeft aangegeven dat etniciteit en nationaliteit niet in het algoritme zitten. Of etniciteit of nationaliteit door het algoritme op indirecte wijze toch de uitkomst beïnvloeden kan ik pas zeggen na afloop van het onderzoek. Ik kan daarom ook geen antwoord geven op de kwalificatie uit uw vraag.
Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling? Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?
Het door DUO gehanteerde algoritme is bij de start in 2012 niet gecheckt op privacy via een gegevensbeschermingseffectbeoordeling (GEB). Deze is namelijk pas ingevoerd in mei 2018 In 2012 is er gebruik gemaakt van een beperkte set uit te wisselen persoonsgegevens die DUO conform de wet voor de uitvoering van haar taken mocht gebruiken. Verder heeft DUO in 2022 de Auditdienst Rijk, in het kader van een lerende aanpak, gevraagd om onderzoek te doen naar het proces van uitwonendencontrole en de privacy-waarborgen daarin. DUO is nog in afwachting van de resultaten van dit onderzoek.
Is het gehanteerde algoritme ook gecheckt door de Autoriteit Persoonsgegevens? Zo niet, waarom niet. Zo ja, wat was hiervan de uitkomst?
Op het destijds ingediende wetsvoorstel waarin uitspraken zijn gedaan over onder andere het selectiemodel is een advies uitgebracht door het CBP, de voorganger van de Autoriteit Persoonsgegevens (AP).
Wie heeft dit algoritme ontwikkeld en hoe zijn de mensenrechten gewaarborgd?
Het selectiemodelis in de pilotfase die vooraf ging aan de inwerkingtreding van de wet in 2012 ontwikkeld in samenwerking met diverse gemeenten en sociale recherches. Het model is samengesteld op basis van (gedrags-)kenmerken van studerenden met een uitwonendenbeurs. Dit model is vervolgens getoetst en aangescherpt op basis van controles in de pilotregio’s.
Is dit algoritme onderzocht in het onderzoek naar aanleiding van de aangenomen motie van het lid Marijnissen c.s. die ziet op het opsporen en opschonen van vervuilde data? Zo niet, waarom niet? Zo ja, waarom was er dan onderzoeksjournalistiek voor nodig om dit op te sporen?4
Ja, dit algoritme is inderdaad in het kader van de genoemde motie onderzocht.6
Hoe kan het dat DUO claimt continu te evalueren maar dat er in ruim tien jaar geen letter op papier is gezet over de geleerde lessen?
Evaluatie vindt plaats door het periodiek toetsen van het uitvoeringsbeleid aan nieuwe jurisprudentie en uitvoeringstechnische zaken waar men tegenaan loopt. In het onderzoek zal in beeld worden gebracht hoe de evaluatie geschiedde.
Bent u bereid met DUO afspraken te maken over de manier waarop de eigen werkwijze geëvalueerd wordt?
Ja, dit maakt onderdeel uit van het aangekondigde onderzoek.
Hoe beoordeelt u dat een fraudebestrijdingssysteem dat letterlijk door Minister Plasterk is vormgegeven naar voorbeeld van de kinderopvang na het toeslagenschandaal niet meteen grondig tegen het licht gehouden is?
Ik kan mij goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt gesteld. Dit zal daarom ook onderdeel uitmaken van het aangekondigde onderzoek. Zie ook vraag 12.
Deelt u de inschatting dat deze informatie naar boven had moeten komen bij de doorlichting van onderwijswetgeving op het gebied van hardvochtigheid? En dat daar wel problemen bij DUO naar voren gekomen zijn, maar niet op dit specifieke punt? Hoe gaat dat in de toekomst voorkomen worden?
Ik kan me goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt gesteld. Dit zal daarom ook onderdeel zijn van het aangekondigde onderzoek.
Waarom worden bij onderzoeken naar vermeende fraude meteen werkgevers geïnformeerd? Deelt u de mening dat dit een onnodig ontwrichtend effect kan hebben op het leven van verdachten?
Werkgevers of andere derden worden niet op de hoogte gesteld van het besluit om de uitwonendenbeurs in te trekken. Ik merk op dat in de berichtgeving er sprake was van een geval waarbij de controleurs bij de gemeente waar de studente in kwestie werkte, zouden hebben gevraagd naar welk adres zij daar had opgegeven. Zonder verdere details kan ik echter niet beoordelen op welke casus dit betrekking zou hebben, noch kan ik bevestigen of dat echt zo is gebeurd. De werkwijze en instructies van de controleurs maakt deel uit van het interne onderzoek dat DUO zelf uitvoert en zal ook in het onafhankelijke onderzoek terugkomen.
Wat vindt u van de kritiek dat DUO veel te snel conclusies trekt over fraude gebaseerd op bezoekjes van soms maar enkele minuten?
Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet uit het aangekondigde onderzoek blijken.
Wat zijn volgens u de implicaties van de omgekeerde bewijslast, zoals die door Minister Plasterk is ingevoerd? Deelt u de conclusie van De Groene, die stelt dat het in de praktijk bijna ondoenlijk is om onomstotelijk aan te tonen dat een student woont waar hij staat ingeschreven?
Ik kan mij goed voorstellen dat naar aanleiding van deze signalen vragen worden gesteld over de omgekeerde bewijslast. Wat mij betreft dient nu eerst nader onderzoek te worden gedaan, en volgt daarna een gesprek over het beleid en eventuele aanpassingen die daarin noodzakelijk zijn. In dat gesprek wordt ook de omgekeerde bewijslast betrokken.
Wat betekent dit voor de aangekondigde intensivering van controles door DUO na herinvoering van de basisbeurs? Kunt u garanderen dat daarbij geen gebruik wordt gemaakt van discriminerende algoritmen?
Zoals aangekondigd zal DUO tot nader order alleen controleren op grond van een aselecte steekproef onder uitwonende studenten. Dat geldt ook voor controles na herinvoering van de basisbeurs. De geplande intensivering houdt verband met het feit dat vanaf 1 september 2023 ook studenten in het hbo en wo weer recht kunnen krijgen op de uitwonendenbeurs en de te controleren populatie dus groter wordt.
Hoe zou u in het algemeen de fraudebestrijding door DUO kenschetsen? Staat de menselijke maat – zoals u op 7 april in een Kamerdebat stelde – bij DUO nu centraal? Kunt u voorkomen dat mensen – net als in het toeslagenschandaal – zonder bewijs als fraudeur worden bestempeld?
De onrust naar aanleiding van deze signalen begrijp ik heel goed. Tegelijkertijd vind ik het niet passend om, terwijl het externe onderzoek nog moet starten, een oordeel uit te spreken over de werkwijze. Daartoe wil ik eerst alle feiten op tafel hebben.
Ik wil in dit licht wel graag met u delen dat de berichtgeving over de fraudebestrijding van DUO ook binnen de organisatie hard is binnengekomen. Zowel binnen DUO als breder binnen het departement. Ik ken DUO wel degelijk als een organisatie waarin de menselijke maat centraal staat. Dat blijkt uit de vooruitstrevende wijze waarop DUO omgaat met maatwerk, de extra wettelijke ruimte die we daarvoor hebben gecreëerd en het initiatief dat DUO continu toont om signalen van de telefoonlijn terug te brengen naar Den Haag. Dat ik de recente signalen over de fraudebestrijding uiterst zorgwekkend vind, bestaat gelijktijdig met de waardering die ik voor de inspanningen van DUO heb.
Het bericht 'Ambtenaar vervalste meerdere rapporten over beveiliging DigiD-aansluiting' |
|
Hawre Rahimi (VVD), Ulysse Ellian (VVD) |
|
Franc Weerwind (minister zonder portefeuille justitie en veiligheid) (D66), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het bericht «Ambtenaar vervalste meerdere rapporten over beveiliging DigiD-aansluiting» van security.nl van 14 juni 2023?1
Ja.
In opdracht van wie heeft deze ambtenaar deze taken uitgevoerd?
De betreffende ambtenaar voerde zijn taken uit in dienst van Justis. De vervalsing van rapporten maakte daar vanzelfsprekend geen onderdeel van uit.
Is hier het vierogenprincipe gebruikt door een andere persoon? Zo ja, is deze persoon in zicht en zo nee, kunt u uitleggen waarom geen gebruik is gemaakt van het vierogenprincipe?
Voor het betreffende proces binnen Justis werd tot maart 2023 geen gebruik gemaakt van het vierogenprincipe. De invoering van het vierogenprincipe is wel één van de verbeteracties die naar aanleiding van dit incident is doorgevoerd.
Heeft de desbetreffende ambtenaar ook op andere ministeries gewerkt? Zo ja, op welke?
Nee.
Is er aan de hand van het digitaal forensisch onderzoek aanleiding om ook binnen andere ministeries en uitvoeringsorganisatie te onderzoeken of daar ook dergelijke praktijken plaatsvinden of hebben gevonden?
Er is naar aanleiding van het uitgevoerde digitaal forensisch onderzoek geen reden om aan te nemen dat bij andere ministeries of uitvoeringsorganisaties dergelijke praktijken plaatsvinden of hebben gevonden. Zie voor de volledigheid ook het antwoord op vraag 6.
Welke structurele oplossingen ziet u om dit in de toekomst te voorkomen?
Op dit moment is het zo dat organisaties bij het gebruik van DigiD jaarlijks moeten aantonen dat zij aan 21 informatieveiligheidseisen voldoen. Sinds 1 januari 2023 vindt digitale ondertekening plaats op de elektronisch ingediende assessments door de onafhankelijke auditor. Zonder deze digitale ondertekening neemt Logius de assessments niet in behandeling. Elke vorm van bewerking in het digitale document, nadat er is getekend, zorgt ervoor dat de geldigheid van de digitale handtekening komt te vervallen. In de afgelopen assessmentronde werd 98% van de assessments digitaal ingediend. Vanaf 1 januari 2024 kunnen assessments uitsluitend digitaal worden ingediend. Hiermee wordt manipulatie van assessments, of rapporten daarover, zo goed als onmogelijk gemaakt. Na de constatering van de manipulatie is bij Justis het auditproces verbeterd en aangescherpt, zo is bijvoorbeeld het vierogenprincipe ingevoerd (zie ook de beantwoording van de vragen 3 en 10).
Wat is er in het rapport voor Suwinet van 2020 aangepast en waarom?
In de aangepaste versies zijn meerdere bevindingen van de Suwinet-auditrapportages afgezwakt of weggelaten. Hierbij zijn sommige negatieve bevindingen aangepast zodat deze positiever overkomen of zijn deze bevindingen volledig weggelaten. Voor meer specifieke informatie verwijs ik naar de managementsamenvatting van het forensisch digitaal onderzoek van Fox-IT, dat ik uw Kamer eerder toestuurde.2 De vraag waarom deze wijzigingen op de originele auditrapportage van de ADR zijn gemaakt, is geen onderdeel geweest van het digitaal forensisch onderzoek van Fox-IT.
Wat zijn de verschillen tussen de beveiligingsassessments van DigiD die de Auditdienst Rijk (ADR) aan Justis levert en de beveiligingsassessments die Justis naar Logius stuurt? Is de informatieveiligheid in gevaar geweest en/of zijn er gegevens gelekt?
In de rapporten zijn oordelen van de ADR dat de toepassing van een beveiligingsnorm «niet voldoet» aangepast naar «voldoet». Op dit moment zijn er geen signalen die wijzen op concreet gevaar voor de informatieveiligheid of het lekken van gegevens. In de tweede fase van het onderzoek wordt een risico-inschatting gemaakt naar aanleiding van de gemaakte wijzigingen in de DigiD-auditrapportages. Na het afronden van deze fase zal naar verwachting meer duidelijk zijn over de risico’s die op het gebied van informatieveiligheid hebben bestaan.
Kan de Staatssecretaris ons mededelen of de weggestuurde persoon betrokken was bij de opzet van de exploited audit en zo ja, welke andere personen in een identieke rol betrokken waren, of mogelijk betrokken zijn? En zijn deze personen ook betrokken bij het implementeren van de reparatie van deze exploit?
Voor de beantwoording van deze vraag interpreteer ik de term «exploited audit» als «het (frauduleus) aanpassen van de bedoelde rapportages». In die context kan ik bevestigen dat de bedoelde persoon inderdaad was betrokken. Zoals ook uit het onderzoek van Fox-IT blijkt, zijn er echter geen sporen aangetroffen die aantonen dat anderen op de hoogte zijn geweest van de aanpassingen of betrokken zijn geweest bij het aanpassen of namaken van de rapporten. Bij de implementatie en reparatie zijn dus geen medewerkers betrokken die ook betrokken waren bij de aanpassing of het namaken van rapporten.
Zien de toegezegde vervolgacties op de verbetering van de interne auditfunctie of op de compliance office bij Justis zelf?
De vervolgacties zien op het aanscherpen en verbeteren van het auditproces binnen Justis, om manipulatie van assessments, of rapporten daarover, zo goed als onmogelijk te maken (zie ook mijn antwoorden op vragen 3 en 6).
Er vinden op dit moment nog twee onderzoeken plaats: het onderzoek naar risico’s zoals benoemd in het antwoord op vraag 8 en een onderzoek naar hoe dit heeft kunnen gebeuren. Het is mijn verwachting dat ook hieruit concrete aanbevelingen komen voor verdere verbeteringen om soortgelijke situaties in de toekomst te voorkomen.
Is er vastgesteld of de betrokken fraudeur ook andere mogelijke exploits heeft gezocht bij Justis en bij Suwinet in die vijf jaren?
Voor de beantwoording van deze vraag interpreteer ik de term «exploits» als «het (frauduleus) aanpassen van rapportages». In die context kan ik u melden dat uit het digitaal forensisch onderzoek niet is gebleken dat dit het geval is.
Heeft het onderzoek kunnen vaststellen of deze medewerkers ook zicht en vermoedens hebben gehad dat deze medewerker deze vervalsingen kon en wilde aanleggen?
Voor de beantwoording van deze vraag interpreteer ik de term «deze medewerkers» als «alle medewerkers van Justis behalve betrokkene». Tijdens het onderzoek van Fox-IT zijn geen sporen aangetroffen die erop wijzen dat anderen dan betrokkene op de hoogte waren van de aanpassingen in de rapporten, of betrokken waren bij het aanpassen of namaken van de rapporten.
Het bericht 'Digitale identiteit voor burgers: doelen behaald, maar nog onduidelijkheid over toekomstige inlogmiddelen' |
|
Hawre Rahimi (VVD), Evert Jan Slootweg (CDA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het rapport van de Algemene Rekenkamer «Digitale identiteit voor burgers: doelen behaald, maar nog onduidelijkheid over toekomstige inlogmiddelen» van de Algemene Rekenkamer van 29 maart 2023?1
Ja, ik ben bekend met het bericht en het betreffende rapport van de Algemene Rekenkamer.
Deelt u de mening dat het onwenselijk is dat door strengere beveiligingsmaatregelen, die per 1 juli met de ingang van de Wet digitale overheid ingaan, een grote groep burgers, die normaal gebruik maakt van sms-codes om in te loggen bij DigiD, dit straks niet meer kunnen omdat het technisch aansluitpunt dat moet komen zodat uitvoerende organisaties zoals de UWV, de Belastingdienst en gemeenten slechts op één centraal punt aan hoeven te sluiten, er nog niet is?
Op 1 juli aanstaande zijn er nog geen directe gevolgen voor burgers en bedrijven voor de digitale toegang tot de overheidsdienstverlening op grond van de Wet Digitale Overheid (WDO). Inloggen met SMS blijft op 1 juli beschikbaar.
De Wet Digitale Overheid zal op 1 juli 2023 gefaseerd in werking treden. De wet vormt onder andere de juridische basis voor het nog in ontwikkeling zijnde stelsel Toegang. Het stelsel Toegang maakt het technisch mogelijk dat in de nabije toekomst kan worden ingelogd met zowel publieke inlogmiddelen, zoals DigiD, als met erkende private middelen. Deze middelen dienen te beschikken over de vereiste betrouwbaarheidsniveaus, conform de eIDAS-verordening, hetgeen nu in de wet is vastgelegd. De dienstverleners bepalen zelf op welk betrouwbaarheidsniveau een burger of bedrijf moet inloggen.
Hogere betrouwbaarheidsniveaus maken de dienstverlening veiliger en maken een nauwkeuriger identiteitsvaststelling mogelijk, maar vragen altijd nadrukkelijke aandacht voor digitale toegankelijkheid voor burgers. De afweging tussen veiligheid en toegankelijkheid staat daarom centraal bij de doorontwikkeling van inlogmiddelen en bij het onderzoek naar de toepassing van hogere betrouwbaarheidsniveaus.
Voor burgers kan het lastig zijn om volwaardig digitaal mee te doen. Er moet om die reden altijd een goed werkend en toegankelijk fysiek alternatief zijn om in contact te treden met publieke dienstverleners. Burgers kunnen bij digitale dienstverlening onder andere geholpen worden bij de Informatiepunten Digitale Overheid (IDO’s) en de helpdesk van DigiD en eHerkenning. Daarnaast ben ik bezig met het verder ontwikkelen van voorzieningen voor digitaal machtigen en vertegenwoordigen, zodat een burger ook aan iemand anders kan vragen iets voor hem of haar te regelen.
Het is belangrijk dat inloggen met DigiD bij de overheid en bij andere organisaties veilig, betrouwbaar en toegankelijk is en blijft. Voor veel overheidsdiensten loggen mensen nu in met de DigiD-app of een SMS-code naast hun gebruikersnaam en wachtwoord. Daarbij merk ik op, zoals ik eerder al aan uw Kamer heb gemeld2, dat de mogelijkheid om in te loggen via SMS-authenticatie vooralsnog behouden blijft. Ik heb aangegeven dat ik in overleg met uw Kamer zal treden voordat er wijzigingen plaatsvinden in dit beleidsuitgangspunt.
Deelt u de mening dat dat dit een potentieel maatschappelijk ontwrichtende werking heeft als dit aansluitpunt niet voor 1 juli 2023 gereed is en er niet meer ingelogd kan worden bij verschillende organisaties?
U geeft aan dat bij de ontwikkeling van het nieuwe stelsel een centraal aansluitpunt ontbreekt. In plaats van een centraal aansluitpunt wordt gewerkt aan een standaard koppelvlak waarop publieke dienstverleners kunnen aansluiten.
Er wordt momenteel gewerkt aan dit koppelvlak. Belangrijk is te benadrukken dat de aansluiting van publieke dienstverleners op het nieuwe stelsel Toegang niet in één keer, maar geleidelijk gaat. Dienstverleners sluiten na zorgvuldige voorbereiding geleidelijk aan op het stelsel Toegang. Deze geleidelijke aansluiting is voorzien in de periode 2024–2026 en zal worden vastgelegd in een aansluitschema.
Zolang een dienstverlener niet is aangesloten op het nieuwe technische stelsel zal de bestaande techniek met inloggen via DigiD en eHerkenning beschikbaar zijn.
Zo ja, wat gaat u doen om er voor te zorgen dat deze grote groep burgers wél gebruik kan (blijven) maken van de digitale faciliteiten van de overheid? Met andere woorden, wat gaat u doen om voor 1 juli 2023 dat aansluitpunt wel te regelen?
Zie de antwoorden op vraag 2 en 3.
In hoeverre is het niet nakomen van het organiseren van een ordentelijk aansluitpunt in strijd met de wet Markt en Overheid?
Zoals in vraag 3 geantwoord wordt momenteel gewerkt aan een standaard koppelvlak. Het aansluiten op het stelsel Toegang heeft zijn basis in de Wet Digitale Overheid.
Kunt u deze vragen voor het wetgevingsoverleg dat gepland staat op 13 juni a.s. over de Slotwet 2022, Jaarverslag 2022 en rapport resultaten verantwoordingsonderzoek 2022 ARK over het Ministerie van JenV, BZK en van EZK, voor zover het onderwerpen betreft die zien op digitalisering, beantwoorden?
Ja.
Het aan banden leggen van ChatGPT vanwege privacyzorgen |
|
Lammert van Raan (PvdD) |
|
Franc Weerwind (minister zonder portefeuille justitie en veiligheid) (D66), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Kent u het artikel «Dat zijn toch gewoon ál onze artikelen?»1
Ja.
Kunt u bevestigen dat ChatGPT zijn taalmodel traint op basis van miljoenen onrechtmatig verkregen documenten van Docplayer.nl?
Ik beschik niet over informatie over de manier waarop ChatGPT gegevens verwerkt. Ik deel de zorg of gegevensverwerking door ChatGPT in overeenstemming met de regels van het gegevensbeschermingsrecht plaatsvindt. Ik vind het dan ook een goede zaak dat de Autoriteit Persoonsgegevens (AP), als toezichthouder op de naleving van de Algemene Verordening Gegevensbescherming (AVG), op 7 juni jl. bekend heeft gemaakt dat zij OpenAI per brief om opheldering heeft gevraagd over ChatGPT.2 De AP schrijft op haar website dat zij van OpenAI wil weten welke data worden gebruikt om het algoritme te trainen op welke manier dat gebeurt. Verder schrijft de AP zorgen te hebben omtrent informatie over mensen die GPT gebruikt. De gegenereerde inhoud kan onnauwkeurig zijn, verouderd, onjuist, ongepast, beledigend, of aanstootgevend en kan een eigen leven gaan leiden. Of en zo ja hoe OpenAI die gegevens kan rectificeren of verwijderen, vindt de AP nog onduidelijk, zo volgt uit haar bericht.
Klopt het dat die documenten vol staan met onder andere BSN-nummers, persoonlijke belastingaangiftes, curricula vitae en andere persoonsgegevens?
Zie antwoord vraag 2.
Deelt u de stelling uit het artikel: «De persoonlijke informatie van docplayer.nl was op de website zélf al in strijd met de wet, laat staan wanneer die ook nog eens in chatbots wordt verwerkt»? Zo nee, waarom niet?
Er is mij onvoldoende bekend over docplayer.nl om hierover stelling in te nemen. Dat is ook niet de taak van het kabinet; de toezichthouder op de verwerking van persoonsgegevens dient dat in de eerste plaats te beoordelen, of het Openbaar Ministerie indien wordt vermoed dat sprake is van strafbare feiten.
Klopt het dat ChatGPT hiermee onrechtmatig en onwettig persoonsgegevens verwerkt?
Het kabinet deelt de zorgen van uw Kamer over de risico’s die generatieve AI-systemen, zoals ChatGPT, met zich mee kunnen brengen voor onder meer privacy, desinformatie en manipulatie. We zetten ons als kabinet vol in op het nemen van passende stappen op dit onderwerp.
Het kabinet werkt momenteel aan een visietraject over generatieve AI, zoals verzocht door uw Kamer middels de motie van de leden Dekker-Abdulaziz en Rajkowski. Deze visie wordt op een transparante wijze ontwikkeld en getoetst in diverse sectoren. U ontvangt deze visie voor het einde van het jaar. Over de voortgang is uw Kamer op 7 juli jl. al separaat geïnformeerd3. In deze visie formuleert het kabinet een standpunt over generatieve AI, waar ook een van de meest gebruikte generatieve AI-tools onder valt: ChatGPT. Ook wordt uiteengezet welk handelingsperspectief de Nederlandse overheid heeft om te waarborgen dat deze technologie op een verantwoorde manier in onze samenleving wordt ingebed.
Nederland speelt daarnaast een actieve rol in de onderhandelingen over zowel de AI-verordening van de EU als het AI-verdrag van de Raad van Europa. De AI-verordening stelt specifieke eisen aan de ontwikkelaars en gebruikers van hoog-risico AI-systemen, bijvoorbeeld als het gaat om transparantie en productveiligheid. Wij vinden het – net als het Europees Parlement – van belang dat er in deze wet speciale aandacht is voor foundation models en generatieve AI, zoals GPT en ChatGPT. Het kabinet zet zich ervoor in dat deze wet zo snel mogelijk wordt aangenomen.
De AP heeft mij geïnformeerd dat het samenwerkingsverband van Europese privacytoezichthouders (EDPB) op 13 april heeft besloten om, naar aanleiding van het Italiaanse optreden tegen OpenAI inzake ChatGPT, een taskforce in te stellen. Deze taskforce heeft tot doel de samenwerking en informatie-uitwisseling over mogelijke handhavingsmaatregelen te bevorderen. Alle Europese privacytoezichthouders zijn in dit samenwerkingsverband vertegenwoordigd, dus ook de AP. Generatieve AI, zoals het grote taalmodel artificiële intelligentie (AI) systeem ChatGPT, is een grensoverschrijdend fenomeen dat vraagt om een geharmoniseerde aanpak. Daarom hecht de AP grote waarde aan een effectief gezamenlijk optreden van de Europese privacytoezichthouders. Of ChatGPT rechtmatig persoonsgegevens verwerkt, is uiteindelijk ter beoordeling van de toezichthouders.
Hoe oordeelt u daarover? Wat gaat u er aan doen?
Zie antwoord vraag 5.
Klopt het dat ChatGPT voor zijn taalmodel ongeveer net zoveel geleerd heeft van de neonazistische website Stormfront als van de website van RTL Nieuws?2
Hoe oordeelt u daarover? Wat gaat u er aan doen?
Klopt het dat ChatGPT gebruik heeft gemaakt van onder andere 594.000 NRC artikelen en 162.000 Volkskrant artikelen?
Deelt u de mening dat ChatGPT hiermee inbreuk maakt op het auteursrecht?
Dat valt niet op voorhand te zeggen. Op grond van artikel 25a, derde lid, van de Auteurswet wordt onder tekst- en datamining verstaan een geautomatiseerde analysetechniek die gericht is op de ontleding van tekst en gegevens in digitale vorm om informatie te genereren zoals, maar niet uitsluitend, patronen, trends en onderlinge verbanden. De definitie is ruim en omspant waarschijnlijk ook het trainen van generatieve artificiële intelligentie zoals ChatGPT. In principe is voor iedere reproductie van een werk van letterkunde, wetenschap of kunst voorafgaande toestemming van de maker of zijn rechtverkrijgende nodig. Zonder die toestemming wordt inbreuk op het auteursrecht gemaakt. Artikel 15o van de Auteurswet voorziet echter in een uitzondering op het reproductierecht voor tekst- en datamining. Aan de inroepbaarheid van die uitzondering zijn twee voorwaarden verbonden. In de eerste plaats moet de degene die zich op de uitzondering beroept rechtmatig toegang hebben tot het werk dat wordt gekopieerd om tekst- en datamining mogelijk te maken. Van rechtmatige toegang tot het werk is uiteraard sprake als het werk voor het publiek online vrijelijk beschikbaar is gesteld. In de tweede plaats moet de maker van het werk of zijn rechtverkrijgende het recht om een reproductie te maken ten behoeve van tekst- en datamining niet op passende wijze hebben voorbehouden. Of daarvan sprake is bij de artikelen waaruit ChatGPT put, is mij niet bekend. Een reproductie mag blijkens het bepaalde in artikel 15o, tweede lid, van de Auteurswet worden bewaard zolang dit nodig is voor tekst- en datamining. Daarna moet de reproductie worden verwijderd. Anders is sprake van inbreuk op het auteursrecht. De regeling is geënt op artikel 4 van richtlijn (EU) 2019/790 van het Europees Parlement en de Raad van 17 april 2019 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt en tot wijziging van Richtlijnen 96/9/EG en 2001/29/EG (PbEU 2019, L130/92). Het geven van een interpretatie is daarmee uiteindelijk aan het Hof van Justitie van de Europese Unie voorbehouden.
In de kabinetsvisie generatieve AI wordt een nadere analyse uitgevoerd van auteursrechtelijke vraagstukken gerelateerd aan generatieve AI, zoals ChatGPT. Daarnaast onderzoekt het Rathenau Instituut – in opdracht van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties – hoe huidig beleid en de bestaande wet- en regelgeving zich verhouden tot generatieve AI. Hierbij zal ook aandacht uitgaan naar (juridische) auteursrechtelijke kwesties betreffende generatieve AI.
Hoe oordeelt u daarover? Wat gaat u er aan doen?
Klopt het dat het «kwaliteitsfilter» is gebaseerd op drie bronnen waarvan er twee (Wikipedia en Reddit) een zeer sterke oververtegenwoordiging van mannelijke input kennen?3
Hoe oordeelt u daarover? Wat gaat u er aan doen?
Deelt u de mening dat de Autoriteit Persoonsgegevens zo snel mogelijk met een spoedoordeel moet komen over ChatGPT en het blokkeren ervan geen taboe is? Kunt u de Autoriteit Persoonsgegevens daartoe aansporen?
Graag verwijs ik naar het antwoord op de vragen 2 en 3, waaruit volgt dat de AP zelf reeds een stap heeft gezet.
Kunt u deze vragenset zo snel als mogelijk beantwoorden?
De vragen zijn zo spoedig mogelijk beantwoord.
Het rekenen van extra kosten door zorgverzekeraars voor het ontvangen van post |
|
Barbara Kathmann (PvdA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Is de Staatssecretaris bekend met het feit dat mensen verzekerd bij IZA Zorgverzekeringen een brief hebben ontvangen dat post van de zorgverzekeraar voortaan niet meer gratis is? Hoe beoordeelt zij het feit dat mensen voortaan €1,25 per maand moeten betalen als zij niet de overstap maken naar digitale correspondentie?
Ja, zoals ik ook in reactie op de motie Leijten heb aangegeven1, hecht ik eraan dat iedereen kan meedoen in onze samenleving en dat niemand wordt buitengesloten. De coöperatie VGZ – waar IZA Zorgverzekeringen onderdeel van uitmaakt – heeft de Minister van Volksgezondheid, Welzijn en Sport laten weten dat zij kwetsbare groepen verzekerden, zoals verzekerden onder curatele, verzekerden bij wie bronheffing aan de orde is en sociale minima met een gemeentepolis, kosteloos per papier blijft informeren. Daarnaast wordt aan verzekerden de mogelijkheid geboden om in geval van vragen of onduidelijkheden telefonisch contact op te nemen met de zorgverzekeraar.2
Is de Staatssecretaris bekend met het feit dat één op de vijf Nederlanders moeite heeft met digitale vaardigheden?
Ja. Ik ben, zoals ik in mijn reactie3 op het verantwoordingsonderzoek van de Algemene Rekenkamer naar de Informatiepunten Digitale Overheid heb aangegeven, gestart met een aantal activiteiten om beter inzicht te krijgen in de behoefte van de groep mensen die (al dan niet tijdelijk) niet in staat zijn om zelfstandig gebruik te maken van de (digitale) publieke dienstverlening. De mate waarin mensen in staat zijn om zelfstandig zaken te doen met de overheid hangt samen met de mate van hun zelfstandigheid (zoals bijvoorbeeld onvoldoende digitale vaardigheden), maar ook met de complexiteit van hun persoonlijke situatie en de complexiteit van wetten, regels en de organisatie(s) met wie zij te maken hebben.
Deelt de Staatssecretaris de mening dat er altijd een niet-digitaal alternatief moet zijn voor burgers in hun communicatie met instellingen die essentieel zijn in het dagelijks leven, zoals verzekeraars en banken? In hoeverre deelt zij de mening dat de drempel voor de niet-digitale weg niet hoger mag zijn dan die voor de digitale weg?
In het kader van de Werkagenda Waardengedreven Digitaliseren zet ik mij ervoor in dat de overheidsdienstverlening aansluit bij de behoeften en leefwereld van burgers en ondernemers en dat zij zelf kunnen kiezen op welke wijze ze gebruik willen maken van de overheidsdienstverlening, digitaal of niet-digitaal. Voor private of semi-publieke organisaties zoals de zorgverzekeraars, kan ik niet bepalen hoe zij de dienstverlening voor hun klanten inrichten, maar met uw Kamer vind ik het van groot belang dat ook mensen die niet van het digitale kanaal gebruik kunnen of willen maken wel bij deze instellingen kunnen blijven meedoen. De Wet Modernisering Elektronisch Bestuurlijk Verkeer is niet van toepassing op private instellingen. Zoals ik heb aangegeven in de Kamer betekent dit dat ik niet kan bepalen hoe de zorgverzekeraars de dienstverlening aan hun klanten regelen. Als toegezegd aan uw Kamer ben ik echter met deze instellingen in gesprek over hoe zij ervoor zorgen dat iedereen mee kan blijven doen. De Kamer ontvangt in oktober bericht over de uitkomsten van deze gesprekken.4 Ik onderzoek daarbij ook de mogelijkheden om tot afspraken te komen die in lijn liggen met het begin dit jaar gestarte brede programma «Toegankelijk Bankieren».In dit programma spannen de Nederlandse banken zich in om de dienstverlening van banken toegankelijker en inclusiever te maken.5 Zij doen dit in nauwe samenwerking de Alliantie Digitaal Samenleven, diverse maatschappelijke organisaties van bijvoorbeeld ouderen, laaggeletterden en mensen met een lichamelijke of verstandelijke beperking en de banken zodat de dienstverlening goed aansluit op de behoeften van alle klanten, waaronder ook specifieke doelgroepen.
Wat vindt de Staatssecretaris ervan dat IZA Zorgverzekeringen de gestegen kosten van postzegels en papier doorberekent aan haar minst digitaalvaardige klanten?
Zie antwoord vraag 1.
Vindt de Staatssecretaris dat mensen recht hebben op communicatie met hun verzekeraar op een manier die voor hen toegankelijk is? Hoe beoordeelt zij het feit dat mensen zonder digitale vaardigheden bij deze zorgverzekeraar straks moeten betalen voor hun correspondentie over zorg? Hoe beoordeelt zij dit in het licht van het feit dat zorgverzekeraars opereren onder strikte publiekrechtelijke randvoorwaarden?
Zie antwoord vraag 3.
Hoe verhoudt het in rekening brengen van een maandelijks bedrag zich volgens de Staatssecretaris tot de motie van het lid Leijten c.s. over altijd een gebruiksvriendelijk niet-digitaal alternatief bieden bij het ontwikkelen van nieuwe digitale middelen (Kamerstuk 26 643, nr. 834)?
Zie antwoord vraag 1.
Bij hoeveel andere (zorg)verzekeraars, banken en (semi-)publieke instellingen worden kosten gerekend om post op papier te ontvangen?
Er is geen landelijk overzicht van private ondernemingen of semi-publieke instellingen die kosten aan hun klanten doorberekenen om post op papier te ontvangen. Zoals de Minister van Volksgezondheid, Welzijn en Sport aan uw Kamer heeft laten weten zijn er bij het Ministerie van VWS twee zorgverzekeraars bekend die extra kosten in rekening brengen voor het ontvangen van post op papier.6
Wat gaat de Staatssecretaris doen om te zorgen dat mensen zonder digitale vaardigheden altijd toegang houden tot offline communicatie met deze instellingen, zonder daarvoor extra kosten te hoeven betalen?
Zie antwoord vraag 3.
Het bericht dat Nederlanders de overheid steeds minder vertrouwen met persoonsgegevens |
|
Hind Dekker-Abdulaziz (D66) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het bericht dat Nederlanders de overheid steeds minder vertrouwen met persoonsgegevens? Wat is daarop uw reactie?1
Ja.
Het kabinet betreurt het zeer dat het vertrouwen gedaald is in de overheid met betrekking tot persoonsgegevens. De overheid moet de normen van de Algemene Verordening Gegevensbescherming (AVG) in acht nemen. In de afgelopen jaren is gebleken dat dit niet altijd het geval is. Dit was voor het vorige kabinet reden om onderzoek te laten doen naar de naleving van de AVG door overheden. Dat onderzoek heeft de Minister voor Rechtsbescherming, mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, op 9 februari jl. aan uw Kamer aangeboden.2 In het onderzoek is nagegaan welke onduidelijkheden en problemen zich voordoen bij naleving van de AVG door overheden en welke oorzaken dit heeft. Een inhoudelijke reactie namens beide bewindspersonen op dit onderzoek volgt na het zomerreces.
Meer dan de helft van de ondervraagden maakt zich zorgen over de ontwikkelingen rondom Artificiele Intelligentie (AI). Waarom hebben de instrumenten om te voorkomen dat AI binnen de overheid verkeerd gebruikt wordt, zoals het algoritmeregister en het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA), nu geen verplicht karakter?
Met de Werkagenda Waardengedreven Digitaliseren3 zet het kabinet zich onder de noemer «algoritmes reguleren» in om tot een verantwoorde inzet van algoritmes te komen.
Momenteel onderzoekt het kabinet hoe een verplichte mensenrechtentoets (zoals een IAMA4), waar uw Kamer om heeft gevraagd, kan worden ingevoerd. Dit moet bekeken worden in samenhang met verplichtingen die er al zijn, zoals een Data Protection Impact Assessment (DPIA), en nieuwe verplichtingen die zullen volgen uit de AI-verordening. In de positie van de Raad van de Europese Unie (hierna: Raadstekst) en de positie van het Europees Parlement (EP) van de AI-verordening staat onder andere dat de aanbieder bij de ontwikkeling van een AI-systeem expliciet moet kijken naar de risico’s voor fundamentele rechten. Hoe deze Europese verplichtingen precies eruit komen te zien, is nog niet zeker. Recentelijk heeft uw Kamer gevraagd om, vooruitlopend op de AI-verordening, alle nieuw te starten algoritmes met een hoog risico (op basis van meeste recente tekst in de AI-verordening) een IAMA te laten ondergaan en het algoritme te publiceren in het algoritmeregister.
Daarnaast heeft uw Kamer mij gevraagd u te informeren over een mogelijkheid van een verplicht algoritmeregister, vooruitlopend op de AI-verordening. Hierover heb ik een brief gestuurd naar uw Kamer.5 Ook hier is de samenhang met de AI-verordening van belang. Volgens de AI-verordening zijn aanbieders van hoog-risico AI-systemen verplicht om hun systemen in de EU-databank te registreren. Aanvullend stelt de Raadstekst alsook het EP voor dat overheden als gebruikers van hoog-risico AI-systemen hun gebruik van die systemen ook in de EU-databank moeten registreren. Het is nog niet bekend hoe de definitieve tekst van de verordening eruit gaat zien. Daarop vooruitlopend een wetsvoorstel in procedure brengen, leidt niet tot tijdswinst ten opzichte van de inwerkingtreding van de AI-verordening, maar mogelijk wel tot regels die daar niet op aansluiten. Uiteraard wil het kabinet ongewenste effecten van algoritmes in overheidstoepassingen zoveel mogelijk voorkomen. Of daar extra registratieverplichtingen voor nodig zijn, kan pas na vaststelling van de AI-verordening worden bepaald. Ministeries zijn aan het werk om, vooruitlopend op de komst van het verplichte algoritmeregister, eind 2025 hoog risico algoritmes te publiceren in het algoritmeregister, conform de werkafspraken in de Werkagenda Waardengedreven Digitaliseren.
Is er een termijn waarbinnen u de bovengenoemde instrumentenwel een verplicht karakter wil geven als er geen voortgang wordt geboekt? Zo ja wanneer is dat?
Zie antwoord vraag 2.
In hoeverre denkt u dat het bijdraagt aan de transparantie als de overheidkenbaar maakt wanneer een beslissing of handeling met behulp van AI tot stand is gekomen?
Het kabinet verwacht dat dit bijdraagt aan de transparantie en onderzoekt hoe dit gerealiseerd kan worden. De Minister van Binnenlandse Zaken en Koninkrijksrelaties en de Minister voor Rechtsbescherming bestuderen dit momenteel in het kader van het wetsvoorstel Wet versterking waarborgfunctie Algemene wet bestuursrecht (Awb), dat in het voorjaar in preconsultatie is geweest. In dit traject wordt de uitvoering van de motie van het lid Van Baarle meegenomen.6 Het kabinet hecht er daarnaast aan te benoemen dat er tijdens de onderhandelingen over de Europese AI-verordening actief op wordt ingezet dat in de AI-verordening wordt opgenomen dat kenbaar gemaakt wordt als een besluit gemaakt wordt met behulp van AI. Nederland bestudeert daarom het voorstel van het EP voor een notificatieplicht.
Wat zijn andere maatregelen met betrekking tot AI die het vertrouwen in de overheid kunnen terugwinnen?
Het is van belang dat we, wanneer AI en/of algoritmes impact hebben op mensen, bij de inzet van AI en/of algoritmes laten zien wat onze motieven zijn en dat we zorgen dat voor mensen duidelijk is op welke manier de inzet van algoritmes invloed heeft op onze beslissingen als overheid. Het is van belang dat mensen weten dat procedures eerlijk zijn, beslissingen zorgvuldig worden genomen en dat die beslissingen onbevooroordeeld zijn en worden geleid door consistente, transparante en logische redeneringen. Ook bij de inzet van algoritmes.
Naast de oplossingen die genoemd zijn en die kunnen bijdragen aan vertrouwen, heb ik een implementatiekader «inzet van algoritmes»7 naar uw Kamer gestuurd dat ervoor moet zorgen dat er een logisch en consistent kader is met daarin belangrijke normen en ethische eisen. Op die manier zorgen we ervoor dat controle en toetsing van allerlei ontwerp en – implementatiekeuzes in AI en/of algoritmes tijdig plaatsvinden. Hiermee wordt de kans op negatieve effecten bij voorbaat verkleind.
Datzelfde geldt ook voor het toezicht op algoritmes. Het kabinet versterkt het toezicht via de nieuwe Directie Coördinatie Algoritmes (DCA) bij de Autoriteit Persoonsgegevens die in samenwerking met andere toezichthouders vroegtijdig risico’s signaleert.
Hoe reflecteert u op het gegeven dat de ondervraagden de huidige praktijk rondom het toestemming geven voor cookies als onprettig ervaart?
Het kabinet herkent dat de huidige praktijk onprettig is. Er is wetgeving die bepaalt dat gegevens van (internet)gebruikers niet zonder toestemming gebruikt mogen worden. Echter zien we dat door consentmoeheid en dark patterns8 consumenten vaak akkoord gaan zonder dat ze dat echt willen. Het zou mogelijk moeten zijn voor internetgebruikers om in één keer aan te geven waarmee zij akkoord gaan en waarmee niet, zodat zij niet langer per website hoeven te klikken. Het kabinet wil dat eenmaal gegeven of geweigerde toestemming voor een bepaalde website onthouden wordt, zodat de vraag om toestemming niet telkens opnieuw gesteld hoeft te worden. Dit zou mogelijk kunnen worden geregeld door instellingen in de browser, als toestemmingsverzoeken van websites daar dan ook op worden aangepast. Het is van belang dat we dit op Europees niveau regelen om het zo effectief mogelijk te maken. Hetzelfde geldt voor de mogelijkheid om een eenmaal verleende toestemming weer in te trekken. Het kabinet wil deze praktijk verbeteren. Hier ontvangt uw Kamer binnenkort een brief over.
Kunt u toelichten waarom andere EU lidstaten, zoals Frankrijk, wél hun nationale cookie-toezicht aanscherpen, en we hier wachten op nieuwe regelgeving vanuit Brussel?2
Het is belangrijk om twee zaken van elkaar te onderscheiden. Het klopt dat Nederland zich actief inzet om te komen tot nieuwe Europese wetgeving over cookies. In de bij antwoord 6 genoemde brief, zullen we dieper ingaan op onze inzet. Dit staat los van het toezicht op en de handhaving van de huidige wetgeving rondom cookies, de ePrivacy-richtlijn en de AVG. Het is aan de nationale toezichthouders om de wetgeving te interpreteren en te handhaven. Het kan dus zijn dat de Franse toezichthouder andere keuzes maakt over de inzet van hun capaciteit dan de Nederlandse. In Nederland zijn dat zowel de Autoriteit Consument en Markt (ACM) voor de cookiebepaling uit de Telecommunicatiewet als de Autoriteit Persoonsgegevens (AP) voor de AVG, die naast de Telecommunicatiewet regels geeft over de verwerking van met cookies verkregen persoonsgegevens. De AP en de ACM hebben hierover een samenwerkingsprotocol.10
In hoeverre bent u bereid om onderzoek te laten verrichten welke mogelijkheden er zijn om in afwachting op de ePrivacy verordening, de huidige praktijk rondom het toestemming geven voor cookies te verbeteren via wetgeving?
Artikel 11.7a van de Telecommunicatiewet (Tw), waarin de ePrivacyrichtlijn is geïmplementeerd, schrijft duidelijk voor dat toestemming vereist is voor het plaatsen en lezen van cookies. Deze toestemming moet gebaseerd zijn op voldoende informatie over het plaatsen van de cookies en wat er vervolgens met de via de cookies verzamelde informatie gebeurt. De beoordeling daarvan is aan de toezichthouder en de rechter, maar de huidige praktijk lijkt daar in veel gevallen niet aan te voldoen. Bijvoorbeeld wanneer cookiebanners (de pop up op een website waarin gemeld wordt dat er cookies worden geplaatst als je er mee instemt) alleen een duidelijke mogelijkheid om cookies te accepteren aanbieden, en het weigeren van cookies vrijwel onmogelijk wordt gemaakt. Dan levert een weg geklikte cookiebanner zeer waarschijnlijk geen «vrije» wilsuiting op, zoals de Tw en AVG vereisen. Volgens de wet zouden dan geen cookies mogen worden geplaatst. Ook wordt niet altijd aan het vereiste voldaan dat de gebruiker voldoende «geïnformeerd» is over waar de cookies precies voor worden gebruikt. Daar kan op basis van de huidige wetgeving al op worden gehandhaafd en dat is in het verleden ook gebeurd.11
In het verleden is hier goed toezicht op gehouden en het is belangrijk dat dit goede toezicht blijft. Het kabinet heeft al geïnvesteerd in extra middelen voor de AP. Het kabinet wil in gesprek gaan met de toezichthouders over hoe we het toezicht, maar ook de informatievoorziening aan internetgebruikers, verder kunnen versterken.
Daarnaast kan door de toezichthouders worden aangehaakt op de bevindingen van onder meer de werkgroep onder het Europees Comité voor gegevensbescherming (EDPB), een onafhankelijk orgaan waarin de toezichthouders uit de verschillende lidstaten samenwerken met het oog op een consistente toepassing van de AVG en andere Europese privacyregelgeving. De Cookie Banner Taskforce van de EDPB buigt zich momenteel bijvoorbeeld over cookie banners en dark patterns aan de hand van bestaande wetgeving.12
Het kabinet ziet geen (effectieve) mogelijkheden om binnen de AVG en de ePrivacyrichtlijn middels nationale wetgeving de huidige praktijk rondom het toestemming geven voor cookies te verbeteren. Het kabinet is hier nader op ingegaan in de toegezegde Kamerbrief over het onderwerp cookies.
Welke concrete stappen gaat u zetten om ervoor te zorgen dat de ePrivacy verordening onder Spaans voorzitterschap benoemd wordt tot prioriteit?
Het kabinet vindt het van belang dat er spoedig betere ePrivacyregels komen. De onderhandelingen over de ePrivacyverordening zitten zoals bekend al jaren vast. Om die reden kijkt het kabinet naar alternatieve oplossingen. Uw Kamer heeft ook een motie13 aangenomen om daarvoor te pleiten. Ik heb op 1 juni 2023 gesproken met Eurocommissaris voor Justitie Reynders, die bezig is met een vrijwillig initiatief op dit onderwerp. Het doel is om op vrijwillige basis mogelijkheden te vinden om het simpeler maken voor internetgebruikers om cookies te weigeren als ze dat willen en om alternatieven te vinden voor op tracking gebaseerde reclame. Daarbij wordt ook gekeken naar de mogelijkheid om cookies te weigeren of accepteren via de browser, zonder elke keer opnieuw met een cookiebanner te worden geconfronteerd. Het kabinet steunt dit initiatief van harte. Als dit initiatief onverhoopt niet slaagt, moet gewerkt worden aan verbeterde Europese regelgeving met betrekking tot het toestemmingsvereiste.
Op 2 juni 2023 heb ik in de Telecomraad eveneens gepleit voor een Europese oplossing voor het cookievraagstuk, desnoods los van de ePrivacyverordening. Indachtig de motie van uw Kamer zal het kabinet de komende tijd hiervoor blijven pleiten in Europa.
Onderzoek naar het (risico)profiel UT001 |
|
Stephan van Baarle (DENK) |
|
Marnix van Rij (staatssecretaris financiën) (CDA), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Waarom heeft de Belastingdienst tot en met de procedure van wederhoor de onderzoekers geen bescheiden overlegd? Deelt u de mening dat dit een onwenselijke gang van zaken is?1
De benaderde medewerkers van de Belastingdienst en de Dienst Toeslagen hebben de informatie waar het onderzoeksbureau om vroeg gedurende het onderzoek verstrekt, voor zover zij daarover beschikten. Uitzondering hierop zijn een zestal documenten zonder formele status die pas tijdens de procedure van wederhoor zijn verstrekt. Het gaat om bestanden die niet zijn goedgekeurd door het projectteam of de leiding van de Belastingdienst. Daarom is niet met zekerheid te zeggen of en op welke wijze de inhoud van deze documenten onderdeel was van het besluitvormingsproces. Het is niet uit te sluiten dat deze conceptdocumenten op een later moment nog gewijzigd of aangevuld zijn. Er zijn geen definitieve of latere versies gevonden van deze documenten. Dit is de reden dat deze zes documenten pas na intern beraad verstrekt zijn, waarbij het onderzoeksbureau nadrukkelijk op de conceptstatus is gewezen. Het onderzoeksbureau heeft deze documenten alsnog verwerkt in het onderzoek. In bijlage 2 bij deze brief vindt u de opgeleverde documenten.
Er is gedurende het onderzoek geen verzoek gedaan om een centrale zoekslag te verrichten in het archief van de Belastingdienst. Het onderzoeksbureau heeft interviews afgenomen met medewerkers van de Belastingdienst en de Dienst Toeslagen en deze medewerkers benaderd over de beschikbaarheid van documenten. In het onderzoeksrapport zijn de individuele geïnterviewde medewerkers van de Belastingdienst omschreven als «de Belastingdienst.»
Wat wordt bedoeld met de uiting «conform wettelijke bepalingen» (p. 6), als er wordt gesteld dat documentatie van die periode niet meer beschikbaar is?
De frase «conform wettelijke bepalingen» ziet op het samenstel van Archiefwet, de selectielijsten en de Regeling basisregistratie personen. De Archiefwet kent, naast een bewaarplicht, ook een vernietigingsplicht. Na het verstrijken van bepaalde termijnen, opgenomen in selectielijsten, is de Belastingdienst verplicht deze documenten te vernietigen. De handelingen en bijbehorende bewaartermijnen zijn beschreven in de gepubliceerde selectielijsten. Het ontbreken van bepaalde documenten valt deels te wijten aan de lange periode die verstreken is sinds de totstandkoming van het profiel, waardoor bepaalde bescheiden al vernietigd zijn, deels aan onvolkomenheden in de informatiehuishouding. De Belastingdienst is zich bewust van deze onvolkomenheden en werkt aan het op orde brengen hiervan.
Er is in 2021 een programma Informatiehuishouding op Orde Belastingdienst ingesteld. In dit kader werkt de Belastingdienst aan een integrale archieftoepassing, het zogenaamde «Generiek Document en Archiefbeheer systeem», voor de primaire processen. Van oorsprong is archivering vaak binnen individuele processen of onderdelen tot stand gekomen. Het is in toenemende mate van belang om dit integraal op te zetten, wat uiteindelijk ondersteunend is voor het op samenhangende wijze inzicht geven in de dossiers van burgers en bedrijven. Daarnaast wordt onderzoek gedaan naar de mogelijkheden voor e-mailarchivering. De Belastingdienst verwacht de implementatie hiervan in 2024 te starten. Hiernaast lopen verschillende andere projecten ter verbetering van de informatiehuishouding, bijvoorbeeld op het gebied van nieuwe selectielijsten en de Wet open overheid. Hierover bent u eerder geïnformeerd in de brief over de verbetering van de informatiehuishouding binnen het Ministerie van Financiën.2
Bent u bereid om de «beperkte hoeveelheid aan concepten en werkdocumenten waarvan de status formeel niet vaststaat» (p. 6) aan de Kamer te doen toekomen? Zo nee, waarom niet?
Ja. U vindt deze in bijlage 2.
Waarom geeft de Belastingdienst de onduidelijkheid over de status van documenten op als reden om ze niet te delen voor onderzoek? Waarom zouden deze dan niet bruikbaar zijn voor onderzoek (p. 6)?
Zie ook het antwoord op vraag 1. De «beperkte hoeveelheid aan concepten en werkdocumenten waarvan de status formeel niet vaststaat» betreft een zestal documenten zonder formele status, die de benaderde medewerker tot zijn beschikking had. Het gaat om bestanden die niet zijn goedgekeurd door het projectteam of de leiding van de Belastingdienst. Er zijn geen definitieve of latere versies gevonden van deze documenten. Dit is de reden dat deze zes documenten pas na intern beraad verstrekt zijn, waarbij het onderzoeksbureau op de conceptstatus is gewezen. In bijlage 2 vindt u de opgeleverde documenten.
Waarom is het voorkomen van «misvattingen en verkeerde interpretaties en conclusies» een reden om documenten niet te overleggen (p. 6)? De onafhankelijke onderzoekers gaan toch over de conclusies en niet de Belastingdienst?
Zie antwoord vraag 4.
Waarom concludeert de Belastingdienst dat bepaalde documenten «niet de daadwerkelijke situatie/handelen van toentertijd» (p. 6) weergeven? Waar blijkt dit uit en waarom is het aan de Belastingdienst om lopende het onderzoek slechts documenten te verschaffen die op basis van de eigen visie het handelen van de Belastingdienst weergeven?
Zie antwoord vraag 4.
Zijn alle bescheiden, documenten, memo’s of andersoortige informatie die direct of indirect te relateren zijn aan of zien op het (risico)profiel UT001 aan de onderzoekers overhandigd? Zo nee, waarom niet?
De forensisch accountant (onderzoeksbureau) heeft zelf medewerkers benaderd met verzoeken om informatie. Er is geen centrale zoekvraag aan de Belastingdienst gesteld. Wel had het bureau toegang tot het projectarchief van de Landelijke Aanpak Adreskwaliteit (LAA). In het onderzoeksrapport zijn de individuele geïnterviewde medewerkers van de Belastingdienst omschreven als «de Belastingdienst». Deze medewerkers beschikten echter niet over alle bescheiden waar het onderzoeksbureau om vroeg. Dit heeft erin geresulteerd dat niet alle relevante (concept-)documenten zijn gevonden.
Voor de beantwoording van uw vraag is ten eerste aan het onderzoeksbureau verzocht om een inventarisatielijst op te stellen van de stukken die zijn gebruikt voor het onderzoek naar het profiel. De inventarisatielijst en de betreffende stukken treft u, gelakt op persoonsgegevens, in bijlage 1 bij deze brief. Deze stukken zien overigens niet alleen of specifiek op het profiel UT001, het onderzoeksbureau heeft namelijk ook gekeken naar de bredere context van de totstandkoming van het profiel. Stukken die reeds openbaar zijn en twee concepten waarvan een definitieve versie beschikbaar is, worden niet gedeeld.
Ten tweede heeft de Belastingdienst voor de beantwoording van uw vragen een zoekslag gedaan. Hierbij zijn alsnog relevante documenten gevonden. Bij deze zoekslag is een gearchiveerde schijf van de destijds betrokken afdeling gevonden. De benaderde medewerkers hadden geen kennis van de gearchiveerde schijf van de betrokken afdeling, die voor de beantwoording van deze vragen alsnog doorzocht is. Deze documenten vindt u in bijlage 3, gelakt op persoonsgegevens.
Voor de zoekslag is een gearchiveerde kopie van de groepsschijf doorzocht van de toenmalige afdeling van de Belastingdienst die medewerking verleende aan het project LAA in 2015. Op deze schijf is een map «Verwonderadressen» opgenomen. Deze term werd gebruikt om LAA-signalen aan te duiden. Op deze schijf is gezocht op relevante zoektermen: naar het profiel UT001, naar de «Belastingdienst mix» en de negen «business rules», naar verslaglegging van de interne stuurgroep (LAA), naar stukken over de vergelijking tussen de geboortedatum van een belastingplichtige en de datum van de eerste adresinschrijving en stukken over selectieregels op basis van nationaliteit en op basis van geboorteland.
Binnen de map Verwonderadressen bleken voornamelijk (werk)documenten van de data-analisten te staan. Dit zijn bestanden met alleen of vooral persoonsgegevens die gebruikt zijn om ruwe data bij elkaar te brengen. Van één bestand met alleen persoonsgegevens dat specifiek betrekking heeft op profiel UT001, heb ik alleen een beschrijving opgenomen waarin vermeld staat welke en hoeveel persoonsgegevens in het document zijn opgenomen. Omdat persoonsgegevens gelakt moeten worden, zou het document immers bij openbaarmaking geen informatie bevatten. Van identieke documenten die slechts afwijkende persoonsgegevens bevatten (bijvoorbeeld van verschillende gemeenten) is één versie opgenomen.
Aanvullend aan de gearchiveerde schijf zijn betrokken medewerkers die nog werkzaam zijn bij de Belastingdienst gevraagd of zij nog over relevante documenten beschikken. Hieruit is nog één document naar voren gekomen dat eerder niet gedeeld is. In bijlage 3 vindt u een inventaris van de relevante documenten die alsnog gevonden zijn en de documenten zelf, waarbij de persoonsgegevens gelakt zijn.
Bent u bereid om een overzicht te doen toekomen van alle bescheiden, documenten, memo’s of andersoortige informatie die direct of indirect te relateren zijn aan of zien op het (risico)profiel UT001 die aan de onderzoekers zijn overhandigd en diegene die niet aan de onderzoekers zijn overhandigd, met daarbij ook een argumentatie? Zo nee, waarom niet?
Zie antwoord vraag 7.
Bent u bereid om alle bescheiden, documenten, memo’s of andersoortige informatie die direct of indirect te relateren zijn aan of zien op het (risico)profiel UT001 te doen toekomen? Zo nee, waarom niet?
Zie antwoord vraag 7.
Bent u bereid om een «centrale zoekslag» (p. 6) te verrichten bij de Belastingdienst naar alle bescheiden, documenten, memo’s of andersoortige informatie die direct of indirect te relateren zijn aan of zien op het (risico)profiel UT001? Zo nee, waarom niet?
Zie antwoord vraag 7.
Hoe kan het zo zijn dat de mailcorrespondentie niet altijd is gearchiveerd in het projectarchief van de Landelijke Aanpak Adreskwaliteit (LAA) en er alleen op verzoek iets werd opgeslagen? Deelt u de mening dat dit getuigt van volstrekte willekeur en dat dit afkeurenswaardig is? Hoe wordt dit in de toekomst voorkomen?
LAA is een samenwerkingsverband van verschillende overheidsorganisaties, waaronder gemeenten, diverse ministeries en uitvoeringsorganisaties. Bij een samenwerkingsverband kunnen de verantwoordelijkheden van de verschillende overheidsorganen in de praktijk zo verweven zijn, dat niet goed uit te maken is welk overheidsorgaan precies voor welke documenten verantwoordelijk is. In het wetsvoorstel voor de nieuwe Archiefwet dat op dit moment in behandeling is bij uw Kamer (Kamerstuk 35 968) wordt een artikel over samenwerkingsverbanden voorzien. Samenwerkingsverbanden zullen worden verplicht een gezamenlijke regeling te treffen op welke wijze de verantwoordelijke overheidsorganen gezamenlijk invulling geven aan hun taken en bevoegdheden ten aanzien van de archivering van documenten.
De centrale gegevensverwerking van LAA is inmiddels ondergebracht bij de Rijksdienst voor Identiteitsgegevens (RvIG). Voor RvIG geldt, zoals voor de gehele Rijksoverheid, dat de organisatie actief participeert in het programma Open Overheid. Een van de speerpunten in het programma is het onder beheer brengen van e-mails van ambtenaren. Inmiddels wordt gewerkt aan het zo spoedig mogelijk structureel veiligstellen van e-mails van rijksambtenaren. Daarnaast zet het programma in op het versterken van het informatiebewustzijn van alle medewerkers, zodat medewerkers op een meer verantwoorde manier omgaan met overheidsinformatie.
Hoe kon het gebeuren dat bescheiden op eigen schijven of andere plekken werden opgeslagen zonder dat de projectorganisatie LAA daar zicht op had? Deelt u de mening dat dit een onverantwoorde manier is om met overheidsinformatie om te gaan? Hoe wordt dit in de toekomst voorkomen?
Zie antwoord vraag 11.
Kunt u uitsluiten dat er op dit moment overheidsinformatie of informatie van burgers op lokale schijven of andere plekken zijn opgeslagen? Vindt u dat deze informatie dient te worden achterhaald?
Zie antwoord vraag 11.
Hoe kan het zo zijn dat men zelf vrij was om te bepalen of iets opgeslagen moest worden?
Zie antwoord vraag 11.
Hoe kan het dat verschillende organisaties uiteenlopende antwoorden hebben gegeven over de te hanteren bewaartermijnen, namelijk 5, 10 en 12 jaar (p. 11)?
Het is op grond van de Archiefwet in beginsel aan organisaties (bestuursorganen) zelf om door middel van selectielijsten vast te stellen welke bewaartermijn voor welke categorieën informatie geldt.3 Dit maakt dat de bewaartermijnen per categorie (type) informatie en per organisatie kunnen verschillen. Met de wettelijke inbedding van de LAA is op het niveau van formele regelgeving duidelijkheid geboden over de bewaartermijn voor de hier bedoelde LAA-signalen (adressen in de BRP die mogelijk onjuist zijn). De bewaartermijn is sinds het van kracht worden van deze regelgeving 20 jaar. Selectielijsten moeten daarmee in lijn zijn en zo nodig door de betrokken bestuursorganen op dit punt aangevuld of aangepast worden. Het eerder aangehaalde artikel over samenwerkingsverbanden in de nieuwe Archiefwet schept overigens ook de mogelijkheid om eenvoudiger één selectielijst voor een samenwerkingsverband te ontwerpen en vast te stellen.
Hoe kan het dat de regelgeving over bewaartermijnen door organisaties verschillend wordt geïnterpreteerd (p. 11)? Hoe wordt dit in de toekomst voorkomen?
Zie antwoord vraag 15.
Op welke specifieke «wettelijke bepalingen» doelt de Belastingdienst en kunt u een overzicht geven van wettelijke bepaling per relevantie informatiecategorie (p. 11)? Zo nee, waarom niet?
Omdat de onderbouwing van de beantwoording door de geïnterviewden niet is gearchiveerd of gevraagd binnen het onderzoek, is nu niet meer te reconstrueren op basis van welke onderbouwing men bepaalde uitspraken heeft gedaan. De Archiefwet kent, naast een bewaarplicht, ook een vernietigingsplicht. Na het verstrijken van bepaalde termijnen, opgenomen in selectielijsten, is de Belastingdienst verplicht betreffende documenten te vernietigen. Het respecteren van deze wettelijke vernietigingstermijnen is randvoorwaardelijk om ook te kunnen voldoen aan andere wetgevende kaders, zoals de Algemene Verordening Gegevensbescherming (AVG).
Klopt het dat er een algehele opdracht tot opschonen van alle Q-schijven is uitgevaardigd? Waar blijkt dit uit? Waarom is dit gedaan en hoe voldoet dit aan de wettelijke bepalingen? Hoe werd bepaald of data wel of niet relevant was?
Het is gebruikelijk dat binnen teams/afdelingen Q-schijven periodiek worden geschoond in het kader van AVG. Het is niet te reconstrueren of en zo ja welke documentatie over het risicoprofiel is verwijderd. Er lopen diverse verbeterprogramma’s om, onder andere, te borgen dat vernietigings- en bewaartermijnen uit de selectielijst organisatie-breed worden toegepast.
Waarom is in 2018 informatie over de totstandkoming van de risicoprofielen collectief verwijderd? Conform welke wettelijke bepaling is dit gedaan? Waarom is dit niet bewaard? Wordt dit in de toekomst voorkomen?
Zie antwoord vraag 18.
Klopt het dat er binnen een periode van vijf jaar informatie over de risicoprofielen is verwijderd? Waarom is dit gebeurd en waarom zou dit mogen?
Zie antwoord vraag 18.
Bent u bereid om alle ontwikkelde profielen van het Regionaal Coördinatiepunt Fraudebestrijding (RCF) aan de Kamer te doen toekomen? Bent u bereid om hierbij expliciet in te gaan op het (directe en indirecte) gebruik van de volgende indicatoren: geboorteland, het verschil tussen datum van inschrijving en geboortedatum, etniciteit en nationaliteit?
In het kader van de behandeling van de Wet BRP LAA door uw Kamer zijn door de Staatssecretaris van BZK samenvattingen (beschrijvingen) van alle risicoprofielen van LAA sinds de start in 2014 openbaar gemaakt.4
De Regionale coördinatiepunten fraudebestrijding (RCF’s) hebben zelf geen risicoprofielen ontwikkeld. Zij ondersteunden de projecten van de Landelijke Stuurgroep Interventieteams (LSI). Ervaringen van de RCF’s met betrekking tot het tegengaan van adresgerelateerde fraude zijn gedeeld met de Belastingdienst ten behoeve van de Landelijke Aanpak Adreskwaliteit, zo volgt uit het onderzoeksrapport.
Op 1 december 2022 is overigens de evaluatie van het LSI-convenant gestart. Dit is conform artikel 13, eerste lid, van de Samenwerkingsovereenkomst voor Interventieteams.5 In deze evaluatie wordt het convenant en de samenwerking tussen de LSI-partners geëvalueerd. Ook wordt aandacht besteed aan gegevensuitwisseling. Daarnaast zal een extern onderzoek plaatsvinden op basis van casuïstiek uit LSI-onderzoek waarbij wordt getoetst of alle waarborgen op het gebied van privacy en non-discriminatie in de praktijk toegepast worden.6
Het onderzoeksrapport over het profiel UT001 heeft geen duidelijkheid kunnen geven over de precieze bijdrage vanuit de RCF aan de totstandkoming van het profiel UT001, omdat hierover geen bescheiden ter beschikking waren.7 Zoals aangegeven in het antwoord op vraag 2, valt dit deels te wijten aan de lange periode die verstreken is sinds de totstandkoming van het profiel, waardoor bepaalde bescheiden al vernietigd zijn, deels aan onvolkomenheden in de informatiehuishouding.
Bent u bereid om het profiel dat als basis is gebruikt voor het (risico)profiel UT001 aan de Kamer te doen toekomen, met bijgevoegd alle informatie die te relateren valt aan dat profiel?
Zie antwoord vraag 21.
Bent u bereid om de «risicoduiding van het RCF» (p. 22) aan de Kamer te doen toekomen?
Zie antwoord vraag 21.
Klopt het dat de Belastingdienst «diverse keren» de risicoduiding of het profiel van het RCF heeft aangepast? Welke aanpassingen zijn doorgevoerd en waarom?
Zie antwoord vraag 21.
Klopt het dat de selectie in RCF-verband specifieker was (p. 22)? Waar blijkt dit uit?
Zie antwoord vraag 21.
Bent u bereid alle profielen uit de zogenoemde «Belastingdienst Mix' aan de Kamer te doen toekomen, samen met alle hieraan te relateren informatie?
In het kader van de behandeling van de Wet BRP LAA door uw Kamer zijn door de Staatssecretaris van BZK samenvattingen (beschrijvingen) van alle risicoprofielen van LAA sinds de start in 2014 openbaar gemaakt. Daarin zijn ook alle profielen uit de Belastingdienst Mix opgenomen.8
Is er nu wel of geen verslaglegging van de interne stuurgroep LAA? Bent u bereid om alle informatie die te relateren is aan het (risico)profiel UT001 die hier in staat te doen toekomen?
Behalve het conceptverslag dat aan het onderzoeksbureau is overlegd, is er geen verslaglegging aangetroffen van de interne stuurgroep LAA bij de Belastingdienst. Zoals eerder aangegeven treft u bij deze beantwoording de informatie over het risicoprofiel aan die is gebruikt door het onderzoeksbureau, waaronder genoemd conceptverslag (bijlage 2).
Waarom is destijds bij de Belastingdienst (p. 26) ervoor gekozen om een vergelijking te maken tussen de geboortedatum van een belastingplichtige en de datum van de eerste adresinschrijving? Welke afwegingen speelden hierbij een rol? Klopt het dat dit te maken heeft met de (wettelijke) onmogelijkheid om geboorteplaats en nationaliteit te gebruiken?
Uit het rapport volgt dat in 2015 twee proefleveringen hebben plaatsgevonden met signalen uit het betreffende profiel, waarbij in de eerste proeflevering in totaal 22 signalen (over 22 personen) zijn geleverd aan drie gemeenten. De tweede proeflevering heeft niet tot levering van signalen op basis van profiel UT001 aan gemeenten geleid. Het profiel is daarna niet meer gebruikt en de proef is vervolgens definitief stopgezet. De onderzoekers concluderen vervolgens dat er naar aanleiding van 15 van de 22 signalen (administratieve) adresonderzoeken zijn uitgevoerd door de gemeenten, maar dat er geen adreswijzigingen (aanpassingen in de registratie) hebben plaatsgevonden. De in onderzoek genomen signalen van UT001 hebben volgens de onderzoekers niet geleid tot gevolgen voor individuele burgers.
Zoals vermeld in het onderzoeksrapport bestond binnen het projectteam het vermoeden dat de ontwikkelde profielen, waaronder UT001, zouden kunnen bijdragen aan het opsporen van adresfraude. Het onderzoeksbureau concludeert dat niet vastgesteld kan worden welke precieze selectiecriteria daadwerkelijk zijn toegepast voor de twee proefleveringen. Ook de aanvullende documentatie geeft hierover geen uitsluitsel. In de documentatie zijn verschillende (concept)beschrijvingen van het risicoprofiel aangetroffen, waarbij in het ene geval gesproken wordt over selectie op nationaliteit en in het andere geval over een vergelijking tussen de geboortedatum en datum van eerste inschrijving. Er zijn geen documenten gevonden over de (formele) besluitvorming over de selectieregels.
Deelt u de mening dat het maken van een vergelijking tussen de geboortedatum van een belastingplichtige en de datum van de eerste adresinschrijving eigenlijk een indirecte manier is om de indicator geboorteland te benutten? Zo nee, waarom niet?
Met een dergelijke vergelijking kan niet op een specifiek geboorteland geselecteerd worden; het gaat om personen die niet in Nederland geboren zijn. In de brief van de Staatssecretaris van BZK van 25 maart 2022 is met betrekking tot het profiel UT001 het selecteren op basis van de vergelijking tussen geboortedatum en eerste adresinschrijving afgekeurd.9
In welke andere risicoprofielen bij de Belastingdienst wordt de indicator vergelijking tussen de geboortedatum van een belastingplichtige en de datum van de eerste adresinschrijving gebruikt? Wat zijn hiervoor de redenen?
Binnen de Dienst Toeslagen wordt deze indicator niet toegepast om selecties te maken of risicoprofielen op te stellen. In het verleden is bij het risicoclassificatiemodel wel de indicator «Leeftijd Burgerservicenummer (bsn)» gebruikt voor zowel de huurtoeslag als de kinderopvangtoeslag. Waarbij gekeken werd naar hoe lang geleden het Burgerservicenummer geactiveerd is, gemeten van het moment van de aanvraag.10 Het risicoclassificatiemodel is stopgezet in juli 2020.
Voor zover kon worden nagegaan, wordt deze indicator ook niet toegepast binnen de Belastingdienst om selecties te maken of risicoprofielen op te stellen. Omdat gebleken is dat niet alle onderdelen van de risicoselectie die de Belastingdienst en Toeslagen toepasten in het toezicht voldeden aan de geldende regels, zijn sinds maart 2020 verschillende acties ingezet11 om bestaande problemen met betrekking tot onder andere risicomodellen en het gebruik van persoonsgegevens zoals nationaliteit op te lossen. Zo zijn onder meer alle applicaties die zijn gebruikt doorzocht op het gebruik van nationaliteit en hebben de Belastingdienst en Dienst Toeslagen een waarborgenkader voor selectie-instrumenten opgesteld dat voor alle nieuw te ontwikkelen selectie-instrumenten gaat gelden en dat onder meer het gebruik van gegevens in selectie-instrumenten borgt.
Klopt het dat er over deze selectieregel «veel vragen en er discussie was» bij de Belastingdienst (p. 26)? Zo ja, waarom was dit het geval?
De discussie betrof voor zover nu nog na te gaan valt met name de vraag of nationaliteit afgeleid zou kunnen worden uit de relatie geboortedatum en datum eerste inschrijving.
Bent u bereid om de «negen business rules» (p. 28) met ons te delen? Betreft het hier tevens de «negental selectiecriteria» (p. 29)?
Aangenomen wordt dat «business rules», «selectieregels» en «selectiecriteria» in deze synoniemen zijn. In het onderzoeksrapport wordt verwezen naar een memo waarin negen selectiecriteria, waaronder de aangehaalde selectieregel, in concept zijn omschreven. Dit memo treft u onder nr. 22 in bijlage 1 bij deze beantwoording.
In het onderzoeksrapport worden verschillende omschrijvingen van het profiel genoemd. De eerste daarvan luidt «Alleenstaande personen ouder dan 60 jaar, met een buitenlandse (niet-Nederlandse) nationaliteit die een uitkering ontvangen met eventueel een toeslag van UWV en/of BD Toeslagen.» Binnen de werkdocumenten die zijn gevonden in de zoekslag van de Belastingdienst naar aanleiding van deze vragen, is deze omschrijving in meerdere werkdocumenten aangetroffen. Ook zijn in werkdocumenten uit de periode voorafgaand aan de eerste levering van UT001, naast andere persoonsgegevens ook (dubbele) nationaliteiten opgenomen. De in deze werkdocumenten vermelde personen hebben (ook) een niet-Nederlandse nationaliteit.
In de documenten waarvan bekend is dat ze buiten de Belastingdienst gemaakt of gedeeld zijn, zijn geen (dubbele)nationaliteiten opgenomen. De gegevens met betrekking tot nationaliteit waren afkomstig uit het systeem Beheer van Relaties (BVR). Zoals ik uw Kamer al eerder gemeld heb, is BVR geschoond en bevat deze daarmee geen dubbele nationaliteit meer naast de Nederlandse.12 Zie verder ook het antwoord op vragen 7 t/m 10 en bijlage 3.
Op basis van de documentatie is het exacte selectiecriterium dat daadwerkelijk is toegepast voor de twee proefleveringen van UT001 niet te reconstrueren. Er zijn verschillende omschrijvingen aangetroffen. Dit is ook de conclusie van het onderzoeksbureau.
Klopt het dat er een selectieregel in concept bestond getiteld «alleenstaande >60 jr. + buitenlander met uitkering» (p.29)? Kunt u alle aan deze selectieregel te relateren informatie doen toekomen en verantwoorden hoe dit kan bestaan? Waarom werd er over mensen gesproken als «buitenlander»?
Zie antwoord vraag 32.
Klopt het dat in een eerdere set aan selectieregels het aspect nationaliteit werd meegenomen (p. 29)? Kunt u de informatie die dit aantoont en verklaart doen toekomen? Is dit in de praktijk toegepast en waarom wel of waarom niet?
Zie antwoord vraag 32.
Kunt u de toenmalige set aan selectieregels (p. 29) doen toekomen?
Zie antwoord vraag 32.
Kunt u het memo waarnaar in het verslag wordt verwezen (p. 29) doen toekomen?
Er is specifiek gezocht naar dit memo, maar dit is niet gevonden.
Bent u bereid om de beschrijving van de codering en de mix van thema’s van de Belastingdienst met beschrijving met ons te delen?
In het onderzoeksrapport wordt verwezen naar een memo waarin negen selectiecriteria in concept zijn omschreven. Dit memo treft u onder nr. 22 in de bijlage 1 bij deze beantwoording. Zie verder het antwoord op vragen 32 tot en met 35.
Waarom wordt in een eerdere omschrijving van UT001 (p. 31) gesproken over alleenstaande personen met een buitenlandse (niet-Nederlandse) nationaliteit? Klopt het dat de Belastingdienst in dezen dus een profiel heeft ingezet waar nationaliteit als risico-indicator onderdeel van uitmaakte?
Op basis van de documentatie is het exacte selectiecriterium dat daadwerkelijk is toegepast niet te reconstrueren. Er zijn verschillende omschrijvingen van het profiel UT001 aangetroffen. Dit is ook de conclusie van het onderzoeksbureau.
Het is van belang dat zeer zorgvuldig wordt omgegaan met (persoons)gegevens, waaronder informatie over de nationaliteit van burgers. In het verleden voldeden niet alle onderdelen van de risicoselectie die de Belastingdienst toepast in het toezicht aan de geldende regels. De toenmalige Staatssecretaris van Belastingdienst, Toeslagen en Douane heeft in zijn brief van 15 november 2019 daarom aangegeven dat nationaliteit vanaf 1 januari 2020 alleen gebruikt zal worden voor de handhavingstaak van de Belastingdienst als daar een expliciete wettelijke grondslag voor bestaat. Dit om iedere suggestie van oneigenlijk gebruik van het persoonsgegeven nationaliteit uit te sluiten. De AVG vereist geen expliciete wettelijke grondslag voor gebruik van het persoonsgegeven nationaliteit. De Belastingdienst stelt met de voorwaarde van een expliciete wettelijke grondslag dus een hogere eis dan de AVG. Een overzicht van de expliciete wettelijke grondslagen is naar uw Kamer gestuurd en wordt ook gepubliceerd op de website van de Belastingdienst.
Daarnaast hebben de Belastingdienst en Dienst Toeslagen een waarborgenkader ontwikkeld voor de ontwikkeling en inzet van selectie-instrumenten. Belangrijke onderdelen van dit waarborgenkader zijn de navolgbaarheid van de systemen voor de selectie en het systematisch controleren van deze systemen. Daarmee draagt het bij aan de rechtmatigheid en de transparantie van het proces van detectie en selectie. Sinds maart 2020 zijn bovendien in het programma «Herstellen, Verbeteren en Borgen» (HVB) acties ingezet om bestaande problemen met betrekking tot onder andere risicomodellen en het gebruik van persoonsgegevens zoals nationaliteit op te lossen. Uw Kamer wordt sindsdien over de voortgang van alle ingezette acties geïnformeerd.
Waar en op welke wijze is dit profiel met als indicator alleenstaande personen met een buitenlandse (niet-Nederlandse) nationaliteit door de Belastingdienst ingezet en waarom was dit volgens de Belastingdienst toegestaan?
Zie antwoord vraag 38.
Hoe kijkt u terug op het feit dat de Belastingdienst als indicator alleenstaande personen met een buitenlandse (niet-Nederlandse) nationaliteit heeft gehanteerd? Keurt u dit af en acht u dit toegestaan?
Zie antwoord vraag 38.
Klopt het dat het profiel vervolgens is doorontwikkeld en het verschil tussen de geboortedatum en de datum van inschrijving in Nederland als indicator is toegepast?
De precieze selectiecriteria en drempelwaarden van het profiel UT001 zijn niet te reconstrueren op basis van de gevonden documentatie, zie ook het antwoord op vraag 28. Er zijn twee proefleveringen geweest. Bij de eerste proeflevering heeft dit geleid tot 22 terugmeldingen over 22 personen. Bij de tweede proeflevering is geconstateerd dat UT001 niet bruikbaar was, vanwege het te grote aantal signalen dat dit opleverde, en is het dus in de praktijk niet gebruikt. Dit is ook de conclusie van het onderzoeksbureau.
Welke varianten zijn in de praktijk van UT001 toegepast?
Zie antwoord vraag 41.
Wat was de drempelwaarde die is bepaald bij het gebruik van de vergelijking tussen de geboortedatum en de datum van inschrijving in Nederland? Wat was de onderbouwing van deze drempelwaarde?
Zie antwoord vraag 41.
Deelt u wat in het op pagina 32 genoemde memo wordt gesteld, namelijk dat het gebruiken van deze vergelijking een indirecte wijze van het gebruik van nationaliteit is? Zo nee, waarom niet?
Met deze vergelijking kan geen onderscheid naar nationaliteit gemaakt worden. Ook personen met een Nederlandse nationaliteit kunnen in het buitenland geboren zijn.
Vindt u dat er sprake was van voldoende juridische onderbouwing en zwaarwegend belang om de vergelijking tussen inschrijvingsdatum in Nederland en de geboortedatum toe te passen? Waarom vindt u dat en waar blijkt dat uit?
In de brief van de Staatssecretaris van BZK van 25 maart 2022 is de toepassing van dit profiel afgekeurd.13 Zie ook de beantwoording van vragen 28 en 29.
Welke omschrijvingen zijn in 2015 van het profiel UT001 gehanteerd?
De onderzoekers constateren dat niet precies vastgesteld kan worden welke selectiecriteria in 2015 zijn gehanteerd. Ook uit de aanvullende documenten is niet precies vast te stellen welke selectiecriteria gebruikt zijn, zie ook het antwoord op vraag 28. Omdat de onderbouwing van de beantwoording door de geïnterviewden niet is gearchiveerd of gevraagd binnen het onderzoek, is nu niet meer te reconstrueren op basis van welke onderbouwing men bepaalde uitspraken heeft gedaan.
Wat was de «fiscale context» (p. 34) waar de Belastingdienst op doelt als de dienst stelt dat de omschrijvingen niet juist zouden zijn?
Zie antwoord vraag 46.
Is geboorteland toegepast als indicator van (eerdere) versies van UT001?
Zie antwoord vraag 46.
Klopt het dat de verwijzingen naar nationaliteit die zijn opgenomen in definities uit de tijd stammen van het RCF (p. 35)? Hoe speelde nationaliteit een rol in de profilering van het RCF en wat was hierbij de onderbouwing? Waarom was dit toegestaan?
Dat is ons niet bekend. Het is op basis van de beschikbare documentatie niet te achterhalen of deze suggestie juist is. Zie verder met betrekking tot het RCF het antwoord op vragen 21 tot en met 24.
Op welke wijze is UT001 in de verschillende rondes proefleveringen toegepast?
Uit het rapport volgt dat in 2015 twee proefleveringen hebben plaatsgevonden met signalen uit het betreffende profiel, waarbij in de eerste proeflevering in totaal 22 signalen (over 22 personen) zijn geleverd aan drie gemeenten. De tweede proeflevering heeft niet tot levering van signalen op basis van profiel UT001 aan gemeenten geleid. Het profiel is daarna niet meer gebruikt en de proef is vervolgens definitief stopgezet. De onderzoekers concluderen vervolgens dat er naar aanleiding van 15 van de 22 signalen (administratieve) adresonderzoeken zijn uitgevoerd door de gemeenten, maar dat er geen adreswijzigingen (aanpassingen in de registratie) hebben plaatsgevonden. De in onderzoek genomen signalen van UT001 hebben volgens de onderzoekers niet geleid tot gevolgen voor individuele burgers. Welke selectiecriteria zijn gebruikt voor de totstandkoming van beide proefleveringen is niet meer te reconstrueren.
Vindt u dat de 77 personen die als signaal zijn geclassificeerd (p. 37) zijn geprofileerd op basis van hun geboorteland? Waarom vindt u dit?
De onderzoekers constateren dat niet precies vastgesteld kan worden welke selectiecriteria in 2015 zijn gehanteerd. Ook uit de aanvullende documenten is niet precies vast te stellen welke selectiecriteria gebruikt zijn. Er is in één van de omschrijvingen sprake van een vergelijking van geboortedatum en eerste adresinschrijving in Nederland. Hiermee wordt een onderscheid gemaakt tussen geboren binnen Nederland en buiten Nederland. Met een dergelijke vergelijking kan niet op een specifiek geboorteland geselecteerd worden; het gaat om personen die niet in Nederland geboren zijn.
Deelt u de mening dat er naar aanleiding van de eerste proeflevering geen aanleiding is om te veronderstellen dat onderzoek naar signalen op basis van UT001 betrekking heeft gehad op meer dan 22 personen? Hoe kunnen we dat zeker weten, gezien de slechte informatiehuishouding en de gebrekkige medewerking van de Belastingdienst?
Wij delen die mening. Er is geen aanleiding om op dit punt tot een ander oordeel te komen dan de forensisch accountant.14
Klopt het dat de juistheid en volledigheid van de ingevoerde gegevens niet vastgesteld kan worden (p. 39)? Klopt het derhalve dan ook dat er meer dan 22 personen geprofileerd kunnen zijn door UT001?
Er is geen aanleiding om op dit punt tot een ander oordeel te komen dan de forensisch accountant.15 Wij verwijzen in dit verband naar de conclusie van de onderzoekers dat de toepassing van het profiel UT001 heeft geresulteerd in 22 terugmeldingen (over 22 personen).16
Welke aanpassingen zijn doorgevoerd naar aanleiding van de eerste proeflevering (p. 39) en kunt u daarin specifiek ingaan op UT001?
Op basis van de beschikbare informatie is dit niet te reconstrueren.
Het beveiligingsniveau van Twitter |
|
Bouchallikh |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het artikel van RTL Nieuws dat Twitter hun gebruikers tegen betaling de mogelijkheid gaat bieden om versleutelde privéberichten te sturen naar andere betalende gebruikers?1
Ja.
Welk basisniveau bescherming acht u noodzakelijk voor gebruikers van sociale mediaplatforms, waaronder Twitter?
Sterke versleuteling is van groot belang om veilig online te communiceren. De Rijksoverheid schrijft geen specifiek basisniveau voor in de zin van specifieke maatregelen betreffende de beveiliging van Twitter (tegenwoordig X). Wel bestaat er wetgeving waar X aan moet voldoen en wordt er gewerkt aan een verdere aanscherping van wetgeving. Hieronder wordt daar nader op ingegaan.
Hoe verhoudt de beveiliging van reguliere, niet-betalende twittergebruikers zich tot dit basisniveau?
Indien bij het gebruik van een sociale mediaplatform zoals X persoonsgegevens worden verwerkt, is daarop de Algemene Verordening Gegevensbescherming (AVG) van toepassing. Een van de beginselen van de AVG is integriteit en vertrouwelijkheid. Dit beginsel houdt onder andere in dat de nodige technische en organisatorische maatregelen dienen te worden getroffen om een passende beveiliging van persoonsgegevens te borgen. Dit kan in de praktijk betekenen dat persoonsgegevens dienen te worden versleuteld (encryptie). Daarnaast kunnen andere aanvullende beveiligingsmaatregelen ook noodzakelijk zijn, zoals het beoordelen en evalueren van de doeltreffendheid van de technische en organisatorische maatregelen. Welk basisniveau in concrete gevallen is vereist, vraagt om een risicoanalyse waarin met alle relevante omstandigheden wordt rekening gehouden. Of in concrete gevallen is voldaan aan het vereiste niveau van beveiliging uit de AVG, is uiteindelijk aan de toezichthouder om te beoordelen. In Nederland is dat de Autoriteit Persoonsgegevens (AP), die onafhankelijk toeziet op de naleving van de AVG.
Daarnaast wordt op dit moment de herziene Europese netwerk- en informatiebeveiligingsrichtlijn1 (NIS2) geïmplementeerd. Deze richtlijn heeft als doel om de cyberbeveiliging van entiteiten in de EU naar een hoger niveau te tillen. Met de komst van de NIS2-richtlijn wordt het aantal sectoren dat onder de richtlijn valt uitgebreid; één van de nieuwe sectoren zijn aanbieders van platforms voor sociale netwerkdiensten, waaronder X. De zorgplicht voortkomend uit de NIS2 houdt in dat entiteiten passende en evenredige technische, operationele en organisatorische maatregelen moeten nemen om de risico’s voor de beveiliging van hun netwerk- en informatiesystemen te beheersen. De Rijksinspectie Digitale Infrastructuur (RDI) is in Nederland de beoogde toezichthouder op de sector digitale aanbieders, waar aanbieders van platforms voor sociale netwerkdiensten onder vallen.Lidstaten dienen de NIS2-richtlijn uiterlijk op 17 oktober 2024 in hun nationale wetgeving te hebben omgezet.
Deze huidige en toekomstige wettelijke kaders zijn van toepassing ongeacht of gebruikers betalen voor de dienst.
Hoe verhoudt de nieuw voorgestelde mogelijkheid om tegen betaling versleutelde berichten te kunnen versturen en ontvangen zich tot dit basisniveau?
Zie antwoord vraag 3.
Hoe verhoudt zowel de beveiliging van regulier als betaald gebruik van Twitter zich tot nationale en internationale grond- en mensenrechten? Waarin zitten op dit vlak de verschillen tussen reguliere en betalende gebruikers?
Zoals hierboven beschreven zijn er een aantal wettelijke kaders waar X zich aan moet houden, ongeacht of het gaat om betalende of niet betalende gebruikers. Het is aan de desbetreffende toezichthouder om in een concreet geval te bepalen of de getroffen maatregelen passend zijn.
Ook heeft iedereen recht op de bescherming van de persoonlijke levenssfeer en privécommunicatie. De grond- en mensenrechten schrijven niet voor hoe die bescherming moet plaatsvinden. Ook hier geldt dat de persoonlijke levenssfeer en de veiligheid van communicatie beschermd moeten worden, onafhankelijk van betaling.
Heeft u indicaties dat privéberichten van niet-betalende gebruikers van Twitter onvoldoende beveiligd zijn, bijvoorbeeld doordat deze ingezien kunnen worden door partijen die daartoe niet bevoegd zijn? Kunt u uitsluiten dat dit gebeurt?
Zie antwoord vraag 5.
Heeft u zicht op het gebruik van versleutelde communicatiekanalen, zoals dat voor betalende Twittergebruikers mogelijk wordt, door bewindspersonen? Hoe zou u een verbod daarop beoordelen, in het licht van een juiste naleving van de Wet Open Overheid?
Het gebruik van berichtenapps voor formeel zakelijke communicatie wordt zoveel mogelijk beperkt. Voor bestuurlijke aangelegenheden wordt het gebruik ontraden. Dit beleid is nog steeds van kracht. Het feit dat gegevensstromen tijdens gebruik versleuteld zijn, staat op geen enkele manier in de weg dat bestuursorganen invulling kunnen en moeten geven aan hun verplichtingen omtrent archivering en openbaarmaking.
Het bericht ‘WhatsApp en Signal dreigen VK te verlaten vanwege breken encryptie’ van AG Connect |
|
Evert Jan Slootweg (CDA), Anne Kuik (CDA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Dilan Yeşilgöz-Zegerius (minister justitie en veiligheid) (VVD) |
|
Bent u bekend met het bericht «WhatsApp en Signal dreigen VK te verlaten vanwege breken encryptie»?1
Ja.
Wat regelt het wetsvoorstel Online Safety Bill in het Verenigd Koninkrijk precies?
Het gaat hier om een wetsvoorstel uit het Verenigd Koninkrijk dat nog niet volledig is behandeld in het Britse parlement. Terughoudendheid bij de beoordeling daarvan is derhalve gepast. In grote lijnen kan worden aangegeven wat dit voorstel behelst, voor zover nu bekend. In de Online Safety Bill worden regels en zorgplichten gesteld voor internetdiensten rondom de aanpak van online illegale inhoud en de bescherming van kinderen, journalisten en democratische waarden. Een apart hoofdstuk is ingericht over het rapporteren van online materiaal van seksueel kindermisbruik (CSAM) en een hoofdstuk rondom de verplichtingen die internetdiensten hebben op het gebied van online pornografie. Tenslotte krijgt the Office of Communications, OFCOM, de rol van handhaver op het gebied van de Online Safety Bill.
Hoe beoordeelt u dit wetsvoorstel?
Zoals ik onder vraag 2 heb geschetst is dit wetsvoorstel nog in behandeling en is het lastig om een definitieve beoordeling te geven van de waarde hiervan. Vooral omdat nog niet bekend is wat de eventuele effecten van dit wetsvoorstel voor Nederland zullen zijn, als die er al zijn. Voor zover op dit moment het beoordeeld kan worden, komt de voorgestelde regelgeving grotendeels overeen met de regels die zijn gesteld in de Digital Services Act, die voor Nederland in februari 2024 in werking zal treden. Ook hier worden regels opgelegd aan tussenhandeldiensten rondom transparantie en het modereren op illegale inhoud. Voor online materiaal van seksueel kindermisbruik onderhandelen lidstaten momenteel in de Europese Unie over een verordening die hier specifieke regelgeving op maakt (CSAM-verordening). Zonder teveel op de inhoud in te gaan, kan het worden toegejuicht dat ook het Verenigd Koninkrijk, net als de Europese Unie, stappen neemt in het beter reguleren van tussenhandeldiensten en online illegale inhoud. Het internet is niet gebonden aan landsgrenzen en overheden hebben een gezamenlijke verantwoordelijkheid om het schoon en veilig te houden.
Ziet u het nut van de mogelijkheid om chatapps te kunnen scannen op materiaal van kindermisbruik om makers en verspreiders daarvan te kunnen opsporen, vervolgen en te bestraffen?
Interpersoonlijke communicatiediensten worden steeds vaker gebruikt om materiaal van seksueel kindermisbruik te verspreiden.2 Juist deze diensten maken vaak gebruik van end-to-end encryptie. Zoals gezegd vinden in Brussel momenteel onderhandelingen plaats over een verordening om de verspreiding van online kinderpornografisch materiaal tegen te gaan. Een onderdeel uit deze concept-Verordening betreft het voorstel voor het instellen van een zogeheten «detectiebevel». Op basis van dit detectiebevel kunnen bedrijven – onder meer aanbieders van interpersoonlijke communicatiediensten, zoals Whatsapp en Signal – onder voorwaarden worden verplicht om op hun diensten te scannen op de aanwezigheid van materiaal van online seksueel kindermisbruik.
Zoals ik onder andere in mijn brief van 2 februari 2023 aan uw Kamer heb weergegeven, is het detectiebevel een maatregel die inbreuk maakt op verschillende grondrechten.3 Voor Nederland staat bij de onderhandelingen voorop dat die inbreuk moet kunnen worden gerechtvaardigd. Uw Kamer is daar reeds uitgebreid over geïnformeerd. In alle gevallen geldt dat voorstellen die end-to-end encryptie onmogelijk maken niet kunnen worden ondersteund, conform de in juli 2022 door de Tweede Kamer aangenomen motie-Van Raan c.s.4
Wat vindt het kabinet ervan dat encryptie wordt gebruikt om materiaal van kindermisbruik te kunnen delen en te verspreiden?
Het is juist dat interpersoonlijke communicatiediensten die gebruik maken van end-to-end encryptie, in toenemende mate worden misbruikt voor het delen van materiaal van kindermisbruik.5 Dit vind ik een zorgelijke ontwikkeling. Er moet worden voorkomen dat criminelen op deze diensten vrij spel hebben bij het verspreiden van online materiaal van seksueel kindermisbruik. We hebben het vaak over «online materiaal», «beelden», of «video’s». Maar achter dit digitale materiaal gaat een verschrikkelijke fysieke waarheid schuil waar we onze ogen niet voor mogen sluiten. Ik zal mij blijvend inzetten om, binnen de grenzen van de motie Van Raan c.s., te zoeken naar mogelijkheden (zie antwoord 4) om de omloop van dit verwerpelijke materiaal te stoppen.
Deelt u de mening dat de mogelijkheid om berichtendiensten te kunnen scannen op materiaal van kindermisbruik zwaarder moet wegen dan het recht van aanbieders om volledige encryptie aan te bieden aan gebruikers?
Encryptie stelt de opsporing voor grote uitdagingen. In opsporingsonderzoeken blijkt het in veel gevallen zeer lastig en soms onmogelijk om gegevens die nodig zijn om criminelen op te sporen te verkrijgen. Tegelijkertijd is sterke encryptie van groot belang voor het beschermen van de vertrouwelijkheid van communicatie als grondrecht en de beveiliging van communicatie. Het vinden van oplossingen die voldoende recht doen aan alle betrokken belangen is lastig. Ik zie de absolute noodzaak om het bestaan en de verspreiding online van beeldmateriaal van seksueel kindermisbruik te voorkomen, en daarmee de grondrechten van deze kinderen te beschermen. Maar tegelijkertijd is het de absolute noodzaak om grondrechten, zoals eerbiediging van de persoonlijke levenssfeer en bescherming van het telecommunicatiegeheim, te eerbiedigen. Met client-side scanning bestaat de mogelijkheid om binnen interpersoonlijke communicatiediensten te scannen op bestaand materiaal van seksueel kindermisbruik zonder dat end-to-end encryptie onmogelijk wordt gemaakt, zoals ook toegelicht in mijn brief van 2 februari 2023.6 Het blijft van belang om bij de mogelijkheden die Nederland ziet steeds aandacht te besteden aan de noodzakelijkheid, proportionaliteit en subsidiariteit ervan en daarbij steeds een weging te maken van alle betrokken belangen.
Zo ja, is het kabinet voornemens het Britse voorbeeld te volgen en te komen met een Nederlandse versie van de Online Safety Bill?
Zoals gezegd zal in Nederland de Digital Services Act van toepassing zijn vanaf februari 2024. Specifiek voor de handhaving op het gebied van online materiaal van seksueel kindermisbruik heb ik onlangs de wet bestuursrechtelijke bevoegdheden aanpak online kinderpornografisch materiaal naar uw Kamer verzonden en onderhandel ik momenteel in Brussel over de reeds aangehaalde CSAM-Verordening.7
Bent u het eens met de bewering van Ciaran Martin, de voormalige baas van het Britse Cyber Security Centre tegen Politico dat «Client-side scanning lijkt, ondanks de claims van tegenstanders, wel een bepaald niveau van toegang te omvatten, een soort mogelijkheid om te sorteren en te scannen»2, waardoor opsporings- en veiligheidsdiensten wel degelijk delen en verspreiden van online kindermisbruik kunnen aanpakken?
In mijn brief van 31 januari jl. aan uw Kamer heb ik client-side scanning expliciet als optie benoemd om materiaal van seksueel misbruik te onderkennen wanneer deze worden verstuurd via diensten die gebruik maken van end-to-end encryptie.9 Met client-side scanning kunnen berichten die zijn verstuurd binnen de desbetreffende interpersoonlijke communicatiediensten op het apparaat van de verzender worden geanalyseerd op materiaal van seksueel kindermisbruik vóórdat dit materiaal wordt versleuteld en verzonden. De end-to-end versleuteling van het bericht tijdens het transport naar de ontvanger blijft dan ongemoeid, waardoor het bericht niet kan worden onderschept door derden. Uitgangspunt bij het nemen van dergelijke maatregelen is steeds respect voor fundamentele rechten, data-protectiewetgeving en behoud van cybersecurity. Ook wordt scherp gekeken of het middel proportioneel is ten aanzien van het doel dat wordt nagestreefd. Zo acht het kabinet het niet proportioneel wanneer dit middel wordt ingezet om tekstberichten te scannen, maar wel indien enkel wordt gescand op bestaand beeldmateriaal. Dat wil zeggen, materiaal waarvan reeds is vastgesteld dat dit materiaal betreft van seksueel kindermisbruik, en waarvan het bezit dus strafbaar is. Omdat bij het gebruik van client-side scanning het communicatiegeheim moet worden gewaarborgd, beziet het kabinet verder zeer kritisch welke nadere waarborgen aan het bevel moeten worden verbonden, met name ten aanzien van de vraag wat er met gedetecteerde informatie moet gebeuren.
Is het kabinet van mening dat de mogelijkheid om berichtendiensten te scannen op materiaal van kindermisbruik zwaarder moet wegen dan een dreigend vertrek van WhatsApp en Signal uit Nederland, wanneer blijkt dat het breken van encryptie een effectieve manier is om online kindermisbruik tegen te gaan?
Nederland steunt geen Europese voorstellen die end-to-end encryptie onmogelijk maken, in lijn met de door uw Kamer aangenomen motie-Van Raan c.s. De strijd tegen online seksueel kindermisbruik blijft desalniettemin van essentieel belang, zeker gelet op de grote rol van Nederland als het gaat om het hosten van online materiaal van seksueel kindermisbruik.10 Ik voel daarom een grote verantwoordelijkheid voor het vormgeven van een effectieve bestrijding van seksueel kindermisbruik, binnen het kader van de motie-Van Raan c.s., waarbij alle grondrechten worden geëerbiedigd. Zoals onder de vragen 4 en 8 weergegeven, lijkt client-side scanning de enige manier waarop de maatregelen in de verordening ten aanzien van interpersoonlijke communicatiediensten kunnen worden uitgevoerd zonder end-to-end encryptie onmogelijk te maken. Het is daarbij belangrijk dat berichtendiensten – zoals Whatsapp of Signal – niet buiten de reikwijdte van de verordening vallen.
Het bericht 'The jury is still out' |
|
Joba van den Berg-Jansen (CDA), Anne Kuik (CDA), Evert Jan Slootweg (CDA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Maarten van Ooijen (staatssecretaris volksgezondheid, welzijn en sport) (CU) |
|
Heeft u kennisgenomen van het artikel «The jury is still out»?1
Ja, ik heb kennisgenomen van het artikel «The Jury is still Out».
Laat ook Nederlands onderzoek een stijging zien van gevallen van depressie onder Nederlandse jongeren?
Het aantal depressies onder jongeren in Nederland wordt niet gemeten. Wel is af te leiden uit de CBS-data jeugdhulpgebruik dat er een stijging is in ambulante jeugdhulp op locatie, waarvan de schatting is dat dit voornamelijk gaat om jeugd-ggz. Dit betreft een stijging van 3,2% van 308.000 jongeren in 2021 naar 318.000 jongeren in 2022. Er is hierbij echter geen inzicht in specifieke diagnoses.
Laat ook Nederlandse onderzoek zien dat bij jonge mensen, met name meisjes, de mentale gezondheid verslechtert?
Ja, ook Nederlands onderzoek laat dit beeld zien. Bijvoorbeeld de Corona Gezondheidsmonitor Jongvolwassenen 2022. De coronacrisis heeft bestaande problemen nog scherper aan het licht gebracht en nieuwe problemen veroorzaakt. Meisjes lijken ten opzichte van jongens in hogere mate te maken hebben met depressieve of angstklachten. Deze trend komt ook in de Nederlandse onderzoeken terug, waaronder het onderzoeksrapport HBSC 20212, de Landelijke Monitor Depressie3 en een proefschrift van de Erasmus Universiteit
Rotterdam.4
Klopt het dat het aantal gevallen van suïcide daalt, behalve onder de groep jonge meisjes van 10–19 jaar?
De CBS data over zelfdodingen in Nederland fluctueert over de jaren voor jongeren van 10 tot 19 jaar, maar laat over de afgelopen jaren heen een stabiel beeld zien. Dit geldt zowel voor jongens, meisjes als het totaal beeld in deze leeftijdsgroep.
Stijgt ook in Nederland het aantal gevallen van zelfmutilatie explosief onder tienermeisjes?
Er is geen data beschikbaar over automutilatie onder jongeren in Nederland.
In hoeverre wordt in onderzoek naar het effect van smartphone en social media gebruik op de mentale gezondheid van tieners onderscheid gemaakt tussen jongens en meisjes? Bent u bereid zich in te zetten voor meer onderzoek specifiek onder de doelgroep tienermeisjes?
Recente onderzoeken zoals die beschreven in antwoord 3, beschrijven de verschillen in het ervaren van psychische klachten tussen jongens en meisjes. Zo blijkt dat meisjes ten opzichte van jongens in hogere mate te maken hebben met depressieve of angstklachten. Er is al veel kennis beschikbaar. De verschillen tussen jongens en meisjes in verschillende levensfases in hun jeugd en jongere jaren worden gemonitord. Ik ben mij uiteraard bewust van het feit dat de zorgen daarin toenemen. Daarom richt ik mij – samen met mijn collega’s – ook expliciet op de leefomgeving «Online» in de Aanpak «Mentale Gezondheid: van ons allemaal». Jongeren zijn daarin nadrukkelijk een belangrijke doelgroep. Ik zie geen toegevoegde waarde om een apart onderzoek uit te zetten, specifiek gericht op meisjes.
Klopt het dat meisjes tussen 10–19 jaar gemiddeld meer tijd doorbrengen op smartphones en social media dan jongens in dezelfde leeftijdsgroep?
Het Nederlands Jeugdinstituut5 stelt dat in 2021 bij 5,3 procent van de leerlingen in het voortgezet onderwijs sprake was van problematisch gebruik van sociale media. In groep 8 van het basisonderwijs gaat het om 3,9 procent. In het voortgezet onderwijs is hierbij het verschil tussen jongens en meisjes significant. Onder meisjes is met 6,8 procent vaker spraken van problematisch sociale mediagebruik dan onder jongens (3,9 procent). Deze cijfers zijn afkomstig uit het eerder genoemde HBSC-onderzoek onder scholieren. Aan leerlingen zijn diverse stellingen voorgelegd waarin is nagegaan of leerlingen voldoen aan minstens vijf symptomen van problematisch gebruik.
In zowel basis- als voortgezet onderwijs gebruiken jongeren vaak sociale media om niet aan vervelende dingen te hoeven denken. Dit is onder alle leerlingen het meest voorkomende symptoom van problematisch gebruik. Dit geldt voor 41 procent van de basisschoolleerlingen en 45 procent van de leerlingen in het voortgezet onderwijs. Meisjes doen dit significant vaker dan jongens. In het basisonderwijs gat het om 37,3 procent van de jongens en 44,3 procent van de meisjes. In het voortgezet onderwijs gaat het om 35,7 procent van de jongens en 54,3 procent van de meisjes (Boer e.a. 2022).
Mochten smartphone en social media gebruik een trigger zijn voor depressiegevoelens onder meisjes, welke maatregelen zouden er genomen kunnen worden om de trend te keren?
Het is lastig aan te tonen of sociaal media gebruik een directe trigger is voor een depressie. Dit komt doordat er geen duidelijke consensus is in wetenschappelijk onderzoek over een oorzakelijk verband tussen sociaal media en depressie. Net als in het artikel «The jury is still out». De oorzaak van een depressie is gelegen in een combinatie van vele factoren zoals een combinatie van lichamelijke, geestelijke en/of omgevingsfactoren. Hierbij is het vaak niet mogelijk één doorslaggevende factor aan te wijzen voor het ontstaan van depressie. In het in januari gepubliceerde essay «#GeenPaniek» van de Raad voor Volksgezondheid en Samenleving (RVS) is ook aangegeven dat het lastig te achterhalen is of «online zijn» goed of slecht is voor de gezondheid. In de beantwoording van de recent gestelde Kamervragen door de leden Slootweg en Kuik gaat de Staatssecretaris van BZK verder in op de relatie tussen sociaal mediagebruik en depressie.6
Wat tegelijkertijd wél te zien is, is dat er brede wetenschappelijke consensus is over het feit dat problematisch gebruik van sociale media door jongeren ten koste gaat van hun mentale en cognitieve ontwikkeling. Dit is zorgwekkend, omdat de groep jongeren die problematisch sociale mediagebruik vertoont stijgt.
Met de inzet van het basistakenpakket JGZ wil ik gezondheidsproblemen voorkomen. De jeugdgezondheidsprofessionals kunnen tijdens de contactmomenten met ouders spreken over verantwoord schermgebruik, wat schermgebruik doet met ontwikkeling van een kind en ze hierover adviseren. Voor professionals is een e-learning Mediaopvoeding beschikbaar. Daarnaast heeft het NJI de Toolbox Mediaopvoeding: «Media? Gewoon opvoeden» ontwikkeld. Hierin zijn factsheets voor professionals en leerkrachten en tipsheets voor ouders opgenomen. Verder zet het kabinet met de landelijke aanpak «Mentale gezondheid; van ons allemaal» in op de mentale gezondheid van jongeren en jongvolwassenen. Hierbij is nadrukkelijk aandacht voor de effecten van teveel online activiteiten. Samen met jongeren zelf en organisaties zoals MIND Us en het netwerk Mediawijsheid, wordt onder meer ingezet op het stimuleren van mediawijsheid, digitale vaardigheden en digitale balans.
Bepaalde mechanismen in sociale media zelf kunnen bijdragen aan het versterken van een depressie of gevoelens van angst. Een voorbeeld hiervan is dat iemand in een informatiefuik terecht kan komen met eenzijdige content, bijvoorbeeld over depressie. Dit kan het depressieve gevoel van de persoon verder aanwakkeren. Het is ook duidelijk dat sociale media het gedrag en de emoties van gebruikers kunnen beïnvloeden.7
Sociale media platforms hebben de verantwoordelijkheid om de rechten en belangen van minderjarigen ten allen tijde te borgen. Vanuit het Verenigde Naties Verdrag inzake de Rechten van het Kind dienen zowel publieke als private partijen het belang van het kind mee te nemen bij activiteiten die kinderen raken. Wij spreken de sociale media platforms hierop aan. De Staatssecretaris van BZK brengt negatieve effecten tijdens gerichte gesprekken met grote techbedrijven onder de aandacht. Daarnaast wil de Staatssecretaris van BZK tijdens structurele overleggen waaraan grote techbedrijven deelnemen – zoals de klankbordgroep van de publiek-private samenwerking over online content – op thematische wijze aandacht gaan besteden aan negatieve effecten. Ook wil de Staatssecretaris van BZK dat de platforms in het kader van de opkomende verplichtingen vanuit de Digital Services Act (DSA) meer transparantie bieden over de effecten van hun platforms, de risico’s voor minderjarigen, de maatregelen die zij nemen om risico’s te mitigeren en de effectiviteit van die maatregelen. Mede in dit kader wordt er momenteel in opdracht van het Ministerie van BZK een Kinderrechten Impact Assessment (KIA) ontwikkeld. Met deze KIA kunnen de risico’s van een concrete online product of dienst voor kinderrechten in kaart worden gebracht, waaronder op het recht op een goede mentale en fysieke gezondheid. Het Ministerie van BZK is voornemens om deze KIA te gaan toepassen op door minderjarigen veelgebruikte online diensten en met de producenten daarvan in gesprek te gaan over de resultaten van de toegepaste KIA. Ook zal het Ministerie van BZK de komende jaren kijken in welke mate de DSA bijdraagt aan het beter beschermen van minderjarigen. Voor de zomer stuurt de Staatssecretaris van BZK een brede beleidsbrief met fundamentele acties om kinderen in de digitale wereld beter te beschermen. Daarin zal ook aandacht worden besteed aan goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico’s in de digitale wereld. De voorlichting maakt onderdeel uit van een meerjarige publieksvoorlichting. Omdat wetenschappelijke onderzoek laat zien dat het aantal jongeren dat problematisch online gedrag vertoont stijgt8, zal de eerste campagne zich richten op de effecten van langdurig online zijn.
Neemt het kabinet op dit moment maatregelen om schadelijk effecten van smartphone en social media gebruik te ondervangen? Zo nee, waarom niet? Zo ja, welke maatregelen?
Zie antwoord vraag 8.
Bent u bereid om de aanpak «Mentale gezondheid voor ons allemaal» uit te breiden en specifiek aandacht te besteden aan de online leefwereld en de risico's voor meisjes? Zo ja, welke acties onderneemt u?
Met de aanpak richten we ons op preventie en het bevorderen van de mentale gezondheid van al onze inwoners met specifieke aandacht voor de jeugd. Juist omdat de aanpak voor iedereen is, is het belangrijk dat verschillende activiteiten inspelen op verschillende behoeften. Zie ook antwoord 6.
Het bericht ‘Aantal getroffen websites met ernstig kindermisbruik in twee jaar tijd verdubbeld’ |
|
Evert Jan Slootweg (CDA), Anne Kuik (CDA) |
|
Dilan Yeşilgöz-Zegerius (minister justitie en veiligheid) (VVD), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66) |
|
Bent u bekend met het bericht «Aantal getroffen websites met ernstig kindermisbruik in twee jaar tijd verdubbeld»?1
Ja.
Bent u het eens met de stelling dat het buitengewoon schrikbarend is dat het aantal websites met de meest ernstige vormen van kindermisbruik in twee jaar tijd is verdubbeld, namelijk naar 51.369 websites?
Ja; deze wereldwijde trend baart mij zorgen. Ieder jaar presenteert de Internet Watch Foundation (IWF) jaarcijfers waarin veel aandacht wordt geschonken aan enerzijds meldingen vanuit het publiek en anderzijds het eigen onderzoek van IWF naar de aanwezigheid van kinderpornografisch materiaal op het openbare deel van het internet. De aantallen die worden genoemd zijn dus afhankelijk van factoren als het aantal meldingen bij IWF en hoe eenvoudig en openbaar de toegang tot het materiaal is.
Wat is volgens u de oorzaak van deze verdubbeling?
Het is niet eenvoudig om een enkele oorzaak van de verdubbeling van het aantal websites met ernstige vormen van kindermisbruik aan te wijzen; zeker omdat het lijkt te gaan om een wereldwijde trend. Daarbij is duidelijk dat seksueel getint beeldmateriaal dat zelf door minderjarigen wordt gemaakt in opkomst is. Laat ik duidelijk stellen dat hierbij niet altijd hoeft te gaan om materiaal dat vrijwillig tot stand is gekomen: het is mogelijk dat minderjarigen hiervoor onder druk worden gezet of gechanteerd of ze zijn zich er niet van bewust dat ze gefilmd worden. Vanuit Nederlands perspectief zal ik me blijven inzetten voor preventie en voorlichting om minderjarigen en hun ouders en voogden meer weerbaar te maken tegen deze vorm van misbruik.
Welke redenen maken het aantrekkelijk om bijna een derde van deze websites op Nederlandse servers te hebben?
Het valt niet met zekerheid te zeggen waarom Nederland zo aantrekkelijk lijkt te zijn. Nederland beschikt over een uitstekende digitale infrastructuur. Dat betekent dat er sprake is van snelle verbindingen en beschikbaarheid van voldoende servers en opslagruimte voor webhosting. Deze aspecten leveren de Nederlandse economie veel voordelen op, maar kunnen ook misbruikt worden door criminelen. Daartegen moet doelgericht en effectief worden opgetreden. Juist door deze belangrijke rol van Nederland als wereldwijd internetknooppunt, is de aanpak van online criminaliteitsvormen, waaronder die van online seksueel kindermisbruik, ook een prioriteit van dit kabinet.
Bent u bereid om maatregelen te nemen om verspreiding via Nederlandse servers aan te pakken? En zo ja, welke concrete maatregelen gaat u nemen?
Ja, daar ben ik zeker toe bereid. De ambitie van het kabinet is er te allen tijde op gericht al het beeldmateriaal van online seksueel kindermisbruik van Nederlandse servers te weren. Het rapport bevestigt dat dit een omvangrijk, ernstig en lastig te bestrijden fenomeen is. Het belang van de opsporing en vervolging van dit materiaal is opgenomen in de Veiligheidsagenda 2023–2026.2
Het is echter niet eenvoudig om het opslaan of online plaatsen van illegale content aan te pakken. Het is middels de EU-Richtlijn Elektronische Handel verboden om aan internettussenpersonen een algehele monitoringsverplichting op te leggen. Veel Nederlandse datacentra verhuren opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. Datacentra hebben daarom niet altijd zicht op wie aan het eind van de keten precies gebruik maken van hun diensten en welke content wordt gehost.
De inzet bij de bestrijding van illegale content gaat voor een belangrijk deel uit van zelfregulering door de internetsector. De Nederlandse overheid werkt reeds jaren samen met de internetsector aan de bestrijding van illegale content online. Zo is al in 2008 een Notice-and-Takedown-gedragscode (NTD) overeengekomen tussen overheden, internetaanbieders, hostingbedrijven, en andere tussenpersonen.3 Daar is in 2018 een addendum op gekomen voor het verbeteren van de bestrijding van materiaal van online kindermisbruik. Materiaal dat door het in de NTD-gedragscode als «trusted flagger» aangewezen Expertisebureau Online Kindermisbruik (EOKM) als strafbaar wordt aangemerkt, wordt hierdoor in de meeste gevallen al binnen 24 uur na het ontvangen van een verzoek daartoe verwijderd door hostingpartijen. Aanvullend bevat de in 2021 geactualiseerde Gedragscode Abusebestrijding maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten.
Zoals reeds bekend bij uw Kamer, heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader. Het wetsvoorstel dat voorziet in de wettelijke grondslag van deze autoriteit voor de handhaving met betrekking tot kinderpornografisch materiaal, is begin juni bij de Tweede Kamer ingediend.
Welke consequenties kunnen websites verwachten die online kindermisbruik op hun sites tonen, als het gaat om controle en sancties?
Om bestuursrechtelijk te kunnen handhaven heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Het wetsvoorstel is op 12 juni jl. naar uw Kamer verzonden.
Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Doen ze dat niet, dan kunnen er boetes worden opgelegd. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader.
In geval van verdenking van een misdrijf als omschreven in artikel 67, eerste lid, Sv kan de officier van justitie met een machtiging van de rechter-commissaris aan een aanbieder van een communicatiedienst bevelen om gegevens ontoegankelijk te maken als dit noodzakelijk is ter beëindiging van een strafbaar feit. Dit is geregeld in artikel 125p Sv. In artikel 54a Sr is vervolgens bepaald dat als een aanbieder voldoet aan dat bevel, de aanbieder niet wordt vervolgd. Mocht er toch geen uitvoering worden gegeven aan een dergelijk bevel dan is vervolging voor het niet opvolgen daarvan mogelijk. Dat is geregeld in artikel 184 Sr.
Indien een tussenpersoon bewust criminaliteit faciliteert, zoals beeldmateriaal van online seksueel kindermisbruik, kan deze strafrechtelijk aansprakelijk worden gehouden. Zo heeft het Gerechtshof in Den Haag bepaald dat een telecommunicatiedienstprovider die zich ervan bewust is dat zijn klanten crimineel gedrag vertonen en/of criminele content aanwezig hebben dan wel verspreiden, en deze klanten daarbij desalniettemin faciliteert, mogelijk strafrechtelijk aansprakelijk kan worden gehouden, ook als de officier van justitie niet vooraf een verwijderbevel heeft afgegeven.4 Of daar sprake van is, dient per geval te worden beoordeeld.
Het jaarrapport van de Internet Watch Foundation (IWF) laat zien dat online kindermisbruik steeds zichtbaarder wordt en niet meer weggestopt is op hetdark web: is het voor de opsporingsdiensten dan juist niet makkelijker om online kindermisbruik offline te laten halen en de websites en dader(s) te sanctioneren? Zo nee, waarom niet?
De mogelijkheden voor handhaving die opsporingsdiensten hebben op het openbare internet lijken inderdaad groter omdat hostingdiensten beter bereikbaar zijn. Daartegenover staat dat veel van het beeldmateriaal wordt gedeeld via interpersoonlijke communicatiediensten, private chats of beveiligde fora die versleuteld zijn via end-to-end encryptie.5 Dat maakt de opsporing lastig.
Voor de afspraken in de Veiligheidsagenda is leidend dat opsporingscapaciteit wordt ingezet daar waar het maatschappelijk effect daarvan het grootst is. Dit is wanneer slachtoffers ontzet worden uit acute misbruiksituaties, zowel nationaal als internationaal. Dit kan door het opsporen en vervolgen van daders, het verstoren van de netwerken die seksueel kindermisbruik aanjagen of het tegengaan van het reizen van daders die voor het plegen van seksueel kindermisbruik naar het buitenland gaan. Daarom zal de komende jaren gefocust worden op opsporingsonderzoeken in categorie A (vervaardigers en misbruikers) en categorie B (keyplayers en netwerken).
De politie draagt bij aan de bereidheid van slachtoffers om zich te melden bij organisaties die hen kunnen helpen, bijvoorbeeld bij het offline halen van beeldmateriaal. De politie doet dit bijvoorbeeld door het ondersteunen van deze hulporganisaties of het uitvoeren van voorlichtingscampagnes.
Hoeveel online kindermisbruik is dit jaar verwijderd en hoeveel websites zijn gesanctioneerd voor het vertonen van online kindermisbruik?
Onlangs heb ik uw Kamer een brief gestuurd waarin enkele aspecten rondom de bevoegdheden van de ATKM nader worden toegelicht en de resultaten van de jaarlijkse TU Delft Monitor over het hosten van materiaal van online seksueel kindermisbruik worden meegenomen.6 Ik herhaal dat het erop lijkt dat het totale volume van dergelijk materiaal dat aangetroffen is verlaagd is, maar dat er een teruggang lijkt te zijn in verwijderingssnelheid. Dat baart mij zorgen. Daarnaast is het landschap qua hostingbedrijven veranderd; bekende hostingbedrijven zetten zich meer in om materiaal van online seksueel kindermisbruik te verwijderen, maar nieuwe partijen lijken zich volgens de TU Delft monitor minder bewust van de regels en afspraken te zijn. Ook dat laat zien dat een doorlopende samenwerking en overleg met de sector van groot belang is.
Offlimits, voorheen bekend als het Expertisebureau Online Kindermisbruik, houdt een overzicht bij van ontvangen meldingen, de beoordeling daarvan en het aantal verzoeken tot verwijdering die vervolgens worden gedaan. Het meest recente overzicht is te vinden in het jaarverslag van 2021.7 In dat jaar zijn in totaal 236.743 meldingen binnen Nederland gedaan, waarbij het bij 212.556 van de meldingen inderdaad ging om illegale inhoud waarvoor een verwijderverzoek is gedaan.
In beginsel zijn platformen en websites niet aansprakelijk voor de inhoud die zij laten zien. Zij hebben volgens de EU-Richtlijn Elektronische handel onder voorwaarden een vrijstelling van aansprakelijkheid. De strafrechtelijke sanctionering ziet daarom met name op degenen die het materiaal van seksueel kindermisbruik online hebben gezet, niet op websites zelf. Over 2022 zijn geen cijfers bekend van het sanctioneren van websites.
Hoe kunt u ervoor zorgen dat de makers en verspreiders van online kindermisbruik sneller en harder worden bestraft?
Zoals aangegeven in de beantwoording op de vragen 5 en 6 hierboven heeft de aanpak van online kindermisbruik hoge prioriteit. Deze aanpak is in de eerste plaats gericht op het effectief opsporen en vervolgen van daders via het strafrecht. Om te voorkomen dat eenmaal gepubliceerd strafbaar materiaal op het internet blijft staan of blijft rondgaan, wat voor slachtoffers eveneens zeer schadelijk is, richt mijn aanpak zich daarnaast op de snelle verwijdering ervan. Ik verwijs u in dit kader naar mijn beantwoording van vraag 5.
In hoeverre kunnen de Digital Services Act en het voorstel voor nieuwe Europese wetgeving tegen online kindermisbruik voorkomen dat online kindermisbruik wordt verspreid en op het internet blijft circuleren?
De Digital Services Act zal de verplichtingen voor de sector met betrekking tot illegale activiteit of inhoud verscherpen. Zo moeten zeer grote onlineplatformen en zoekmachines bijvoorbeeld een risicoanalyse doen van hun systemen om te controleren in hoeverre zij vatbaar zijn voor criminele activiteiten. Vervolgens dienen ze daarop risicobeperkende maatregelen te nemen. Ook worden er minimumvereisten gesteld aan het afhandelen van meldingen over illegale content. Indien zij niet voldoen aan deze vereisten kan er op gehandhaafd worden: voor grote platformen en zoekmachines is dat de Europese Commissie; voor in Nederland gevestigde hostingbedrijven zal dat de nationale digitaledienstencoördinator worden.
Het voorstel van de Europese Commissie voor een verordening ter voorkoming en bestrijding van seksueel kindermisbruik is erop gericht om nadere regels vast te stellen voor de specifieke illegale content die beeldmateriaal van seksueel kindermisbruik is. De onderhandelingen hierover tussen de Europese Commissie en de Europese lidstaten lopen nog.
In welke mate wordt versleutelde end-to-end-encryptie gebruikt om online beelden van kindermisbruik te delen?
Vanwege het wijdverbreide gebruik van end-to-end-encryptie voor berichtenverkeer is het lastig om een compleet beeld te hebben van de hoeveelheid materiaal dat via dergelijk berichtenverkeer wordt gedeeld. Wel is het duidelijk, zoals ook het rapport van de Internet Watch Foundation aangeeft, dat er steeds meer gebruik wordt gemaakt van dergelijke interpersoonlijke communicatiediensten voor het delen van beeldmateriaal. Daarom is het van belang dat er mogelijkheden zijn om onder bepaalde omstandigheden toegang tot dit berichtenverkeer te krijgen, onder passende voorwaarden en waarborgen.
Welke mogelijkheden hebben de Nederlandse opsporingsdiensten nu om verspreiding via versleutelde end-to-end-encryptie een halt toe te roepen?
De opsporingsdiensten zijn, in de meeste gevallen, sterk afhankelijk van de wijze waarop versleutelde communicatiediensten de verspreiding van dergelijk materiaal zélf trachten te voorkomen op hun platform. Bepaalde communicatiediensten doen dit bijvoorbeeld door foto- en videomatching van niet-versleutelde informatie, zoals profiel- en groepsfoto’s of groepsinformatie of op basis van verdacht gedrag waarbij wordt gekeken naar metadata. Wanneer de communicatiedienst, op basis van deze technieken, een melding stuurt naar de Amerikaanse toezichthouder NCMEC (conform Amerikaanse wetgeving) en de toezichthouder deze zaak doorverwijst naar Nederland, dan kunnen Nederlandse opsporingsdiensten in bepaalde gevallen optreden tegen individuele daders.
Wanneer een vermoeden bestaat dat een persoon in bezit is van materiaal van seksueel kindermisbruik, is het voor de opsporingsdiensten in bepaalde gevallen mogelijk om toegang te krijgen tot dit materiaal – en zo de verspreiding daarvan te voorkomen. Meestal gaat het dan om toegang tot individuele apparaten, bijvoorbeeld middels een ontsleutelbevel of de bevoegdheid om binnen te dringen in een geautomatiseerd werk, zoals opgenomen in de Wet Computercriminaliteit III. Deze middelen zijn – gelet op de inbreuk die de inzet maakt op de grondrechten – alleen onder strenge voorwaarden inzetbaar, en de uitkomsten zijn afhankelijk van een (grote) set van externe factoren.
Desinformatie |
|
Hind Dekker-Abdulaziz (D66) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Hanke Bruins Slot (minister binnenlandse zaken en koninkrijksrelaties) (CDA) |
|
Deelt u de mening dat complottheorieën gevuld met desinformatie een gevaar vormen voor de democratische rechtsorde in Nederland zoals is gebleken uit het jaarverslag van de Algemene Inlichtingen- en Veiligheidsdienst (AIVD)? Kunt u op dit onderdeel uw eigen reflectie geven?1
De ontwikkelingen die de AIVD signaleert, geven inderdaad reden tot zorg. Het kwaadaardig elite-narratief is een directe aanval op mensen die in de politiek, de rechterlijke macht of de pers werken. Het is ondermijnend voor de democratische rechtsorde als mensen systematisch het gezag van deze instituties verwerpen op basis van ernstige verdachtmakingen waar geen feitelijk bewijs voor is. Het belemmert de versterkende werking van deze instituties, nog los van de uitwassen van extreme haat, intimidatie en bedreigingen die mensen in publieke functies over zich heen krijgen. Voor verdere reflectie op dit onderwerp wijs ik u graag op de aanbiedingsbrief bij de recentelijke publicatie «Anti-institutioneel-extremisme in Nederland»2 en de Kamerbrief Rijksbrede strategie effectieve aanpak van desinformatie.3
Hoe worden artikelen 137d, 131 en 132 in het Wetboek van Strafrecht toegepast op het moment dat een persoon desinformatie verspreidt aangezien de definitie van desinformatie zegt dat de verspreider de informatie opzettelijk rondstuurt?
Bij het bepalen of er bij de betreffende desinformatie sprake is van een strafbaar feit als gevolg van overtreding van bijvoorbeeld artikel 131, 132 of 137d van het Wetboek van Strafrecht gaat het om de intentie waarmee de verspreider de informatie opzettelijk heeft verstuurd. Indien de verspreiding van de desinformatie gericht is op opruiing tot strafbare feiten of gewelddadig optreden tegen het openbaar gezag, kan dat leiden tot een vervolging. Hetzelfde geldt voor artikel 137d Sr: als de intentie van de desinformatie gericht is tot het aanzetten tot haat, geweld of discriminatie, dan kan dat mogelijk leiden tot een vervolging.
Kunt u voorbeelden vanuit de praktijk opnoemen waar deze artikelen werden toegepast?
Het is lastig om specifieke voorbeelden te noemen waar deze artikelen zijn toegepast in relatie tot het verspreiden van desinformatie, omdat deze artikelen op zichzelf staand een strafbaar feit bevatten en desinformatie op zichzelf staand niet. Wel is recentelijk een man veroordeeld voor opruiing (artikel 131 Wetboek van Strafrecht) omdat hij o.a. opriep tot geweld tegen het toenmalige hoofd van het RIVM. De rechtbank concludeerde hier dat de voorwaarden voor artikel 131 Sr bewezen zijn. Daarnaast concludeerde de rechtbank dat de verdachte niet op grond van een accurate feitelijke basis heeft gehandeld en geen betrouwbare en precieze informatie heeft gegeven in overeenstemming met de journalistieke ethiek.4
Wat is uw mening over algoritmes en isolerende echokamers?
Aanbevelingsalgoritmen kunnen ervoor zorgen dat websites en zoekmachines hun resultaten afstemmen op eerder online zoekgedrag. Doordat bijvoorbeeld een tijdlijn, aanbevelingen of zoekresultaten worden gepersonaliseerd, krijgt iemand informatie te zien die beter aansluit bij persoonlijke interesses. Een echokamer verwijst naar het principe dat iemands eigen ideeën bevestigd worden, als die persoon zich enkel omringt door mensen die op dezelfde manier denken. In dit kader gaat het om het verschijnsel waarbij websites en zoekmachines hun resultaten afstemmen op iemands (eerdere) online zoekgedrag en daarna voornamelijk of zelfs enkel gelijksoortige content aanbieden. Het gevaar van zo’n echokamer is dat dergelijke personalisatie ertoe kan leiden dat mensen eenzijdig worden geïnformeerd door de beperkte informatie die binnen een groep gedeeld wordt, en niet door algoritmen ook breed informatie krijgen aangeboden vanuit diverse perspectieven uit andere groepen.
Zo kunnen mensen enkel nog informatie te zien krijgen die dezelfde ideeën bevestigd, waardoor het wereldbeeld kan verengen. Dat is extra risicovol wanneer het om extremistische of emotionele berichten gaat5. Zo kan deze algoritmische sturing ervoor zorgen dat wanneer iemand recent een extremistisch of emotioneel bericht heeft gelezen, of wanneer gebruikers voorafgaand aan het bezoek van een platform veel van deze berichten lezen en delen, iemand dan alleen maar gelijkaardige artikelen te zien krijgt. Dit kan grote persoonlijke of maatschappelijke impact hebben.
Deelt u de mening dat het aanbod op sociale mediaplatforms meer pluriform gemaakt zou moeten worden zodat gebruikers minder snel slachtoffer worden van eenduidige tijdlijnen? Bent u bereid te pleiten voor algoritmevrije tijdlijnen?
Ja die mening deel ik. De Digital Services Act (DSA artikel6 verplicht alle online platformen om gebruikers beter te informeren over de belangrijkste parameters die in hun aanbevelingssystemen worden gebruikt. Tevens dienen zij transparant te zijn over eventuele opties voor afnemers van de dienst om deze parameters te wijzigen of te beïnvloeden. Als gebruikers de mogelijkheid hebben om het aanbevelingssysteem aan te passen, dan moet die functionaliteit makkelijk toegankelijk zijn.
Op grond van artikel 38 DSA moeten zogenaamde zeer grote online platforms en zoekmachines – zoals TikTok, Instagram, YouTube en Google – hun gebruikers verder ten minste één optie aanbieden waarmee ze de dienst kunnen gebruiken zonder dat deze gebruik maakt van profilering voor het doen van aanbevelingen. Gebruikers van deze platformen en zoekmachines krijgen dus de mogelijkheid om dit soort gepersonaliseerde aanbevelingssystemen uit te zetten en in plaats daarvan gebruik te maken van een aanbevelingssysteem dat niet gebaseerd is op profilering. Eind augustus van dit jaar dienen de zeer grote online platformen en zeer grote online zoekmachines al aan deze bepalingen te voldoen. Vanaf dat moment worden eenduidige tijdlijnen dus een stuk beter aangepakt en hebben gebruikers meer keuzevrijheid. Wanneer zeer grote online platformen en zoekmachines niet voldoen aan de verplichtingen uit de DSA, dan kan de Europese Commissie handhaven en onder meer een boete opleggen. De Europese Commissie zal hierop als toezichthouder controleren, maar ook wij zullen scherp monitoren of platformen aan deze verplichtingen voldoen. Bij eventueel geconstateerde gebreken zullen wij bij de aangewezen instanties melding doen.
Bent u zich ervan bewust dat uit onderzoek is gebleken dat sociale mediabedrijven winst maken met hun algoritmes en kunt u hierop reflecteren?2
Ja, hiervan ben ik mijzelf bewust. In de Rijksbrede strategie voor de effectieve aanpak van desinformatie benoem ik daarom dat sociale media platformen een verdienmodel hebben gebaseerd op het personaliseren van hun diensten per individu. Dankzij de werking van de onderliggende aanbevelingssystemen wordt desinformatie soms zelfs beloond met een prominente plek op het platform. Daarbij raakt betrouwbare informatievoorziening ondergesneeuwd.8
Doeltreffende regelgeving en handhaving zijn daarom noodzakelijk om de risico’s en de maatschappelijke en economische schade die kunnen ontstaan effectief in kaart te brengen en te beperken. Zoals hierboven toegelicht, bevat de DSA onder meer regels over aanbevelingssystemen. De DSA verplicht aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines verder om de zogenaamde systeemrisico’s te beoordelen die voortvloeien uit het ontwerp, de werking en het gebruik van hun diensten. De DSA verplicht hen passende maatregelen te nemen om deze risico’s te beperken met inachtneming van de grondrechten. Bij de risicobeoordeling moeten aanbieders rekening houden met de ernst van de potentiële systeemrisco’s en de waarschijnlijkheid daarvan. Daarvoor is bijvoorbeeld relevant of een potentieel risico een groot aantal personen kan betreffen, of dat risico potentieel onomkeerbaar is, en hoe moeilijk het is om het risico, wanneer dit zich verwezenlijkt, te herstellen. Voornoemde zorgplicht maakt dat deze online platformen hun diensten niet enkel meer kunnen vormen om een winstmodel, maar tevens in lijn moeten brengen met maatschappelijke belangen zoals gedefinieerd in de DSA.
In hoeverre vindt u dat sociale mediabedrijven om deze reden minder snel hun verantwoordelijkheid zullen nemen om desinformatie terug te dringen als hierop onvoldoende wordt gecontroleerd?
Zoals hierboven aangegeven zijn algoritmen vaak geoptimaliseerd op een verdienmodel en niet op het bestrijden van desinformatie. Controle en handhaving op bovengenoemde regelgeving uit de DSA is dan ook noodzakelijk. De digitale dienstencoördinator en één of meer andere bevoegde autoriteiten in het land van vestiging en de Europese Commissie zijn de (wettelijk) aangewezen autoriteiten om hierop te controleren. Indien sociale mediabedrijven niet voldoen aan de wettelijke verplichtingen kan hen een boete worden opgelegd van maximaal 6% van hun wereldwijde jaaromzet.
In hoeverre deelt u de overtuiging dat de toezeggingen in de brief over desinformatie te vrijblijvend zijn gebleken?3
Op dit moment bestaat inderdaad het beeld 10 dat platformen nog ruimte voor verbetering hebben. De platformen voldoen niet aan alle toezeggingen zoals geformuleerd in de Code of Practice on Disinformation en Twitter heeft zich onlangs zelfs teruggetrokken uit deze praktijkcode. Daarom is er de afgelopen jaren in Europees verband ook verplichtende wetgeving gemaakt. De toezeggingen die de online platformen hebben gedaan in de EU Code of Practice on Disinformation zijn allemaal op vrijwillige basis gedaan. Met ingang van 25 augustus 2023 treedt de DSA in werking voor zeer grote online platformen die verplichtingen oplegt. Maar ook vrijwillige toezeggingen zijn niet vrijblijvend en ik ben daarom in gesprek met de verschillende partijen. Het is belangrijk dat grote online platformen hun verplichtingen en toezeggingen nakomen. Op 12 juni 2023 heb ik een ronde tafel georganiseerd waarbij onder andere wordt gesproken over de nakoming van de toezeggingen en de aankomende verplichting onder de DSA rondom datadeling met wetenschappers. Eind 2023 zullen we uw Kamer informeren over de voortgang van de uitvoering van de Rijksbrede strategie.
Kunt u toezeggen dat er door u concrete afspraken worden gemaakt met sociale mediabedrijven om desinformatie en isolerende algoritmes tegen te gaan?
Zoals hierboven uiteengezet is er belangrijke wetgeving tot stand gekomen (de DSA) en zijn er reeds concrete afspraken, namelijk de code of practice, om desinformatie en isolerende algoritmes tegen te gaan. Met ingang van 25 augustus 2023 treden de bepalingen vanuit de DSA ten aanzien van de zeer grote online platforms en zoekmachines in werking en moeten zij gaan voldoen aan deze wettelijke bepalingen. Alle overige tussenhandeldiensten moeten met ingang van februari 2024 aan de DSA voldoen. Wij gaan dat nauwlettend volgen en zorgen ervoor dat wij aan onze kant alles doen om een zo soepel mogelijke implementatie en toezicht te organiseren. Hiertoe heb ik onder andere op 12 juni a.s. aan de ronde tafel met een vertegenwoordiger van de Europese Commissie gesproken.
Welke rol hebben traditionele media in het tegengaan van desinformatie?
Een pluriform aanbod van nieuws en informatie is onmisbaar voor democratisch burgerschap. Voor het vertrouwen van burgers in het nieuws is het noodzakelijk dat het onafhankelijk geproduceerd wordt en dat daarbij deugdelijke journalistieke principes gevolgd worden. Op deze manier dragen traditionele media bij aan het beperken van de voedingsbodem voor de negatieve effecten op de samenleving. Meer concreet kunnen zij bijdragen door het publiceren van fact-checks, het maken van betrouwbare journalistiek of door gedegen onderzoek te doen naar aspecten van desinformatie.11 De staatsecretaris van Onderwijs, Cultuur en Wetenschap investeert in onderzoeksjournalistiek door het bestaande budget voor onderzoeksjournalistiek (à € 4,9 miljoen) te verhogen met een aanvullend budget vanuit het huidige coalitieakkoord. Deze aanvullende middelen bedroegen in 2022 € 2,4 miljoen en in 2023 € 3,7 miljoen. In de Visiebrief lokale omroepen is toegelicht hoe met een structurele investering van € 16 miljoen en een wijziging van het bestel gewerkt wordt aan de versterking van lokale omroepen.
Bent u bekend met het gegeven dat desinformatie gepaard gaat met manipulatie? Kunt u met deze gedachte in het achterhoofd uiteenzetten waarom u ervoor hebt gekozen om veel van de verantwoordelijkheid omtrent het tegengaan van desinformatie bij de burger te leggen?
Daar ben ik zeker mee bekend. De rijksoverheid definieert desinformatie als het doelbewust, veelal heimelijk, verspreiden van misleidende informatie, met het doel schade toe te brengen aan het publieke debat, democratische processen, de open en kenniseconomie of volksgezondheid. Het is een vorm van schadelijk, maar vaak legaal, gedrag. Desinformatie kan een combinatie zijn van feitelijke, onjuiste of deels onjuiste informatie, maar heeft altijd de intentie om te misleiden en te schaden.
De vrijheid van meningsuiting is een kernwaarde van democratie. Daarom blijft het uitgangspunt dat het bestempelen van desinformatie als zodanig en factchecken primair geen taak is van overheden. Een terughoudende opstelling van de overheid is op dit gebied gewenst om voldoende ruimte te laten voor kritiek en het publieke debat. Het adresseren van desinformatie is primair een taak van journalistiek en wetenschap, al dan niet in samenwerking met internetdiensten. De overheid bepaalt niet wat wel of niet betrouwbare informatie is. Daar zijn burgers en onafhankelijke platforms en media in eerste instantie zelf verantwoordelijk voor. Daarom zet het kabinet in op het versterken van de weerbaarheid van burgers. Daar waar het gaat om het verminderen van de invloed van desinformatie neemt de overheid ook zelf maatregelen, afhankelijk van de inhoud van desinformatie, de producent of verspreider, of de verantwoordelijkheden van traditionele en sociale media. Regulering van online platformen om uitwassen te voorkomen valt hier ook onder. Voor een meer gedetailleerde uitleg van de kabinetsaanpak verwijs ik u naar de Rijksbrede strategie effectieve aanpak van desinformatie12. Tegelijkertijd blijven we de ontwikkelingen op dit gebied volgen zodat we het beleid kunnen aanpassen waar nodig. Eind 2023 zullen we uw Kamer hier over informeren in de voortgangsbrief van de Rijksbrede strategie.
Hoe bent u van plan om burgers – en met name jongeren – mediawijs te maken? Hoe zal dit er in de praktijk uit gaan zien en hoe worden burgers die al in de greep van desinformatieverspreiders worden gehouden bereikt?
Het kabinet hecht groot belang aan mediawijsheid en aan een mediawijze samenleving. Daartoe financiert de overheid het Netwerk Mediawijsheid. Een mediawijze burger kan meer dan alleen knoppen bedienen of internet gebruiken, een mediawijze burger kan passief, actief, interactief en effectief omgaan met media. De uitdagingen op dit thema zijn veelzijdig. Het gaat om grote thema’s die de hele samenleving aangaan. Denk bijvoorbeeld aan cybercrime, gezondheid, online bedreigingen, racisme, inclusie, desinformatie of de impact van sociale media in onze samenleving.
De kracht van het Netwerk, bestaande uit meer dan 1300 netwerkpartners, ligt op kennisdeling en samenwerking. Zo is er een serious game voor de groepen 7 en 8 in het primair onderwijs, waar ongeveer de helft van alle basisschoolleerlingen aan meedoet. Ook zijn er diverse informatieve websites (www.mediawijsheid.nl of www.hoezomediawijs.nl), met jaarlijks zo’n 400.000 bezoeken. Via goed gewaardeerde netwerkevenementen en inhoudelijke congressen worden netwerkpartners aangemoedigd mee te doen met de missie van het netwerk: «Iedereen mediawijs». Kinderen en jongeren zijn van oudsher een belangrijke doelgroep voor het Netwerk. Nu steeds meer scholen in het funderend onderwijs aandacht voor mediawijsheid opnemen in hun lesprogramma’s, heeft het Netwerk de horizon verbreed naar een volwassen doelgroep.
Erkent u dat slachtoffers van desinformatie het vertrouwen in de overheid sneller kwijt zijn en daardoor naar waarschijnlijkheid ook geen vertrouwen zullen hebben in initiatieven als www.crisis.nl of www.isdatechtzo.nl die vanuit de overheid naar hen zijn gericht?
De weerbaarheid van burgers kan versterkt worden door ze mediawijs te maken, zodat ze zelf media beter kunnen beoordelen. Op bijvoorbeeld isdatechtzo.nl en op Crisis.nl kunnen burgers informatie en tips over aspecten van desinformatie vinden. Hiermee dragen deze initiatieven bij aan het verminderen van de voedingsbodem voor desinformatie. Daarnaast heeft de wijze waarop (overheids-)instituties communiceren directe invloed op het toenemen of wegnemen van wantrouwen bij burgers.13 Daarmee kan goede communicatie dus ook bijdragen aan het verminderen van de voedingsbodem voor desinformatie.
Samenwerking met betrokken partners blijft cruciaal, juist omdat deze partners verschillende groepen in de samenleving kunnen bereiken. Ook bibliotheken, musea en andere maatschappelijke organisaties ondernemen daarom activiteiten om mensen bewuster te maken van de werking en het herkennen van desinformatie. Het kabinet verwelkomt zulke maatschappelijke initiatieven van harte. Naast de inzet op bewustwording over online desinformatie, werkt de Staatssecretaris van Cultuur en Media samen met het Netwerk Mediawijsheid aan een bewustwordingstraject om kennis en vaardigheden over de waarde van de journalistiek in de samenleving te vergroten. Het versterken van de weerbaarheid van burgers is niet voorbehouden aan de rijksoverheid. Ook het maatschappelijk middenveld, media en wetenschap dragen hieraan bij.14
Wat vindt u ervan dat Elon Musk een nieuw beleid heeft geïntroduceerd omtrent Twitter Blue waarin hij alleen gebruikers die zijn geabonneerd bij het platform in de «For You» pagina worden weergegeven? In hoeverre is dit volgens u in strijd met de Digital Services Act?4, 5, 6
Hoewel Twitter zich onlangs heeft teruggetrokken uit de Code of Practice on Disinformation, moet Twitter zich met ingang van 25 augustus 2023, net als alle andere VLOPs, wel houden aan de DSA. Twitter is echter een privaat bedrijf en kan in dit kader ook eigen bedrijfsregels en/of algemene voorwaarden vaststellen voor de gebruikers op dit platform. Het enkel laten verschijnen van Tweets in de for you tijdlijn, om zogezegd op deze manier desinformatie door bots tegen te gaan, is niet in strijd met de DSA of een andere wet.
Kunt u toezeggen dat deze vragen voor het commissiedebat Desinformatie en online platformen van de vaste Kamercommissie voor Digitale Zaken op 14 juni 2023 zijn beantwoord?
Ja.
Het bericht 'Deepfakes op TikTok maken illegale reclame voor leningen' |
|
Evert Jan Slootweg (CDA) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Sigrid Kaag (viceminister-president , minister financiën) (D66) |
|
Bent u bekend met het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» van BNR Nieuwsradio?1
Ja.
Vindt u het met mij eveneens verwerpelijk dat een internationaal reclamenetwerk door middel van deepfakes met name jongeren met valse beloften naar leensites lokt?
Ja, reclame die is gebaseerd op valse beloften is sowieso verwerpelijk. Dat dit nog eens specifiek is gericht op jongeren maakt het nog kwalijker.
Kun u aangeven welke wet- en regelgeving wordt overtreden door deze reclames op TikTok, zoals gesteld in het artikel, wie deze overtredingen begaat en wie verantwoordelijk is voor het naleven en handhaven van de wet- en regelgeving op dit punt?
Het is aan de rechter of toezichthouders om overtredingen vast te stellen, en niet aan het kabinet. Tot nu toe is voor zover bekend nog geen overtreding vastgesteld. Wij hebben evenmin informatie over lopende of nog te starten onderzoeken. Daarover kunnen de toezichthouders, die onafhankelijk zijn, ook geen uitspraken doen. Hieronder geef ik wel een overzicht van de wet- en regelgeving die in dit kader van toepassing is.
Kunt u bevestigen dat ABN AMRO, ING en Pricewise niet betrokken zijn bij deze reclamestrategie en er evenmin van op de hoogte waren?
ABN AMRO, ING en Pricewise laten weten niet van deze advertentiewijze te weten en niet hiermee geassocieerd te willen worden. Zij hebben geprobeerd de reclames zo snel mogelijk uit de lucht te halen via TikTok en Google. TikTok heeft inmiddels aan ABN AMRO aangegeven dat de advertenties over leningen niet in lijn zijn met de richtlijnen voor financiële instanties. Alle advertenties zijn van het platform verwijderd. Ook zijn alle accounts geblokkeerd van waaruit de advertenties geplaatst zijn.
Zo ja, ligt het voor deze bedrijven in de rede een financiële claim in te dienen bij de producent van deze reclames?
ING heeft aangeven om, indien duidelijk is wie er verantwoordelijk is voor het plaatsen van deze advertenties, te bekijken wat juridisch de mogelijkheden zijn en of het nodig is om hier actie op te ondernemen. De andere betrokken bedrijven hebben zich hier niet over uitgelaten. Vooralsnog zijn geen claims ingediend.
Bent u bereid om als aandeelhouder van ABN AMRO aan te dringen op het stopzetten van deze reclames en het indienen van een schadeclaim bij de producent van deze reclames?
NLFI is namens de staat aandeelhouder. Het ministerie staat daarbij op afstand. Dee bank heeft uit zichzelf al de nodige acties ondernomen.
Deelt u de opvatting dat de producent van deze deepfakereclames misbruik maakt van het reclamenetwerk van Google?
Google heeft aangegeven dat deze advertentie niet door Google op TikTok is weergegeven. Als Google advertenties aantreft van gebruikers die de beleidsregels inzake misleiding van gebruikers schenden, kan het account worden beëindigd. Zie daarnaast de beantwoording van vraag 3 voor wat betreft de regels die gelden voor de uploader(s) van de reclamevideo’s. Het is aan de bevoegde autoriteiten om te oordelen of er al dan niet sprake is van misbruik van het reclamenetwerk.
Welke verantwoordelijkheid ligt er in juridisch en moreel opzicht bij zowel Google als TikTok om ervoor te zorgen dat gebruikers hun platform op een veilige manier kunnen gebruiken en oplichting van gebruikers met name jongeren te voorkomen?
Voor de beantwoording van deze vraag over de verantwoordelijkheden in juridisch opzicht verwijs ik naar het antwoord bij vraag 3, waarin de verantwoordelijkheden van Google en TikTok op grond van de DSA worden toegelicht. Naast verplichtingen op grond van de DSA dienen online platforms als Google en TikTok zich ook te houden aan het generieke consumentenrecht. Over welke verantwoordelijkheden en verplichtingen er rusten op online platforms op grond van het consumentenrecht heeft de ACM in 2020 vuistregels gepubliceerd: Vuistregels Online platformen (acm.nl).
Verder is het een taak van platformen zelf om ervoor te zorgen dat de informatie die via hun diensten wordt verspreid zo betrouwbaar mogelijk is, maar ook om ervoor te zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te herkennen en signaleren.
Op welke wijze gaat u gebruikers, met name jongeren, beschermen tegen dergelijke praktijken die desastreuze financiële gevolgen kunnen hebben, met name omdat experts verwachten dat deepfake reclames in de nabije toekomst niet van echt te onderscheiden zijn?
De Nederlandse overheid zet allereerst in op het mediawijs en weerbaar maken van burgers en scholieren. Steeds meer scholen in Nederland besteden binnen de context van digitale geletterdheid en mediawijsheid aandacht aan bijvoorbeeld desinformatie. Voor scholen gebeurt dat onder meer door al bestaand lesmateriaal overzichtelijk te bundelen. Op die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen. Voor de bredere kabinetsinzet ten aanzien van het versterken van de weerbaarheid van burgers, verwijs ik u naar de Kamerbrief over de Rijksbrede strategie effectieve aanpak van desinformatie2.
De digitale wereld is complex. Er is een substantiële kennisasymmetrie tussen de bedrijven die de digitale wereld maken en de gebruikers daarvan. De precieze werking van dataverzameling, -deling en -gebruik is ingewikkeld, beïnvloedingen zijn subtiel en ongemerkt (denk aan grafische ontwerpen om gebruikers bepaalde keuzes te laten maken), maar ook de werking van apparaten zelf of instellingen zijn voor een gemiddelde gebruiker vaak moeilijk te doorgronden. Hierdoor wordt het voor gebruikers moeilijk om een goede inschatting te maken van de effecten van online activiteiten op eigen welzijn. Zeker als het gaat om kinderen. Naast dat bedrijven verplicht zijn om zo transparant mogelijk te zijn over hoe hun producten werken is goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico´s in de digitale wereld cruciaal. Zoals aangekondigd in de brief van 16 december 2022 wil het kabinet daarom een meerjarige, brede publiekscampagne starten3. Het thema desinformatie zal daar onderdeel van uitmaken.
Op grond van de DSA zijn grote online platforms- en zoekmachines verplicht om jaarlijks de systeemrisico’s die voortvloeien uit de werking of het gebruik van hun diensten in kaart te brengen en deze risico’s zo nodig beperken. Systeemrisico’s zijn bijvoorbeeld de verspreiding van illegale inhoud en/of desinformatie via hun diensten, al dan niet met gebruikmaking van deepfakes. De Europese Commissie zal hier toezicht op houden.
Als het specifiek gaat over reclames voor krediet ziet de AFM toe op de vergunningplicht voor consumptief krediet en de normen die bij het antwoord op vraag 3 worden genoemd. Kredietaanbieders moeten onder meer toetsen of de lening verantwoord kan worden verstrekt en een BKR-toets doen. Er mag bovendien alleen krediet worden verstrekt aan 18+. Een kredietcontract aan minderjarigen is niet rechtsgeldig.
Ten aanzien van gebruik van AI geldt dat er in Brussel onderhandeld wordt over de AI act. Gebruikers van generatieve AI, zoals systemen die videomateriaal genereren of bewerken die aanzienlijk op bestaande personen lijken, worden onder de AI Act verplicht om uiterlijk op het moment van de eerste interactie of blootstelling duidelijk te maken dat sprake is van gegenereerde content. Tot slot kan worden vermeld dat de Europese Commissie wil dat partijen die zich hebben aangesloten bij de Code of Practice on Disinformation, technologie gaan ontwikkelen zodat AI gegenereerde content duidelijk gelabeld wordt, zodat geen twijfel meer kan bestaan of iets echt of een deepfake is. Hierover is de Europese Commissie op dit moment in gesprek met de ondertekenaars van de EU Code of Practice on Disinformation.
Welke mogelijkheden zijn er om dit soort illegale reclames aan te pakken, wanneer het verantwoordelijke bedrijf is geïdentificeerd?
Zie vraag 3. De toepasselijke wet- en regelgeving geven de bevoegde autoriteiten, waaronder de AFM, de ACM of in het geval van de DSA de Europese Commissie, een mandaat te handhaven indien de regels worden overtreden.
Websites met kindermisbruik op Nederlandse servers |
|
Wybren van Haga (BVNL) |
|
Dilan Yeşilgöz-Zegerius (minister justitie en veiligheid) (VVD), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Hanke Bruins Slot (minister binnenlandse zaken en koninkrijksrelaties) (CDA) |
|
Hebt u kennisgenomen van het bericht «Aantal aangetroffen websites met ernstig kindermisbruik in twee jaar tijd verdubbeld»1?
Ja.
Was u op de hoogte van de toename van op Nederlandse servers gehoste websites met kindermisbruik, en zo ja, vanaf wanneer bent u hiervan op de hoogte gebracht?
Er blijkt geen toename van gehoste websites met kindermisbruik op Nederlandse servers te zijn. Uit de monitoring door de TU Delft over 2022, waarvan ik het rapport onlangs met uw Kamer heb gedeeld, en het jaarrapport van de Internet Watch Foundation (IWF) blijkt juist dat het aandeel van Nederlandse servers is gedaald.2 Dat laat onverlet dat het aandeel nog steeds te hoog is en dat we dat stevig moeten aanpakken.
Indien u al eerder op de hoogte was van de toename van deze websites die op Nederlandse servers wordt gehost, welke stappen heeft u naar aanleiding hiervan ondernomen? Indien u geen actie heeft ondernomen, kunt u dan uitleggen waarom niet?
De ambitie van het kabinet is er te allen tijden op gericht al het beeldmateriaal van online seksueel kindermisbruik van Nederlandse servers te weren. Het rapport bevestigt dat dit een omvangrijk, ernstig en lastig te bestrijden fenomeen is.
De inzet bij de bestrijding van online materiaal van seksueel kindermisbruik (CSAM) gaat voor een belangrijk deel uit van zelfregulering door de internetsector. Het is evenwel niet eenvoudig om het opslaan of online plaatsen van illegale content aan te pakken. Het is via de Richtlijn Elektronische Handel verboden om aan internettussenpersonen een algehele monitoringsverplichting op te leggen. Veel Nederlandse datacentra verhuren opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. Datacentra hebben daarom niet altijd zicht op wie aan het eind van de keten precies gebruik maken van hun diensten en welke content er wordt gehost.
De Nederlandse overheid werkt reeds jaren samen met de internetsector aan de bestrijding van illegale content online. Zo is er al in 2008 een Notice-and-Takedown (NTD) gedragscode overeengekomen tussen overheden, internetaanbieders, hostingbedrijven, en andere tussenpersonen.3 Daar is in 2018 een addendum op gekomen voor het verbeteren van de bestrijding van materiaal van online kindermisbruik. Materiaal dat door het in de NTD-gedragscode als «trusted flagger» aangewezen Expertisebureau Online Kindermisbruik (EOKM) als strafbaar wordt aangemerkt, wordt hierdoor in de meeste gevallen al binnen 24 uur na het ontvangen van een verzoek daartoe verwijderd door hostingpartijen. Aanvullend bevat de in 2021 geactualiseerde Gedragscode Abusebestrijding maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten.
Om ook bestuursrechtelijk te kunnen handhaven heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Het wetsvoorstel is op 12 juni jl. naar uw Kamer verzonden.4
Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Doen ze dat niet, dan kunnen er boetes worden opgelegd. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader.
Weet u wie er verantwoordelijk zijn voor de Nederlandse servers waarop websites met kindermisbruik worden gehost? Hoeveel van deze eigenaren zijn Nederlands en hoeveel zijn er afkomstig uit het buitenland? Hoeveel van deze servers zijn in particuliere handen en hoeveel worden beheerd door bedrijven? Zijn deze servers in kaart gebracht en, zo nee, kunt u hiernaar onderzoek doen en dit gedetailleerd in kaart brengen?
Het is lastig vast te stellen wie er precies verantwoordelijk zijn voor de servers waarop websites met kindermisbruik worden gehost. Zoals onder vraag 3 is aangegeven, verhuren veel Nederlandse datacentra opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. De privépersonen en burgers kunnen de ruimte bijvoorbeeld gebruiken om hun eigen website in te richten.
Criminelen misbruiken diensten van hostingproviders voor illegale activiteiten. Veel hostingproviders treden hier adequaat tegen op, maar een totaal overzicht naar nationaliteit en eigenaarschap hebben wij niet.
De door de TU Delft ontwikkelde «CSAM Hosting Monitor» heeft de afgelopen jaren wel inzichtelijk gemaakt welke bedrijven online materiaal van seksueel kindermisbruik hosten en het volume van het materiaal. De monitor is gebaseerd op bij het Expertisebureau Online Kindermisbruik (EOKM) binnengekomen meldingen. Er wordt ook bezien in hoeverre door hostingbedrijven opvolging werd gegeven aan de verzoeken van het EOKM om hun netwerken op te schonen. Dit geeft enigszins inzicht in het CSAM materiaal dat in Nederland wordt gehost.
Hanteert Nederland criteria waaraan personen/bedrijven die een server en/of ruimte op een server afnemen van semi-publieke partijen, zoals providers of techbedrijven, moeten voldoen? Weet u of bedrijven de personen aan wie zij een server en/of serverruimte verhuren/verkopen screenen? Worden de websites die gehost worden op dit soort Nederlandse servers (periodiek en/of steeksproefsgewijs) onderworpen aan controles door de eigenaar van de servers? Zo ja, op welke manier gebeurt dat en verschilt dat per servereigenaar?
Er zijn geen wettelijke verplichtingen of criteria die het bedrijfsleven verplicht om klanten te screenen of onderzoek te doen. Er zijn hostingproviders en resellers (bedrijven die serverruimte doorverhuren) die naast hostingdiensten ook domeinregistratiediensten aanbieden (het registreren van een website). Deze partijen moeten conform de nieuwe Netwerk- en Informatiebeveiligingsrichtlijn verplicht accurate domeinnaamregistratiegegevens bijhouden (ook wel WHOIS gegevens genoemd). Deze gegevens kunnen worden gevorderd door opsporingsdiensten en/of het Openbaar Ministerie. Hierdoor zal het inzichtelijker worden welke personen bepaalde websites hebben geregistreerd in de Europese Unie.
Er zijn verschillende vrijwillige initiatieven gaande die transparantie in de server- en hostingmarkt in Nederland moeten vergroten. Een eerste richting betreft het ondersteunen van de sector met informatie over criminele handelingen. De Stichting Nationale Beheersorganisatie Internet Providers werkt samen met het Ministerie van Justitie en Veiligheid aan het project Cleannetworks. Dit project beoogt het opzetten van een systeem om hostingproviders structureel te informeren over actuele criminele handelingen en kwetsbaarheden. Hierdoor kunnen zij deze activiteiten op hun eigen netwerken tegengaan en zich beveiligen tegen dreigingen.
Daarnaast is in gezamenlijkheid met de private sector een Gedragscode Abusebestrijding opgesteld. Deze bevat maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten. De Gedragscode wordt betrokken bij de inkoop van hostingdiensten voor de rijksoverheid.
Om de schaalvoordelen van hostingdiensten, dat wil zeggen de grootte van de datacapaciteit die geleverd kan worden, minder toegankelijk te maken voor criminelen, is het van belang dat alle hostingproviders hier maatregelen tegen nemen. Daarnaast heeft de politie diverse hostingproviders op de hoogte gesteld van criminele dienstverleners (ook wel resellers genoemd) die mogelijk misbruik maken van hun systemen. Daarbij is verzocht, indien deze partijen bij deze hostingproviders bekend zijn, deze niet meer als klant te accepteren. Hierover heb ik Uw Kamer op 16 maart geïnformeerd. 5
Indien de eigenaren van (een deel van) de servers in Nederland waarop websites met kindermisbruik worden gehost afkomstig zijn uit het buitenland, op welke manier is de Nederlandse wet- en regelgeving met betrekking tot kindermisbruik, cybercrime en aanverwante zaken dan op hen van toepassing? Hoe gaat u deze wet- en regelgeving handhaven met betrekking tot deze buitenlandse servereigenaren?
Data die zich op Nederlandse servers bevindt, moet voldoen aan de Nederlandse wet- en regelgeving. Dat geldt ook voor de eigenaren van de servers.
In Nederland wordt al een aantal jaren succesvol samengewerkt tussen de internetsector en overheid op het gebied van illegale content. Overheid en internetsector richten zich daarbij op het zo snel mogelijk offline halen van het aangetroffen materiaal van seksueel kindermisbruik. Het beleid richt zich daarom op het notificeren en doen verwijderen van illegale (dat wil zeggen strafbare of anderszins onrechtmatige) content.
In geval van verdenking van een misdrijf als omschreven in artikel 67, eerste lid, Sv kan de officier van justitie met een machtiging van de rechter-commissaris aan een aanbieder van een communicatiedienst bevelen om gegevens ontoegankelijk te maken als dit noodzakelijk is ter beëindiging van een strafbaar feit. Dit is geregeld in artikel 125p Sv. In artikel 54a Sr is vervolgens bepaald dat als een aanbieder voldoet aan dat bevel, de aanbieder niet wordt vervolgd.
Om zoveel mogelijk tot harmonisatie van regelgeving op het gebied van tussenhandeldiensten in de Europese Unie te komen is de Digital Services Act (DSA) aangenomen. Deze verordening biedt o.a. regels over het modereren op illegale inhoud en activiteiten, legt rapportageverplichtingen op aan grote platformen en zoekmachines en verplicht elke lidstaat een digitaledienstencoördinator aan te wijzen voor de handhaving van de DSA.
Hoe reflecteert u op de rol van Nederland als wereldwijde «digitale mainport», waardoor ons land een broedplaats lijkt te zijn geworden voor kindermisbruikers en cybercriminelen? Kunt u uitleggen waarom ons land voor dit soort activiteiten zo aantrekkelijk is?
Nederland beschikt over een uitstekende digitale infrastructuur. Dat betekent dat er sprake is van snelle verbindingen en beschikbaarheid van voldoende servers en opslagruimte voor webhosting. Deze aspecten leveren de Nederlandse economie veel voordelen op, maar kunnen ook misbruikt worden door criminelen.
Daartegen moet doelgericht en effectief worden opgetreden. Juist door deze belangrijke rol van Nederland als wereldwijd internetknooppunt, is de aanpak van online criminaliteitsvormen, waaronder die van online seksueel kindermisbruik, ook een prioriteit van dit kabinet.
Kunt u uitleggen hoe het mogelijk is dat dergelijke activiteiten op servers in ons land kennelijk wel worden opgepikt, maar dat aan deze activiteiten vervolgens geen opvolging wordt gegeven in de vorm van aangifte en/of sancties?
Ik herken mij niet in het beeld dat er geen opvolging wordt gegeven door aangifte en sancties. Zoals ik hierboven heb beschreven, voert de politie bijvoorbeeld gerichte acties uit om hostingbedrijven te waarschuwen dat ze risico lopen voor criminele activiteiten. Hostingbedrijven die op de hoogte zijn van strafbare feiten op hun websites of platformen en daar vervolgens niet op acteren kunnen vervolgens aansprakelijk worden gehouden volgend aan artikel 125p Sv jo. 54a Sr. Uit het verleden blijkt echter wel dat de vervolging van hostingbedrijven die zich schuldig maken aan het actief faciliteren van criminaliteit lastig kan zijn, maar niet onmogelijk.
Zoals ik ook in mijn beantwoording onder vraag 3 heb aangegeven, richt het kabinet met de ATKM een nieuwe handhavingsautoriteit op die ook sancties kan opleggen indien niet wordt voldaan aan verzoeken tot verwijdering.
Weet u of er, en zo ja welke, personen/bedrijven die op in Nederland gehoste servers websites met kindermisbruik laten draaien zijn opgespoord en vervolgd voor het distribueren van illegaal en belastend materiaal? Zo ja, zijn ook de eventuele externe eigenaren van die servers ingelicht en verhoord m.b.t kennis over deze websites die via hun servers werden gehost? Zo ja, wisten deze personen/bedrijven daar vanaf en welke actie hebben zij ondernomen om dit aan banden te leggen?
Nee. De aard van de meldingen en het onderzoek naar materiaal van online seksueel kindermisbruik van het IWF is er niet naar om hier direct informatie over te verkrijgen. Deze meldingen gaan over een URL, een andere benaming voor een webadres. Een URL dient ertoe de hostende partij te verzoeken deze verwijzing te verwijderen, maar deze URL bevat verder geen informatie die over eigenaarschap, geografische locatie e.d. direct uitsluitsel geeft. In het overgrote deel van al het materiaal van seksueel kindermisbruik dat zo wordt aangetroffen gaat het om reeds bekend materiaal dat verspreid wordt. Het is van belang dat dit materiaal zo snel mogelijk verwijderd wordt.
Hoeveel van de websites die volgens het rapport van de Internet Watch Foundation2 gehost worden op Nederlandse servers zijn inmiddels offline gehaald?
Er zijn geen specifieke gegevens beschikbaar over het offline halen van de websites die door de IWF worden genoemd. De TU Delft Monitor over 2022 laat echter zien dat het erop lijkt dat het landschap is veranderd. Dit zou het gevolg kunnen zijn van het feit dat providers die in 2020/2021 dominant waren, maatregelen hebben genomen. Zo heeft het hostingbedrijf dat in een eerdere monitor bovenaan stond met het volume aan materiaal van seksueel kindermisbruik dat gehost werd, de banden verbroken met de klanten die diensten draaiden, zoals image hosting, die werden misbruikt door de criminelen die beeldmateriaal van seksueel kindermisbruik deelden. Zodra deze hostingprovider uit beeld verdween, daalde het totale volume van beeldmateriaal van seksueel kindermisbruik en kwamen andere providers en domeinen in beeld.
Heeft u enig zicht op de makers van de content op de websites met kindermisbruik die in Nederland worden gehost? Zijn deze overwegend afkomstig uit het buitenland, of van Nederlandse afkomst? Zijn zij verbonden aan bepaalde (criminele) organisaties? Zijn er inmiddels al makers van deze content opgespoord en vervolgd?
Indien er een indicatie is van een link met Nederland wordt het Team ter Bestrijding van Kinderpornografie en Kindersekstoerisme van de politie ingezet. Die link kan een slachtoffer of vervaardiger van Nederlandse afkomst zijn of de betrokkenheid van een Nederlandse hoster en/of materieel dat in Nederland is gemaakt. Exacte cijfers over de aantallen slachtoffers, vervaardigers en/of verspreiders van online materiaal van seksueel kindermisbruik op websites die gehost worden op Nederlandse servers zijn onbekend.
Als het gaat om de aanpak van kinderporno door de politie ligt de prioriteit, gelet op de omvang van het fenomeen, bij het opsporen van slachtoffers om ze zo snel mogelijk weg te kunnen halen uit een acute misbruiksituatie, zowel nationaal als internationaal. Bij opsporingsonderzoeken ligt de focus op vervaardigers en misbruikers, keyplayers en netwerken. Het lukt steeds beter om slachtoffers sneller te identificeren door de goede samenwerking tussen de sector, politie en het openbaar ministerie. Wereldwijd wordt goed samengewerkt met Interpol en andere opsporingsdiensten. Sinds de inrichting in 2012 van de Teams ter Bestrijding van Kinderpornografie en Kindersekstoerisme bij de politie zijn door deze teams al meer dan 2.000 kinderen in Nederland geïdentificeerd en in veiligheid gebracht.
Duidelijk is dat seksueel getint beeldmateriaal dat zelf door minderjarigen wordt gemaakt in opkomst is. Momenteel is 40–60% van het nieuwe materiaal zelf gemaakt. Laat ik duidelijk stellen dat dit vaak geen geheel vrijwillig beeldmateriaal is: vaak worden minderjarigen hiervoor onder druk gezet of gechanteerd en zijn ze zich er niet van bewust dat ze gefilmd worden. Het gaat in deze gevallen dan niet om verbinding met een criminele organisatie. Vanuit Nederlands perspectief wil ik me blijven inzetten voor preventie en voorlichting om minderjarigen en hun ouders en voogden meer weerbaar te maken tegen deze vorm van misbruik.
Weet u in welke mate er Nederlandse kinderen te zien zijn op het materiaal dat wordt aangeboden op de websites die gehost worden op Nederlandse servers? Zo nee, bent u bereid dit uit te zoeken?
Zie antwoord vraag 11.
Weet u of, en zo ja in welke mate, het materiaal dat te zien is op de websites die in Nederland worden gehost ook in Nederland is gemaakt?
Zie antwoord vraag 11.
Kunt u uitleggen waarom websites van dergelijke aard steeds zichtbaarder worden en makkelijker vindbaar zijn? Betekent dit dat er minder hard wordt opgetreden tegen dit soort digitale uitwassen en/of dat zedenzaken met kinderen en kindermisbruik in Nederland frequenter voorkomen en/of dat er minder streng tegen wordt opgetreden? Kunt u een analyse geven van de mogelijke redenen dat dergelijke content in toenemende mate een groter en meer openbaar platform vindt?
Het is onduidelijk of de zichtbaarheid van dergelijke omgevingen steeds beter wordt en of dit mogelijk het gevolg is van het feit dat opsporing op het DarkWeb steeds succesvoller is of door daders zo wordt ervaren. Nog steeds is het Clearweb aanzienlijk sneller dan het DarkWeb en dat kan ervoor zorgen dat beeldmateriaal van seksueel kindermisbruik nog steeds op openbare platformen te vinden is. Duidelijk is dat, ook in Nederland, er steeds meer materiaal is opgenomen in tal van databases waarmee het internet geschoond kan worden.
Wel is er zoals onder vraag 11 beantwoord is, voor nieuw materiaal een verschuiving te zien naar zelf gemaakt materiaal, bijvoorbeeld op social media. Het is belangrijk dat deze illegale inhoud gemeld wordt bij het EOKM of platformen zelf, zodat het sneller kan worden verwijderd.
Hoe verhoudt zich het belastende materiaal op de in Nederland gehoste websites tot de cijfers van kindermisbruik en mensenhandel in ons land?
Het aandeel beeldmateriaal van online seksueel geweld tegen minderjarigen is lastig af te zetten tegen cijfers van offline kindermisbruik en mensenhandel. Online beeldmateriaal kan snel verspreid en aangepast worden en lang online blijven staan indien er niet snel gehandeld wordt. Het risico op een hoog volume is daarbij heel groot. Voor offline cijfers van kindermisbruik en mensenhandel worden aantallen slachtoffers bijgehouden, niet het aantal van hen gedeeld beeldmateriaal.
De beperkte invloed van het bron- en contactonderzoek en de CoronaMelder-app op de bestrijding van de pandemie |
|
Wybren van Haga (BVNL) |
|
Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66), Kuipers |
|
Heeft u kennisgenomen van het artikel «Contactonderzoek GGD en corona-app dempten epidemie maar matig»?, van de Volkskrant en het onderzoek waarop dit artikel gebaseerd is?1, 2
Ja.
Is voordat het bron- en contactonderzoek-stramien van kracht werd een impactanalyse gemaakt van de effectiviteit van dit programma? Zo ja, wat waren de resultaten daarvan en in hoeverre weken die af van de conclusies die nu uit bovengenoemd onderzoek komen? Indien deze erg afweken, kunt u dan beargumenteren hoe dit kan? Waarom is vooraf ingeschat dat de invloed op het in kaart brengen en indammen van het coronavirus zoveel groter zou zijn dan uiteindelijk daadwerkelijk het geval bleek?
Nee, er is geen impactanalyse gedaan.
Wie hebben de vermeende en beoogde impact van het bron- en contactonderzoek in kaart gebracht en volgens welke methodiek?
Vanuit internationale organisaties werden aanbevelingen gedaan voor de inzet van bron- en contactonderzoek (BCO) voor de bestrijding van COVID-19. Zie bijvoorbeeld: Contact tracing for COVID-19: current evidence, options for scale-up and an assessment of resources needed (europa.eu) en WHO-2019-nCoV-Contact_Tracing-2020.1-eng.pdf. Daarnaast was er een Nederlandse studie, die op 16 april 2020 al als preprint beschikbaar was: Frontiers | Isolation and Contact Tracing Can Tip the Scale to Containment of COVID-19 in Populations With Social Distancing (frontiersin.org).
Hoe reflecteert u op het feit dat er 23 miljoen euro aan gemeenschapsgeld is gespendeerd aan – opnieuw – een ineffectieve coronamaatregel? Staat u, in retrospectief, nog altijd achter dit programma?
Wat zijn de gevolgen (maatschappelijk, financieel, economisch) geweest van het bron- en contactonderzoek voor de arbeidsmarkt en de werkgelegenheid, aangezien voor dit programma veel mensen moesten worden aangetrokken, die werden weggehaald uit andere sectoren, waarin niet zelden al personeelstekorten waren? Kunt u een kosten-baten analyse geven?
De periode dat BCO grootschalig werd ingezet viel grotendeels in een lockdown periode. In die periode waren sectoren (gedeeltelijk) gesloten.
Was op enig moment gedurende de coronacrisis ook al duidelijk dat het bron- en contactonderzoek weinig bijdroeg aan de bestrijding van het virus? Zo ja, op welk moment bleek dat dit programma niet het beoogde en gewenste effect had, wie/wat kwam initieel tot deze conclusie en wanneer is uw ministerie en/of het kabinet hiervan op de hoogte gebracht? Waarom is het programma op dat moment niet heroverwogen en/of gestaakt? Hoeveel geld is daardoor onnodig uitgegeven aan een ineffectieve maatregel?
De focus van het BCO is in de loop van de pandemie veranderd van het zicht houden op en indammen van het virus, naar het beschermen van kwetsbaren en het signaleren van uitbraken in een bijzondere setting (bijv. de zorg). Door het invoeren van het zelfzorgadvies, waaronder het advies om een zelftest te doen bij klachten, is de grootschalige inzet van het BCO in het voorjaar van 2022 gestopt. Wel kon BCO nog worden ingezet voor het adviseren bij specifieke uitbraken. In het najaar van 2022 is gestart met het verder afschalen de capaciteit van BCO. De resterende beperkte werkzaamheden vallen onder het regulier BCO werk van de GGD’en.
Waarom is de Kamer niet geïnformeerd over de tegenvallende effectiviteit van het bron- en contactonderzoek en de CoronaMelder en heeft daarover geen parlementair debat plaatsgevonden?
CoronaMelder is voorafgaand en gedurende de inzet hiervan geëvalueerd en gemonitord. Ook de uitvoering van het BCO is voortdurend geanalyseerd en gemonitord. Over de uitkomsten van deze onderzoeken is uw Kamer geïnformeerd.6 Een overzicht van alle onderzoeken is tevens terug te vinden op rijksoverheid.nl.
Vindt u het, achteraf gezien, niet logisch dat het bron- en contactonderzoek ineffectief was, aangezien het moeten inventariseren van coronabesmette personen, het in kaart moeten brengen van hun contacten en het vervolgens op de hoogte stellen van deze mensen door derden logischerwijs dusdanig veel tijd en moeite in beslag neemt dat de maatregel zijn doel al mist voor er überhaupt geschoten kan zijn?
Zie het antwoord op vraag 4.
Wat gaat u bij eventuele toekomstige infectieziektebedreigingen doen ten aanzien van bron- en contactonderzoek? Bent u voornemens om een andere strategie te gaan hanteren? Zo ja welke, of gaat u deze maatregel schrappen?
Zie antwoord op vraag 4. Ik heb het RIVM in het kader van pandemische paraatheid advies gevraagd over landelijke en regionale aanpak van infectieziektebestrijding, waarin lessen van COVID-19 worden meegenomen. Een onderdeel hiervan betreft BCO. Hierover zal ik uw Kamer binnenkort nader informeren.
Hoe reflecteert u op het feit dat veel mensen het bron- en contactonderzoek ervoeren als een inbreuk op hun privacy en die van hun omgeving en daarom ook niet bereid waren om bij de GGD te melden met wie zij in contact geweest waren en/of überhaupt niet meldden dat zij een vermeende coronabesmetting onder de leden hadden teneinde bron- en contactonderzoek te vermijden?
Recht op privacy en het beschermen van de volksgezondheid zijn beide belangrijke pijlers voor het werk van VWS. In de COVID-19 pandemie hebben we gezien dat hier spanning op kan zitten en dat daarin afwegingen gemaakt dienen te worden. Tijdens de COVID-19 pandemie hebben we als overheid, en ook als maatschappij onderling, elkaar nodig gehad. Omdat we samen het virus onder controle wilden krijgen. Een groot deel van de maatschappij heeft de maatregelen gevolgd, waaronder ook deelname aan BCO. Deelname aan BCO was niet verplicht.
Hoe reflecteert u op de conclusie van de onderzoekers dat de CoronaMelder onderhevig was aan zoveel restricties dat hij niet meer effectief was? Onderschrijft u deze conclusies en kunt u dan verklaren waarom op voorhand niet duidelijk was dat deze app niet het beoogde resultaat zou boeken?
Voordat CoronaMelder landelijk werd geïntroduceerd was er nog geen empirisch bewijs beschikbaar over de werking en effectiviteit van de app. Wel zijn continu de wetenschappelijke ontwikkelingen in zowel binnen- als buitenland nauwlettend gevolgd waarbij in simulatiestudies de positieve bijdrages van een dergelijke applicatie zijn aangetoond.7, 8
Voorafgaand aan, maar ook na de landelijke introductie in Nederland is CoronaMelder op diverse vlakken geëvalueerd en gemonitord. Naar aanleiding hiervan is ook gekeken naar de proportionaliteit van de inzet van het instrument. Maatregelen binnen het testbeleid zoals inzet van de CoronaMelder moeten daarbij worden bezien in de context van een totaalpakket aan coronamaatregelen, in combinatie met de specifieke context op dat moment. Evaluatieonderzoek tijdens de pandemie constateerde al dat de CoronaMelder een kleine, maar merkbare toegevoegde waarde had als aanvulling op het BCO bij het bestrijden van het virus. Door de app zijn er sneller, meer mensen gevonden die contact hadden gehad met een besmet persoon.
Kunt u uitleggen waarom deze app er per se moest komen, terwijl tijdens de ontwikkeling ervan al veel problemen ontstonden en veel (digitale) experts de effectiviteit, ontwikkelingswijze en wenselijkheid ervan al betwistten?
Op voorhand waren er diverse redenen en adviezen om een dergelijke app te ontwikkelen. Het Outbreak Management Team (OMT) adviseerde op 6 april 2020 om zo spoedig mogelijk de mogelijkheden voor ondersteuning van bron- en contactopsporing met behulp van mobiele applicaties (apps) te onderzoeken, teneinde de belasting van de GGD te reduceren. Daarnaast onderschreef ook de Begeleidingscommissie DOBC (Digitale Ondersteuning Bestrijding Covid-19) de noodzaak om de opsporingsketen significant te versnellen. Deze commissie heeft in adviezen meermaals de toegevoegde waarde van de inzet van een notificatie-app benadrukt waarbij er sneller, meer besmette mensen gevonden zouden kunnen worden. Ook werd aangegeven dat de CoronaMelder mensen de motivatie zou kunnen geven om zich eerder te laten testen, ook als er nog geen symptomen zijn. Zo werd CoronaMelder op dat moment gezien als een kansrijke digitale aanvulling op het reguliere proces van bron- en contactonderzoek, omdat zo ook onbekende contacten, in bijvoorbeeld de trein, werden opgespoord en geïnformeerd. Ook uw Kamer verzocht met de motie Jetten c.s.9 om snel duidelijkheid te geven over een app die zou kunnen bijdragen aan het beheersen van het coronavirus.
Bent u nog altijd van mening dat een «meld-app» waarmee mensen dus kunnen worden aangemerkt als potentieel «gevaar» voor de samenleving en de overheid de populatie op basis van een vermeende dreiging in kaart kan brengen en in de gaten kan houden, wenselijk is?
Ik deel de aanname in de vraagstelling niet. Een notificatieapplicatie zoals CoronaMelder is een digitale aanvulling op het reguliere BCO proces welke als doel had om met een notificatie bij te dragen aan het sneller opsporen of voorkomen van mogelijke besmettingen en daarmee het tegengaan van verdere verspreiding van het coronavirus. Gebruik van de app was vrijwillig en meldingen waren anoniem.
Vindt u achteraf gezien niet dat een dergelijke app inbreuk maakt op de bewegingsvrijheid en anonimiteit van burgers, op oneigenlijke en speculatieve gronden en bovendien kan leiden tot maatschappelijke onrust en polarisatie? Zo nee, waarom niet?
Zoals gezegd was gebruik van de app vrijwillig en waren de meldingen anoniem om zo meer mensen sneller te kunnen bereiken en opsporen. CoronaMelder is in alle openheid met een brede community van diverse experts ontwikkeld. Hierbij werd vanaf de ontwerpfase al nagedacht over gegevensbescherming en informatiebeveiliging.
Kunt u de onderzoeksanalyse delen waarin wordt beweerd dat de CoronaMelder toch nog vijftien duizend besmettingen, 200 ziekenhuisopnamen en tussen de 110 en 250 sterfgevallen zou hebben gescheeld? Op basis waarvan zijn deze cijfers tot stand gekomen? Waarom is de Rijksinstituut voor Volksgezondheid en Milieu (RIVM)-studie met deze berekeningen niet langer online beschikbaar?3
Mijn ambtsvoorganger heeft uw Kamer over de studie van het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) waaraan wordt gerefereerd in mei 2021 reeds geïnformeerd.11 Het onderzoek is daarnaast nog altijd te vinden op rijksoverheid.nl en de website van het RIVM: CoronaMelder – modelstudie naar effectiviteit. Digitaal contactonderzoek in de bestrijding van COVID-19 | RIVM.
Kunt u de modellen van het RIVM delen waarop deze berekeningen zijn gebaseerd?
De uitleg van het model is te vinden in hetzelfde rapport: CoronaMelder – modelstudie naar effectiviteit. Digitaal contactonderzoek in de bestrijding van COVID-19 | RIVM. De broncode is te vinden op de github-website van het RIVM: GitHub – rivm-syso/cm-evaluation.
Hoeveel verlies heeft Nederland geleden op de CoronaMelder? Hoe verhoudt zich dat tot de winst die ermee is geboekt?
De totale kosten voor CoronaMelder in 2020, 2021 en 2022 bedroegen ongeveer 19,7 miljoen euro. Over deze kosten is uw Kamer geïnformeerd. Sinds de landelijke introductie is CoronaMelder bijna 6 miljoen keer gedownload. In de periode van 10 oktober 2020 tot 12 april 2022 hebben daarnaast in totaal 450.735 mensen via CoronaMelder hun positieve test gedeeld en daarmee andere gebruikers van de app gewaarschuwd voor een mogelijke besmetting. Vooral bij hoge besmettingsaantallen en versoepelingen van de maatregelen was de kans aanmerkelijk dat mensen in aanraking kwamen met iemand die later besmet bleek. De inzet van de app was mijns inziens daarom noodzakelijk en proportioneel: CoronaMelder heeft aangetoond een kleine maar wel degelijk merkbare toegevoegde waarde te hebben gehad in het voorkomen van de verdere verspreiding van het virus. Zo zijn er (mogelijk post-covid)besmettingen en ziekenhuisopnames voorkomen en levensjaren gered, zoals ook beschreven in de modelstudie van het RIVM (zie vraag12.
Bent u voornemens om bij toekomstige gezondheidscrises opnieuw een dergelijke app in te zetten? Zo ja, waarom en op welke manier denkt u zo’n applicatie dan dusdanig te verbeteren dat deze wel tot het gewenste resultaat leidt?
Er zijn diverse onderzoeken die aantonen dat digital contact tracing ook bij volgende pandemieën waarde kan hebben. Het is niet zinvol om op dit moment vooruit te lopen op de eventuele inzet van een dergelijke app bij een volgende pandemie.