Vraag 1

Bent u bekend met het bericht «WhatsApp en Signal dreigen VK te verlaten vanwege breken encryptie»?1

Ja.

Vraag 2

Wat regelt het wetsvoorstel Online Safety Bill in het Verenigd Koninkrijk precies?

Het gaat hier om een wetsvoorstel uit het Verenigd Koninkrijk dat nog niet volledig is behandeld in het Britse parlement. Terughoudendheid bij de beoordeling daarvan is derhalve gepast. In grote lijnen kan worden aangegeven wat dit voorstel behelst, voor zover nu bekend. In de Online Safety Bill worden regels en zorgplichten gesteld voor internetdiensten rondom de aanpak van online illegale inhoud en de bescherming van kinderen, journalisten en democratische waarden. Een apart hoofdstuk is ingericht over het rapporteren van online materiaal van seksueel kindermisbruik (CSAM) en een hoofdstuk rondom de verplichtingen die internetdiensten hebben op het gebied van online pornografie. Tenslotte krijgt the Office of Communications, OFCOM, de rol van handhaver op het gebied van de Online Safety Bill.

Vraag 3

Hoe beoordeelt u dit wetsvoorstel?

Zoals ik onder vraag 2 heb geschetst is dit wetsvoorstel nog in behandeling en is het lastig om een definitieve beoordeling te geven van de waarde hiervan. Vooral omdat nog niet bekend is wat de eventuele effecten van dit wetsvoorstel voor Nederland zullen zijn, als die er al zijn. Voor zover op dit moment het beoordeeld kan worden, komt de voorgestelde regelgeving grotendeels overeen met de regels die zijn gesteld in de Digital Services Act, die voor Nederland in februari 2024 in werking zal treden. Ook hier worden regels opgelegd aan tussenhandeldiensten rondom transparantie en het modereren op illegale inhoud. Voor online materiaal van seksueel kindermisbruik onderhandelen lidstaten momenteel in de Europese Unie over een verordening die hier specifieke regelgeving op maakt (CSAM-verordening). Zonder teveel op de inhoud in te gaan, kan het worden toegejuicht dat ook het Verenigd Koninkrijk, net als de Europese Unie, stappen neemt in het beter reguleren van tussenhandeldiensten en online illegale inhoud. Het internet is niet gebonden aan landsgrenzen en overheden hebben een gezamenlijke verantwoordelijkheid om het schoon en veilig te houden.

Vraag 4

Ziet u het nut van de mogelijkheid om chatapps te kunnen scannen op materiaal van kindermisbruik om makers en verspreiders daarvan te kunnen opsporen, vervolgen en te bestraffen?

Interpersoonlijke communicatiediensten worden steeds vaker gebruikt om materiaal van seksueel kindermisbruik te verspreiden.2 Juist deze diensten maken vaak gebruik van end-to-end encryptie. Zoals gezegd vinden in Brussel momenteel onderhandelingen plaats over een verordening om de verspreiding van online kinderpornografisch materiaal tegen te gaan. Een onderdeel uit deze concept-Verordening betreft het voorstel voor het instellen van een zogeheten «detectiebevel». Op basis van dit detectiebevel kunnen bedrijven – onder meer aanbieders van interpersoonlijke communicatiediensten, zoals Whatsapp en Signal – onder voorwaarden worden verplicht om op hun diensten te scannen op de aanwezigheid van materiaal van online seksueel kindermisbruik.
Zoals ik onder andere in mijn brief van 2 februari 2023 aan uw Kamer heb weergegeven, is het detectiebevel een maatregel die inbreuk maakt op verschillende grondrechten.3 Voor Nederland staat bij de onderhandelingen voorop dat die inbreuk moet kunnen worden gerechtvaardigd. Uw Kamer is daar reeds uitgebreid over geïnformeerd. In alle gevallen geldt dat voorstellen die end-to-end encryptie onmogelijk maken niet kunnen worden ondersteund, conform de in juli 2022 door de Tweede Kamer aangenomen motie-Van Raan c.s.4

Vraag 5

Wat vindt het kabinet ervan dat encryptie wordt gebruikt om materiaal van kindermisbruik te kunnen delen en te verspreiden?

Het is juist dat interpersoonlijke communicatiediensten die gebruik maken van end-to-end encryptie, in toenemende mate worden misbruikt voor het delen van materiaal van kindermisbruik.5 Dit vind ik een zorgelijke ontwikkeling. Er moet worden voorkomen dat criminelen op deze diensten vrij spel hebben bij het verspreiden van online materiaal van seksueel kindermisbruik. We hebben het vaak over «online materiaal», «beelden», of «video’s». Maar achter dit digitale materiaal gaat een verschrikkelijke fysieke waarheid schuil waar we onze ogen niet voor mogen sluiten. Ik zal mij blijvend inzetten om, binnen de grenzen van de motie Van Raan c.s., te zoeken naar mogelijkheden (zie antwoord 4) om de omloop van dit verwerpelijke materiaal te stoppen.

Vraag 6

Deelt u de mening dat de mogelijkheid om berichtendiensten te kunnen scannen op materiaal van kindermisbruik zwaarder moet wegen dan het recht van aanbieders om volledige encryptie aan te bieden aan gebruikers?

Encryptie stelt de opsporing voor grote uitdagingen. In opsporingsonderzoeken blijkt het in veel gevallen zeer lastig en soms onmogelijk om gegevens die nodig zijn om criminelen op te sporen te verkrijgen. Tegelijkertijd is sterke encryptie van groot belang voor het beschermen van de vertrouwelijkheid van communicatie als grondrecht en de beveiliging van communicatie. Het vinden van oplossingen die voldoende recht doen aan alle betrokken belangen is lastig. Ik zie de absolute noodzaak om het bestaan en de verspreiding online van beeldmateriaal van seksueel kindermisbruik te voorkomen, en daarmee de grondrechten van deze kinderen te beschermen. Maar tegelijkertijd is het de absolute noodzaak om grondrechten, zoals eerbiediging van de persoonlijke levenssfeer en bescherming van het telecommunicatiegeheim, te eerbiedigen. Met client-side scanning bestaat de mogelijkheid om binnen interpersoonlijke communicatiediensten te scannen op bestaand materiaal van seksueel kindermisbruik zonder dat end-to-end encryptie onmogelijk wordt gemaakt, zoals ook toegelicht in mijn brief van 2 februari 2023.6 Het blijft van belang om bij de mogelijkheden die Nederland ziet steeds aandacht te besteden aan de noodzakelijkheid, proportionaliteit en subsidiariteit ervan en daarbij steeds een weging te maken van alle betrokken belangen.

Vraag 7

Zo ja, is het kabinet voornemens het Britse voorbeeld te volgen en te komen met een Nederlandse versie van de Online Safety Bill?

Zoals gezegd zal in Nederland de Digital Services Act van toepassing zijn vanaf februari 2024. Specifiek voor de handhaving op het gebied van online materiaal van seksueel kindermisbruik heb ik onlangs de wet bestuursrechtelijke bevoegdheden aanpak online kinderpornografisch materiaal naar uw Kamer verzonden en onderhandel ik momenteel in Brussel over de reeds aangehaalde CSAM-Verordening.7

Vraag 8

Bent u het eens met de bewering van Ciaran Martin, de voormalige baas van het Britse Cyber Security Centre tegen Politico dat «Client-side scanning lijkt, ondanks de claims van tegenstanders, wel een bepaald niveau van toegang te omvatten, een soort mogelijkheid om te sorteren en te scannen»2, waardoor opsporings- en veiligheidsdiensten wel degelijk delen en verspreiden van online kindermisbruik kunnen aanpakken?

In mijn brief van 31 januari jl. aan uw Kamer heb ik client-side scanning expliciet als optie benoemd om materiaal van seksueel misbruik te onderkennen wanneer deze worden verstuurd via diensten die gebruik maken van end-to-end encryptie.9 Met client-side scanning kunnen berichten die zijn verstuurd binnen de desbetreffende interpersoonlijke communicatiediensten op het apparaat van de verzender worden geanalyseerd op materiaal van seksueel kindermisbruik vóórdat dit materiaal wordt versleuteld en verzonden. De end-to-end versleuteling van het bericht tijdens het transport naar de ontvanger blijft dan ongemoeid, waardoor het bericht niet kan worden onderschept door derden. Uitgangspunt bij het nemen van dergelijke maatregelen is steeds respect voor fundamentele rechten, data-protectiewetgeving en behoud van cybersecurity. Ook wordt scherp gekeken of het middel proportioneel is ten aanzien van het doel dat wordt nagestreefd. Zo acht het kabinet het niet proportioneel wanneer dit middel wordt ingezet om tekstberichten te scannen, maar wel indien enkel wordt gescand op bestaand beeldmateriaal. Dat wil zeggen, materiaal waarvan reeds is vastgesteld dat dit materiaal betreft van seksueel kindermisbruik, en waarvan het bezit dus strafbaar is. Omdat bij het gebruik van client-side scanning het communicatiegeheim moet worden gewaarborgd, beziet het kabinet verder zeer kritisch welke nadere waarborgen aan het bevel moeten worden verbonden, met name ten aanzien van de vraag wat er met gedetecteerde informatie moet gebeuren.

Vraag 9

Is het kabinet van mening dat de mogelijkheid om berichtendiensten te scannen op materiaal van kindermisbruik zwaarder moet wegen dan een dreigend vertrek van WhatsApp en Signal uit Nederland, wanneer blijkt dat het breken van encryptie een effectieve manier is om online kindermisbruik tegen te gaan?

Nederland steunt geen Europese voorstellen die end-to-end encryptie onmogelijk maken, in lijn met de door uw Kamer aangenomen motie-Van Raan c.s. De strijd tegen online seksueel kindermisbruik blijft desalniettemin van essentieel belang, zeker gelet op de grote rol van Nederland als het gaat om het hosten van online materiaal van seksueel kindermisbruik.10 Ik voel daarom een grote verantwoordelijkheid voor het vormgeven van een effectieve bestrijding van seksueel kindermisbruik, binnen het kader van de motie-Van Raan c.s., waarbij alle grondrechten worden geëerbiedigd. Zoals onder de vragen 4 en 8 weergegeven, lijkt client-side scanning de enige manier waarop de maatregelen in de verordening ten aanzien van interpersoonlijke communicatiediensten kunnen worden uitgevoerd zonder end-to-end encryptie onmogelijk te maken. Het is daarbij belangrijk dat berichtendiensten – zoals Whatsapp of Signal – niet buiten de reikwijdte van de verordening vallen.

Vraag 1

Heeft u kennisgenomen van het artikel «The jury is still out»?1

Ja, ik heb kennisgenomen van het artikel «The Jury is still Out».

Vraag 2

Laat ook Nederlands onderzoek een stijging zien van gevallen van depressie onder Nederlandse jongeren?

Het aantal depressies onder jongeren in Nederland wordt niet gemeten. Wel is af te leiden uit de CBS-data jeugdhulpgebruik dat er een stijging is in ambulante jeugdhulp op locatie, waarvan de schatting is dat dit voornamelijk gaat om jeugd-ggz. Dit betreft een stijging van 3,2% van 308.000 jongeren in 2021 naar 318.000 jongeren in 2022. Er is hierbij echter geen inzicht in specifieke diagnoses.

Vraag 3

Laat ook Nederlandse onderzoek zien dat bij jonge mensen, met name meisjes, de mentale gezondheid verslechtert?

Ja, ook Nederlands onderzoek laat dit beeld zien. Bijvoorbeeld de Corona Gezondheidsmonitor Jongvolwassenen 2022. De coronacrisis heeft bestaande problemen nog scherper aan het licht gebracht en nieuwe problemen veroorzaakt. Meisjes lijken ten opzichte van jongens in hogere mate te maken hebben met depressieve of angstklachten. Deze trend komt ook in de Nederlandse onderzoeken terug, waaronder het onderzoeksrapport HBSC 20212, de Landelijke Monitor Depressie3 en een proefschrift van de Erasmus Universiteit
Rotterdam.4

Vraag 4

Klopt het dat het aantal gevallen van suïcide daalt, behalve onder de groep jonge meisjes van 10–19 jaar?

De CBS data over zelfdodingen in Nederland fluctueert over de jaren voor jongeren van 10 tot 19 jaar, maar laat over de afgelopen jaren heen een stabiel beeld zien. Dit geldt zowel voor jongens, meisjes als het totaal beeld in deze leeftijdsgroep.

Vraag 5

Stijgt ook in Nederland het aantal gevallen van zelfmutilatie explosief onder tienermeisjes?

Er is geen data beschikbaar over automutilatie onder jongeren in Nederland.

Vraag 6

In hoeverre wordt in onderzoek naar het effect van smartphone en social media gebruik op de mentale gezondheid van tieners onderscheid gemaakt tussen jongens en meisjes? Bent u bereid zich in te zetten voor meer onderzoek specifiek onder de doelgroep tienermeisjes?

Recente onderzoeken zoals die beschreven in antwoord 3, beschrijven de verschillen in het ervaren van psychische klachten tussen jongens en meisjes. Zo blijkt dat meisjes ten opzichte van jongens in hogere mate te maken hebben met depressieve of angstklachten. Er is al veel kennis beschikbaar. De verschillen tussen jongens en meisjes in verschillende levensfases in hun jeugd en jongere jaren worden gemonitord. Ik ben mij uiteraard bewust van het feit dat de zorgen daarin toenemen. Daarom richt ik mij – samen met mijn collega’s – ook expliciet op de leefomgeving «Online» in de Aanpak «Mentale Gezondheid: van ons allemaal». Jongeren zijn daarin nadrukkelijk een belangrijke doelgroep. Ik zie geen toegevoegde waarde om een apart onderzoek uit te zetten, specifiek gericht op meisjes.

Vraag 7

Klopt het dat meisjes tussen 10–19 jaar gemiddeld meer tijd doorbrengen op smartphones en social media dan jongens in dezelfde leeftijdsgroep?

Het Nederlands Jeugdinstituut5 stelt dat in 2021 bij 5,3 procent van de leerlingen in het voortgezet onderwijs sprake was van problematisch gebruik van sociale media. In groep 8 van het basisonderwijs gaat het om 3,9 procent. In het voortgezet onderwijs is hierbij het verschil tussen jongens en meisjes significant. Onder meisjes is met 6,8 procent vaker spraken van problematisch sociale mediagebruik dan onder jongens (3,9 procent). Deze cijfers zijn afkomstig uit het eerder genoemde HBSC-onderzoek onder scholieren. Aan leerlingen zijn diverse stellingen voorgelegd waarin is nagegaan of leerlingen voldoen aan minstens vijf symptomen van problematisch gebruik.
In zowel basis- als voortgezet onderwijs gebruiken jongeren vaak sociale media om niet aan vervelende dingen te hoeven denken. Dit is onder alle leerlingen het meest voorkomende symptoom van problematisch gebruik. Dit geldt voor 41 procent van de basisschoolleerlingen en 45 procent van de leerlingen in het voortgezet onderwijs. Meisjes doen dit significant vaker dan jongens. In het basisonderwijs gat het om 37,3 procent van de jongens en 44,3 procent van de meisjes. In het voortgezet onderwijs gaat het om 35,7 procent van de jongens en 54,3 procent van de meisjes (Boer e.a. 2022).

Vraag 8

Mochten smartphone en social media gebruik een trigger zijn voor depressiegevoelens onder meisjes, welke maatregelen zouden er genomen kunnen worden om de trend te keren?

Het is lastig aan te tonen of sociaal media gebruik een directe trigger is voor een depressie. Dit komt doordat er geen duidelijke consensus is in wetenschappelijk onderzoek over een oorzakelijk verband tussen sociaal media en depressie. Net als in het artikel «The jury is still out». De oorzaak van een depressie is gelegen in een combinatie van vele factoren zoals een combinatie van lichamelijke, geestelijke en/of omgevingsfactoren. Hierbij is het vaak niet mogelijk één doorslaggevende factor aan te wijzen voor het ontstaan van depressie. In het in januari gepubliceerde essay «#GeenPaniek» van de Raad voor Volksgezondheid en Samenleving (RVS) is ook aangegeven dat het lastig te achterhalen is of «online zijn» goed of slecht is voor de gezondheid. In de beantwoording van de recent gestelde Kamervragen door de leden Slootweg en Kuik gaat de Staatssecretaris van BZK verder in op de relatie tussen sociaal mediagebruik en depressie.6
Wat tegelijkertijd wél te zien is, is dat er brede wetenschappelijke consensus is over het feit dat problematisch gebruik van sociale media door jongeren ten koste gaat van hun mentale en cognitieve ontwikkeling. Dit is zorgwekkend, omdat de groep jongeren die problematisch sociale mediagebruik vertoont stijgt.
Met de inzet van het basistakenpakket JGZ wil ik gezondheidsproblemen voorkomen. De jeugdgezondheidsprofessionals kunnen tijdens de contactmomenten met ouders spreken over verantwoord schermgebruik, wat schermgebruik doet met ontwikkeling van een kind en ze hierover adviseren. Voor professionals is een e-learning Mediaopvoeding beschikbaar. Daarnaast heeft het NJI de Toolbox Mediaopvoeding: «Media? Gewoon opvoeden» ontwikkeld. Hierin zijn factsheets voor professionals en leerkrachten en tipsheets voor ouders opgenomen. Verder zet het kabinet met de landelijke aanpak «Mentale gezondheid; van ons allemaal» in op de mentale gezondheid van jongeren en jongvolwassenen. Hierbij is nadrukkelijk aandacht voor de effecten van teveel online activiteiten. Samen met jongeren zelf en organisaties zoals MIND Us en het netwerk Mediawijsheid, wordt onder meer ingezet op het stimuleren van mediawijsheid, digitale vaardigheden en digitale balans.
Bepaalde mechanismen in sociale media zelf kunnen bijdragen aan het versterken van een depressie of gevoelens van angst. Een voorbeeld hiervan is dat iemand in een informatiefuik terecht kan komen met eenzijdige content, bijvoorbeeld over depressie. Dit kan het depressieve gevoel van de persoon verder aanwakkeren. Het is ook duidelijk dat sociale media het gedrag en de emoties van gebruikers kunnen beïnvloeden.7
Sociale media platforms hebben de verantwoordelijkheid om de rechten en belangen van minderjarigen ten allen tijde te borgen. Vanuit het Verenigde Naties Verdrag inzake de Rechten van het Kind dienen zowel publieke als private partijen het belang van het kind mee te nemen bij activiteiten die kinderen raken. Wij spreken de sociale media platforms hierop aan. De Staatssecretaris van BZK brengt negatieve effecten tijdens gerichte gesprekken met grote techbedrijven onder de aandacht. Daarnaast wil de Staatssecretaris van BZK tijdens structurele overleggen waaraan grote techbedrijven deelnemen – zoals de klankbordgroep van de publiek-private samenwerking over online content – op thematische wijze aandacht gaan besteden aan negatieve effecten. Ook wil de Staatssecretaris van BZK dat de platforms in het kader van de opkomende verplichtingen vanuit de Digital Services Act (DSA) meer transparantie bieden over de effecten van hun platforms, de risico’s voor minderjarigen, de maatregelen die zij nemen om risico’s te mitigeren en de effectiviteit van die maatregelen. Mede in dit kader wordt er momenteel in opdracht van het Ministerie van BZK een Kinderrechten Impact Assessment (KIA) ontwikkeld. Met deze KIA kunnen de risico’s van een concrete online product of dienst voor kinderrechten in kaart worden gebracht, waaronder op het recht op een goede mentale en fysieke gezondheid. Het Ministerie van BZK is voornemens om deze KIA te gaan toepassen op door minderjarigen veelgebruikte online diensten en met de producenten daarvan in gesprek te gaan over de resultaten van de toegepaste KIA. Ook zal het Ministerie van BZK de komende jaren kijken in welke mate de DSA bijdraagt aan het beter beschermen van minderjarigen. Voor de zomer stuurt de Staatssecretaris van BZK een brede beleidsbrief met fundamentele acties om kinderen in de digitale wereld beter te beschermen. Daarin zal ook aandacht worden besteed aan goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico’s in de digitale wereld. De voorlichting maakt onderdeel uit van een meerjarige publieksvoorlichting. Omdat wetenschappelijke onderzoek laat zien dat het aantal jongeren dat problematisch online gedrag vertoont stijgt8, zal de eerste campagne zich richten op de effecten van langdurig online zijn.

Vraag 9

Neemt het kabinet op dit moment maatregelen om schadelijk effecten van smartphone en social media gebruik te ondervangen? Zo nee, waarom niet? Zo ja, welke maatregelen?

Zie antwoord vraag 8.

Vraag 10

Bent u bereid om de aanpak «Mentale gezondheid voor ons allemaal» uit te breiden en specifiek aandacht te besteden aan de online leefwereld en de risico's voor meisjes? Zo ja, welke acties onderneemt u?

Met de aanpak richten we ons op preventie en het bevorderen van de mentale gezondheid van al onze inwoners met specifieke aandacht voor de jeugd. Juist omdat de aanpak voor iedereen is, is het belangrijk dat verschillende activiteiten inspelen op verschillende behoeften. Zie ook antwoord 6.

Vraag 1

Bent u bekend met het bericht «Aantal getroffen websites met ernstig kindermisbruik in twee jaar tijd verdubbeld»?1

Ja.

Vraag 2

Bent u het eens met de stelling dat het buitengewoon schrikbarend is dat het aantal websites met de meest ernstige vormen van kindermisbruik in twee jaar tijd is verdubbeld, namelijk naar 51.369 websites?

Ja; deze wereldwijde trend baart mij zorgen. Ieder jaar presenteert de Internet Watch Foundation (IWF) jaarcijfers waarin veel aandacht wordt geschonken aan enerzijds meldingen vanuit het publiek en anderzijds het eigen onderzoek van IWF naar de aanwezigheid van kinderpornografisch materiaal op het openbare deel van het internet. De aantallen die worden genoemd zijn dus afhankelijk van factoren als het aantal meldingen bij IWF en hoe eenvoudig en openbaar de toegang tot het materiaal is.

Vraag 3

Wat is volgens u de oorzaak van deze verdubbeling?

Het is niet eenvoudig om een enkele oorzaak van de verdubbeling van het aantal websites met ernstige vormen van kindermisbruik aan te wijzen; zeker omdat het lijkt te gaan om een wereldwijde trend. Daarbij is duidelijk dat seksueel getint beeldmateriaal dat zelf door minderjarigen wordt gemaakt in opkomst is. Laat ik duidelijk stellen dat hierbij niet altijd hoeft te gaan om materiaal dat vrijwillig tot stand is gekomen: het is mogelijk dat minderjarigen hiervoor onder druk worden gezet of gechanteerd of ze zijn zich er niet van bewust dat ze gefilmd worden. Vanuit Nederlands perspectief zal ik me blijven inzetten voor preventie en voorlichting om minderjarigen en hun ouders en voogden meer weerbaar te maken tegen deze vorm van misbruik.

Vraag 4

Welke redenen maken het aantrekkelijk om bijna een derde van deze websites op Nederlandse servers te hebben?

Het valt niet met zekerheid te zeggen waarom Nederland zo aantrekkelijk lijkt te zijn. Nederland beschikt over een uitstekende digitale infrastructuur. Dat betekent dat er sprake is van snelle verbindingen en beschikbaarheid van voldoende servers en opslagruimte voor webhosting. Deze aspecten leveren de Nederlandse economie veel voordelen op, maar kunnen ook misbruikt worden door criminelen. Daartegen moet doelgericht en effectief worden opgetreden. Juist door deze belangrijke rol van Nederland als wereldwijd internetknooppunt, is de aanpak van online criminaliteitsvormen, waaronder die van online seksueel kindermisbruik, ook een prioriteit van dit kabinet.

Vraag 5

Bent u bereid om maatregelen te nemen om verspreiding via Nederlandse servers aan te pakken? En zo ja, welke concrete maatregelen gaat u nemen?

Ja, daar ben ik zeker toe bereid. De ambitie van het kabinet is er te allen tijde op gericht al het beeldmateriaal van online seksueel kindermisbruik van Nederlandse servers te weren. Het rapport bevestigt dat dit een omvangrijk, ernstig en lastig te bestrijden fenomeen is. Het belang van de opsporing en vervolging van dit materiaal is opgenomen in de Veiligheidsagenda 2023–2026.2
Het is echter niet eenvoudig om het opslaan of online plaatsen van illegale content aan te pakken. Het is middels de EU-Richtlijn Elektronische Handel verboden om aan internettussenpersonen een algehele monitoringsverplichting op te leggen. Veel Nederlandse datacentra verhuren opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. Datacentra hebben daarom niet altijd zicht op wie aan het eind van de keten precies gebruik maken van hun diensten en welke content wordt gehost.
De inzet bij de bestrijding van illegale content gaat voor een belangrijk deel uit van zelfregulering door de internetsector. De Nederlandse overheid werkt reeds jaren samen met de internetsector aan de bestrijding van illegale content online. Zo is al in 2008 een Notice-and-Takedown-gedragscode (NTD) overeengekomen tussen overheden, internetaanbieders, hostingbedrijven, en andere tussenpersonen.3 Daar is in 2018 een addendum op gekomen voor het verbeteren van de bestrijding van materiaal van online kindermisbruik. Materiaal dat door het in de NTD-gedragscode als «trusted flagger» aangewezen Expertisebureau Online Kindermisbruik (EOKM) als strafbaar wordt aangemerkt, wordt hierdoor in de meeste gevallen al binnen 24 uur na het ontvangen van een verzoek daartoe verwijderd door hostingpartijen. Aanvullend bevat de in 2021 geactualiseerde Gedragscode Abusebestrijding maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten.
Zoals reeds bekend bij uw Kamer, heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader. Het wetsvoorstel dat voorziet in de wettelijke grondslag van deze autoriteit voor de handhaving met betrekking tot kinderpornografisch materiaal, is begin juni bij de Tweede Kamer ingediend.

Vraag 6

Welke consequenties kunnen websites verwachten die online kindermisbruik op hun sites tonen, als het gaat om controle en sancties?

Om bestuursrechtelijk te kunnen handhaven heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Het wetsvoorstel is op 12 juni jl. naar uw Kamer verzonden.
Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Doen ze dat niet, dan kunnen er boetes worden opgelegd. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader.
In geval van verdenking van een misdrijf als omschreven in artikel 67, eerste lid, Sv kan de officier van justitie met een machtiging van de rechter-commissaris aan een aanbieder van een communicatiedienst bevelen om gegevens ontoegankelijk te maken als dit noodzakelijk is ter beëindiging van een strafbaar feit. Dit is geregeld in artikel 125p Sv. In artikel 54a Sr is vervolgens bepaald dat als een aanbieder voldoet aan dat bevel, de aanbieder niet wordt vervolgd. Mocht er toch geen uitvoering worden gegeven aan een dergelijk bevel dan is vervolging voor het niet opvolgen daarvan mogelijk. Dat is geregeld in artikel 184 Sr.
Indien een tussenpersoon bewust criminaliteit faciliteert, zoals beeldmateriaal van online seksueel kindermisbruik, kan deze strafrechtelijk aansprakelijk worden gehouden. Zo heeft het Gerechtshof in Den Haag bepaald dat een telecommunicatiedienstprovider die zich ervan bewust is dat zijn klanten crimineel gedrag vertonen en/of criminele content aanwezig hebben dan wel verspreiden, en deze klanten daarbij desalniettemin faciliteert, mogelijk strafrechtelijk aansprakelijk kan worden gehouden, ook als de officier van justitie niet vooraf een verwijderbevel heeft afgegeven.4 Of daar sprake van is, dient per geval te worden beoordeeld.

Vraag 7

Het jaarrapport van de Internet Watch Foundation (IWF) laat zien dat online kindermisbruik steeds zichtbaarder wordt en niet meer weggestopt is op hetdark web: is het voor de opsporingsdiensten dan juist niet makkelijker om online kindermisbruik offline te laten halen en de websites en dader(s) te sanctioneren? Zo nee, waarom niet?

De mogelijkheden voor handhaving die opsporingsdiensten hebben op het openbare internet lijken inderdaad groter omdat hostingdiensten beter bereikbaar zijn. Daartegenover staat dat veel van het beeldmateriaal wordt gedeeld via interpersoonlijke communicatiediensten, private chats of beveiligde fora die versleuteld zijn via end-to-end encryptie.5 Dat maakt de opsporing lastig.
Voor de afspraken in de Veiligheidsagenda is leidend dat opsporingscapaciteit wordt ingezet daar waar het maatschappelijk effect daarvan het grootst is. Dit is wanneer slachtoffers ontzet worden uit acute misbruiksituaties, zowel nationaal als internationaal. Dit kan door het opsporen en vervolgen van daders, het verstoren van de netwerken die seksueel kindermisbruik aanjagen of het tegengaan van het reizen van daders die voor het plegen van seksueel kindermisbruik naar het buitenland gaan. Daarom zal de komende jaren gefocust worden op opsporingsonderzoeken in categorie A (vervaardigers en misbruikers) en categorie B (keyplayers en netwerken).
De politie draagt bij aan de bereidheid van slachtoffers om zich te melden bij organisaties die hen kunnen helpen, bijvoorbeeld bij het offline halen van beeldmateriaal. De politie doet dit bijvoorbeeld door het ondersteunen van deze hulporganisaties of het uitvoeren van voorlichtingscampagnes.

Vraag 8

Hoeveel online kindermisbruik is dit jaar verwijderd en hoeveel websites zijn gesanctioneerd voor het vertonen van online kindermisbruik?

Onlangs heb ik uw Kamer een brief gestuurd waarin enkele aspecten rondom de bevoegdheden van de ATKM nader worden toegelicht en de resultaten van de jaarlijkse TU Delft Monitor over het hosten van materiaal van online seksueel kindermisbruik worden meegenomen.6 Ik herhaal dat het erop lijkt dat het totale volume van dergelijk materiaal dat aangetroffen is verlaagd is, maar dat er een teruggang lijkt te zijn in verwijderingssnelheid. Dat baart mij zorgen. Daarnaast is het landschap qua hostingbedrijven veranderd; bekende hostingbedrijven zetten zich meer in om materiaal van online seksueel kindermisbruik te verwijderen, maar nieuwe partijen lijken zich volgens de TU Delft monitor minder bewust van de regels en afspraken te zijn. Ook dat laat zien dat een doorlopende samenwerking en overleg met de sector van groot belang is.
Offlimits, voorheen bekend als het Expertisebureau Online Kindermisbruik, houdt een overzicht bij van ontvangen meldingen, de beoordeling daarvan en het aantal verzoeken tot verwijdering die vervolgens worden gedaan. Het meest recente overzicht is te vinden in het jaarverslag van 2021.7 In dat jaar zijn in totaal 236.743 meldingen binnen Nederland gedaan, waarbij het bij 212.556 van de meldingen inderdaad ging om illegale inhoud waarvoor een verwijderverzoek is gedaan.
In beginsel zijn platformen en websites niet aansprakelijk voor de inhoud die zij laten zien. Zij hebben volgens de EU-Richtlijn Elektronische handel onder voorwaarden een vrijstelling van aansprakelijkheid. De strafrechtelijke sanctionering ziet daarom met name op degenen die het materiaal van seksueel kindermisbruik online hebben gezet, niet op websites zelf. Over 2022 zijn geen cijfers bekend van het sanctioneren van websites.

Vraag 9

Hoe kunt u ervoor zorgen dat de makers en verspreiders van online kindermisbruik sneller en harder worden bestraft?

Zoals aangegeven in de beantwoording op de vragen 5 en 6 hierboven heeft de aanpak van online kindermisbruik hoge prioriteit. Deze aanpak is in de eerste plaats gericht op het effectief opsporen en vervolgen van daders via het strafrecht. Om te voorkomen dat eenmaal gepubliceerd strafbaar materiaal op het internet blijft staan of blijft rondgaan, wat voor slachtoffers eveneens zeer schadelijk is, richt mijn aanpak zich daarnaast op de snelle verwijdering ervan. Ik verwijs u in dit kader naar mijn beantwoording van vraag 5.

Vraag 10

In hoeverre kunnen de Digital Services Act en het voorstel voor nieuwe Europese wetgeving tegen online kindermisbruik voorkomen dat online kindermisbruik wordt verspreid en op het internet blijft circuleren?

De Digital Services Act zal de verplichtingen voor de sector met betrekking tot illegale activiteit of inhoud verscherpen. Zo moeten zeer grote onlineplatformen en zoekmachines bijvoorbeeld een risicoanalyse doen van hun systemen om te controleren in hoeverre zij vatbaar zijn voor criminele activiteiten. Vervolgens dienen ze daarop risicobeperkende maatregelen te nemen. Ook worden er minimumvereisten gesteld aan het afhandelen van meldingen over illegale content. Indien zij niet voldoen aan deze vereisten kan er op gehandhaafd worden: voor grote platformen en zoekmachines is dat de Europese Commissie; voor in Nederland gevestigde hostingbedrijven zal dat de nationale digitaledienstencoördinator worden.
Het voorstel van de Europese Commissie voor een verordening ter voorkoming en bestrijding van seksueel kindermisbruik is erop gericht om nadere regels vast te stellen voor de specifieke illegale content die beeldmateriaal van seksueel kindermisbruik is. De onderhandelingen hierover tussen de Europese Commissie en de Europese lidstaten lopen nog.

Vraag 11

In welke mate wordt versleutelde end-to-end-encryptie gebruikt om online beelden van kindermisbruik te delen?

Vanwege het wijdverbreide gebruik van end-to-end-encryptie voor berichtenverkeer is het lastig om een compleet beeld te hebben van de hoeveelheid materiaal dat via dergelijk berichtenverkeer wordt gedeeld. Wel is het duidelijk, zoals ook het rapport van de Internet Watch Foundation aangeeft, dat er steeds meer gebruik wordt gemaakt van dergelijke interpersoonlijke communicatiediensten voor het delen van beeldmateriaal. Daarom is het van belang dat er mogelijkheden zijn om onder bepaalde omstandigheden toegang tot dit berichtenverkeer te krijgen, onder passende voorwaarden en waarborgen.

Vraag 12

Welke mogelijkheden hebben de Nederlandse opsporingsdiensten nu om verspreiding via versleutelde end-to-end-encryptie een halt toe te roepen?

De opsporingsdiensten zijn, in de meeste gevallen, sterk afhankelijk van de wijze waarop versleutelde communicatiediensten de verspreiding van dergelijk materiaal zélf trachten te voorkomen op hun platform. Bepaalde communicatiediensten doen dit bijvoorbeeld door foto- en videomatching van niet-versleutelde informatie, zoals profiel- en groepsfoto’s of groepsinformatie of op basis van verdacht gedrag waarbij wordt gekeken naar metadata. Wanneer de communicatiedienst, op basis van deze technieken, een melding stuurt naar de Amerikaanse toezichthouder NCMEC (conform Amerikaanse wetgeving) en de toezichthouder deze zaak doorverwijst naar Nederland, dan kunnen Nederlandse opsporingsdiensten in bepaalde gevallen optreden tegen individuele daders.
Wanneer een vermoeden bestaat dat een persoon in bezit is van materiaal van seksueel kindermisbruik, is het voor de opsporingsdiensten in bepaalde gevallen mogelijk om toegang te krijgen tot dit materiaal – en zo de verspreiding daarvan te voorkomen. Meestal gaat het dan om toegang tot individuele apparaten, bijvoorbeeld middels een ontsleutelbevel of de bevoegdheid om binnen te dringen in een geautomatiseerd werk, zoals opgenomen in de Wet Computercriminaliteit III. Deze middelen zijn – gelet op de inbreuk die de inzet maakt op de grondrechten – alleen onder strenge voorwaarden inzetbaar, en de uitkomsten zijn afhankelijk van een (grote) set van externe factoren.

Vraag 1

Deelt u de mening dat complottheorieën gevuld met desinformatie een gevaar vormen voor de democratische rechtsorde in Nederland zoals is gebleken uit het jaarverslag van de Algemene Inlichtingen- en Veiligheidsdienst (AIVD)? Kunt u op dit onderdeel uw eigen reflectie geven?1

De ontwikkelingen die de AIVD signaleert, geven inderdaad reden tot zorg. Het kwaadaardig elite-narratief is een directe aanval op mensen die in de politiek, de rechterlijke macht of de pers werken. Het is ondermijnend voor de democratische rechtsorde als mensen systematisch het gezag van deze instituties verwerpen op basis van ernstige verdachtmakingen waar geen feitelijk bewijs voor is. Het belemmert de versterkende werking van deze instituties, nog los van de uitwassen van extreme haat, intimidatie en bedreigingen die mensen in publieke functies over zich heen krijgen. Voor verdere reflectie op dit onderwerp wijs ik u graag op de aanbiedingsbrief bij de recentelijke publicatie «Anti-institutioneel-extremisme in Nederland»2 en de Kamerbrief Rijksbrede strategie effectieve aanpak van desinformatie.3

Vraag 2

Hoe worden artikelen 137d, 131 en 132 in het Wetboek van Strafrecht toegepast op het moment dat een persoon desinformatie verspreidt aangezien de definitie van desinformatie zegt dat de verspreider de informatie opzettelijk rondstuurt?

Bij het bepalen of er bij de betreffende desinformatie sprake is van een strafbaar feit als gevolg van overtreding van bijvoorbeeld artikel 131, 132 of 137d van het Wetboek van Strafrecht gaat het om de intentie waarmee de verspreider de informatie opzettelijk heeft verstuurd. Indien de verspreiding van de desinformatie gericht is op opruiing tot strafbare feiten of gewelddadig optreden tegen het openbaar gezag, kan dat leiden tot een vervolging. Hetzelfde geldt voor artikel 137d Sr: als de intentie van de desinformatie gericht is tot het aanzetten tot haat, geweld of discriminatie, dan kan dat mogelijk leiden tot een vervolging.

Vraag 3

Kunt u voorbeelden vanuit de praktijk opnoemen waar deze artikelen werden toegepast?

Het is lastig om specifieke voorbeelden te noemen waar deze artikelen zijn toegepast in relatie tot het verspreiden van desinformatie, omdat deze artikelen op zichzelf staand een strafbaar feit bevatten en desinformatie op zichzelf staand niet. Wel is recentelijk een man veroordeeld voor opruiing (artikel 131 Wetboek van Strafrecht) omdat hij o.a. opriep tot geweld tegen het toenmalige hoofd van het RIVM. De rechtbank concludeerde hier dat de voorwaarden voor artikel 131 Sr bewezen zijn. Daarnaast concludeerde de rechtbank dat de verdachte niet op grond van een accurate feitelijke basis heeft gehandeld en geen betrouwbare en precieze informatie heeft gegeven in overeenstemming met de journalistieke ethiek.4

Vraag 4

Wat is uw mening over algoritmes en isolerende echokamers?

Aanbevelingsalgoritmen kunnen ervoor zorgen dat websites en zoekmachines hun resultaten afstemmen op eerder online zoekgedrag. Doordat bijvoorbeeld een tijdlijn, aanbevelingen of zoekresultaten worden gepersonaliseerd, krijgt iemand informatie te zien die beter aansluit bij persoonlijke interesses. Een echokamer verwijst naar het principe dat iemands eigen ideeën bevestigd worden, als die persoon zich enkel omringt door mensen die op dezelfde manier denken. In dit kader gaat het om het verschijnsel waarbij websites en zoekmachines hun resultaten afstemmen op iemands (eerdere) online zoekgedrag en daarna voornamelijk of zelfs enkel gelijksoortige content aanbieden. Het gevaar van zo’n echokamer is dat dergelijke personalisatie ertoe kan leiden dat mensen eenzijdig worden geïnformeerd door de beperkte informatie die binnen een groep gedeeld wordt, en niet door algoritmen ook breed informatie krijgen aangeboden vanuit diverse perspectieven uit andere groepen.
Zo kunnen mensen enkel nog informatie te zien krijgen die dezelfde ideeën bevestigd, waardoor het wereldbeeld kan verengen. Dat is extra risicovol wanneer het om extremistische of emotionele berichten gaat5. Zo kan deze algoritmische sturing ervoor zorgen dat wanneer iemand recent een extremistisch of emotioneel bericht heeft gelezen, of wanneer gebruikers voorafgaand aan het bezoek van een platform veel van deze berichten lezen en delen, iemand dan alleen maar gelijkaardige artikelen te zien krijgt. Dit kan grote persoonlijke of maatschappelijke impact hebben.

Vraag 5

Deelt u de mening dat het aanbod op sociale mediaplatforms meer pluriform gemaakt zou moeten worden zodat gebruikers minder snel slachtoffer worden van eenduidige tijdlijnen? Bent u bereid te pleiten voor algoritmevrije tijdlijnen?

Ja die mening deel ik. De Digital Services Act (DSA artikel6 verplicht alle online platformen om gebruikers beter te informeren over de belangrijkste parameters die in hun aanbevelingssystemen worden gebruikt. Tevens dienen zij transparant te zijn over eventuele opties voor afnemers van de dienst om deze parameters te wijzigen of te beïnvloeden. Als gebruikers de mogelijkheid hebben om het aanbevelingssysteem aan te passen, dan moet die functionaliteit makkelijk toegankelijk zijn.
Op grond van artikel 38 DSA moeten zogenaamde zeer grote online platforms en zoekmachines – zoals TikTok, Instagram, YouTube en Google – hun gebruikers verder ten minste één optie aanbieden waarmee ze de dienst kunnen gebruiken zonder dat deze gebruik maakt van profilering voor het doen van aanbevelingen. Gebruikers van deze platformen en zoekmachines krijgen dus de mogelijkheid om dit soort gepersonaliseerde aanbevelingssystemen uit te zetten en in plaats daarvan gebruik te maken van een aanbevelingssysteem dat niet gebaseerd is op profilering. Eind augustus van dit jaar dienen de zeer grote online platformen en zeer grote online zoekmachines al aan deze bepalingen te voldoen. Vanaf dat moment worden eenduidige tijdlijnen dus een stuk beter aangepakt en hebben gebruikers meer keuzevrijheid. Wanneer zeer grote online platformen en zoekmachines niet voldoen aan de verplichtingen uit de DSA, dan kan de Europese Commissie handhaven en onder meer een boete opleggen. De Europese Commissie zal hierop als toezichthouder controleren, maar ook wij zullen scherp monitoren of platformen aan deze verplichtingen voldoen. Bij eventueel geconstateerde gebreken zullen wij bij de aangewezen instanties melding doen.

Vraag 6

Bent u zich ervan bewust dat uit onderzoek is gebleken dat sociale mediabedrijven winst maken met hun algoritmes en kunt u hierop reflecteren?2

Ja, hiervan ben ik mijzelf bewust. In de Rijksbrede strategie voor de effectieve aanpak van desinformatie benoem ik daarom dat sociale media platformen een verdienmodel hebben gebaseerd op het personaliseren van hun diensten per individu. Dankzij de werking van de onderliggende aanbevelingssystemen wordt desinformatie soms zelfs beloond met een prominente plek op het platform. Daarbij raakt betrouwbare informatievoorziening ondergesneeuwd.8
Doeltreffende regelgeving en handhaving zijn daarom noodzakelijk om de risico’s en de maatschappelijke en economische schade die kunnen ontstaan effectief in kaart te brengen en te beperken. Zoals hierboven toegelicht, bevat de DSA onder meer regels over aanbevelingssystemen. De DSA verplicht aanbieders van zeer grote onlineplatforms en van zeer grote onlinezoekmachines verder om de zogenaamde systeemrisico’s te beoordelen die voortvloeien uit het ontwerp, de werking en het gebruik van hun diensten. De DSA verplicht hen passende maatregelen te nemen om deze risico’s te beperken met inachtneming van de grondrechten. Bij de risicobeoordeling moeten aanbieders rekening houden met de ernst van de potentiële systeemrisco’s en de waarschijnlijkheid daarvan. Daarvoor is bijvoorbeeld relevant of een potentieel risico een groot aantal personen kan betreffen, of dat risico potentieel onomkeerbaar is, en hoe moeilijk het is om het risico, wanneer dit zich verwezenlijkt, te herstellen. Voornoemde zorgplicht maakt dat deze online platformen hun diensten niet enkel meer kunnen vormen om een winstmodel, maar tevens in lijn moeten brengen met maatschappelijke belangen zoals gedefinieerd in de DSA.

Vraag 7

In hoeverre vindt u dat sociale mediabedrijven om deze reden minder snel hun verantwoordelijkheid zullen nemen om desinformatie terug te dringen als hierop onvoldoende wordt gecontroleerd?

Zoals hierboven aangegeven zijn algoritmen vaak geoptimaliseerd op een verdienmodel en niet op het bestrijden van desinformatie. Controle en handhaving op bovengenoemde regelgeving uit de DSA is dan ook noodzakelijk. De digitale dienstencoördinator en één of meer andere bevoegde autoriteiten in het land van vestiging en de Europese Commissie zijn de (wettelijk) aangewezen autoriteiten om hierop te controleren. Indien sociale mediabedrijven niet voldoen aan de wettelijke verplichtingen kan hen een boete worden opgelegd van maximaal 6% van hun wereldwijde jaaromzet.

Vraag 8

In hoeverre deelt u de overtuiging dat de toezeggingen in de brief over desinformatie te vrijblijvend zijn gebleken?3

Op dit moment bestaat inderdaad het beeld 10 dat platformen nog ruimte voor verbetering hebben. De platformen voldoen niet aan alle toezeggingen zoals geformuleerd in de Code of Practice on Disinformation en Twitter heeft zich onlangs zelfs teruggetrokken uit deze praktijkcode. Daarom is er de afgelopen jaren in Europees verband ook verplichtende wetgeving gemaakt. De toezeggingen die de online platformen hebben gedaan in de EU Code of Practice on Disinformation zijn allemaal op vrijwillige basis gedaan. Met ingang van 25 augustus 2023 treedt de DSA in werking voor zeer grote online platformen die verplichtingen oplegt. Maar ook vrijwillige toezeggingen zijn niet vrijblijvend en ik ben daarom in gesprek met de verschillende partijen. Het is belangrijk dat grote online platformen hun verplichtingen en toezeggingen nakomen. Op 12 juni 2023 heb ik een ronde tafel georganiseerd waarbij onder andere wordt gesproken over de nakoming van de toezeggingen en de aankomende verplichting onder de DSA rondom datadeling met wetenschappers. Eind 2023 zullen we uw Kamer informeren over de voortgang van de uitvoering van de Rijksbrede strategie.

Vraag 9

Kunt u toezeggen dat er door u concrete afspraken worden gemaakt met sociale mediabedrijven om desinformatie en isolerende algoritmes tegen te gaan?

Zoals hierboven uiteengezet is er belangrijke wetgeving tot stand gekomen (de DSA) en zijn er reeds concrete afspraken, namelijk de code of practice, om desinformatie en isolerende algoritmes tegen te gaan. Met ingang van 25 augustus 2023 treden de bepalingen vanuit de DSA ten aanzien van de zeer grote online platforms en zoekmachines in werking en moeten zij gaan voldoen aan deze wettelijke bepalingen. Alle overige tussenhandeldiensten moeten met ingang van februari 2024 aan de DSA voldoen. Wij gaan dat nauwlettend volgen en zorgen ervoor dat wij aan onze kant alles doen om een zo soepel mogelijke implementatie en toezicht te organiseren. Hiertoe heb ik onder andere op 12 juni a.s. aan de ronde tafel met een vertegenwoordiger van de Europese Commissie gesproken.

Vraag 10

Welke rol hebben traditionele media in het tegengaan van desinformatie?

Een pluriform aanbod van nieuws en informatie is onmisbaar voor democratisch burgerschap. Voor het vertrouwen van burgers in het nieuws is het noodzakelijk dat het onafhankelijk geproduceerd wordt en dat daarbij deugdelijke journalistieke principes gevolgd worden. Op deze manier dragen traditionele media bij aan het beperken van de voedingsbodem voor de negatieve effecten op de samenleving. Meer concreet kunnen zij bijdragen door het publiceren van fact-checks, het maken van betrouwbare journalistiek of door gedegen onderzoek te doen naar aspecten van desinformatie.11 De staatsecretaris van Onderwijs, Cultuur en Wetenschap investeert in onderzoeksjournalistiek door het bestaande budget voor onderzoeksjournalistiek (à € 4,9 miljoen) te verhogen met een aanvullend budget vanuit het huidige coalitieakkoord. Deze aanvullende middelen bedroegen in 2022 € 2,4 miljoen en in 2023 € 3,7 miljoen. In de Visiebrief lokale omroepen is toegelicht hoe met een structurele investering van € 16 miljoen en een wijziging van het bestel gewerkt wordt aan de versterking van lokale omroepen.

Vraag 11

Bent u bekend met het gegeven dat desinformatie gepaard gaat met manipulatie? Kunt u met deze gedachte in het achterhoofd uiteenzetten waarom u ervoor hebt gekozen om veel van de verantwoordelijkheid omtrent het tegengaan van desinformatie bij de burger te leggen?

Daar ben ik zeker mee bekend. De rijksoverheid definieert desinformatie als het doelbewust, veelal heimelijk, verspreiden van misleidende informatie, met het doel schade toe te brengen aan het publieke debat, democratische processen, de open en kenniseconomie of volksgezondheid. Het is een vorm van schadelijk, maar vaak legaal, gedrag. Desinformatie kan een combinatie zijn van feitelijke, onjuiste of deels onjuiste informatie, maar heeft altijd de intentie om te misleiden en te schaden.
De vrijheid van meningsuiting is een kernwaarde van democratie. Daarom blijft het uitgangspunt dat het bestempelen van desinformatie als zodanig en factchecken primair geen taak is van overheden. Een terughoudende opstelling van de overheid is op dit gebied gewenst om voldoende ruimte te laten voor kritiek en het publieke debat. Het adresseren van desinformatie is primair een taak van journalistiek en wetenschap, al dan niet in samenwerking met internetdiensten. De overheid bepaalt niet wat wel of niet betrouwbare informatie is. Daar zijn burgers en onafhankelijke platforms en media in eerste instantie zelf verantwoordelijk voor. Daarom zet het kabinet in op het versterken van de weerbaarheid van burgers. Daar waar het gaat om het verminderen van de invloed van desinformatie neemt de overheid ook zelf maatregelen, afhankelijk van de inhoud van desinformatie, de producent of verspreider, of de verantwoordelijkheden van traditionele en sociale media. Regulering van online platformen om uitwassen te voorkomen valt hier ook onder. Voor een meer gedetailleerde uitleg van de kabinetsaanpak verwijs ik u naar de Rijksbrede strategie effectieve aanpak van desinformatie12. Tegelijkertijd blijven we de ontwikkelingen op dit gebied volgen zodat we het beleid kunnen aanpassen waar nodig. Eind 2023 zullen we uw Kamer hier over informeren in de voortgangsbrief van de Rijksbrede strategie.

Vraag 12

Hoe bent u van plan om burgers – en met name jongeren – mediawijs te maken? Hoe zal dit er in de praktijk uit gaan zien en hoe worden burgers die al in de greep van desinformatieverspreiders worden gehouden bereikt?

Het kabinet hecht groot belang aan mediawijsheid en aan een mediawijze samenleving. Daartoe financiert de overheid het Netwerk Mediawijsheid. Een mediawijze burger kan meer dan alleen knoppen bedienen of internet gebruiken, een mediawijze burger kan passief, actief, interactief en effectief omgaan met media. De uitdagingen op dit thema zijn veelzijdig. Het gaat om grote thema’s die de hele samenleving aangaan. Denk bijvoorbeeld aan cybercrime, gezondheid, online bedreigingen, racisme, inclusie, desinformatie of de impact van sociale media in onze samenleving.
De kracht van het Netwerk, bestaande uit meer dan 1300 netwerkpartners, ligt op kennisdeling en samenwerking. Zo is er een serious game voor de groepen 7 en 8 in het primair onderwijs, waar ongeveer de helft van alle basisschoolleerlingen aan meedoet. Ook zijn er diverse informatieve websites (www.mediawijsheid.nl of www.hoezomediawijs.nl), met jaarlijks zo’n 400.000 bezoeken. Via goed gewaardeerde netwerkevenementen en inhoudelijke congressen worden netwerkpartners aangemoedigd mee te doen met de missie van het netwerk: «Iedereen mediawijs». Kinderen en jongeren zijn van oudsher een belangrijke doelgroep voor het Netwerk. Nu steeds meer scholen in het funderend onderwijs aandacht voor mediawijsheid opnemen in hun lesprogramma’s, heeft het Netwerk de horizon verbreed naar een volwassen doelgroep.

Vraag 13

Erkent u dat slachtoffers van desinformatie het vertrouwen in de overheid sneller kwijt zijn en daardoor naar waarschijnlijkheid ook geen vertrouwen zullen hebben in initiatieven als www.crisis.nl of www.isdatechtzo.nl die vanuit de overheid naar hen zijn gericht?

De weerbaarheid van burgers kan versterkt worden door ze mediawijs te maken, zodat ze zelf media beter kunnen beoordelen. Op bijvoorbeeld isdatechtzo.nl en op Crisis.nl kunnen burgers informatie en tips over aspecten van desinformatie vinden. Hiermee dragen deze initiatieven bij aan het verminderen van de voedingsbodem voor desinformatie. Daarnaast heeft de wijze waarop (overheids-)instituties communiceren directe invloed op het toenemen of wegnemen van wantrouwen bij burgers.13 Daarmee kan goede communicatie dus ook bijdragen aan het verminderen van de voedingsbodem voor desinformatie.
Samenwerking met betrokken partners blijft cruciaal, juist omdat deze partners verschillende groepen in de samenleving kunnen bereiken. Ook bibliotheken, musea en andere maatschappelijke organisaties ondernemen daarom activiteiten om mensen bewuster te maken van de werking en het herkennen van desinformatie. Het kabinet verwelkomt zulke maatschappelijke initiatieven van harte. Naast de inzet op bewustwording over online desinformatie, werkt de Staatssecretaris van Cultuur en Media samen met het Netwerk Mediawijsheid aan een bewustwordingstraject om kennis en vaardigheden over de waarde van de journalistiek in de samenleving te vergroten. Het versterken van de weerbaarheid van burgers is niet voorbehouden aan de rijksoverheid. Ook het maatschappelijk middenveld, media en wetenschap dragen hieraan bij.14

Vraag 14

Wat vindt u ervan dat Elon Musk een nieuw beleid heeft geïntroduceerd omtrent Twitter Blue waarin hij alleen gebruikers die zijn geabonneerd bij het platform in de «For You» pagina worden weergegeven? In hoeverre is dit volgens u in strijd met de Digital Services Act?4, 5, 6

Hoewel Twitter zich onlangs heeft teruggetrokken uit de Code of Practice on Disinformation, moet Twitter zich met ingang van 25 augustus 2023, net als alle andere VLOPs, wel houden aan de DSA. Twitter is echter een privaat bedrijf en kan in dit kader ook eigen bedrijfsregels en/of algemene voorwaarden vaststellen voor de gebruikers op dit platform. Het enkel laten verschijnen van Tweets in de for you tijdlijn, om zogezegd op deze manier desinformatie door bots tegen te gaan, is niet in strijd met de DSA of een andere wet.

Vraag 15

Kunt u toezeggen dat deze vragen voor het commissiedebat Desinformatie en online platformen van de vaste Kamercommissie voor Digitale Zaken op 14 juni 2023 zijn beantwoord?

Ja.

Vraag 1

Bent u bekend met het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» van BNR Nieuwsradio?1

Ja.

Vraag 2

Vindt u het met mij eveneens verwerpelijk dat een internationaal reclamenetwerk door middel van deepfakes met name jongeren met valse beloften naar leensites lokt?

Ja, reclame die is gebaseerd op valse beloften is sowieso verwerpelijk. Dat dit nog eens specifiek is gericht op jongeren maakt het nog kwalijker.

Vraag 3

Kun u aangeven welke wet- en regelgeving wordt overtreden door deze reclames op TikTok, zoals gesteld in het artikel, wie deze overtredingen begaat en wie verantwoordelijk is voor het naleven en handhaven van de wet- en regelgeving op dit punt?

Het is aan de rechter of toezichthouders om overtredingen vast te stellen, en niet aan het kabinet. Tot nu toe is voor zover bekend nog geen overtreding vastgesteld. Wij hebben evenmin informatie over lopende of nog te starten onderzoeken. Daarover kunnen de toezichthouders, die onafhankelijk zijn, ook geen uitspraken doen. Hieronder geef ik wel een overzicht van de wet- en regelgeving die in dit kader van toepassing is.

Vraag 4

Kunt u bevestigen dat ABN AMRO, ING en Pricewise niet betrokken zijn bij deze reclamestrategie en er evenmin van op de hoogte waren?

ABN AMRO, ING en Pricewise laten weten niet van deze advertentiewijze te weten en niet hiermee geassocieerd te willen worden. Zij hebben geprobeerd de reclames zo snel mogelijk uit de lucht te halen via TikTok en Google. TikTok heeft inmiddels aan ABN AMRO aangegeven dat de advertenties over leningen niet in lijn zijn met de richtlijnen voor financiële instanties. Alle advertenties zijn van het platform verwijderd. Ook zijn alle accounts geblokkeerd van waaruit de advertenties geplaatst zijn.

Vraag 5

Zo ja, ligt het voor deze bedrijven in de rede een financiële claim in te dienen bij de producent van deze reclames?

ING heeft aangeven om, indien duidelijk is wie er verantwoordelijk is voor het plaatsen van deze advertenties, te bekijken wat juridisch de mogelijkheden zijn en of het nodig is om hier actie op te ondernemen. De andere betrokken bedrijven hebben zich hier niet over uitgelaten. Vooralsnog zijn geen claims ingediend.

Vraag 6

Bent u bereid om als aandeelhouder van ABN AMRO aan te dringen op het stopzetten van deze reclames en het indienen van een schadeclaim bij de producent van deze reclames?

NLFI is namens de staat aandeelhouder. Het ministerie staat daarbij op afstand. Dee bank heeft uit zichzelf al de nodige acties ondernomen.

Vraag 7

Deelt u de opvatting dat de producent van deze deepfakereclames misbruik maakt van het reclamenetwerk van Google?

Google heeft aangegeven dat deze advertentie niet door Google op TikTok is weergegeven. Als Google advertenties aantreft van gebruikers die de beleidsregels inzake misleiding van gebruikers schenden, kan het account worden beëindigd. Zie daarnaast de beantwoording van vraag 3 voor wat betreft de regels die gelden voor de uploader(s) van de reclamevideo’s. Het is aan de bevoegde autoriteiten om te oordelen of er al dan niet sprake is van misbruik van het reclamenetwerk.

Vraag 8

Welke verantwoordelijkheid ligt er in juridisch en moreel opzicht bij zowel Google als TikTok om ervoor te zorgen dat gebruikers hun platform op een veilige manier kunnen gebruiken en oplichting van gebruikers met name jongeren te voorkomen?

Voor de beantwoording van deze vraag over de verantwoordelijkheden in juridisch opzicht verwijs ik naar het antwoord bij vraag 3, waarin de verantwoordelijkheden van Google en TikTok op grond van de DSA worden toegelicht. Naast verplichtingen op grond van de DSA dienen online platforms als Google en TikTok zich ook te houden aan het generieke consumentenrecht. Over welke verantwoordelijkheden en verplichtingen er rusten op online platforms op grond van het consumentenrecht heeft de ACM in 2020 vuistregels gepubliceerd: Vuistregels Online platformen (acm.nl).
Verder is het een taak van platformen zelf om ervoor te zorgen dat de informatie die via hun diensten wordt verspreid zo betrouwbaar mogelijk is, maar ook om ervoor te zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te herkennen en signaleren.

Vraag 9

Op welke wijze gaat u gebruikers, met name jongeren, beschermen tegen dergelijke praktijken die desastreuze financiële gevolgen kunnen hebben, met name omdat experts verwachten dat deepfake reclames in de nabije toekomst niet van echt te onderscheiden zijn?

De Nederlandse overheid zet allereerst in op het mediawijs en weerbaar maken van burgers en scholieren. Steeds meer scholen in Nederland besteden binnen de context van digitale geletterdheid en mediawijsheid aandacht aan bijvoorbeeld desinformatie. Voor scholen gebeurt dat onder meer door al bestaand lesmateriaal overzichtelijk te bundelen. Op die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen. Voor de bredere kabinetsinzet ten aanzien van het versterken van de weerbaarheid van burgers, verwijs ik u naar de Kamerbrief over de Rijksbrede strategie effectieve aanpak van desinformatie2.
De digitale wereld is complex. Er is een substantiële kennisasymmetrie tussen de bedrijven die de digitale wereld maken en de gebruikers daarvan. De precieze werking van dataverzameling, -deling en -gebruik is ingewikkeld, beïnvloedingen zijn subtiel en ongemerkt (denk aan grafische ontwerpen om gebruikers bepaalde keuzes te laten maken), maar ook de werking van apparaten zelf of instellingen zijn voor een gemiddelde gebruiker vaak moeilijk te doorgronden. Hierdoor wordt het voor gebruikers moeilijk om een goede inschatting te maken van de effecten van online activiteiten op eigen welzijn. Zeker als het gaat om kinderen. Naast dat bedrijven verplicht zijn om zo transparant mogelijk te zijn over hoe hun producten werken is goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico´s in de digitale wereld cruciaal. Zoals aangekondigd in de brief van 16 december 2022 wil het kabinet daarom een meerjarige, brede publiekscampagne starten3. Het thema desinformatie zal daar onderdeel van uitmaken.
Op grond van de DSA zijn grote online platforms- en zoekmachines verplicht om jaarlijks de systeemrisico’s die voortvloeien uit de werking of het gebruik van hun diensten in kaart te brengen en deze risico’s zo nodig beperken. Systeemrisico’s zijn bijvoorbeeld de verspreiding van illegale inhoud en/of desinformatie via hun diensten, al dan niet met gebruikmaking van deepfakes. De Europese Commissie zal hier toezicht op houden.
Als het specifiek gaat over reclames voor krediet ziet de AFM toe op de vergunningplicht voor consumptief krediet en de normen die bij het antwoord op vraag 3 worden genoemd. Kredietaanbieders moeten onder meer toetsen of de lening verantwoord kan worden verstrekt en een BKR-toets doen. Er mag bovendien alleen krediet worden verstrekt aan 18+. Een kredietcontract aan minderjarigen is niet rechtsgeldig.
Ten aanzien van gebruik van AI geldt dat er in Brussel onderhandeld wordt over de AI act. Gebruikers van generatieve AI, zoals systemen die videomateriaal genereren of bewerken die aanzienlijk op bestaande personen lijken, worden onder de AI Act verplicht om uiterlijk op het moment van de eerste interactie of blootstelling duidelijk te maken dat sprake is van gegenereerde content. Tot slot kan worden vermeld dat de Europese Commissie wil dat partijen die zich hebben aangesloten bij de Code of Practice on Disinformation, technologie gaan ontwikkelen zodat AI gegenereerde content duidelijk gelabeld wordt, zodat geen twijfel meer kan bestaan of iets echt of een deepfake is. Hierover is de Europese Commissie op dit moment in gesprek met de ondertekenaars van de EU Code of Practice on Disinformation.

Vraag 10

Welke mogelijkheden zijn er om dit soort illegale reclames aan te pakken, wanneer het verantwoordelijke bedrijf is geïdentificeerd?

Zie vraag 3. De toepasselijke wet- en regelgeving geven de bevoegde autoriteiten, waaronder de AFM, de ACM of in het geval van de DSA de Europese Commissie, een mandaat te handhaven indien de regels worden overtreden.

Vraag 1

Hebt u kennisgenomen van het bericht «Aantal aangetroffen websites met ernstig kindermisbruik in twee jaar tijd verdubbeld»1?

Ja.

Vraag 2

Was u op de hoogte van de toename van op Nederlandse servers gehoste websites met kindermisbruik, en zo ja, vanaf wanneer bent u hiervan op de hoogte gebracht?

Er blijkt geen toename van gehoste websites met kindermisbruik op Nederlandse servers te zijn. Uit de monitoring door de TU Delft over 2022, waarvan ik het rapport onlangs met uw Kamer heb gedeeld, en het jaarrapport van de Internet Watch Foundation (IWF) blijkt juist dat het aandeel van Nederlandse servers is gedaald.2 Dat laat onverlet dat het aandeel nog steeds te hoog is en dat we dat stevig moeten aanpakken.

Vraag 3

Indien u al eerder op de hoogte was van de toename van deze websites die op Nederlandse servers wordt gehost, welke stappen heeft u naar aanleiding hiervan ondernomen? Indien u geen actie heeft ondernomen, kunt u dan uitleggen waarom niet?

De ambitie van het kabinet is er te allen tijden op gericht al het beeldmateriaal van online seksueel kindermisbruik van Nederlandse servers te weren. Het rapport bevestigt dat dit een omvangrijk, ernstig en lastig te bestrijden fenomeen is.
De inzet bij de bestrijding van online materiaal van seksueel kindermisbruik (CSAM) gaat voor een belangrijk deel uit van zelfregulering door de internetsector. Het is evenwel niet eenvoudig om het opslaan of online plaatsen van illegale content aan te pakken. Het is via de Richtlijn Elektronische Handel verboden om aan internettussenpersonen een algehele monitoringsverplichting op te leggen. Veel Nederlandse datacentra verhuren opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. Datacentra hebben daarom niet altijd zicht op wie aan het eind van de keten precies gebruik maken van hun diensten en welke content er wordt gehost.
De Nederlandse overheid werkt reeds jaren samen met de internetsector aan de bestrijding van illegale content online. Zo is er al in 2008 een Notice-and-Takedown (NTD) gedragscode overeengekomen tussen overheden, internetaanbieders, hostingbedrijven, en andere tussenpersonen.3 Daar is in 2018 een addendum op gekomen voor het verbeteren van de bestrijding van materiaal van online kindermisbruik. Materiaal dat door het in de NTD-gedragscode als «trusted flagger» aangewezen Expertisebureau Online Kindermisbruik (EOKM) als strafbaar wordt aangemerkt, wordt hierdoor in de meeste gevallen al binnen 24 uur na het ontvangen van een verzoek daartoe verwijderd door hostingpartijen. Aanvullend bevat de in 2021 geactualiseerde Gedragscode Abusebestrijding maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten.
Om ook bestuursrechtelijk te kunnen handhaven heeft het kabinet de oprichting van een Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) aangekondigd. Het wetsvoorstel is op 12 juni jl. naar uw Kamer verzonden.4
Deze Autoriteit krijgt de wettelijke bevoegdheid aanbieders van hostingdiensten op bestuursrechtelijke basis te verplichten online kinderpornografisch en/of terroristisch materiaal op hun server ontoegankelijk te maken of te verwijderen danwel deze partijen op te dragen passende en evenredige maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch en/of terroristisch materiaal via hun diensten te beperken. Doen ze dat niet, dan kunnen er boetes worden opgelegd. Hiermee krijgt de Autoriteit middelen om in te grijpen indien de zelfregulering hapert, bijvoorbeeld wanneer een hoster weigert gehoor te geven aan een verwijderverzoek van illegale content in het zelfreguleringskader.

Vraag 4

Weet u wie er verantwoordelijk zijn voor de Nederlandse servers waarop websites met kindermisbruik worden gehost? Hoeveel van deze eigenaren zijn Nederlands en hoeveel zijn er afkomstig uit het buitenland? Hoeveel van deze servers zijn in particuliere handen en hoeveel worden beheerd door bedrijven? Zijn deze servers in kaart gebracht en, zo nee, kunt u hiernaar onderzoek doen en dit gedetailleerd in kaart brengen?

Het is lastig vast te stellen wie er precies verantwoordelijk zijn voor de servers waarop websites met kindermisbruik worden gehost. Zoals onder vraag 3 is aangegeven, verhuren veel Nederlandse datacentra opslagruimte en verzorgen de aansluiting daarvan op het internet. Hun klanten plaatsen daar hun netwerkapparatuur, servers en opslagruimte voor webhosting. Deze hostingdiensten worden vaak doorverhuurd aan tussenpersonen in andere landen (die de webhosting daar veelal onder een eigen merk leveren), die vervolgens weer webruimte verhuren aan privépersonen of organisaties. De privépersonen en burgers kunnen de ruimte bijvoorbeeld gebruiken om hun eigen website in te richten.
Criminelen misbruiken diensten van hostingproviders voor illegale activiteiten. Veel hostingproviders treden hier adequaat tegen op, maar een totaal overzicht naar nationaliteit en eigenaarschap hebben wij niet.
De door de TU Delft ontwikkelde «CSAM Hosting Monitor» heeft de afgelopen jaren wel inzichtelijk gemaakt welke bedrijven online materiaal van seksueel kindermisbruik hosten en het volume van het materiaal. De monitor is gebaseerd op bij het Expertisebureau Online Kindermisbruik (EOKM) binnengekomen meldingen. Er wordt ook bezien in hoeverre door hostingbedrijven opvolging werd gegeven aan de verzoeken van het EOKM om hun netwerken op te schonen. Dit geeft enigszins inzicht in het CSAM materiaal dat in Nederland wordt gehost.

Vraag 5

Hanteert Nederland criteria waaraan personen/bedrijven die een server en/of ruimte op een server afnemen van semi-publieke partijen, zoals providers of techbedrijven, moeten voldoen? Weet u of bedrijven de personen aan wie zij een server en/of serverruimte verhuren/verkopen screenen? Worden de websites die gehost worden op dit soort Nederlandse servers (periodiek en/of steeksproefsgewijs) onderworpen aan controles door de eigenaar van de servers? Zo ja, op welke manier gebeurt dat en verschilt dat per servereigenaar?

Er zijn geen wettelijke verplichtingen of criteria die het bedrijfsleven verplicht om klanten te screenen of onderzoek te doen. Er zijn hostingproviders en resellers (bedrijven die serverruimte doorverhuren) die naast hostingdiensten ook domeinregistratiediensten aanbieden (het registreren van een website). Deze partijen moeten conform de nieuwe Netwerk- en Informatiebeveiligingsrichtlijn verplicht accurate domeinnaamregistratiegegevens bijhouden (ook wel WHOIS gegevens genoemd). Deze gegevens kunnen worden gevorderd door opsporingsdiensten en/of het Openbaar Ministerie. Hierdoor zal het inzichtelijker worden welke personen bepaalde websites hebben geregistreerd in de Europese Unie.
Er zijn verschillende vrijwillige initiatieven gaande die transparantie in de server- en hostingmarkt in Nederland moeten vergroten. Een eerste richting betreft het ondersteunen van de sector met informatie over criminele handelingen. De Stichting Nationale Beheersorganisatie Internet Providers werkt samen met het Ministerie van Justitie en Veiligheid aan het project Cleannetworks. Dit project beoogt het opzetten van een systeem om hostingproviders structureel te informeren over actuele criminele handelingen en kwetsbaarheden. Hierdoor kunnen zij deze activiteiten op hun eigen netwerken tegengaan en zich beveiligen tegen dreigingen.
Daarnaast is in gezamenlijkheid met de private sector een Gedragscode Abusebestrijding opgesteld. Deze bevat maatregelen die hostingproviders kunnen nemen tegen misbruik van hun diensten voor meerdere vormen van illegale activiteiten. De Gedragscode wordt betrokken bij de inkoop van hostingdiensten voor de rijksoverheid.
Om de schaalvoordelen van hostingdiensten, dat wil zeggen de grootte van de datacapaciteit die geleverd kan worden, minder toegankelijk te maken voor criminelen, is het van belang dat alle hostingproviders hier maatregelen tegen nemen. Daarnaast heeft de politie diverse hostingproviders op de hoogte gesteld van criminele dienstverleners (ook wel resellers genoemd) die mogelijk misbruik maken van hun systemen. Daarbij is verzocht, indien deze partijen bij deze hostingproviders bekend zijn, deze niet meer als klant te accepteren. Hierover heb ik Uw Kamer op 16 maart geïnformeerd. 5

Vraag 6

Indien de eigenaren van (een deel van) de servers in Nederland waarop websites met kindermisbruik worden gehost afkomstig zijn uit het buitenland, op welke manier is de Nederlandse wet- en regelgeving met betrekking tot kindermisbruik, cybercrime en aanverwante zaken dan op hen van toepassing? Hoe gaat u deze wet- en regelgeving handhaven met betrekking tot deze buitenlandse servereigenaren?

Data die zich op Nederlandse servers bevindt, moet voldoen aan de Nederlandse wet- en regelgeving. Dat geldt ook voor de eigenaren van de servers.
In Nederland wordt al een aantal jaren succesvol samengewerkt tussen de internetsector en overheid op het gebied van illegale content. Overheid en internetsector richten zich daarbij op het zo snel mogelijk offline halen van het aangetroffen materiaal van seksueel kindermisbruik. Het beleid richt zich daarom op het notificeren en doen verwijderen van illegale (dat wil zeggen strafbare of anderszins onrechtmatige) content.
In geval van verdenking van een misdrijf als omschreven in artikel 67, eerste lid, Sv kan de officier van justitie met een machtiging van de rechter-commissaris aan een aanbieder van een communicatiedienst bevelen om gegevens ontoegankelijk te maken als dit noodzakelijk is ter beëindiging van een strafbaar feit. Dit is geregeld in artikel 125p Sv. In artikel 54a Sr is vervolgens bepaald dat als een aanbieder voldoet aan dat bevel, de aanbieder niet wordt vervolgd.
Om zoveel mogelijk tot harmonisatie van regelgeving op het gebied van tussenhandeldiensten in de Europese Unie te komen is de Digital Services Act (DSA) aangenomen. Deze verordening biedt o.a. regels over het modereren op illegale inhoud en activiteiten, legt rapportageverplichtingen op aan grote platformen en zoekmachines en verplicht elke lidstaat een digitaledienstencoördinator aan te wijzen voor de handhaving van de DSA.

Vraag 7

Hoe reflecteert u op de rol van Nederland als wereldwijde «digitale mainport», waardoor ons land een broedplaats lijkt te zijn geworden voor kindermisbruikers en cybercriminelen? Kunt u uitleggen waarom ons land voor dit soort activiteiten zo aantrekkelijk is?

Nederland beschikt over een uitstekende digitale infrastructuur. Dat betekent dat er sprake is van snelle verbindingen en beschikbaarheid van voldoende servers en opslagruimte voor webhosting. Deze aspecten leveren de Nederlandse economie veel voordelen op, maar kunnen ook misbruikt worden door criminelen.
Daartegen moet doelgericht en effectief worden opgetreden. Juist door deze belangrijke rol van Nederland als wereldwijd internetknooppunt, is de aanpak van online criminaliteitsvormen, waaronder die van online seksueel kindermisbruik, ook een prioriteit van dit kabinet.

Vraag 8

Kunt u uitleggen hoe het mogelijk is dat dergelijke activiteiten op servers in ons land kennelijk wel worden opgepikt, maar dat aan deze activiteiten vervolgens geen opvolging wordt gegeven in de vorm van aangifte en/of sancties?

Ik herken mij niet in het beeld dat er geen opvolging wordt gegeven door aangifte en sancties. Zoals ik hierboven heb beschreven, voert de politie bijvoorbeeld gerichte acties uit om hostingbedrijven te waarschuwen dat ze risico lopen voor criminele activiteiten. Hostingbedrijven die op de hoogte zijn van strafbare feiten op hun websites of platformen en daar vervolgens niet op acteren kunnen vervolgens aansprakelijk worden gehouden volgend aan artikel 125p Sv jo. 54a Sr. Uit het verleden blijkt echter wel dat de vervolging van hostingbedrijven die zich schuldig maken aan het actief faciliteren van criminaliteit lastig kan zijn, maar niet onmogelijk.
Zoals ik ook in mijn beantwoording onder vraag 3 heb aangegeven, richt het kabinet met de ATKM een nieuwe handhavingsautoriteit op die ook sancties kan opleggen indien niet wordt voldaan aan verzoeken tot verwijdering.

Vraag 9

Weet u of er, en zo ja welke, personen/bedrijven die op in Nederland gehoste servers websites met kindermisbruik laten draaien zijn opgespoord en vervolgd voor het distribueren van illegaal en belastend materiaal? Zo ja, zijn ook de eventuele externe eigenaren van die servers ingelicht en verhoord m.b.t kennis over deze websites die via hun servers werden gehost? Zo ja, wisten deze personen/bedrijven daar vanaf en welke actie hebben zij ondernomen om dit aan banden te leggen?

Nee. De aard van de meldingen en het onderzoek naar materiaal van online seksueel kindermisbruik van het IWF is er niet naar om hier direct informatie over te verkrijgen. Deze meldingen gaan over een URL, een andere benaming voor een webadres. Een URL dient ertoe de hostende partij te verzoeken deze verwijzing te verwijderen, maar deze URL bevat verder geen informatie die over eigenaarschap, geografische locatie e.d. direct uitsluitsel geeft. In het overgrote deel van al het materiaal van seksueel kindermisbruik dat zo wordt aangetroffen gaat het om reeds bekend materiaal dat verspreid wordt. Het is van belang dat dit materiaal zo snel mogelijk verwijderd wordt.

Vraag 10

Hoeveel van de websites die volgens het rapport van de Internet Watch Foundation2 gehost worden op Nederlandse servers zijn inmiddels offline gehaald?

Er zijn geen specifieke gegevens beschikbaar over het offline halen van de websites die door de IWF worden genoemd. De TU Delft Monitor over 2022 laat echter zien dat het erop lijkt dat het landschap is veranderd. Dit zou het gevolg kunnen zijn van het feit dat providers die in 2020/2021 dominant waren, maatregelen hebben genomen. Zo heeft het hostingbedrijf dat in een eerdere monitor bovenaan stond met het volume aan materiaal van seksueel kindermisbruik dat gehost werd, de banden verbroken met de klanten die diensten draaiden, zoals image hosting, die werden misbruikt door de criminelen die beeldmateriaal van seksueel kindermisbruik deelden. Zodra deze hostingprovider uit beeld verdween, daalde het totale volume van beeldmateriaal van seksueel kindermisbruik en kwamen andere providers en domeinen in beeld.

Vraag 11

Heeft u enig zicht op de makers van de content op de websites met kindermisbruik die in Nederland worden gehost? Zijn deze overwegend afkomstig uit het buitenland, of van Nederlandse afkomst? Zijn zij verbonden aan bepaalde (criminele) organisaties? Zijn er inmiddels al makers van deze content opgespoord en vervolgd?

Indien er een indicatie is van een link met Nederland wordt het Team ter Bestrijding van Kinderpornografie en Kindersekstoerisme van de politie ingezet. Die link kan een slachtoffer of vervaardiger van Nederlandse afkomst zijn of de betrokkenheid van een Nederlandse hoster en/of materieel dat in Nederland is gemaakt. Exacte cijfers over de aantallen slachtoffers, vervaardigers en/of verspreiders van online materiaal van seksueel kindermisbruik op websites die gehost worden op Nederlandse servers zijn onbekend.
Als het gaat om de aanpak van kinderporno door de politie ligt de prioriteit, gelet op de omvang van het fenomeen, bij het opsporen van slachtoffers om ze zo snel mogelijk weg te kunnen halen uit een acute misbruiksituatie, zowel nationaal als internationaal. Bij opsporingsonderzoeken ligt de focus op vervaardigers en misbruikers, keyplayers en netwerken. Het lukt steeds beter om slachtoffers sneller te identificeren door de goede samenwerking tussen de sector, politie en het openbaar ministerie. Wereldwijd wordt goed samengewerkt met Interpol en andere opsporingsdiensten. Sinds de inrichting in 2012 van de Teams ter Bestrijding van Kinderpornografie en Kindersekstoerisme bij de politie zijn door deze teams al meer dan 2.000 kinderen in Nederland geïdentificeerd en in veiligheid gebracht.
Duidelijk is dat seksueel getint beeldmateriaal dat zelf door minderjarigen wordt gemaakt in opkomst is. Momenteel is 40–60% van het nieuwe materiaal zelf gemaakt. Laat ik duidelijk stellen dat dit vaak geen geheel vrijwillig beeldmateriaal is: vaak worden minderjarigen hiervoor onder druk gezet of gechanteerd en zijn ze zich er niet van bewust dat ze gefilmd worden. Het gaat in deze gevallen dan niet om verbinding met een criminele organisatie. Vanuit Nederlands perspectief wil ik me blijven inzetten voor preventie en voorlichting om minderjarigen en hun ouders en voogden meer weerbaar te maken tegen deze vorm van misbruik.

Vraag 12

Weet u in welke mate er Nederlandse kinderen te zien zijn op het materiaal dat wordt aangeboden op de websites die gehost worden op Nederlandse servers? Zo nee, bent u bereid dit uit te zoeken?

Zie antwoord vraag 11.

Vraag 13

Weet u of, en zo ja in welke mate, het materiaal dat te zien is op de websites die in Nederland worden gehost ook in Nederland is gemaakt?

Zie antwoord vraag 11.

Vraag 14

Kunt u uitleggen waarom websites van dergelijke aard steeds zichtbaarder worden en makkelijker vindbaar zijn? Betekent dit dat er minder hard wordt opgetreden tegen dit soort digitale uitwassen en/of dat zedenzaken met kinderen en kindermisbruik in Nederland frequenter voorkomen en/of dat er minder streng tegen wordt opgetreden? Kunt u een analyse geven van de mogelijke redenen dat dergelijke content in toenemende mate een groter en meer openbaar platform vindt?

Het is onduidelijk of de zichtbaarheid van dergelijke omgevingen steeds beter wordt en of dit mogelijk het gevolg is van het feit dat opsporing op het DarkWeb steeds succesvoller is of door daders zo wordt ervaren. Nog steeds is het Clearweb aanzienlijk sneller dan het DarkWeb en dat kan ervoor zorgen dat beeldmateriaal van seksueel kindermisbruik nog steeds op openbare platformen te vinden is. Duidelijk is dat, ook in Nederland, er steeds meer materiaal is opgenomen in tal van databases waarmee het internet geschoond kan worden.
Wel is er zoals onder vraag 11 beantwoord is, voor nieuw materiaal een verschuiving te zien naar zelf gemaakt materiaal, bijvoorbeeld op social media. Het is belangrijk dat deze illegale inhoud gemeld wordt bij het EOKM of platformen zelf, zodat het sneller kan worden verwijderd.

Vraag 15

Hoe verhoudt zich het belastende materiaal op de in Nederland gehoste websites tot de cijfers van kindermisbruik en mensenhandel in ons land?

Het aandeel beeldmateriaal van online seksueel geweld tegen minderjarigen is lastig af te zetten tegen cijfers van offline kindermisbruik en mensenhandel. Online beeldmateriaal kan snel verspreid en aangepast worden en lang online blijven staan indien er niet snel gehandeld wordt. Het risico op een hoog volume is daarbij heel groot. Voor offline cijfers van kindermisbruik en mensenhandel worden aantallen slachtoffers bijgehouden, niet het aantal van hen gedeeld beeldmateriaal.

Vraag 1

Heeft u kennisgenomen van het artikel «Contactonderzoek GGD en corona-app dempten epidemie maar matig»?, van de Volkskrant en het onderzoek waarop dit artikel gebaseerd is?1, 2

Ja.

Vraag 2

Is voordat het bron- en contactonderzoek-stramien van kracht werd een impactanalyse gemaakt van de effectiviteit van dit programma? Zo ja, wat waren de resultaten daarvan en in hoeverre weken die af van de conclusies die nu uit bovengenoemd onderzoek komen? Indien deze erg afweken, kunt u dan beargumenteren hoe dit kan? Waarom is vooraf ingeschat dat de invloed op het in kaart brengen en indammen van het coronavirus zoveel groter zou zijn dan uiteindelijk daadwerkelijk het geval bleek?

Nee, er is geen impactanalyse gedaan.

Vraag 3

Wie hebben de vermeende en beoogde impact van het bron- en contactonderzoek in kaart gebracht en volgens welke methodiek?

Vanuit internationale organisaties werden aanbevelingen gedaan voor de inzet van bron- en contactonderzoek (BCO) voor de bestrijding van COVID-19. Zie bijvoorbeeld: Contact tracing for COVID-19: current evidence, options for scale-up and an assessment of resources needed (europa.eu) en WHO-2019-nCoV-Contact_Tracing-2020.1-eng.pdf. Daarnaast was er een Nederlandse studie, die op 16 april 2020 al als preprint beschikbaar was: Frontiers | Isolation and Contact Tracing Can Tip the Scale to Containment of COVID-19 in Populations With Social Distancing (frontiersin.org).

Vraag 4

Hoe reflecteert u op het feit dat er 23 miljoen euro aan gemeenschapsgeld is gespendeerd aan – opnieuw – een ineffectieve coronamaatregel? Staat u, in retrospectief, nog altijd achter dit programma?

Vraag 5

Wat zijn de gevolgen (maatschappelijk, financieel, economisch) geweest van het bron- en contactonderzoek voor de arbeidsmarkt en de werkgelegenheid, aangezien voor dit programma veel mensen moesten worden aangetrokken, die werden weggehaald uit andere sectoren, waarin niet zelden al personeelstekorten waren? Kunt u een kosten-baten analyse geven?

De periode dat BCO grootschalig werd ingezet viel grotendeels in een lockdown periode. In die periode waren sectoren (gedeeltelijk) gesloten.

Vraag 6

Was op enig moment gedurende de coronacrisis ook al duidelijk dat het bron- en contactonderzoek weinig bijdroeg aan de bestrijding van het virus? Zo ja, op welk moment bleek dat dit programma niet het beoogde en gewenste effect had, wie/wat kwam initieel tot deze conclusie en wanneer is uw ministerie en/of het kabinet hiervan op de hoogte gebracht? Waarom is het programma op dat moment niet heroverwogen en/of gestaakt? Hoeveel geld is daardoor onnodig uitgegeven aan een ineffectieve maatregel?

De focus van het BCO is in de loop van de pandemie veranderd van het zicht houden op en indammen van het virus, naar het beschermen van kwetsbaren en het signaleren van uitbraken in een bijzondere setting (bijv. de zorg). Door het invoeren van het zelfzorgadvies, waaronder het advies om een zelftest te doen bij klachten, is de grootschalige inzet van het BCO in het voorjaar van 2022 gestopt. Wel kon BCO nog worden ingezet voor het adviseren bij specifieke uitbraken. In het najaar van 2022 is gestart met het verder afschalen de capaciteit van BCO. De resterende beperkte werkzaamheden vallen onder het regulier BCO werk van de GGD’en.

Vraag 7

Waarom is de Kamer niet geïnformeerd over de tegenvallende effectiviteit van het bron- en contactonderzoek en de CoronaMelder en heeft daarover geen parlementair debat plaatsgevonden?

CoronaMelder is voorafgaand en gedurende de inzet hiervan geëvalueerd en gemonitord. Ook de uitvoering van het BCO is voortdurend geanalyseerd en gemonitord. Over de uitkomsten van deze onderzoeken is uw Kamer geïnformeerd.6 Een overzicht van alle onderzoeken is tevens terug te vinden op rijksoverheid.nl.

Vraag 8

Vindt u het, achteraf gezien, niet logisch dat het bron- en contactonderzoek ineffectief was, aangezien het moeten inventariseren van coronabesmette personen, het in kaart moeten brengen van hun contacten en het vervolgens op de hoogte stellen van deze mensen door derden logischerwijs dusdanig veel tijd en moeite in beslag neemt dat de maatregel zijn doel al mist voor er überhaupt geschoten kan zijn?

Zie het antwoord op vraag 4.

Vraag 9

Wat gaat u bij eventuele toekomstige infectieziektebedreigingen doen ten aanzien van bron- en contactonderzoek? Bent u voornemens om een andere strategie te gaan hanteren? Zo ja welke, of gaat u deze maatregel schrappen?

Zie antwoord op vraag 4. Ik heb het RIVM in het kader van pandemische paraatheid advies gevraagd over landelijke en regionale aanpak van infectieziektebestrijding, waarin lessen van COVID-19 worden meegenomen. Een onderdeel hiervan betreft BCO. Hierover zal ik uw Kamer binnenkort nader informeren.

Vraag 10

Hoe reflecteert u op het feit dat veel mensen het bron- en contactonderzoek ervoeren als een inbreuk op hun privacy en die van hun omgeving en daarom ook niet bereid waren om bij de GGD te melden met wie zij in contact geweest waren en/of überhaupt niet meldden dat zij een vermeende coronabesmetting onder de leden hadden teneinde bron- en contactonderzoek te vermijden?

Recht op privacy en het beschermen van de volksgezondheid zijn beide belangrijke pijlers voor het werk van VWS. In de COVID-19 pandemie hebben we gezien dat hier spanning op kan zitten en dat daarin afwegingen gemaakt dienen te worden. Tijdens de COVID-19 pandemie hebben we als overheid, en ook als maatschappij onderling, elkaar nodig gehad. Omdat we samen het virus onder controle wilden krijgen. Een groot deel van de maatschappij heeft de maatregelen gevolgd, waaronder ook deelname aan BCO. Deelname aan BCO was niet verplicht.

Vraag 11

Hoe reflecteert u op de conclusie van de onderzoekers dat de CoronaMelder onderhevig was aan zoveel restricties dat hij niet meer effectief was? Onderschrijft u deze conclusies en kunt u dan verklaren waarom op voorhand niet duidelijk was dat deze app niet het beoogde resultaat zou boeken?

Voordat CoronaMelder landelijk werd geïntroduceerd was er nog geen empirisch bewijs beschikbaar over de werking en effectiviteit van de app. Wel zijn continu de wetenschappelijke ontwikkelingen in zowel binnen- als buitenland nauwlettend gevolgd waarbij in simulatiestudies de positieve bijdrages van een dergelijke applicatie zijn aangetoond.7, 8
Voorafgaand aan, maar ook na de landelijke introductie in Nederland is CoronaMelder op diverse vlakken geëvalueerd en gemonitord. Naar aanleiding hiervan is ook gekeken naar de proportionaliteit van de inzet van het instrument. Maatregelen binnen het testbeleid zoals inzet van de CoronaMelder moeten daarbij worden bezien in de context van een totaalpakket aan coronamaatregelen, in combinatie met de specifieke context op dat moment. Evaluatieonderzoek tijdens de pandemie constateerde al dat de CoronaMelder een kleine, maar merkbare toegevoegde waarde had als aanvulling op het BCO bij het bestrijden van het virus. Door de app zijn er sneller, meer mensen gevonden die contact hadden gehad met een besmet persoon.

Vraag 12

Kunt u uitleggen waarom deze app er per se moest komen, terwijl tijdens de ontwikkeling ervan al veel problemen ontstonden en veel (digitale) experts de effectiviteit, ontwikkelingswijze en wenselijkheid ervan al betwistten?

Op voorhand waren er diverse redenen en adviezen om een dergelijke app te ontwikkelen. Het Outbreak Management Team (OMT) adviseerde op 6 april 2020 om zo spoedig mogelijk de mogelijkheden voor ondersteuning van bron- en contactopsporing met behulp van mobiele applicaties (apps) te onderzoeken, teneinde de belasting van de GGD te reduceren. Daarnaast onderschreef ook de Begeleidingscommissie DOBC (Digitale Ondersteuning Bestrijding Covid-19) de noodzaak om de opsporingsketen significant te versnellen. Deze commissie heeft in adviezen meermaals de toegevoegde waarde van de inzet van een notificatie-app benadrukt waarbij er sneller, meer besmette mensen gevonden zouden kunnen worden. Ook werd aangegeven dat de CoronaMelder mensen de motivatie zou kunnen geven om zich eerder te laten testen, ook als er nog geen symptomen zijn. Zo werd CoronaMelder op dat moment gezien als een kansrijke digitale aanvulling op het reguliere proces van bron- en contactonderzoek, omdat zo ook onbekende contacten, in bijvoorbeeld de trein, werden opgespoord en geïnformeerd. Ook uw Kamer verzocht met de motie Jetten c.s.9 om snel duidelijkheid te geven over een app die zou kunnen bijdragen aan het beheersen van het coronavirus.

Vraag 13

Bent u nog altijd van mening dat een «meld-app» waarmee mensen dus kunnen worden aangemerkt als potentieel «gevaar» voor de samenleving en de overheid de populatie op basis van een vermeende dreiging in kaart kan brengen en in de gaten kan houden, wenselijk is?

Ik deel de aanname in de vraagstelling niet. Een notificatieapplicatie zoals CoronaMelder is een digitale aanvulling op het reguliere BCO proces welke als doel had om met een notificatie bij te dragen aan het sneller opsporen of voorkomen van mogelijke besmettingen en daarmee het tegengaan van verdere verspreiding van het coronavirus. Gebruik van de app was vrijwillig en meldingen waren anoniem.

Vraag 14

Vindt u achteraf gezien niet dat een dergelijke app inbreuk maakt op de bewegingsvrijheid en anonimiteit van burgers, op oneigenlijke en speculatieve gronden en bovendien kan leiden tot maatschappelijke onrust en polarisatie? Zo nee, waarom niet?

Zoals gezegd was gebruik van de app vrijwillig en waren de meldingen anoniem om zo meer mensen sneller te kunnen bereiken en opsporen. CoronaMelder is in alle openheid met een brede community van diverse experts ontwikkeld. Hierbij werd vanaf de ontwerpfase al nagedacht over gegevensbescherming en informatiebeveiliging.

Vraag 15

Kunt u de onderzoeksanalyse delen waarin wordt beweerd dat de CoronaMelder toch nog vijftien duizend besmettingen, 200 ziekenhuisopnamen en tussen de 110 en 250 sterfgevallen zou hebben gescheeld? Op basis waarvan zijn deze cijfers tot stand gekomen? Waarom is de Rijksinstituut voor Volksgezondheid en Milieu (RIVM)-studie met deze berekeningen niet langer online beschikbaar?3

Mijn ambtsvoorganger heeft uw Kamer over de studie van het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) waaraan wordt gerefereerd in mei 2021 reeds geïnformeerd.11 Het onderzoek is daarnaast nog altijd te vinden op rijksoverheid.nl en de website van het RIVM: CoronaMelder – modelstudie naar effectiviteit. Digitaal contactonderzoek in de bestrijding van COVID-19 | RIVM.

Vraag 16

Kunt u de modellen van het RIVM delen waarop deze berekeningen zijn gebaseerd?

De uitleg van het model is te vinden in hetzelfde rapport: CoronaMelder – modelstudie naar effectiviteit. Digitaal contactonderzoek in de bestrijding van COVID-19 | RIVM. De broncode is te vinden op de github-website van het RIVM: GitHub – rivm-syso/cm-evaluation.

Vraag 17

Hoeveel verlies heeft Nederland geleden op de CoronaMelder? Hoe verhoudt zich dat tot de winst die ermee is geboekt?

De totale kosten voor CoronaMelder in 2020, 2021 en 2022 bedroegen ongeveer 19,7 miljoen euro. Over deze kosten is uw Kamer geïnformeerd. Sinds de landelijke introductie is CoronaMelder bijna 6 miljoen keer gedownload. In de periode van 10 oktober 2020 tot 12 april 2022 hebben daarnaast in totaal 450.735 mensen via CoronaMelder hun positieve test gedeeld en daarmee andere gebruikers van de app gewaarschuwd voor een mogelijke besmetting. Vooral bij hoge besmettingsaantallen en versoepelingen van de maatregelen was de kans aanmerkelijk dat mensen in aanraking kwamen met iemand die later besmet bleek. De inzet van de app was mijns inziens daarom noodzakelijk en proportioneel: CoronaMelder heeft aangetoond een kleine maar wel degelijk merkbare toegevoegde waarde te hebben gehad in het voorkomen van de verdere verspreiding van het virus. Zo zijn er (mogelijk post-covid)besmettingen en ziekenhuisopnames voorkomen en levensjaren gered, zoals ook beschreven in de modelstudie van het RIVM (zie vraag12.

Vraag 18

Bent u voornemens om bij toekomstige gezondheidscrises opnieuw een dergelijke app in te zetten? Zo ja, waarom en op welke manier denkt u zo’n applicatie dan dusdanig te verbeteren dat deze wel tot het gewenste resultaat leidt?

Er zijn diverse onderzoeken die aantonen dat digital contact tracing ook bij volgende pandemieën waarde kan hebben. Het is niet zinvol om op dit moment vooruit te lopen op de eventuele inzet van een dergelijke app bij een volgende pandemie.

Vraag 1

Kent u het bericht «ChatGPT banned in Italy over privacy concerns»?1

Ja.

Vraag 2

Klopt het dat de Italiaanse toezichthouder besloten heeft tot het aan banden leggen van ChatGPT omdat het bedrijf erachter (OpenAI) mogelijk de Europese privacywetgeving overtreedt?

Voor informatie over het handelen van de Italiaanse privacytoezichthouder ben ik aangewezen op openbare bronnen. Blijkens de website van deze toezichthouder, de «Garante per la Protezione dei Dati Personali» (hierna: de Garante) heeft zij aan OpenAI laten weten dat ChatGPT voorlopig geen gegevens van Italiaanse gebruikers mocht verwerken, vanwege zorgen over de naleving van de privacyregels.2 Deze zorgen zagen op de informatie die aan betrokkenen wordt verstrekt wanneer hun persoonsgegevens worden verwerkt, welk mechanisme voor leeftijdsverificatie wordt toegepast, of de door ChatGPT verwerkte persoonsgegevens voldoen aan het beginsel van juistheid en actualiteit (artikel 5, lid 1, onder d van de AVG) en tot slot op basis van welke rechtsgrondslag persoonsgegevens worden verzameld en verwerkt ten behoeve van het trainen van het onderliggende algoritme.
ChatGPT is sinds 28 april jl. weer beschikbaar in Italië. De Garante heeft daarover op haar website geschreven dat OpenAI maatregelen en verbeteringen heeft getroffen in het licht waarvan het verbod is opgeheven voor Italiaanse gebruikers. De Garante spreekt de hoop uit dat OpenAI de komende weken zal voldoen aan de verdere verzoeken van de Garante. Dat ziet op de implementatie van een leeftijdsverificatiesysteem en het verzorgen van een communicatiecampagne om alle Italianen te informeren over wat er is gebeurd en over de mogelijkheid om zich te verzetten tegen het gebruik van hun persoonlijke gegevens om een algoritme te trainen. De Garante schrijft dat zij zal doorgaan met het vooronderzoek dat is gestart tegen OpenAI en met het werk dat zal worden uitgevoerd door de taskforce die is opgericht binnen het Europees Comité voor gegevensbescherming (European Data Protection Board, (EDPB)). Zie hierover het antwoord op vraag 3.

Vraag 3

Klopt het dat er een Europese taskforce is opgericht? Wat is de status en bevoegdheid van zo’n taskforce? Is de Nederlandse toezichthouder daar ook bij betrokken? Zo nee, waarom niet?

De Autoriteit Persoonsgegevens (AP) heeft mij geïnformeerd dat het samenwerkingsverband van Europese privacytoezichthouders (EDPB) op 13 april heeft besloten om, naar aanleiding van het Italiaanse optreden tegen OpenAI inzake ChatGPT, een taskforce in te stellen. Deze taskforce heeft tot doel de samenwerking en informatie-uitwisseling over mogelijke handhavingsmaatregelen te bevorderen. Alle Europese privacytoezichthouders zijn in dit samenwerkingsverband vertegenwoordigd, dus ook de AP. Generatieve AI, zoals het grote taalmodel artificiële intelligentie (AI) systeem ChatGPT, is een grensoverschrijdend fenomeen dat vraagt om een geharmoniseerde aanpak. Daarom hecht de AP grote waarde aan een effectief gezamenlijk optreden van de Europese privacytoezichthouders.

Vraag 4

Hoe worden de beide Kamers geïnformeerd over de werkzaamheden en uitkomsten van de taskforce?

De EDPB publiceert nieuwsberichten op haar website, zo ook in dit geval.3 Wanneer er op het gebied van de taskforce (beleids)ontwikkelingen zijn, zullen deze daar worden geplaatst. Daarnaast zal de AP hierover bij gelegenheid berichten laten uitgaan.

Vraag 5

Weet u welke persoonsgegevens worden verzameld en verwerkt door ChatGPT (OpenAI) in Nederland? Is dat ook bekend voor de gebruikers?

Dat is mij niet bekend. Op de website van OpenAI wordt voor gebruikers en niet-gebruikers, zowel binnen als buiten Europa, gemeld welke persoonsgegevens met welke methoden worden verwerkt.4

Vraag 6

Indien persoonsgegevens verzameld en verwerkt worden door ChatGPT (OpenAI) in Nederland, op welke wettelijke basis gebeurt dat dan?

Over die informatie beschik ik niet. Op de in antwoord 5 genoemde website noemt OpenAI als rechtsgronden voor het verwerken van persoonsgegevens5 de uitvoering van een overeenkomst (artikel 6, eerste lid onder b AVG),6 het gerechtvaardigde belang (artikel 6, eerste lid onder f AVG) van het tegengaan van misbruik, fraude of veiligheidsrisico’s of van het ontwikkelen, verbeteren of promoten van haar diensten of7 toestemming (artikel 6, eerste lid onder a AVG) voor een specifiek doel dat aan de betrokkene wordt meegedeeld.

Vraag 7

Bent u het met ons eens dat verzameling en verwerking van persoonsgegevens altijd een wettelijke basis moet hebben? Zo nee, op welke gronden zou die wettelijke basis afwezig mogen zijn?

Voor een rechtmatige verwerking van persoonsgegevens moet een grondslag bestaan. Dit zijn de zes limitatieve grondslagen zoals opgesomd in artikel 6, eerste lid, van de AVG. Wanneer een verwerking niet op een van die grondslagen gebaseerd kan worden, is zij onrechtmatig.

Vraag 8

Indien de wettelijke basis voor verzameling en verwerking van persoonsgegevens afwezig mag zijn (en de wettelijke basis is aanwezig), op welke manier voldoet (het werken met) ChatGPT daaraan?

Het is niet aan mij om daarover te oordelen. Dat is veeleer een vraag die door de toezichthouder zal worden beoordeeld.

Vraag 9

Klopt het dat er bij ChatGPT ook sprake is geweest van een datalek waarbij gesprekken en betaalgegevens zijn gelekt?2

Van een datalek is sprake wanneer er ongeoorloofde of onbedoelde toegang tot persoonsgegevens heeft plaatsgevonden, maar ook als deze gegevens ongewenst zijn vernietigd, verloren, gewijzigd of verstrekt. Desgevraagd heeft de AP mij laten weten dat bij haar geen melding is gedaan van het lekken van gegevens van Nederlandse gebruikers.
Of een dergelijke melding aan de AP verplicht zou zijn geweest onder de meldplicht datalekken, is afhankelijk van de vraag waar een hoofdvestiging is gevestigd. Wanneer een hoofdvestiging niet in Nederland is gevestigd, maar in een andere lidstaat van de Europese Unie, dan is de toezichthouder in die lidstaat leidend. Een datalek moet dan verplicht bij de leidende toezichthouder worden gemeld, ook al zijn er Nederlandse gebruikers betrokken bij het datalek. Melding aan de AP is vervolgens optioneel en alleen verplicht wanneer de verwerkingsverantwoordelijke twijfelt bij welke toezichthouder gemeld moet worden. In het geval van OpenAI, de verwerkingsverantwoordelijke van ChatGPT, is er geen sprake van een hoofdvestiging in de Europese Unie. Dan zijn alle Europese privacytoezichthouders gelijkelijk bevoegd. Dit betekent dat er alleen bij de AP gemeld moet worden als er Nederlandse ingezetenen bij het datalek betrokken zijn.

Vraag 10

Zo ja, zijn hierbij ook gegevens van Nederlandse gebruikers gelekt?

Zie antwoord vraag 9.

Vraag 11

Zo ja, is dit datalek gemeld bij de Autoriteit Persoonsgegevens, conform de Algemene Verordening Gegevensbescherming (AVG)? Zo nee, waarom niet?

Zie antwoord vraag 9.

Vraag 12

Bent u bereid de Autoriteit Persoonsgegevens om een spoedadvies te vragen over het blokkeren van ChatGPT? Zo nee, waarom niet?

Onder verwijzing naar antwoord 3 en de daarin genoemde taskforce van de EDPB, waarin ook de AP vertegenwoordigd is, moet ik hierop ontkennend antwoorden omdat de kwestie reeds door de AP mede beoordeeld wordt. Ik vertrouw er bovendien op dat de AP in het kader van haar voorlichtende taak naar buiten zal treden over ChatGPT wanneer daartoe aanleiding bestaat.

Vraag 13

Klopt het dat Nederlandse en Italiaanse privacywetgeving – vanwege de gedeelde Europese basis – vergelijkbaar zijn? Zo nee, waarin verschillen de Italiaanse en de Nederlandse interpretatie van de Europese privacywetgeving? Zo ja, deelt u de mening dat Nederland net als Italië zou moeten omgaan met ChatGPT?

In de gehele Europese Unie is sinds 25 mei 2018 de AVG van kracht. Deze verordening kent lidstaten op onderdelen de bevoegdheden en verplichtingen toe om nadere regels te stellen. In Nederland is die ruimte onder meer ingevuld door de Uitvoeringswet AVG (UAVG). Over kennis inzake de Italiaanse pendant van de UAVG beschik ik niet. De vragen van de Italiaanse toezichthouder met betrekking tot ChatGPT waren evenwel alle rechtstreeks te herleiden tot bepalingen uit de AVG zelf. Ik zie dan ook op voorhand geen verschillen ten aanzien van de regels die Italië en Nederland op ChatGPT worden toegepast.

Vraag 14

Op welke manier bent u bereid in Nederland het gebruik van ChatGPT zodanig aan banden te leggen dat de kans op overtreding van AVG minimaal is?

Dit is niet aan mij. De taken en bevoegdheden om op te treden tegen overtredingen van de AVG zijn toegekend aan de toezichthoudende autoriteiten; voor Nederland is dat de AP. Zij kan daartoe handhaven, advies verstrekken, samenwerken met andere toezichthoudende autoriteiten en klachten behandelen over een inbreuk op de bescherming van persoonsgegevens. Op welke wijze de nationale toezichthoudende autoriteiten de taken prioriteren in de uitvoering is aan henzelf. Zij hebben eigen beoordelings- en beleidsvrijheid.

Vraag 15

Welke andere gevaren ziet u, naast het ongeoorloofd verzamelen en verwerken van persoonsgegevens, van het gebruik van ChatGPT of vergelijkbare AI-systemen?

Het afgelopen half jaar zijn de capaciteiten van en de aandacht voor generatieve AI sterk toegenomen. Dit was sneller dan verwacht. We hebben het afgelopen half jaar al gezien dat deze AI-systemen zowel kansen bieden als risico’s hebben. In de beantwoording van eerdere vragen van uw Kamer is het kabinet al ingegaan op een aantal van deze risico’s.9 Deze effecten kunnen voortkomen uit de werking van de tool, waar het ondanks ingebouwde waarborgen mogelijk is om bevooroordeelde of discriminerende antwoorden te krijgen. Ook kunnen deze systemen gebruikt worden voor schadelijke doeleinden zoals phishing en desinformatie. Verder heeft de introductie van deze AI-systemen impact op onder meer het onderwijs en de arbeidsmarkt.
De snelheid waarmee generatieve AI zich afgelopen half jaar heeft ontwikkeld brengt onzekerheden met zich mee. Er zijn nog veel vraagtekens over de precieze impact en de gevaren. Het is van belang dat we daar meer kennis over opdoen. Het kabinet werkt daarom momenteel aan een kabinetsvisie op nieuwe AI-systemen zoals generatieve AI. In deze visie zal het kabinet nader ingaan op de risico’s van deze AI-systemen.

Vraag 16

Zijn er soortgelijke bedrijven en/of vergelijkbare AI-systemen die op eenzelfde of andere manier de wet lijken te overtreden? Bent u bijvoorbeeld bekend met de AI van Snapchat die probeert kinderen tot een fysieke afspraak te bewegen?3 Voorziet u dat dit mis kan gaan?

Het is aan de AP om toezicht te houden op de verwerking van persoonsgegevens door bedrijven en signalen op te pikken wanneer de regels worden overtreden. Het kabinet houdt vanzelfsprekend de ontwikkelingen in de gaten en is bekend met het AI-systeem van Snapchat. In de beantwoording van schriftelijke vragen van het Kamerlid Kathmann en van de Kamerleden Stoffer en Drost gaat het kabinet daar nader op in.11 Het is van belang dat de AI-verordening waarin in Europa aan gewerkt wordt niet te lang op zich laat wachten. In de AI-verordening zijn AI-systemen onderverdeeld in verschillende categorieën. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere of minder zware regels. Aanbieders van AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), moeten ervoor zorgen dat die systemen zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 17

Is de Autoriteit Persoonsgegevens bereid hier sectorbreed op te handhaven, ook op toekomstige (geavanceerdere) AI-systemen? Zo ja, wanneer kunnen zij hiermee starten? Zo nee, waarom willen zij dat niet?

De AP is toezichthouder op de naleving van de bescherming van persoonsgegevens; dus ook als deze gegevens worden verwerkt in algoritmes en AI-systemen in verschillende sectoren. De AP houdt de ontwikkelingen van generatieve AI-systemen, zoals large language models, scherp in de gaten. Bovendien ziet de AP dat generatieve AI onderdeel uitmaakt van het wetgevingsproces rond de AI-verordening. Daarnaast is binnen de AP begin 2023 een nieuw organisatieonderdeel opgericht: de directie Coördinatie Algoritmes (DCA). In 2023 pakt de DCA als activiteiten op:
Deze coördinerende rol is een nieuwe taak voor de AP die de komende jaren nader vorm zal krijgen. Een van de uitgangspunten in de uitvoering van haar activiteiten is dat het bestaande toezicht op algoritmes en AI intact blijft. Dit toezicht, en daarmee de handhavingsbevoegdheid, ligt bij verschillende colleges, markttoezichthouders en rijksinspecties. De AP vindt het van belang om meer te grip krijgen op een verantwoorde ontwikkeling en inzet van algoritmes. Een door de DCA gecoördineerde aanpak draagt bij aan de harmonisatie en effectiviteit van het gedeelde toezicht op algoritmes en AI. Op 24 maart hebben de leden van het Samenwerkingsplatform Digitale Toezichthouders (SDT) besloten om twee zogeheten Kamers op te richten voor het afstemmen van toezicht op online platforms en op algoritmes en AI.12 De algoritmes en AI Kamer zal bijdragen aan de activiteiten van de DCA.

Vraag 18

Op welke manier is de Autoriteit Persoonsgegevens voorbereid op de exponentiële groei van de capaciteit en dus ook de risico’s van het gebruik van ChatGPT of vergelijkbare AI-systemen? Beschikt ze naar uw mening over voldoende kennis en capaciteit? Zo nee, hoe gaat u dat oplossen?

De AP heeft voldoende expertise om toezicht te houden op de bescherming van persoonsgegevens, ook indien die verwerkt worden door AI-systemen zoals ChatGPT. Daarnaast zet de DCA van de AP zich in om de samenwerking tussen toezichthouders te versterken, domein overstijgende signalen op te vangen en kennis te delen over het toezicht op algoritmes. De wijze waarop de AP de middelen die hen ter beschikking worden gesteld verdeelt over deze afzonderlijke taken is uitsluitend aan de AP, als onafhankelijke toezichthouder. Daarnaast investeert het kabinet in de AP om haar taken uit te voeren, oplopend tot structureel 8 miljoen euro per jaar vanaf 2025. Hierdoor kan de AP verdere stappen zetten, onder andere op het gebied van AI-systemen.
In de Kamerbrief over toezicht in het digitale domein van 24 mei 2023 is nader ingegaan op het toezicht op algoritmes en AI.13 Daarin wordt ook ingegaan op de vraag of de AP over voldoende kennis beschikt.

Vraag 1

Bent u bekend met het bericht «Kinderen opgelicht met virtuele muntjes voor gameplatform Roblox»?1

Ja, daar ben ik mee bekend.

Vraag 2

Zijn er cijfers bekend (bij de politie) over oplichting van kinderen in online games, bijvoorbeeld over het aantal aangiftes of de financiële schade? Zo niet, bent u bereid om hier onderzoek naar te doen?

De politie hanteert bij deze aangiften geen specifieke registratiecategorie voor het type online game. Daarnaast worden ook de leeftijd en exacte financiële schade niet standaard genoteerd. Het is aannemelijk dat oplichting zich niet specifiek toespitst tot een enkele online game of tot gebruikers in een land. Ik heb daar echter geen gegevens over. Door het Centraal Bureau voor de Statistiek is onderzoek gedaan naar online veiligheid en criminaliteit op basis van slachtofferenquêtes. Uit dit onderzoek bleek dat in 2022 15 procent van de Nederlanders van 15 jaar of ouder aangaf in de afgelopen 12 maanden slachtoffer te zijn geweest van een of meer vormen van online criminaliteit, zoals oplichting en fraude, hacken, bedreiging en intimidatie.

Vraag 3

Zijn er naast Roblox bij u andere voorbeelden bekend van manieren waarop kinderen worden opgelicht in online games? Zo ja, om welke games gaat het en om welk soort fraude?

Zie antwoord vraag 2.

Vraag 4

In hoeverre hebben deze vormen van online fraude gericht op kinderen een internationaal karakter?

Zie antwoord vraag 2.

Vraag 5

Zijn kinderen kwetsbaarder voor oplichting via phishing-links dan volwassenen?

Het is bekend dat criminelen zich met verschillende technieken (social engineering) richten op kwetsbare groepen. Dat zijn zeer kwalijke praktijken, waarbij mensen zoals u en ik, maar ook kinderen, worden verleid om op links te klikken, bestanden te downloaden of informatie prijs te geven. Minderjarigen zijn veelal nieuwsgierig en zijn zich vanwege hun ontwikkeling en ervaringsniveau minder bewust van de risico’s. Uit cijfers van het Centraal Bureau van de Statistiek blijkt dat jongeren vaker op internet actief zijn. Dit vergroot de kans dat ze online worden opgelicht. Van de groep 15- tot 45-jarigen werd 9% slachtoffer van oplichting tegen 5% van de groep 65-plussers. Het patroon dat jongere Nederlanders vaker slachtoffer worden dan ouderen is met name te zien bij aankoopfraude en identiteitsfraude. Bij phishing zijn jongeren (15 tot 45 jaar) echter minder vaak slachtoffer van phishing dan andere leeftijdsgroepen, zoals 65-plussers (1%).2 Het blijft belangrijk om in te zetten op het vroegtijdig ontwikkelen van online basisvaardigheden, bijvoorbeeld via het basisonderwijs.
Het initiatief van het Ministerie van Justitie en Veiligheid met het programma «Mijn Cyberrijbewijs» is daar een goed voorbeeld van.3 Via vijf lessen krijgen kinderen uit groep 7 en 8 van het primair onderwijs informatie en handelingsperspectief over waarom gedrag online sneller ontspoort dan in het fysieke domein.4 Mijn Cyberrijbewijs is gratis beschikbaar.

Vraag 6

Deelt u de mening dat dit soort fraude in de hand wordt gewerkt doordat veel games gebruik maken van het «pay-to-win-principe» en digitale valuta zoals Robux?

Ik kan mij voorstellen dat het inspelen op menselijke eigenschappen, zoals nieuwsgierigheid, door middel van voorgespiegelde winkansen een onderdeel vormt van oplichtingstechnieken. Over een eventuele relatie tussen in-game of in-app aankopen en fraude heb ik geen gegevens.

Vraag 7

Deelt u de mening dat er bij spelletjesaanbieders een belangrijke verantwoordelijkheid ligt om in het ontwerp van games verleidingstechnieken tegen te gaan en het risico op oplichting van kinderen te minimaliseren? Bent u bereid te onderzoeken of hiervoor extra wettelijke waarborgen nodig zijn?

Ja, die mening deel ik. In 2020 heb ik de Code kinderrechten online laten ontwerpen met ontwerpprincipes voor ontwikkelaars van digitale diensten en producten. De Code bestaat uit een tiental beginselen die op zich niet juridisch afdwingbaar zijn, maar de onderliggende wet- en regelgeving is dat wel (o.a. het internationale verdrag inzake de rechten van het kind, de Mediawet, en het burgerlijk wetboek). De Code ziet er op dat kinderrechten tijdens het ontwerpproces worden geborgd. Dat ziet op meer kwesties dan alleen verleidingstechnieken. Ik wil het gebruik van de Code door de ontwikkelaars intensiveren. Ik laat daarom de Code doorontwikkelen tot een meer praktisch instrument voor ontwikkelaars waarmee zij in iedere stap van het ontwerpproces op een toegankelijke wijze kunnen controleren of zij kinderrechten in het ontwerp borgen. Ook laat ik op dit moment onderzoeken of de Code wettelijk kan worden verankerd.
Tegelijkertijd werk ik aan een kinderrechten impact assessment (KIA) dat de risico’s op schending van kinderrechten in een ontwerp voor een digitale dienst of product, in kaart brengt. Is dat risico aanwezig, dan zal de ontwikkelaar het ontwerp moeten aanpassen. Ook ten aanzien van dit instrument laat ik de mogelijkheid van een wettelijke verankering onderzoeken. Ten slotte ontwikkel ik een keurmerk kinderrechten dat aangeeft of de digitale dienst of het product kinderrechten respecteert. In de brief die ik op 14 juli jl. aan uw Kamer heb gestuurd, zet ik mijn beleid met betrekking tot kinderrechten en digitalisering uiteen. De hiervoor genoemde instrumenten, de KIA, de Code kinderrechten online en het keurmerk, zien op het ontwerpproces van ontwikkelaars voor digitale diensten en producten.

Vraag 8

Wat is de status van uw inzet om in Europees verband te pleiten voor het verbieden van loot boxes en andere soortgelijke verleidingstechnieken?

De Europese Commissie is gestart met een consultatie over consumentenbescherming in de online omgeving. De Commissie gaat onderzoeken of aanvullende maatregelen nodig zijn om consumenten online beter te beschermen. In dat kader gaat de Minister van Economische Zaken en Klimaat (EZK) aan de Commissie voorstellen de Europese regelgeving zodanig aan te passen dat loot boxes onder alle omstandigheden kwalificeren als een oneerlijke handelspraktijk. Daarnaast gaat de Minister van EZK aan de Commissie vragen om praktijken zoals pay-to-win mechanismen en het gebruik van virtuele munten op Europees niveau strakker te reguleren. De resultaten van de Commissie worden in het tweede kwartaal van 2024 verwacht. Vanaf 2025 kunnen wetgevende voorstellen van de Commissie volgen.

Vraag 9

Bent u bereid om in Europees verband ook te pleiten voor een harde aanpak van de hieruit voortkomende fraude en oplichting van kinderen?

Als voorbeeld van een gewenste hardere aanpak heb ik in het voorgaande antwoord toegelicht dat in Europees verband wordt samengewerkt om consumenten en kinderen online beter te beschermen, bijvoorbeeld met de oproep tot nadere regulering en het verbieden van loot boxes. Oneerlijke handelspraktijken en daaruit voortvloeiende fraude en oplichting zijn strafbare gedragingen. Slachtoffers kunnen daarvan nu al aangifte doen.

Vraag 10

Bent u bereid om samen met de politie te bekijken hoe dit soort fraude zo hard mogelijk aangepakt kan worden? Is de politie hiervoor voldoende toegerust en wordt hiervoor internationaal samengewerkt?

De inzet van het strafrecht is alleen mogelijk indien sprake is van strafbare feiten. In de antwoorden op vraag 7 en 8 ben ik al ingegaan op het belang om kinderrechten en consumentenrechten te versterken. De overheid werkt samen met private partners aan het tegengaan van online criminaliteit door in te zetten op preventie en het vergroten van bewustwording om tijdig risico’s te herkennen en preventief maatregelen te nemen om de kans op slachtofferschap te verkleinen. Daarbij is er aandacht voor de kwetsbaarheid van jongeren die kan leiden tot slachtofferschap of daderschap bij online criminaliteit. Voor de politie zijn in de Veiligheidsagenda 2023–2026 landelijke beleidsdoelstellingen geformuleerd. Internationale samenwerking is onderdeel van de afspraken in deze Veiligheidsagenda. De Minister van Justitie en Veiligheid heeft uw Kamer hierover geïnformeerd. 5

Vraag 11

Herinnert u zich dat u in antwoord op vragen van het lid Bontenbal2 de ambitie heeft uitgesproken om ouders en kinderen goed te informeren over de kansen en risico’s van digitale technieken door middel van publieksvoorlichting? Kunt u hiervan een update geven?

Ja, dat herinner ik mij. Ik werk op dit moment aan een plan van aanpak. Ik heb een meerjarige publiekscommunicatie voor ogen waarin verschillende thema’s aan bod komen en die dit najaar start.
Daarnaast laat ik, specifiek met het oog op verleidingstechnieken, een gamewijzer ontwikkelen. Dit is een onafhankelijk codeersysteem waarmee games kunnen worden beoordeeld op de aanwezigheid van gedragsbeïnvloeding. Ouders en gamers kunnen aan de hand van deze codering zelf beter beslissen of ze de game willen spelen. Daarnaast maakt het codeersysteem zichtbaar wat er gebeurt in games, waardoor het gesprek met ontwikkelaars van digitale diensten en producten over begrenzing en ethiek beter kan worden gevoerd. Ik wil u voor dit punt ook verwijzen naar de brief die ik u op 14 juli jl. heb gestuurd.

Vraag 1

In het coalitieakkoord «Omzien naar elkaar, vooruitkijken naar de toekomst»1 staat dat de regering beoogt om stemmen voor het Europees Parlement op Curaçao, Aruba en Sint Maarten net zo toegankelijk te maken als in Europees Nederland; kunt u een update geven van de voortgang van deze doelstelling en in de toelichting meenemen of, hoe en met welke prioriteit aan deze doelstelling voor de Europese Parlementsverkiezingen van 2024 wordt gewerkt? Waar liggen de knelpunten om de doelstelling voorafgaand aan de Europese Parlementsverkiezingen van 2024 te realiseren en hoe zorgt het kabinet dat deze knelpunten kunnen worden opgelost?

Het kabinet werkt aan het voornemen uit het coalitieakkoord om de verkiezingen voor het Europees Parlement net zo toegankelijk te maken voor kiesgerechtigde inwoners van Curaçao, Aruba en Sint Maarten als voor kiesgerechtigden in Europees Nederland. Aan uw Kamer is eerder gemeld dat dit nader zal worden uitgewerkt in een hoofdlijnennotitie die aan de Kamer zal worden gezonden2. In de hoofdlijnennotitie wordt een aantal sporen uitgewerkt waarlangs de toegankelijkheid van de EP-verkiezingen in de landen kan worden vergroot en kiesgerechtigden zoveel mogelijk kunnen worden gefaciliteerd in het uitbrengen van hun stem. De sporen gaan bijvoorbeeld in op hoe meer aandacht kan worden gegenereerd voor de EP-verkiezingen en de eenmalige registratie in de permanente registratie kiezers buiten Nederland. Ook zal in overleg met de landen en Vertegenwoordigingen van NL worden onderzocht hoe kiezers verder gefaciliteerd kunnen worden in het uitbrengen van hun stem.
Overwogen zou kunnen worden of het juridisch en praktisch mogelijk is om bijvoorbeeld meer locaties in te stellen voor het ophalen, invullen en inleveren van stembescheiden of dat er andere manieren zijn om het uitbrengen van de stem nog toegankelijker te maken. Tot slot zal ook worden onderzocht of de EP-verkiezingen toegankelijker kunnen worden gemaakt door de registratieplicht voor kiesgerechtigden in de Caribische landen af te schaffen en welke consequenties dit zou hebben. Alle onderzochte opties hebben hun eigen voor- en nadelen. Een aantal opties vergt ook veel op het gebied van wet- en regelgeving. Voor alle opties is overleg en samenwerking met de Caribische landen nodig.
In de hoofdlijnennotitie zal het standpunt van de Caribische landen worden betrokken. Hiertoe zijn op 1 mei 2023 brieven verzonden aan de ministers-presidenten van de Caribische landen, om hen te consulteren over aandachtspunten naar aanleiding van dit voornemen uit het coalitieakkoord: informatiecampagnes, het verder faciliteren van het uitbrengen van de stem en de registratieplicht. Op basis van het standpunt van de landen worden verdere gesprekken vormgegeven. Hierover zal ik u informeren. In de hoofdlijnennotitie zal ik tevens ingaan op het beoogde tijdpad en de mogelijkheden voor de Europees Parlementsverkiezingen in 2024.

Vraag 2

Deelt u de mening dat de burgers woonachtig op alle zes Caribische eilanden van het Koninkrijk der Nederlanden tevens Unieburgers zijn? Zo ja, hoe geeft het kabinet hier actief invulling aan in haar beleid?

Evenals burgers van Europees Nederland beschikken burgers op de zes Caribische eilanden van het Koninkrijk over de Nederlandse nationaliteit. Hiermee bezitten zij volgens artikel 20 van het Verdrag betreffende de werking van de Europese Unie van rechtswege ook het Unieburgerschap. Aan het Unieburgerschap is een aantal rechten verbonden, waaronder het vrije verkeer van personen en het actief en passief kiesrecht bij de verkiezingen voor Europese Parlement. De toegankelijkheid in de Caribische landen van verkiezingen voor het Europese Parlement heeft, zoals hierboven uiteengezet, de aandacht van het kabinet.

Vraag 3

Deelt u de mening dat voor het kabinet een belangrijke taak is weggelegd om ook de burgers in het Caribisch deel van het Koninkrijk te betrekken bij de Europese Unie (EU), door hen te informeren, actief te luisteren naar wat zij van de Europese Unie verwachten en draagvlak te creëren? Hoe werkt u aan het dichterbij brengen van het EU-burgerschap bij de burgers woonachtig in dit gedeelte van het Koninkrijk om uiteindelijk de werking van de democratie binnen het hele Koninkrijk te bevorderen?

Het kabinet ziet het als een van haar kerntaken Nederlanders zo goed mogelijk te informeren en te betrekken bij de vormgeving en uitvoering van EU-beleid en de Nederlandse inzet voor dat beleid. Dit geldt ook voor de inwoners van Caribisch Nederland. Belangrijk uitgangspunten bij de uitvoering van deze taak zijn inclusiviteit en diversiteit. Het kabinet communiceert, informeert en haalt informatie op via kanalen van het Ministerie van Buitenlandse Zaken en andere departementen en bijvoorbeeld via het maatschappelijk middenveld. Door te kiezen voor digitale middelen en een online aanpak garandeert het kabinet een open karakter van de informatievoorziening, zodat alle Nederlanders kunnen deelnemen, ook inwoners uit Caribisch Nederland.
Ten aanzien van de Caribische Landen constateer ik dat het aan de overheden van autonome landen is om de relatie tussen hun burgers en de Europese Unie vorm te geven. Het Ministerie van BZK ondersteunt en stimuleert de Landen wel om bijvoorbeeld aanspraak te kunnen maken op verschillende Europese fondsen voor meerdere doeleinden.

Vraag 4

Kunt u nader toelichten op welke wijze u conform de brief2 invulling zal geven aan de burgerdialogen, communicatiecampagne en de grote bijeenkomsten op 9 mei 2023 en 9 mei 2024 (de Dag van Europa) in het Caribisch deel van het Koninkrijk? Indien dit deel van het Koninkrijk niet wordt betrokken bij de activiteiten, kunt u nader toelichten waarom niet?

Het kabinet vindt het van groot belang dat alle burgers van Nederland deel kunnen nemen aan de burgerdialogen, communicatiecampagne en grotere bijeenkomst en hun mening kunnen geven. Zoals in de voornoemde brief aangegeven zijn inclusiviteit en diversiteit belangrijke uitgangspunten bij de uitvoering van motie Koole II. Doordat de dialogen en evenementen mede digitaal en online van aard zijn, kan iedereen binnen het Koninkrijk hieraan deelnemen, ook inwoners van de Caribische delen van het Koninkrijk. Verder zullen maatschappelijke organisaties worden geïnformeerd en aangemoedigd om te participeren en staat het belangengroepen die opkomen voor inwoners van het Caribische deel van het Koninkrijk, vrij om deel te nemen. Zoals ook in de brief uiteengezet, wordt tevens een extra inspanning gepleegd om jongeren en minder bereikbare doelgroepen te betrekken.

Vraag 1

Heeft u kennisgenomen van het bericht «OM «gesprek aangegaan» met Silvania» d.d. 18 april 20231 en het persbericht d.d. 3 april 2023 waarin het Curaçaose Ministerie van Financiën aangeeft dat het voornemens is om het invorderingsbeleid van de Belastingdienst aan te passen?2

Ja.

Vraag 2

Deelt u de mening dat het onbestaanbaar is dat enerzijds de nog te innen belasting in het eigen land wordt kwijtgescholden terwijl er aan de andere kant een beroep op Nederland wordt gedaan om met Nederlands belastinggeld hervormingsprojecten in Curaçao te financieren? Zo nee, kunt u toelichten waarom niet?

Het bericht waar naar verwezen wordt behoeft enige nuancering. De wijziging in het invorderingsbeleid betreft geen kwijtschelding van belastingschulden. Het Curaçaose fiscale invorderingsrecht biedt voor kwijtschelding overigens ook geen wettelijke basis. Wel kunnen belastingaanslagen verjaren door de invordering minimaal vijf jaar te staken. De bevoegdheid hiervoor ligt bij de Ontvanger der Belastingen, niet bij de Minister van Financiën of de belastinginspecteur.
Op Curaçao is de actieve invordering van een aantal belastingaanslagen door de Curaçaose Ontvanger gestaakt.
Het betreft oudere aanslagen van voor 2018, aanslagen die in het verleden ambtshalve zijn opgelegd aan belastingplichtigen die zijn ontbonden en vereffend of die niet meer op Curaçao woonachtig zijn, dan wel aanslagen die zijn verjaard. Aanslagen naar aanleiding van een strafrechtelijk onderzoek, schulden van ANG 1 miljoen of hoger die door de belastingplichtige wel kunnen worden betaald en aanslagen waarvan de verschuldigde bedragen reeds op een derdenrekening zijn gestort, worden nog steeds actief ingevorderd. Curaçao verwijst in dit verband naar onderzoeken van de OESO waarbij de kans dat oudere aanslagen succesvol worden ingevorderd afneemt naarmate de tijd verstrijkt. Curaçao geeft aan te verwachten dat de wijziging van het invorderingsbeleid een positief effect zal hebben op de belastingcompliance, omdat in geval van betalingsverzuim sneller actie kan worden ondernomen door de belastingdienst. Uiteraard zou het eveneens invorderen van oude belastingschulden bijdragen aan het op orde krijgen van de overheidsfinanciën.
De zogenoemde belastingcompliance is een onderdeel van het Landspakket met hervormingen onder thema C Belastingen. In de laatste Uitvoeringsrapportage over de voortgang van de hervormingen3 heb ik uw Kamer geïnformeerd over de samenwerking tussen de Tijdelijke Werkorganisatie en Curaçao en dat de voortgang van een ander deel van de hervormingen op Thema C een punt van zorg is. Ik ga hierover in gesprek met Curaçao in de aanloop op de volgende uitvoeringsagenda die eind juni zal worden vastgesteld.

Vraag 3

Deelt u de mening dat het alsnog invorderen van belastingschulden van 2017 en ouder kan bijdragen aan het op orde brengen van de Curaçaose begroting? Zo ja, zal u hierover met de regering van Curaçao in gesprek treden?

Zie antwoord vraag 2.

Vraag 4

Kunt u aangeven wat de wettelijke basis is voor het niet meer actief invorderen van belastingschulden op Curaçao vanaf het jaar 2017 en eerder en wat de status is van dit besluit/voornemen?

Zie antwoord vraag 2.

Vraag 5

Wat is er sinds het soortgelijke besluit genomen in 2015 in de tussentijd gedaan door de regering van Curaçao om de benodigde hervormingen door te voeren en wat heeft u de afgelopen jaren gedaan om hierop aan te dringen?

Inderdaad zijn ook in 2015 de debiteuren- en invorderingsbestanden van de Curaçaose Ontvanger op een vergelijkbare wijze opgeschoond. Vóór de periode van het Landspakket was Nederland niet betrokken bij de belastingcompliance. Binnen het Landspakket onder Thema C wordt sinds 2020 gewerkt aan verhoging van de belastingcompliance en aan het optimaliseren en moderniseren van de belastingdienst om de efficiëntie van de inning te verhogen Daarmee kan de aanleiding tot opschoning worden weggenomen. Op dit vlak heeft Curaçao inmiddels voortgang geboekt, waardoor de belastingbaten in 2022 hoger waren dan begroot.

Vraag 6

Hoe wordt ervoor gezorgd dat in de toekomst de benodigde beleidsmatige en organisatorische aanpassingen nu wel worden doorgevoerd? En wat is daar voor nodig?

In het landspakket onder Thema C wordt, zoals in mijn antwoorden op vragen 4 en 5 aangegeven, door de TWO samen met Curaçao gewerkt aan deze hervormingen met betrekking tot het belastingstelsel, de belastingcompliance, de belastingdienst en de Douane. Waar nodig en waar door Curaçao verzocht, wordt daarbij ondersteuning geboden. De fiscale aangelegenheden zijn een autonome aangelegenheid van de landen van het Koninkrijk.

Vraag 7

Deelt u de mening dat het wenselijk zou zijn om deze benodigde beleidsmatige en organisatorische aanpassingen randvoorwaardelijk te maken aan verdere financiële bijstand van de hervormingen? Zo nee, waarom niet?

Ik ben van mening dat de activiteiten binnen het Landspakket in samenhang moeten worden bezien en dat de voortgang zou moeten worden verbeterd op de onderdelen van het Landspakket die thans geen positieve beoordeling hebben. Dit geldt voor een aantal onderdelen van thema C Belastingen. Zie ook mijn antwoord op vraag 2, 3 en 4.

Vraag 8

Hoe verhoudt de voorgenomen aanpassing van het invorderingsbeleid op Curaçao zich tot de meest recente brief van het College financieel toezicht Curaçao en Sint Maarten waarin wordt gesteld dat de begroting van Curaçao nog onvoldoende voldoet aan normen genoemd in artikel 15 van de Rijkswet financieel toezicht Curaçao en Sint Maarten (Rft)?3

De brief van het College financieel toezicht Curaçao en Sint Maarten (Cft) heeft betrekking op de begroting 2023 en de komende jaren. Het Cft beveelt onder meer aan de belastingbaten hoger te ramen dan nu in de begroting is opgenomen. De wijziging van het invorderingsbeleid heeft echter na vaststelling van de begroting plaatsgevonden en is derhalve niet meegenomen in het Cft-advies bij de vastgestelde begroting 2023.

Vraag 1

Is de Staatssecretaris bekend met het artikel «Nieuwe functie Snapchat wil met kinderen afspreken: «Zie ik je vanavond? Ik ben een echt persoon!»»?1

Ja, daarmee ben ik bekend.

Vraag 2

Hoe beoordeelt de Staatssecretaris de constatering in het artikel dat wanneer kinderen aangeven te kampen met problemen de chatbot van Snapchat zich voordoet als een echt persoon, en zelfs voorstelt om af te spreken?

Ik vind het onwenselijk als een chatbot zich voordoet als echt persoon en kinderen voorstelt om af te spreken. Snap Inc., het bedrijf achter Snapchat, heeft inmiddels in een gesprek met de Staatssecretaris van VWS en mij aangegeven dat de functionaliteit is aangepast waardoor de chatbot zich niet langer voordoet als een echt persoon en expliciet wordt vermeld dat het gaat om een chatbot. Toch vind ik het kwalijk dat er bij de introductie van deze nieuwe functie in Snapchat onvoldoende rekening is gehouden met de impact die dit kan hebben op kinderen. Ik wil bedrijven zoals Snap Inc. dan ook oproepen de Code Kinderrechten Online toe te passen, waarvan het eerste beginsel luidt: «zet het belang van het kind voorop bij het ontwerp». Ook met het oog op de aankomende AI-verordening vind ik het belangrijk dat ontwerpers die gebruik maken van een chatbot duidelijk en transparant zijn richting de eindgebruiker dat er sprake is van een AI-systeem. In het geval van kinderen vergt dat extra waarborgen.

Vraag 3

Deelt de Staatssecretaris de zorgen dat kinderen die online op zoek gaan naar hulp ten prooi vallen aan deze chatbot?

Zoals hierboven gesteld heeft Snapchat aangegeven dat de chatbot zich niet langer voordoet als een echt persoon. Wanneer de aankomende AI-verordening van toepassing is, zal het bij chatbots verplicht zijn om natuurlijke personen te informeren dat zij interacteren met een AI-systeem, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 4

Deelt de Staatssecretaris de opvatting dat het zorgelijk is wanneer kinderen niet het onderscheid kunnen maken tussen een chatgesprek met een echt persoon en een chatgesprek met een chatbot?

Jazeker, daarom is bovengenoemde AI-verordening van groot belang. Deze verordening verplicht dat natuurlijke personen worden geïnformeerd over het feit dat zij met een AI-systeem (zoals een chatbot) te maken hebben. Deze wetgeving moet de benodigde transparantie bieden over de vraag of je met een echt mens communiceert of met AI.

Vraag 5

Welke risico’s ziet de Staatssecretaris in het feit dat kinderen die hulp zoeken omdat ze zich bijvoorbeeld eenzaam voelen, niet weten dat ze te maken hebben met een chatbot en niet met een echt persoon?

Dat kinderen met chatbots kunnen chatten hoeft in beginsel niet problematisch te zijn. Wel dient hierbij voor deze kinderen duidelijk te zijn dat zij chatten met een chatbot en geen echt persoon. In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders van AI-systemen ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.
Een ander belangrijk risico is dat kinderen (gevoelige) persoonsgegevens verstrekken aan een chatbot en deze gegevens vervolgens worden opgeslagen, verwerkt en worden gebruikt om kinderen te profileren. Omdat kinderen vaak nog niet in staat zijn om een goede inschatting te maken van welke informatie ze beter wel of niet kunnen delen, hebben technologiebedrijven een belangrijke verantwoordelijkheid om daar geen misbruik van te maken en zich te houden aan de toepasselijke wet- en regelgeving, zoals de AVG de Digital Services Act (DSA), die binnenkort van toepassing wordt.
Ook hebben de platforms een eigen verantwoordelijkheid tegenover hun gebruikers om bij het vormgeven van hun diensten het belang van kinderen een belangrijke rol te laten spelen. Ik verwacht van deze bedrijven dat zij ook rekenschap geven van het feit dat bepaalde functionaliteiten risico’s voor kinderen met zich meebrengen. Ik spreek geregeld met verschillende grote technologiebedrijven over het beschermen van kinderen online. Tijdens deze gesprekken wijs ik deze grote techbedrijven op hun verantwoordelijkheid om kinderen en jongeren online te beschermen.

Vraag 6

In hoeverre verwacht de Staatssecretaris dat het mogelijk is dat een dergelijke chatbot kinderen met problemen voorziet van onjuiste of gevaarlijke adviezen?

Een chatbot kan onjuiste of gevaarlijke adviezen geven. Ik vind het natuurlijk volledig onacceptabel als chatbots kinderen van gevaarlijke of onjuiste adviezen zouden voorzien.
In de DSA zijn bepalingen opgenomen om gebruikers van online platforms beter te beschermen. De verplichtingen uit de DSA gaan vanaf 17 februari 2024 voor alle tussenhandeldiensten gelden. Voor de zeer grote online platforms- en zoekmachines, waaronder sociale netwerken als TikTok, Snapchat, Instagram en Facebook, wordt de DSA al dit jaar van toepassing, namelijk op 25 augustus 2023. Zij zijn vanaf dan verplicht om jaarlijks de zogenaamde systeemrisico’s die voortvloeien uit het ontwerp of uit de werking van hun diensten in kaart te brengen en maatregelen te nemen om deze risico’s te verminderen. Tot deze systeemrisico’s behoren nadrukkelijk ook eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van grondrechten, waaronder de rechten van kinderen, en negatieve effecten met betrekking tot minderjarigen. Dit betekent dat de zeer grote online platforms, waaronder ook Snapchat, op grond van de DSA maatregelen moeten nemen om de kinderen te beschermen tegen chatbots wanneer deze (potentieel) een negatief effect hebben op de rechten of het welzijn van kinderen.

Vraag 7

In hoeverre deelt de Staatssecretaris de opvatting van het kenniscentrum Bureau Jeugd & Media dat er een gedragscode moet komen voor het gebruik van chatbots?

In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 8

Deelt de Staatssecretaris de opvatting dat de urgentie van het verhogen van kennis over deze toepassingen onder kinderen zeer hoog is?

Ja, ik acht het van belang dat kinderen en hun ouders worden gewaarschuwd voor de risico’s voor kinderen in de digitale wereld. Zoals reeds aangegeven in de beantwoording van de Kamervragen die op 9 maart jl. aan uw Kamer zijn verzonden,2 zal ik een publiekscampagne starten om ouders en kinderen hierover beter te informeren. Voor de zomer zal ik een brede beleidsbrief over de bescherming van kinderen in de digitale wereld aan uw Kamer sturen. Hierin zal ik deze campagne ook verder toelichten.

Vraag 9

Welke rol ziet de Staatssecretaris hierin weggelegd voor scholen? Op welke manier gaat het kabinet zorgen dat scholen toegerust zijn om kinderen van deze kennis te voorzien?

Het is belangrijk dat schoolbesturen en leraren voldoende op de hoogte zijn van zowel de kansen als de risico’s van AI voor het onderwijs. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij dit vanuit hun visie op goed onderwijs binnen hun instellingen willen vormgeven. Zij worden hierbij ondersteund door Kennisnet en SURF, die webinars en artikelen aanbieden. Ook hebben Kennisnet, de PO-Raad en de VO-raad een monitor ontwikkeld, MYRA, die scholen inzicht geeft in hoe zij ervoor staan op het gebied van technologie en digitalisering. Bewustwording over kunstmatige intelligentie vormt daar één van de onderdelen van, waaronder het gebruik van chatbots in de klas en computational thinking.
Aanvullend faciliteert het Ministerie van OCW een verantwoorde ontwikkeling van AI in het onderwijs, door het benutten van kansen en met oog voor de risico’s. Met behulp van het Nationaal Groeifonds investeert het Ministerie van OCW in deze ontwikkelingen tot 2035. Zo is er voor de komende tien jaar € 80 miljoen toegekend aan het Nationaal Onderwijslab AI (NOLAI) in het funderend onderwijs. Leraren en scholen in het funderend onderwijs kunnen deelnemen aan co-creatie projecten waarin zij samen met wetenschappers en leermiddelenmakers werken aan een goede inzet van intelligente technologieën in het onderwijs, vanuit een pedagogisch en didactisch verantwoorde basis, met oog voor risico’s als privacy en autonomie van leerlingen en leraren.

Vraag 10

Welke andere manieren ziet de Staatssecretaris voor zich om kinderen online weerbaar te maken en te beschermen tegen dergelijke negatieve uitwassen van AI toepassingen?

Zoals toegelicht onder vraag 8 zijn wij bezig met het ontwikkelen van een voorlichtingscampagne om het bewustzijn van de risico’s in de digitale wereld bij ouders en kinderen te verhogen en hun (meer) handelingsperspectief te bieden.

Vraag 1

Bent u bekend met het bericht «Nieuwe functie Snapchat wil met kinderen afspreken: Zie ik je vanavond? Ik ben een echt persoon!»?1

Ja, hiermee ben ik bekend.

Vraag 2

Wat vindt u van deze nieuwe functie?

Ik vind het zeer onwenselijk wanneer chatbots zich voordoen als echte mensen. Ik vind het belangrijk dat zeker kwetsbare groepen zoals kinderen voor wie het nog moeilijker is om dat onderscheid te maken hiertegen worden beschermd.
In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 3

Bent u ervan op de hoogte dat de nieuwe functie van Snapchat, «My AI», een speelse variant is op ChatGPT, maar daarbij verdergaat dan ChatGPT, omdat de functie van Snapchat zich voordoet als een echt persoon/een echte vriend, die daarnaast ingaat op voorstellen voor fysiek afspreken?

Ja, daarvan ben ik op de hoogte. Snap Inc., het bedrijf achter Snapchat, heeft in een gesprek met de Staatssecretaris van VWS en mij inmiddels aangegeven dat de functionaliteit is aangepast waardoor de chatbot zich niet langer voordoet als een echt persoon en expliciet wordt vermeld dat het gaat om een chatbot. Desalniettemin vind ik het kwalijk dat er bij de introductie van deze nieuwe functie in Snapchat onvoldoende rekening is gehouden met de impact die dit kan hebben op kinderen. Ik wil bedrijven zoals Snap Inc. dan ook oproepen de Code Kinderrechten Online toe te passen, waarvan het eerste beginsel luidt: «zet het belang van het kind voorop bij het ontwerp». Ook met het oog op de aankomende AI-verordening vind ik het belangrijk dat ontwerpers die gebruik maken van een chatbot duidelijk en transparant zijn richting de eindgebruiker dat er sprake is van een AI-systeem.

Vraag 4

Bent u ervan op de hoogte dat My AI inspeelt op de behoeften en problemen van jongeren, waardoor jongeren eenzijdige input krijgen, wat gevaarlijk kan zijn voor de ontwikkeling van de jongeren?

Op basis van de beschikbare informatie is het niet te zeggen of «My AI» inspeelt op de behoeften en problemen van jongeren en daardoor eenzijdige input verschaft. Het is hoe dan ook belangrijk dat aanbieders van online diensten, wanneer er gebruik wordt gemaakt van een bot, hierover transparantie bieden. Dit wordt zoals in vraag 2 toegelicht geregeld in de AI-verordening.
Bovendien dienen aanbieders van zogenaamde zeer grote online platforms, waaronder Snapchat, TikTok, Facebook en Instagram, op grond van de Digital Services Act (DSA), die op 25 augustus 2023 op hen van toepassing wordt, jaarlijks de zogenaamde systeemrisico’s die voortvloeien uit het ontwerp of uit de werking van hun diensten in kaart te brengen en maatregelen te nemen om deze risico’s te verminderen. Tot deze systeemrisico’s behoren nadrukkelijk ook eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van grondrechten, waaronder de rechten van kinderen, en negatieve effecten met betrekking tot minderjarigen. Dit betekent dat deze partijen ook maatregelen zullen moeten nemen om kinderen te beschermen tegen chatbots wanneer deze (potentieel) een negatief effect hebben op de rechten of het welzijn van kinderen.

Vraag 5

Deelt u de mening dat Snapchat met deze nieuwe functie een grens overschrijdt, omdat het zich voordoet als echt persoon, en herkent u de zorgen van ondermeer 113 Zelfmoordpeventie en de Kindertelefoon dat er gevaarlijke situaties kunnen ontstaan voor jongeren, zeker voor jongeren die kampen met suïcidale gedachten?

Ik deel de mening dat het onwenselijk is als een chatbot zich tegenover kinderen voordoet als echt persoon. Het is belangrijk dat kinderen zich realiseren of zij tegen een echt persoon praten of tegen een bot. Het is daarom goed dat deze functie in Snapchat is aangepast, zodat My AI zich niet meer voordoet als een echt persoon. Maar zoals ik hierboven ook al schreef, had Snap Inc. al bij de introductie van deze functie duidelijk moeten maken dat het om een AI-functionaliteit gaat en niet om een echt persoon. Het is kwalijk dat dat niet is gebeurd.

Vraag 6

Wat vindt u ervan dat My AI voor verbetering van hun eigen product en voor reclamedoeleinden in beginsel alle berichten bewaart, is dit in lijn met fingerende wet- en regelgeving? Kunt u hierbij specifiek ook ingaan op het kader voor minderjarigen van 16–17 jaar en kinderen jonger dan 16?

Het geldende juridische kader voor de verwerking van persoonsgegevens wordt hoofdzakelijk vormgegeven door de Algemene Verordening Gegevensbescherming (AVG) en de bijbehorende Uitvoeringswet (UAVG). Dit kader stelt verschillende voorwaarden aan het verwerken van persoonsgegevens. Zo is het verwerken van persoonsgegevens alleen toegestaan op basis van de verwerkingsgrondslagen, of redenen, die de AVG daarvoor biedt. Een van de verwerkingsgrondslagen uit de AVG is de «toestemming» van een betrokkene voor het verwerken van de persoonsgegevens voor een specifiek doel. Zo kan een betrokkene toestemming geven voor het verwerken van persoonsgegevens, bijvoorbeeld ter verbetering van de dienst die hij afneemt, of voor reclamedoeleinden. Als de betrokkene jonger is dan 16 jaar oud, dient de toestemming te worden gegeven door zijn of haar wettelijke vertegenwoordiger.
Bij de verwerking van deze persoonsgegevens dient ook aan andere voorwaarden uit de AVG te worden voldaan, waaronder beginselen van behoorlijke gegevensverwerking, zoals het beginsel van dataminimalisatie. Dit beginsel bepaalt dat niet meer gegevens mogen worden verwerkt dan strikt noodzakelijk voor het doel waarvoor de verwerking plaatsvindt.
De vraag of My AI aan de AVG voldoet, kan ik als bewindspersoon echter niet beoordelen. Dit is ook niet aan mij. De Autoriteit Persoonsgegevens (AP) is aangewezen als onafhankelijke toezichthouder om toe te zien op de naleving van de AVG en waar nodig handhavend op te treden.

Vraag 7

Wat vindt u ervan dat Snapchat deze functie introduceert voor commerciële doeleinden en deze ook voor kinderen beschikbaar stelt?

Bedrijven mogen functies als een chatbot bij hun online dienst beschikbaar stellen. Daarbij dient evenwel altijd te worden voldaan aan toepasselijke regelgeving, waaronder de AVG. Als persoonsgegevens worden verwerkt op basis van toestemming, dient deze bij kinderen onder de 16 jaar bijvoorbeeld steeds te zijn gegeven door een wettelijke vertegenwoordiger. Bij dergelijke functies dienen de kinderrechten te allen tijde te worden geborgd en dienen de belangen van het kind in ogenschouw te worden gehouden. Commerciële belangen wegen uiteraard nooit zwaarder dan de rechten van kinderen. Het is belangrijk dat technologiebedrijven zoals Snap Inc. bij het ontwerp van apps en games de Code Kinderrechten Online toepassen, waarvan een belangrijk beginsel luidt: «voorkom te allen tijde economische exploitatie van kinderen».

Vraag 8

Bent u bereid om met Snapchat in gesprek te gaan over deze functie en de effecten hiervan op kinderen in het bijzonder, met als doel deze functie te schrappen of in elk geval aan te laten passen zodat kinderen beschermd worden? Bent u op zijn minst van mening dat daarbij duidelijk moet worden aangegeven dat het hier gaat om een fictief persoon?

Ik heb met Snap Inc., het bedrijf achter Snapchat, gesproken. Toen bleek dat Snap Inc. deze functie inmiddels heeft aangepast waardoor de chatbot zich niet langer voordoet als echt persoon en wordt vermeld dat het een chatbot betreft. Ik vind het belangrijk dat aanbieders van online diensten transparant zijn over het gebruik van bots, zeker wanneer het kinderen betreft.

Vraag 9

Hoe bent u van plan om jongeren, ouders en scholen in bredere zin bewuster te maken van deze en andere AI-ontwikkelingen?

De opkomst van AI is een gegeven en heeft impact op de maatschappij en het onderwijs. AI kan het onderwijs verbeteren door het leren motiverender en meer op maat te maken en docenten te ondersteunen. Tegelijkertijd zijn er risico’s en kan de inzet van AI bijvoorbeeld door biases leiden tot grotere verschillen tussen groepen leerlingen en studenten waardoor groepen leerlingen en studenten onterecht benadeeld kunnen worden.2 De ontwikkeling van AI zal dan ook een aanpassing vragen van docenten en leerlingen en studenten om goed met intelligente technologieën in het onderwijs om te gaan.
De ontwikkeling van AI vraagt van zowel docenten als leerlingen om op een doordachte manier met deze technologie in het onderwijs om te leren gaan. Daarbij is het belangrijk dat scholieren, leraren en de brede maatschappij in gesprek blijven over het gebruik van AI in de klas. Van docenten vraagt dit ook meer op het gebied van didactische en digitale vaardigheden. OCW draagt hieraan bij door het inrichten van een expertisepunt voor digitale geletterdheid in 2023, waar leraren, schoolleiders en bestuurders terecht kunnen voor hulp en informatie over digitale geletterdheid. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij vanuit hun visie op goed onderwijs dit binnen hun instellingen willen vormgeven.

Vraag 10

Deelt u de mening dat er hele grote stappen worden gezet in de ontwikkeling van kunstmatige intelligentie, waardoor een zorgvuldige aanpak noodzakelijk is?

Ja, daarmee ben ik het eens. Het kabinet onderneemt daarom op dat gebied acties. Het kabinet gaat in de beantwoording van de vragen van Kamerlid Leijten hierop nader in.3

Vraag 11

Vindt u ook dat technologische ontwikkelingen momenteel sneller gaan dan de kaders van wet- en regelgeving? Deelt u de mening dat dit geen wenselijke situatie is en dat idealiter vóór de introductie van nieuwe ingrijpende digitale technologieën een afweging is gemaakt over de maatschappelijke impact en of, en zo ja onder welke voorwaarden, dergelijke technologieën kunnen worden geïntroduceerd?

Er bestaan al verschillende algemene regelgevende kaders, zoals de AVG, de herziene richtlijn audiovisuele mediadiensten (AVMSD) en binnenkort de DSA en de AI-verordening. Daarbij wordt zoveel mogelijk gekozen voor technologie neutrale bepalingen zodat de wetgeving toekomstbestendig is. Wel is het zo dat technologische ontwikkelingen elkaar snel opvolgen. Hierdoor kan het voorkomen dat de kaders van wet- en regelgeving niet meer geheel passend zijn bij de nieuwste ontwikkelingen. Ik acht het echter wel van het grootste belang dat publieke waarden juist ook bij nieuwe ontwikkelingen goed worden geborgd. Daarom zet ik, zoals aangegeven in de Werkagenda Waardengedreven digitalisering, in op het opstellen van techniek neutrale voorwaarden en impact assessments voor de borging van publieke waarden bij de toepassing van nieuwe digitale technologieën. Een voorbeeld hiervan is het bestaande Impact Assessment Mensenrechten en Algoritmen (IAMA)4 en het Kinderrechten Impact Assessment (KIA) dat ik momenteel ontwikkel en in het najaar gereed zal zijn. Ook stel ik ten aanzien van nieuwe technologieën beleidsagenda’s op. In zo’n agenda staan concrete acties om kansen van een nieuwe technologie te benutten en risico’s te adresseren. In het najaar zal ik een beleidsagenda immersieve technologie lanceren.
In het geval van AI vind ik het van belang dat de AI-verordening niet te lang op zich laat wachten. Daarin wordt onder meer geregeld dat hoog risico AI-systemen pas op de Europese markt gebracht mogen worden als deze goedgekeurd zijn op het gebied van veiligheid en mensenrechten. Daarmee zorgen we ervoor dat die afweging vooraf gemaakt wordt.

Vraag 12

Hoe beoordeelt het kabinet de stappen die de Italiaanse privacy-autoriteit heeft gezet om ChatGPT te blokkeren, ondermeer vanwege de slechte bescherming van kinderen? Kan het kabinet zich voorstellen dat ook in Nederland tot een dergelijke stap wordt overgegaan?

Zoals ik hierboven reeds opmerkte bij het antwoord op vraag 6, is het aan de onafhankelijke toezichthouder (de Autoriteit Persoonsgegevens) om te beoordelen of OpenAI met ChatGPT aan de AVG voldoet, en indien er sprake blijkt te zijn van onrechtmatig handelen handhavend op te treden. Ik kan als bewindspersoon niet beoordelen of My AI aan de AVG voldoet, en of, en zo ja hoe, in dat verband handhavend dient te worden opgetreden.
De Italiaanse toezichthouder heeft overigens inmiddels het verbod opgeven nadat OpenAI heeft toegezegd enkele wijzigingen te zullen doorvoeren die de zorgen van de Italiaanse toezichthouder met betrekking tot gegevensbescherming moeten wegnemen. OpenAI heeft tot 30 april de tijd gehad om deze aanpassingen door te voeren.5 Sindsdien is er geen nieuw verbod op ChatGTP uitgevaardigd door de Italiaanse toezichthouder.
Het kabinet gaat nader in op dit onderwerp in de beantwoording van de vragen van Van Raan.6

Vraag 13

Deelt u de mening dat niet alleen op korte termijn met een visie op nieuwe AI-producten moet worden gekomen – zoals door de Kamer verzocht2 – maar ook met nadere wet- en regelgeving waarin in elk geval aandacht is voor de bescherming van kwetsbare groepen zoals kinderen en jongvolwassenen?

Net als de vragenstellers vind ik het enorm belangrijk dat kinderen en jongvolwassenen goed worden beschermd. Er bestaan daarvoor al veel regels. De AVG en de DSA kennen bijvoorbeeld specifieke regels voor de bescherming van deze groepen. In de EU wordt momenteel gewerkt aan de AI-verordening, zoals ook benoemd in vraag 2 en 11. Deze stelt eisen aan bepaalde AI-systemen, zoals een transparantieverplichting voor chatbots. In het kader van de kabinetsvisie op nieuwe AI-producten, waaronder generatieve AI, zal het kabinet bestuderen of er aanvullende wet- en regelgeving nodig is, en daarbij ook aandacht besteden aan de bescherming van kwetsbare groepen zoals kinderen en jongvolwassenen.

Vraag 1

Heeft u kennisgenomen van het bericht «Zelensky wil actie tegen Russische gokbedrijven op Curaçao»?1

Ja.

Vraag 2

Was u op de hoogte van het feit dat Oekraïne een aantal op Curaçao gevestigde gokbedrijven op de sanctielijst heeft geplaatst? Zo ja, in hoeverre is dit onderwerp van gesprek tussen u en uw Curaçaose ambtsgenoot?

Nederland is gehouden aan VN- en EU-sancties. Oekraïne neemt sancties op zelfstandige basis aan. De op gokbedrijven gerichte sancties zijn door Oekraïne niet actief gedeeld met Nederland. Nederland heeft kennisgenomen van de door Oekraïne gepubliceerde sanctielijst. Zelfstandig door derde landen aangenomen sancties zijn normaliter geen onderwerp van gesprek tussen Nederland en Curaçao, maar naar aanleiding van het bovengenoemde artikel is er wel contact geweest met Curaçao.

Vraag 3

Waaruit bestaat het in het artikel benoemde contact van het Minister van Buitenlandse Zaken met Oekraïne en andere internationale partners en wat is de inzet vanuit Nederland m.b.t. de opgelegde sancties aan gokbedrijven gevestigd op Curaçao? Kan er een nadere toelichting worden gegeven op wie de andere internationale partners zijn? Zo nee, waarom niet?

Het kabinet is voortdurend in gesprek met Oekraïne en andere gelijkgestemde landen (o.a. EU-lidstaten, G7-leden) over maatregelen om de druk op Rusland zo groot mogelijk te maken.
Specifiek over deze maatregelen vindt nader contact met Oekraïne plaats om de precieze inhoud en reikwijdte vast te stellen. Ook is er aanvullend contact met de Curaçaose autoriteiten omdat het in eerste instantie aan de bevoegde autoriteiten aldaar is om de huidige situatie verder in kaart te brengen en eventuele stappen te overwegen.

Vraag 4

Kunt u aangeven in hoeverre er toezicht plaatsvindt op gokbedrijven die via brievenbusfirma’s op Curaçao zijn gevestigd? Welke maatregelen zijn de afgelopen jaren getroffen om het toezicht op gokbedrijven op Curaçao te verbeteren? Welke maatregelen heeft u zelf getroffen en welke maatregelen zijn getroffen door het land Curaçao?

Curaçao is een autonoom land binnen het Koninkrijk en heeft eigen kansspelwet- en regelgeving. De vergunningverlening, het toezicht en de handhaving van het aanbod van alle kansspelen vallen binnen de autonomie van het land Curaçao. Dit geldt ook voor toezicht en handhaving op de trustsector in Curaçao. Nederland heeft hierin geen rol, er zijn zodoende ook geen maatregelen getroffen door Nederland.
Wel zijn de hervormingen van de kansspelsector onderdeel van het gezamenlijk afgesproken landspakket Curaçao. Dit betreft maatregelen H2 en H192. De uitvoering van de maatregelen ligt bij Curaçao. Curaçao en Nederland – via de Tijdelijke Werkorganisatie (TWO) – monitoren gezamenlijk de voortgang van de hervormingsmaatregelen. Nederland toetst aan de afspraken in het Landspakket en verleent op een aantal gebieden technische assistentie.
De overheid van Curaçao werkt onder deze maatregelen aan nieuwe kansspelwetgeving waarin onder andere een einde moet komen aan het master – sublicentiesysteem. Ook wordt er onder de nieuwe wet voorzien in een nieuwe toezichthouder op de kansspelen met meer bevoegdheden dan de huidige. Beoogd wordt dat deze toezichthouder ook toezicht gaat houden op de offshore kansspelsector in het land.

Vraag 5

Heeft u een idee hoeveel gokbedrijven een Curaçaose licentie hebben? Kunt u aangeven of er naast de gokbedrijven die door Follow the Money worden genoemd nog meer gokbedrijven gevestigd op Curaçao op de sanctielijst van Oekraïne staan? Indien dit niet het geval is, bent u bereid om dit aantal in kaart te brengen?

Er zijn vijf bedrijven met een licentie van de Curaçaose overheid (masterlicenties). De vijf masterlicentiehouders hebben hun licentie gedeeld met vele andere bedrijven (sub licentiehouders). De overheid van Curaçao heeft slechts beperkt inzicht in de aantallen sublicentiehouders en van wie deze bedrijven zijn. De namen van de vijf masterlicentiehouders komen zelf niet voor op de sanctielijst van Oekraïne. In aanloop naar de inwerkingtreding van de nieuwe Landsverordening op de Kansspelen zet Curaçao stappen om beter inzicht te krijgen in de aanbieders van offshore kansspelen die worden aangeboden onder Curaçaose (sub)licenties. Onder de nieuwe Landsverordening worden alle partijen vergunningplichtig waardoor een duidelijker beeld ontstaat.

Vraag 6

Heeft u een idee hoe hoeveel sublicenties er door masterlicentiehouders op Curaçao worden uitgegeven? Hoe is het toezicht hierop geborgd en hoe kan dit toezicht beter vorm worden gegeven?

De huidige werkwijze van de offshore kansspelsector vanuit Curaçao wordt gekenmerkt door een niet transparant systeem van master- en sublicentiehouders. De masterlicenties zijn door de overheid verstrekt, maar de sublicenties niet. Het is onduidelijk hoeveel vergunningen er precies verleend zijn, wie de vergunninghouders zijn en in welke landen deze aanbieders actief zijn. Een gebrek aan toezicht houdt een dergelijke werkwijze mede in stand.
Curaçao onderkent de onwenselijkheid van deze situatie en werkt daarom, als onderdeel van het Landspakket Curaçao, aan het opstellen van nieuwe kansspelwetgeving die onder andere voorziet in de oprichting van een nieuwe toezichthouder, de Curaçao Gaming Authority (CGA), die ook toezicht zal gaan houden op de offshore kansspelsector. Ook moet er onder de nieuwe wet een einde komen aan het master-sub-licentiesysteem en zullen alle geïnteresseerde bedrijven een (nieuwe) vergunning aan moeten vragen bij de CGA als opvolger van de Curaçao Gaming Controle Board (CGCB). Op deze manier zal de overheid van Curaçao beter toezicht kunnen houden en inzicht hebben in wie de vergunningshouders zijn.

Vraag 7

Kunt u aangeven wat precies de criteria zijn voor de sancties die door Oekraïne worden opgelegd richting bedrijven die «tegen het belang van Oekraïne» hebben gehandeld? Is de Nederlandse regering voornemens om zelf maatregelen te nemen of sancties aan bedrijven met Russische banden gevestigd op Curaçao op te leggen, conform de oproep van Oekraïne aan Europese landen om ook maatregelen te nemen? Indien dit het geval is, waar bestaan deze maatregelen uit?

Oekraïne neemt sancties op zelfstandige basis aan. Zoals aangegeven in het antwoord op vraag 3 vindt aanvullend nader contact met Oekraïne plaats om de precieze inhoud en reikwijdte van de maatregelen verder in kaart te brengen. Voorts doet Curaçao nader onderzoek naar de genoemde bedrijven. Indien dit niet leidt tot vervolgstappen waar deze wel op zijn plaats zouden zijn, kan ook ander instrumentarium worden overwogen, zoals het verkennen van EU-sancties.

Vraag 8

Spaanse autoriteiten hebben de afgelopen twee jaar voor 87 miljoen euro aan boetes opgelegd aan gokbedrijven die op Curaçao gevestigd zijn omdat deze bedrijven zich niet aan de regels hebben gehouden. Hoe staat het met de invoering van een onafhankelijke toezichthouder voor online kansspelen op Curaçao? Kunt u een overzicht geven van de contacten die Nederland en Curaçao hierover hebben gevoerd en wat is het huidige standpunt van Curaçao met betrekking tot het invoeren van een onafhankelijke toezichthouder?

Curaçao faciliteert een offshore kansspelsector. Dit houdt in dat aanbieders met een Curaçaose vergunning overal ter wereld online kansspelen aan mogen bieden, behalve in Curaçao zelf. Een aantal aanbieders vanuit Curaçao richt zich echter ook op jurisdicties waar een vergunningplicht is, zoals Nederland en Spanje. Wanneer een aanbieder vanuit Curaçao zonder lokale vergunning aanbiedt in een land met een vergunningplicht, dan is dat aanbod daar illegaal. Vergunde jurisdicties, zoals Nederland en Spanje, houden zelf toezicht en handhaven op illegaal aanbod in hun land en kunnen op grond van de eigen wetgeving bijvoorbeeld boetes opleggen.
Zoals reeds vermeld in het antwoord op vraag 6 is het toezicht op de offshore kansspelsector in Curaçao door de huidige toezichthouder ontoereikend. Er wordt door Curaçao, als onderdeel van de hervormingen in het Landspakket Curaçao, gewerkt aan een nieuwe Landsverordening op de Kansspelen. In deze nieuwe landsverordening zal ook worden voorzien in een onafhankelijke toezichthouder op de kansspelsector, de Curaçao Gaming Authority.
Nederland en Curaçao hebben geregeld contact over de hervorming van de kansspelsector zoals afgesproken in het landspakket. Gestreefd wordt om deze hervorming voor het eind van 2023 te effectueren. In de Uitvoeringsrapportages wordt verslag gedaan van de werkzaamheden die zijn verricht en de resultaten die zijn behaald in het kader van de afspraken op het gebied van de hervorming van de landbased en online goksector. Deze Uitvoeringsrapportages worden ieder kwartaal ter informatie aan de Kamer gestuurd.

Vraag 9

Heeft u een idee hoeveel belasting op Curaçao gevestigde gokbedrijven aan Curaçao afdragen en of er sprake is van constructies waardoor er minder belasting wordt afgedragen dan eigenlijk zou moeten? Zo niet, bent u bereid om hier onderzoek naar te doen of Curaçao aan te sporen hiernaar onderzoek te doen? Ziet u daarnaast mogelijkheden om de winst die door gokbedrijven op Curaçao wordt gemaakt meer ten goede te laten komen aan Curaçao?

Vanwege de autonomie van Curaçao binnen het Koninkrijk, heeft Nederland geen eigen inzicht noch kan of wil het onderzoek laten doen naar belastingafdrachten in het land. De keuze voor een belastingsysteem en de gewenste belastingopbrengsten is aan Curaçao. Het is wel algemeen bekend dat veel gokbedrijven gebruik maken van het territorialiteitsstelsel, waardoor de effectieve belastingdruk laag is. Een van de doelstellingen in het Landspakket bij de hervorming van de kansspelsector is het verhogen van de inkomsten van de overheid, onder andere via licentievergoedingen.

Vraag 10

Bent u bereid om er bij uw Curaçaose ambtsgenoot op aan te dringen om te kijken naar trustkantoren op Curaçao en hun relatie met gokbedrijven die op de sanctielijst van Oekraïne staan?

De Minister van Financiën van Curaçao heeft naar aanleiding van deze Kamervragen een brief gestuurd naar de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties. Uit dit schrijven blijkt dat de Minister de Centrale Bank van Curaçao en Sint Maarten heeft aangeschreven en heeft verzocht om verder onderzoek te doen naar de relatie tussen de gokbedrijven en de op de Oekraïense sanctielijst genoemde bedrijven.

Vraag 11

Bent u bereid het toezicht op de Curaçaose goksector te agenderen bij het eerstvolgende Justitieel Vierpartijen Overleg (JVO) en de Kamer over de uitkomsten hiervan informeren?

Het toezicht op de Curaçaose kansspelsector is een autonome aangelegenheid van het Curaçao. Het JVO gaat over de gezamenlijke inzet op rechtshandhaving binnen het Koninkrijk. Agendering bij het JVO is daarom niet gepast. De hervorming van de kansspelsector is een onderdeel van het Landspakket Curaçao. Curaçao en Nederland, via de TWO, monitoren gezamenlijk de voortgang van de hervormingsmaatregelen. De Kamer wordt over de voortgang hiervan ieder kwartaal geïnformeerd via de Uitvoeringsrapportages. Zie ook het antwoord op vraag 4.

Vraag 1

Bent u bekend met het bericht «Steekspel rond mysterieuze datadiefstal; Bedrijven delen data van klanten met hun leveranciers, maar hoe veilig is dat?»?1

Ja.

Vraag 2

Kunt u een update geven van het datalek bij Nebu en het aantal klanten en bedrijven en organisaties dat in Nederland getroffen is?

Op dit moment is het onduidelijk hoeveel klanten, bedrijven en organisaties in Nederland zijn getroffen door het datalek. Wel is bekend dat een van de klanten van Nebu, marktonderzoeker Blauw, een kort geding is gestart tegen Nebu. In dat kort geding heeft Blauw nadere informatie van Nebu gevorderd over de aanval, de gevolgen ervan en de door Nebu getroffen maatregelen. Ook heeft zij om een onafhankelijk forensisch onderzoek gevraagd. De voorzieningenrechter heeft in het vonnis van 6 april 2023 een groot deel van de vorderingen van Blauw toegewezen. Nebu moet Blauw uitgebreid informatie verschaffen over het datalek en vragen van Blauw beantwoorden. Daarnaast moet Nebu een onafhankelijk forensisch onderzoek naar het datalek laten uitvoeren.
Ten aanzien van Rijksoverheidsorganisaties is het volgende bekend. Binnen de rijksoverheid zijn voor zover bekend 16 organisaties geraakt, een aantal daarvan maken gebruik van meerdere bureaus voor marktonderzoek. De geraakte rijksorganisaties zijn het Ministerie van Economische Zaken en Klimaat, de Nederlandse Organisatie voor toegepast-natuurwetenschappelijk onderzoek (TNO), de Rijksdienst voor Ondernemend Nederland (RVO), het College ter beoordeling van Geneesmiddelen (CBG), het Centraal Informatiepunt Beroepen Gezondheidszorg (CIBG), het Rijksinstituut voor Volksgezondheid en Milieu (RIVM), het Sociaal en Cultureel Planbureau (SCP), het Ministerie van Onderwijs, Cultuur en Wetenschap, de Koninklijke Bibliotheek, de Huurcommissie (DHC), de Dienst Publieke Communicatie (DPC) en de Raad voor Rechtsbijstand (RvR).
Betrokkenen binnen de rijksoverheid zijn burgers, eigen medewerkers, en medewerkers van reisbureaus, werkgeversorganisaties, onderwijsinstellingen, bedrijven en klanten. Gelekte gegevens betreffen naam, e-mailadres, telefoonnummer, (telefonische) enquêteresultaten/inhoud onderzoek. Waar relevant is melding gedaan bij de Autoriteit Persoonsgegevens. De omvang van het datalek varieert per organisatie. Zo zijn bij één van de organisaties de gegevens van één medewerker gelekt. En bij een andere organisatie, een onderzoeksbureau, zijn gegevens van 22.000 burgers gelekt met naam, emailadres en de resultaten van een onderzoek.
Met het antwoord op deze vraag wordt tevens tegemoetgekomen aan de toezegging uit het debat Informatiebeveiliging bij de overheid met de Staatssecretaris van Koninkrijksrelaties en Digitalisering van 5 april 2023 om de Tweede Kamer te informeren over het onderzoek naar getroffenen bij de rijksoverheid van het datalek bij Nebu.

Vraag 3

Klopt het dat een bedrijf of (overheids)organisatie zelf verantwoordelijk is voor de data die een klant met het bedrijf deelt, ook als het bedrijf die data met een externe partij deelt?

Ja, dat klopt. In de Algemene Verordening Gegevensbescherming (AVG) wordt een onderscheid gemaakt tussen de rol van «verwerkingsverantwoordelijke» en de rol van «verwerker».
Het bedrijf dat of de (overheids)organisatie die het doel en de middelen van een verwerking van persoonsgegevens bepaalt, is de «verwerkingsverantwoordelijke».
De verwerkingsverantwoordelijke is verantwoordelijk voor de verwerking van persoonsgegevens in overeenstemming met de AVG. Dit omvat ook de verplichting om passende technische en organisatorische maatregelen te nemen om persoonsgegevens te beveiligen.
In de praktijk schakelen veel verwerkingsverantwoordelijken andere partijen in om voor hen persoonsgegevens te verwerken. Een dergelijke partij is de «verwerker». Ook verwerkers moeten passende technische en organisatorische maatregelen nemen om de persoonsgegevens te beveiligen, maar de verwerkingsverantwoordelijke blijft (eind)verantwoordelijk voor de naleving van de AVG.

Vraag 4

Wie is er volgens u aansprakelijk voor dit datalek? Is dat het bedrijf aan het begin van de keten die klantdata deelt of de externe partij bij wie het lek plaatsvindt?

Het is nog niet duidelijk welke partij aansprakelijk is voor het datalek bij Nebu. Er zijn meerdere partijen betrokken. In het geval van Nebu moet goed worden onderzocht wat er is afgesproken over de beveiliging en wat er nu feitelijk is gebeurd.
De rollen van verwerkingsverantwoordelijke en verwerker zijn omschreven in de AVG, maar partijen kunnen in een (verwerkers)overeenkomst nadere of andere afspraken maken over de aansprakelijkheid bij bijvoorbeeld een datalek. Partijen die betrokken zijn bij een datalek kunnen zich eventueel wenden tot de civiele rechter om de aansprakelijkheid en de omvang daarvan te laten vaststellen. In de vaststelling van aansprakelijkheid is geen rol voor de overheid weggelegd. Het is dan ook niet aan mij om hierover uitspraken te doen.

Vraag 5

Deelt u de mening dat het gevaar op datalekken vooral in de keten zit van partijen die samenwerken met bedrijven zoals IT-leveranciers, onderzoeksbureaus en andere partijen met wie (klant)data wordt gedeeld?

(Overheids)organisaties en bedrijven dienen de bepalingen die betrekking hebben op hun privacyrechtelijke rol van verwerkingsverantwoordelijke of verwerker uit de AVG na te leven, waaronder de bepalingen die zien op het beveiligen van persoonsgegevens. In de praktijk komt het voor dat de verwerker een sub-verwerker inschakelt voor de verwerking van (een deel van de) persoonsgegevens. Hiermee ontstaat de keten verwerkingsverantwoordelijke – verwerker – sub-verwerker. De AVG schrijft voor dat verwerkingsverantwoordelijke en verwerker afspraken dienen te maken over de verwerking van persoonsgegevens, maar ook dat de verwerker afspraken moet maken met de sub-verwerker voor de verwerking van persoonsgegevens, waaronder de beveiliging van persoonsgegevens.
Een verwerkingsverantwoordelijke of verwerker kan er bewust voor kiezen (een deel van de) verwerkingen uit te besteden aan een (sub-)verwerker met meer expertise op het gebied van onder meer beveiliging. Ook kan het voorkomen dat een (sub-)verwerker gecertificeerd is op het gebied van informatiebeveiliging terwijl de verwerkingsverantwoordelijke of verwerker die de sub-verwerker inschakelt, dit niet is. Het inschakelen van een andere partij biedt in een dergelijk geval voordelen. Ook wanneer de ingeschakelde (sub-)verwerker niet over een bepaalde expertise of certificering beschikt, betekent dit niet dat daarom de kans op datalekken toeneemt. Iedere ingeschakelde (sub-)verwerker dient immers de verplichtingen uit de AVG na te leven, waaronder het treffen van voldoende passende maatregelen om de persoonsgegevens te beschermen.
In zijn algemeenheid kan aldus niet worden gesteld dat het gevaar op datalekken vooral zit in de keten van partijen.

Vraag 6

Welke verantwoordelijkheid hebben bedrijven en (overheids)organisaties volgens u om digitaal verantwoord ondernemen in de keten te waarborgen?

Er zijn wettelijke kaders die reguleren hoe organisaties en bedrijven met bepaalde gegevens moeten omgaan. In de AVG zijn verschillende beginselen opgenomen die gelden bij iedere verwerking van persoonsgegevens.
Een van die beginselen is dat persoonsgegevens moeten worden verwerkt op een manier dat door het nemen van passende technische of organisatorische maatregelen een passende beveiliging ervan is gewaarborgd en dat persoonsgegevens onder neer beschermd zijn tegen ongeoorloofde of onrechtmatige verwerking en tegen onopzettelijk verlies, vernietiging of beschadiging. Ieder bedrijf en elke (overheids)organisatie die onder het toepassingsbereik van de AVG valt, dient uitvoering te geven aan dit beginsel door invulling te geven aan alle verplichtingen voor die partij zoals opgenomen in de AVG, zoals de verplichting om persoonsgegevens te beveiligen.
Binnen de kaders van de wet is het de eigen verantwoordelijkheid van bedrijven om hun weerbaarheid te verhogen. De overheid kan deze verantwoordelijkheid niet overnemen. Wel zet het Digital Trust Center («DTC») zich op verschillende manieren in om bedrijven te helpen met verantwoord digitaal ondernemen. Het DTC stimuleert en faciliteert ondernemers om zelfstandig of in samenwerkingsverband aan de slag te gaan met het verbeteren van hun cyberweerbaarheid. De doelgroep van ruim twee miljoen ondernemers in de zogenoemde «niet vitale» sectoren is zeer uiteenlopend. Via het DTC helpt het Ministerie van Economische Zaken en Klimaat deze ondernemers om hun digitale veiligheid te verhogen. Om bedrijven te informeren, deelt het DTC via website en social mediakanalen laagdrempelige kennis, informatie en advies over digitaal veilig ondernemen waar ondernemers zelf mee aan de slag kunnen. Ondernemers kunnen via verschillende tools inzicht krijgen in de cyberweerbaarheid van hun bedrijf, en kunnen via een zelfscan inventariseren in welke risicoklasse ze vallen. De uitkomsten van deze scans kan een bedrijf delen met een IT-dienstverlener, ketenpartners of een verzekeraar.
Om de digitale weerbaarheid in de keten te verhogen zet het DTC in op samenwerking. Via een landelijk dekkend netwerk van samenwerkingsverbanden worden bedrijven gestimuleerd de cyberweerbaarheid te vergroten en de risico’s in de keten te verkleinen. In een cyberweerbaarheidsnetwerk werken ondernemers samen met andere organisaties aan het vergroten van de cyberweerbaarheid, binnen en tussen niet-vitale branches, sectoren en regio's. Het DTC stimuleert deze samenwerkingsverbanden in niet-vitale sectoren en kan in bepaalde gevallen ook ondersteunen door middel van een subsidie.
De DTC Community is een online community waarbij ondernemers zich vrijblijvend kunnen aansluiten. Deze omgeving biedt ondernemers de kans om, in een besloten omgeving, actuele en relevantie informatie over cybersecurity uit te wisselen. De DTC Community stimuleert op deze manier informatie-uitwisseling tussen ondernemers en cyberprofessionals. Meldingen van bedrijfsspecifieke kwetsbaarheden waar het DTC kennis van heeft, deelt het direct met betrokken bedrijven. Dit biedt bedrijven de mogelijkheid om snel te reageren en mitigerende maatregelen te treffen. In 2023 zijn al ruim 13.000 notificaties naar Nederlandse bedrijven verzonden over digitale kwetsbaarheden.

Vraag 7

Schiet de huidige regelgeving niet tekort als een externe partij waar een datalek plaatsvindt niet meewerkt aan onderzoek en geen informatie deelt over het datalek? Hoe kan een externe partij gedwongen worden om informatie te delen, zodat consumenten weten waar zij aan toe zijn? Deelt u de mening dat de consument in dit geval onvoldoende wordt beschermd?

De verwerkingsverantwoordelijke is op grond van de AVG verplicht een melding te doen van een datalek bij de nationale toezichthouder (de Autoriteit Persoonsgegevens), tenzij het niet waarschijnlijk is dat het datalek een risico inhoudt voor de rechten en vrijheden van natuurlijke personen. In sommige gevallen moet de verwerkingsverantwoordelijke het datalek ook melden aan de betrokkenen. Voor het doen van deze melding(en) heeft de verwerkingsverantwoordelijke informatie nodig over de omvang en de aard van het datalek. Als het datalek bij een verwerker heeft plaatsgevonden, is de verwerker de aangewezen partij om de verwerkingsverantwoordelijke in te lichten. De verwerker is dat ook verplicht op grond van de AVG.
Naast deze wettelijke verplichting die op de verwerker rust, worden er in de praktijk vaak afspraken gemaakt in de verwerkersovereenkomst over de wijze waarop de verwerker de informatie aan de verwerkingsverantwoordelijke dient te verschaffen en binnen welke termijn. Omdat de termijn waarbinnen de verwerkingsverantwoordelijke de melding aan de gegevensautoriteit moet doen slechts 72 uur bedraagt nadat de verwerkingsverantwoordelijke kennis geeft genomen van het datalek, worden doorgaans ook korte termijnen aangehouden in de verwerkersovereenkomst. Partijen kunnen in de overeenkomst afspreken dat wanneer een partij de contractuele afspraken schendt, deze partij boetes moet betalen aan de andere partij.
Indien de verwerker desondanks het voorgaande geen informatie verstrekt, kan de verwerkingsverantwoordelijke zich wenden tot de civiele rechter. Afhankelijk van de door de verwerkingsverantwoordelijke ingestelde vorderingen, kan de civiele rechter bepalen dat de verwerker nadere informatie moet verschaffen over de aard en de omvang van het datalek. De civiele rechter kan een dergelijke veroordeling versterken met fikse dwangsommen. Gelet op het bovenstaande is geen reden om te veronderstellen dat het huidig kader tekortschiet.

Vraag 8

Zijn er regels voor bedrijven ten aanzien van het bewaren van klantgegevens binnen het bedrijf of bij een externe partij? Zo nee, waarom niet?

De AVG bepaalt dat persoonsgegevens niet langer mogen worden bewaard dan nodig voor het doel waarvoor ze verzameld zijn. In de AVG zijn geen concrete bewaartermijnen omschreven omdat dit in zijn algemeenheid niet mogelijk is; daar wordt in de praktijk invulling aan gegeven. De verwerkingsverantwoordelijke kan met inachtneming van de regels van de AVG dus zelf bewaartermijnen vaststellen. In sommige gevallen zijn wel wettelijke bewaartermijnen voorgeschreven. Een medisch dossier moet door een zorgverlener bijvoorbeeld 20 jaar bewaard worden op basis van de Wet op de geneeskundige behandelingsovereenkomst.
Is geen sprake van een wettelijke bewaartermijn, dan legt de verwerkingsverantwoordelijke zelf vastgestelde bewaartermijnen op aan de externe partij (de verwerker). De verwerker mag niet zelf bepalen hoe lang de persoonsgegevens van de verwerkingsverantwoordelijke worden bewaard.
In de AVG is bepaald dat na afloop van de verwerkingsdiensten door de verwerker, de verwerker alle persoonsgegevens moet wissen of aan de verwerkingsverantwoordelijke moet terugbezorgen. Ook moeten alle kopieën door de verwerker worden gewist. Naast deze wettelijke plicht kunnen verwerkingsverantwoordelijke en verwerker in de verlichte verwerkersovereenkomst nadere afspraken maken over de bewaartermijnen. Partijen kunnen bijvoorbeeld afspreken dat bij het schenden van de contractuele afspraken ten aanzien van de bewaartermijnen, contractuele boetes zullen worden verbeurd.

Vraag 9

Hoe zorgt u ervoor dat in ieder geval binnen de overheid altijd wordt samengewerkt met partijen die hun informatiebeveiliging op orde hebben?

De overheid mitigeert risico’s door het uitvoeren van een zorgvuldig inkoopproces. Met geselecteerde (keten)partijen wordt vervolgens een verwerkersovereenkomst of overeenkomst gegevensdeling overeengekomen. In deze overeenkomsten worden de afspraken vastgelegd hoe een (keten)partij de persoonsgegevens dient te beschermen, welk beveiligingsniveau met elkaar is overeengekomen en hoe een (keten)partij moet handelen in geval van een datalek.

Vraag 10

Klopt het dat er Europese regelgeving aankomt, zoals de Digital Operational Resilience Act en de Netwerk- en Informatiebeveiligingsrichtlijn 2, die ervoor zorgen dat er meer eisen aan de beveiliging van klantdata gesteld worden? Zo ja, om welke regels gaat het en hoe zorgt dit ervoor dat data-uitwisseling tussen bedrijven en (overheids)organisaties en externe partijen in de keten beter wordt beveiligd?

Europese regelgeving, zoals de Netwerk- en Informatiebeveiligingsrichtlijn 2 (NIS-2) en de Digital Operational Resilience Act, stelt nadere eisen aan de beveiliging van netwerk- en informatiesystemen. Zij hebben echter betrekking op specifieke en vast gedefinieerde sectoren en organisaties. Daarmee zorgen ze er niet voor dat in generieke zin er nadere eisen aan de beveiliging van klantdata worden gesteld.

Vraag 1

Bent u bekend met het bericht «Ouders gooien privacy van hun kinderen te grabbel op sociale media»1?

Ja.

Vraag 2

Wat is uw reactie op de bevinding dat driekwart van de ouders hun kinderen op social media zetten, waarvan de helft hun profiel onbeschermd laat?

Het is begrijpelijk dat ouders beelden van bijzondere momenten met hun kinderen willen delen met anderen. De komst van sociale media heeft dat aanzienlijk eenvoudiger gemaakt dan voorheen het geval was. Het is belangrijk dat ouders zorgvuldig gebruik maken van die mogelijkheden en rekening houden met wie allemaal toegang hebben tot wat zij plaatsen, omdat dit de privacy van hun kinderen raakt.

Vraag 3

In hoeverre deelt u onze zorgen dat op deze manier onbedoeld kwaadwillenden misbruik kunnen maken van deze gegevens?

Die zorgen deel ik. Zo bestaat het risico dat foto’s van kinderen misbruikt worden door criminelen, dat hun beeldmateriaal wordt gebruikt voor reclamedoeleinden en dat de foto’s en video’s op het internet kunnen blijven circuleren.

Vraag 4

In hoeverre bent u het met ons eens dat hier ook meer bewustwording over gecreëerd zou moeten worden, bijvoorbeeld door middel van een publiekscampagne? In hoeverre heeft u plannen om de bewustwording hierover te vergroten?

Bewustwording is van groot belang. Het vorige kabinet ontwikkelde eerder al de publiekscampagne «Denk 2x na voordat je iets deelt», die veel aandacht in de media kreeg.2 Naar aanleiding van de campagne maakte het Jeugdjournaal een item over het zorgvuldig omgaan met het online delen van gegevens van anderen.3 Daarnaast werkt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties momenteel aan een plan van aanpak voor een brede publiekscampagne over online kinderrechten. Verder heeft de Autoriteit Persoonsgegevens (AP) een voorlichtende taak.4

Vraag 5

Kunt u toelichten in hoeverre kinderen recht hebben op online privacy?

Het grondrecht op gegevensbescherming is uitgewerkt in de Algemene Verordening Gegevensbescherming (AVG). De AVG onderkent in overweging 38 nadrukkelijk dat kinderen specifieke bescherming toekomt, aangezien zij zich wellicht minder bewust zijn van de risico's en gevolgen van het delen van informatie. Daarnaast bepaalt artikel 16 van het Verdrag inzake de rechten van het kind (IVRK) dat een kind recht heeft op bescherming van zijn of haar privéleven. Graag verwijs ik voor een volledige toelichting naar de Code Kinderrechten Online waarin uitvoering wordt ingegaan op online privacy voor minderjarigen.5 De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties heeft de Code laten ontwikkelen voor ontwerpers van digitale systemen voor kinderen, aan de hand waarvan aan het begin van het ontwerpproces voor onlinediensten en producten kinderrechten worden meegenomen en geborgd.
Ook biedt de Verordening Digitale Diensten (hierna: DSA) specifieke bescherming aan minderjarigen. Daarin worden onlineplatforms die toegankelijk zijn voor minderjarigen verplicht om passende en evenredige maatregelen te nemen om een hoog niveau van privacy, veiligheid en bescherming van minderjarigen binnen hun dienst te waarborgen. Voor een compleet overzicht van specifieke bescherming vanuit de DSA verwijs ik u naar de kamerbrief «Digital Services Act en Kinderrechten» van 14 april 2023.6 Daarnaast stuurt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties uw Kamer voor de zomer een beleidsbrief over kinderrechten in relatie tot digitalisering.

Vraag 6

In hoeverre deelt u het genoemde standpunt dat ouders pas vanaf 16 jaar toestemming aan hun kinderen voor het delen van bijvoorbeeld foto’s moeten vragen? In hoeverre deelt u onze overtuiging dat dit eigenlijk al vanaf 12 jaar zou moeten?

In het wetsvoorstel Verzamelweg gegevensbescherming wordt ervan uitgegaan dat kinderen vanaf 12 jaar deels zelf en vanaf 16 jaar geheel zelfstandig persoonlijke keuzes kunnen maken.7 In dit wetsvoorstel wordt erin voorzien dat een jongere die 12 jaar of ouder maar nog geen 16 jaar is, zelfstandig toestemming kan intrekken om zo een einde te kunnen maken aan een verwerking van zijn eigen persoonsgegevens. Dit wetsvoorstel is in behandeling bij uw Kamer.

Vraag 7

Bent u het met ons eens dat tech-bedrijven hier een grote verantwoordelijkheid horen te dragen en zo ja, hoe gaat u daarop sturen?

Ja, tech-bedrijven hebben ook een verantwoordelijkheid op grond van de AVG. Zo moeten de bedrijven bijvoorbeeld hun gebruikers te wijzen op wie toegang kan hebben tot hun gegevens en dus ook geplaatste foto’s. De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties voert regelmatig gesprekken met tech-bedrijven over hun verantwoordelijkheid. Het is echter primair aan de ouders of verzorgers van kinderen om de afweging te maken of zij foto’s van hun kinderen online delen of niet.

Vraag 8

Kunt u voorbeelden noemen van maatregelen die u kunt nemen als tech-bedrijven, zoals social media platforms, hier onvoldoende aan voldoen?

Wanneer bedrijven de regels uit de AVG niet naleven, is het aan de toezichthouder om daar gevolgen aan te verbinden. Het toezicht op de naleving van de verplichtingen uit de AVG is belegd bij de AP. De AP beschikt daartoe over diverse instrumenten, zoals het opleggen van een bestuurlijke boete, een last onder dwangsom of een berisping.

Vraag 9

Kunt u toelichten of u de voorgedragen tips voor ouders voldoende acht?

Het is belangrijk dat ouders zich bewust zijn van de mogelijke risico’s van het delen van foto’s of video’s van hun kinderen online. De informatie en tips, zoals beschreven in het achterliggende onderzoek waarop het krantenartikel zich baseert, zijn in dat kader helder en nuttig.8 Het onderzoek geeft volwassenen richtlijnen om zorgvuldig om te gaan met informatie over kinderen op het internet. Zoals eerder aangegeven, werkt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties momenteel aan een plan van aanpak voor een brede publiekscampagne over online kinderrechten.

Vraag 10

In hoeverre ziet u een rol voor uzelf om hier aandacht voor te vragen, en ook daadwerkelijk maatregelen op te nemen?

Zie antwoord vraag 9.

Vraag 11

Bent u het met ons eens dat er meer aandacht aan onlinegedrag en mediawijsheid kan worden besteed zodat kinderen hier zo vroeg mogelijk bij betrokken worden?

Ja. Mediawijsheid is een belangrijke set aan vaardigheden om mee te kunnen komen in de steeds meer gedigitaliseerde wereld. Aandacht voor onderwerpen als portretrecht hoort hierbij. Op initiatief van het Ministerie van Onderwijs, Cultuur en Wetenschap werd in 2008 het Netwerk Mediawijsheid opgericht met de missie «Iedereen mediawijs». Op zijn publiekswebsite biedt het Netwerk Mediawijsheid inzichtelijke informatie aan over veilige en slim gebruik van digitale media. Zo zijn er links naar materiaal om kinderen te informeren en met hen in gesprek te gaan over zaken als privacy en portretrecht.9

Vraag 1

Bent u bekend met het bericht «at least 136 people waiting to serve their time in prison» van 13 februari 2023?1

Ja.

Vraag 2

Hoe beoordeelt u het feit dat er per oktober 2022 minstens 136 tot een gevangenisstraf veroordeelde personen niet vast zaten, door een gebrek aan detentiecapaciteit op Sint Maarten?

Sinds 10 oktober 2010 is Sint Maarten een autonoom land binnen het Koninkrijk der Nederlanden en heeft Sint Maarten zelf de verantwoordelijkheid voor de rechtshandhaving gekregen, inclusief het gevangeniswezen. Desalniettemin worden de zorgen herkend over het gevangeniswezen in Sint Maarten, zoals ook aan uw Kamer is gecommuniceerd op 26 april jl. met het verzenden van de 45ste en 46ste rapportage van de Voortgangscommissie Sint Maarten2. Nederland werkt daarom intensief samen met Sint Maarten om het gevangeniswezen van Sint Maarten te verbeteren op lange termijn en het verlichten van de acute druk op de detentiecapaciteit (zie ook het antwoord op vraag 12).

Vraag 3

Acht u het niet tenuitvoerleggen van gevangenisstraffen op Sint Maarten problematisch in het licht van de doelstelling van het bevorderen van goed bestuur door een bijdrage te leveren aan het versterken van de rechtsstaat van de landen, zoals omschreven in beleidsartikel 1 van de Begroting Koninkrijksrelaties?

Het gevangeniswezen is een landsaangelegenheid. Dit betekent dat de autonome Landen in het Koninkrijk (Aruba, Curaçao en Sint Maarten) aan zet zijn om de detentiesituatie in hun inrichtingen te verbeteren. De Staatssecretaris van BZK is verantwoordelijk voor stimuleren, ondersteunen en versterken van de rechtsstaat van de landen. Hierbij wordt samengewerkt met de betrokken bewindspersonen van JenV en Defensie die de operationele capaciteit voor ondersteuning en versterking na opdrachtverstrekking kunnen leveren. Hierbij moet worden opgemerkt dat naast de middelen onder artikel 1 van de begroting Koninkrijksrelaties ook vanuit het Ministerie van Justitie en Veiligheid en het Ministerie van Defensie middelen worden ingezet voor het versterken van de rechtsstaat van de landen.
In 2020 heeft het kabinet eenmalig € 30 mln. beschikbaar gesteld voor het verbeteren van het gevangeniswezen in Sint Maarten, hetgeen recht doet aan de doelstelling van artikel 1. Hiervan is € 20 mln. gereserveerd voor de bouw van een nieuwe gevangenis. Met de United Nations Office for Project Services is in december een overeenkomst gesloten voor Fase I van het project: UNOPS zal in deze fase tot een ontwerp van tijdelijke en lange termijn detentiefaciliteiten komen en de benodigde aanbestedingsprocedures uitzetten voor de bouw.
Van de totale € 30 mln. wordt € 10 mln., verdeeld over vijf jaar (€ 2 mln. per jaar van 2022 t/m 2026) geïnvesteerd in de verdere verbetering van het gevangeniswezen. In 2022 is hiervan onder andere een programmateam uitgezonden voor het uitvoeren van het Plan van Aanpak, en zijn opleidingen bekostigd voor het gevangenispersoneel.

Vraag 4

Wat is het effect van het niet tenuitvoerleggen van gevangenisstraffen op Sint Maarten voor het vertrouwen in- en het functioneren van de rechtshandhavingsketen aldaar?

Nederland acht het van belang dat Sint Maarten een sterke en goed samenwerkende keten kent om de rechtshandhaving te bevorderen. Daarom ondersteunt Nederland Sint Maarten hierin, onder meer door investeringen in het gevangeniswezen op Sint Maarten. Het beoordelen van het effect van het niet tenuitvoerleggen van gevangenisstraffen voor het vertrouwen in- en het functioneren van de rechtshandhavingsketen is echter aan Sint Maarten zelf.

Vraag 5

Onderschrijft u de conclusie uit de beleidsdoorlichting van artikel 1 van de Begroting Koninkrijksrelaties dat door de Nederlandse investeringen in de rechtshandhavingsketen een scheefgroei is ontstaan omdat deze niet op evenwichtige wijze plaatsvinden?2

De in de vraagstelling aangehaalde scheefgroei kent zijn oorzaak in de achterblijvende investeringen van de landen in de lokale diensten. De onderzoekers van beleidsdoorlichting artikel 1 geven aan dat Nederland niet in alle schakels binnen de keten investeert, waardoor de scheefgroei onbedoeld wel versterkt wordt.4 In de kabinetsreactie hierop heeft de Staatssecretaris van BZK daarom aangekondigd samen met de Ministers van Justitie en Veiligheid en van Defensie tot een heroverweging te komen van de wijze waarop Nederland om wil gaan met het versterken van de rechtsstaat en het verbeteren van goed bestuur in de landen, waarin ook aandacht zal worden besteed aan deze scheefgroei. Uw Kamer wordt hierover eind 2023 geïnformeerd.

Vraag 6

Bent u van mening dat de huidige opstopping aan het einde van de Sint Maartense justitieketen, namelijk bij de tenuitvoerlegging van gevangenisstraffen, te wijten is aan onevenredig grote investeringen in de delen van de strafrechtketen die zich bezig houden met opsporing, vervolging en berechting?

Op grond van de beleidsdoorlichting van artikel 1 concludeer ik dat Nederland niet in alle schakels binnen de keten investeert. Dit kan een risico vormen voor scheefgroei in de rechtshandhavingsketen. Nederland heeft daarom de samenwerking met Sint Maarten op het gevangeniswezen in de afgelopen jaren geïntensiveerd, nu daar grote knelpunten zitten. Het is echter niet aan Nederland om de justitieketen te beoordelen. Dat neemt niet weg dat Nederland in gesprek is met de landen over de mogelijke oorzaken van de disbalans en gezamenlijke prioriteiten van de landen. Zie hiervoor ook het antwoord op vraag 11.

Vraag 7

Heeft u aanwijzingen om aan te nemen dat van een dergelijke scheefgroei ook sprake is in de justitieketen van Curaçao of Aruba?

Ja. Ook Curaçao en Aruba geven te kennen te maken te hebben met scheefgroei. Tijdens het Justitieel Vierpartijen Overleg op 18 januari 2023 hebben de vier Ministers van Justitie hier uitgebreid bij stilgestaan. De Minister van Justitie en Veiligheid heeft uw Kamer hiervan op 4 april jl een terugkoppeling gestuurd.5

Vraag 8

Bent u voornemens om opvolging te geven aan de aanbeveling uit de beleidsdoorlichting om toekomstige investeringen in de strafrechtketens van de landen steeds te doen op basis van het totale beeld van de keten, om opstoppingen elders in te keten te voorkomen?

Zoals genoemd in het antwoord op vraag 5 is in de kabinetsreactie op de beleidsdoorlichting van artikel 1 aangekondigd dat er gewerkt wordt aan een herijking van de Nederlandse inzet in de rechtsstaat van de landen. De aanbevelingen uit de beleidsdoorlichting zijn hierbij het uitgangspunt. Er is daarbij dus nadrukkelijk aandacht voor het evenwicht in de rechtshandhavingsketen.

Vraag 9

Wat is de laatste stand van zaken met betrekking tot de bouw van een nieuwe gevangenis op Sint Maarten door United Nations Office for Project Services (UNOPS)? Wat is de beoogde opleverdatum?

Op 7 december 2022 zijn Sint Maarten en Nederland met UNOPS een overeenkomst aangegaan voor fase I van de bouw van een nieuwe gevangenis op Sint Maarten, waarover de Staatssecretaris van BZK uw Kamer destijds heeft geïnformeerd.6 Fase 1 is volledig door Nederland gefinancierd voor een bedrag van € 4 mln., vanuit de € 30 mln. die eenmalig beschikbaar is gesteld vanuit het kabinet (zie ook het antwoord op vraag 3).
In februari 2023 is UNOPS met de activiteiten voor fase I op Sint Maarten gestart. Dit jaar zullen Sint Maarten, Nederland en UNOPS starten met de voorbereidende gesprekken om te komen tot ondertekening van fase II van het nieuwbouwproject: de daadwerkelijke bouw van de nieuwe gevangenis. Nederland heeft hiervoor een bedrag van € 16 mln. beschikbaar, de overige kosten zal Sint Maarten moeten bijdragen. Dit laat onverlet dat Sint Maarten structurele financiële middelen voor het nieuwbouwtraject en de exploitatie van de nieuwe gevangenis in de begroting zal moeten vrijmaken. Mochten Sint Maarten, Nederland en UNOPS ook de overeenkomst van fase II aangaan, is de beoogde opleverdatum van de nieuwe detentiefaciliteit 2028.

Vraag 10

Hoe groot is het acute tekort aan detentiecapaciteit op Sint Maarten?

Omdat de rechtshandhaving een landsaangelegenheid van Sint Maarten betreft, is het al dan niet verstrekken van deze informatie ook aan Sint Maarten zelf.

Vraag 11

Kunt u toezeggen om bij het eerst volgende Vierlandenoverleg met de regering van Sint Maarten in gesprek te gaan over het oplossen van het acute probleem van gevangenisstraffen die niet ten uitvoer worden gelegd? Welke rol ziet u hierin voor uzelf weggelegd?

Er zijn recent gesprekken gevoerd met Sint Maarten om te bezien welke bijstand Nederland kan leveren om het acute probleem van celcapaciteit op te lossen, onder andere door het tijdelijk overplaatsen van gedetineerden naar Nederland. Om te komen tot oplossingen voor de disbalans in de justitieketen is tijdens het afgelopen JVO uitgebreid stilgestaan bij mogelijke oorzaken van de gesignaleerde disbalans, de gezamenlijke prioriteiten van de landen, de gevolgen die de scheefgroei heeft voor de samenwerking, en het belang dat toekomstige investeringen de scheefgroei niet verder vergroten. Daarnaast is afgesproken dat het gesprek tussen de landen de komende periode op ambtelijk niveau wordt voortgezet. Het Ministerie van Justitie en Veiligheid (JenV) zal hierbij nauw optrekken met het Ministerie van BZK.

Vraag 12

Welke mogelijkheden ziet u om in Sint Maarten opgelegde gevangenisstraffen elders in het Koninkrijk ten uitvoer te leggen?

Om als landen binnen het Koninkrijk elkaar te kunnen bijstaan bij het ten uitvoerleggen van straffen en maatregelen, bestaan sinds 2014 vier Onderlinge Regelingen Detentiecapaciteit (ORD). De ORD regelt de samenwerking tussen Nederland, Aruba, Curaçao en Sint Maarten op het gebied van de onderlinge beschikbaarstelling van detentiecapaciteit op medische gronden of in verband met dringende redenen van veiligheid. De Openbare Ministeries van de landen dienen hun verzoek om tijdelijke beschikbaarstelling van detentiecapaciteit door tussenkomst van de Procureur Generaal tot de Minister van Justitie van het aangezochte land te richten.
Momenteel verblijven in Europees Nederland negentien gedetineerden vanuit Sint Maarten. Negen gedetineerden zijn overgebracht op grond van dringende redenen van veiligheid en tien gedetineerden resteren van de groep van 31 die in 2017 overgeplaatst in het kader van de orkanen Irma en Maria. Er is een verzoek gedaan voor tijdelijke overplaatsing van 12 additionele gedetineerden vanuit Sint Maarten. Inmiddels zijn de eerste 7 aanvragen gehonoreerd. Deze gedetineerden zijn reeds overgekomen naar Nederland. De overige 5 verzoeken zijn op dit moment in behandeling. Met het huidige verzoek komt dit aantal op een totaal van 31 gedetineerden waarbij de data voor voorwaardelijke invrijheidstelling liggen tussen 2024 en 2035.
Ik wil graag benadrukken dat het overbrengen van gedetineerden elders in het Koninkrijk geen structurele oplossing voor het cellentekort in de Pointe Blanche gevangenis in Sint Maarten is. Daarom vinden er gesprekken plaats met Sint Maarten om te bezien op welke wijze de celcapaciteit vergroot kan worden totdat de nieuwbouw er is. Verder is het aan Sint Maarten zelf om te kijken hoe de beschikbare celcapaciteit optimaal benut kan worden. Hierbij kan gedacht worden aan anders straffen, bijvoorbeeld door inzet van elektronische detentie, Of aan het gereedmaken en in gebruik nemen van de andere detentiefaciliteiten op het eiland.

Vraag 1

Hoe is tot nu toe uitvoering gegeven aan de aangenomen motie van de Partij voor de Dieren en BIJ1, die de regering verzoekt om in gesprek te gaan met het Openbaar Lichaam Bonaire (OLB) om ervoor te zorgen dat er geen onomkeerbare stappen worden gezet voor wat betreft bouwen op Plantage Bolivia totdat het ontwikkelingsprogramma is vastgesteld?1

In antwoord op de vragen van de leden Van Raan, Van Esch en Vestering (allen PvdD) is bij brief van 4 oktober 2022 (kenmerk 2022Z09873) aangegeven dat door bureau Metafoor werd gewerkt aan een partiële herziening van het ruimtelijk ontwikkelingsplan voor de voormalige plantage. Met de herziening wordt beoogd ter plaatse de bouw van woningen mogelijk te maken. Hierbij zij aangetekend dat het OLB nog geen formeel standpunt heeft ingenomen omtrent de vraag of het wenselijk is om woningen te bouwen op de voormalige plantage. De mate van ontwikkeling dan wel of ontwikkeling op deze locatie kan plaatsvinden hangt namelijk af van de uitkomst van de milieueffectenrapportage (m.e.r). Daarnaast is tijdens het bezoek van de Minister voor VRO aan Bonaire in juni 2022 vanuit het OLB aangegeven dat met de vaststelling van het ruimtelijk ontwikkelingsplan voor Bonaire zal worden gewacht totdat het ruimtelijk ontwikkelingsprogramma is vastgesteld. Logischerwijs geldt dit ook voor partiële herzieningen van het ontwikkelingsplan, zoals die voor de herontwikkeling van de voormalige plantage Bolivia. Het is derhalve nog maar de vraag of het OLB bereid is om het plan in procedure te brengen. Als dat al het geval zou zijn, dient eerst nog een aantal formele stappen te worden gezet.
Een belangrijke formele stap voor het ontwikkelingsplan is het afronden van de MER-procedure. In het najaar van 2022 heeft de startnotitie MER ter inzage gelegen. Hierop zijn bij het OLB zienswijzen ingediend. Alvorens kan worden begonnen met het opstellen van de MER, dienen richtlijnen hiervoor te worden vastgesteld door OLB, op advies van een in te stellen MER-Commissie. Het bestuurscollege is voornemens daarbij de procedure zoals beschreven in het Eilandsbesluit natuurbeheer te volgen.
De afgelopen maanden is het OLB begonnen met het werven van deskundigen die in de MER-Commissie voor dit project zitting kunnen nemen. De leden van de MER-Commissie zijn nog niet benoemd. Aangezien Bonaire nog niet een dergelijke MER-commissie voor dit project heeft aangesteld, valt niet te zeggen wanneer de uitvoering van de MER zal geschieden. Aangezien de herziening van het Ruimtelijke Ordeningsplan Bonaire (ROB) niet in procedure worden gebracht, zolang de MER niet is vastgesteld en beoordeeld, constateer ik dat het op dit moment juridisch niet mogelijk is om onomkeerbare stappen te zetten.

Vraag 2

Is er over deze motie een gesprek geweest met het OLB? Zo ja, wanneer heeft dit gesprek plaatsgevonden en wat is er besproken? Zijn er verslagen hiervan en zo ja, kunt u deze met de Kamer delen? Wat zijn de vervolgstappen met betrekking tot het in uitvoering brengen van de aangenomen motie?

Over deze motie is in november 2022 ambtelijk gesproken met OLB. Dit in het kader van een regulier ambtelijk overleg. Er is in dit gesprek duidelijk gemaakt dat er geen onomkeerbare stappen mogen worden gezet voordat de mer is afgerond. Van deze reguliere ambtelijke overleggen worden geen verslagen gemaakt. De Minister voor VRO is voornemens om eind juni 2023 een bezoek te brengen aan Caribisch Nederland. De kwestie rondom plantage Bolivia zal dan ook onderwerp van gesprek zijn met het nieuwe bestuurscollege van Bonaire.

Vraag 3

Indien het gesprek nog niet heeft plaatsgevonden, wanneer zal dit plaatsvinden?

Zie het antwoord op vraag 2.

Vraag 4

Bent u bereid om actief te pleiten voor het beschermen van de natuur op Plantage Bolivia, dat 10% van het eiland beslaat en voor het benadrukken dat de open-landschapsbestemming van Plantage Bolivia ongewijzigd blijft? Zo nee, waarom niet?

Ik erken het belang van het beschermen van de op de voormalige plantage aanwezige natuur.
Binnen de bestemming «open landschap» is woningbouw niet of zeer beperkt toegestaan en worden de in het gebied aanwezige natuurwaarden afdoende beschermd. Het toekennen en eventueel wijzigen van een bestemming is de bevoegdheid van het OLB. Op basis van de uitkomsten van de milieueffectenrapportage zal het OLB beslissen welke vervolgstappen met betrekking tot het gebied Bolivia zal worden genomen.
Zodra het OLB besluit om het Ruimtelijke Ontwikkelingsplan Bonaire (ROB) voor de voormalige plantage te willen herzien en hiervoor een procedure opstart, zal het (voor)ontwerpplan door het Rijk worden beoordeeld en zal daarop worden gereageerd. Indien de natuurwaarden op Bolivia in het plan onvoldoende worden beschermd, zal daarvoor zeker aandacht worden gevraagd. Gezien de goede verstandhouding met het OLB is de verwachting dat eventuele nadere gedachten van het Rijk zullen worden meegenomen in het plan. Als dat onverhoopt niet het geval zou zijn, zal het Rijk zich beraden op vervolgstappen. De Wet grondslagen ruimtelijke ontwikkelingsplanning BES (Wgro BES) biedt bijvoorbeeld de mogelijkheid tot het geven van een (reactieve) aanwijzing.

Vraag 5

Is al concreet bekend wanneer het ontwikkelingsprogramma door de ministerraad wordt vastgesteld, die volgens de beleidsagenda volkshuisvesting en ruimtelijke ordening Caribisch Nederland in de loop van 2023 zal worden vastgesteld? Zo ja, is dit programma al in procedure gebracht en hoe ziet dit eruit voor wat betreft tijdlijn en inspreekmomenten, en wat zijn de vervolgstappen met betrekking tot het in uitvoering brengen van de aangenomen motie? Zo nee, hoe ziet de tijdlijn eruit?

Op dit moment wordt het voorontwerpontwikkelingsprogramma opgesteld, in samenwerking met onder andere de ambtenaren van het OLB. Zodra dit gereed is, naar verwachting begin juni, zal het worden besproken met de departementen en de stakeholders in Caribisch Nederland, waaronder de bestuurscolleges. Daarbij zal ook de bevolking worden betrokken. De Minister voor VRO is voornemens om eind juni 2023 een bezoek te brengen aan Caribisch Nederland. Tijdens dat bezoek zullen het voorontwerpprogramma en de daarop ontvangen reacties op de agenda staan. Na het bezoek van de Minister zullen de reacties worden verwerkt en zal een ontwerpprogramma worden opgesteld, dat vervolgens in de zomermaanden ter inzage zal worden gelegd. Gedurende de periode van terinzagelegging kan eenieder zienswijzen op het ontwerpprogramma indienen. Na afloop van de terinzagelegging zal worden bezien of de (eventuele) zienswijzen aanleiding geven om het programma aan te passen. Daarna wordt de procedure ingezet die eindigt met de vaststelling van het programma door de ministerraad. Alvorens de ministerraad een besluit kan nemen, dient het programma voor advies aan de drie eilandelijke bestuurscolleges te worden voorgelegd. Ik verwacht dat het programma in het vierde kwartaal van dit jaar zal worden vastgesteld.

Vraag 6

Kunt u aangeven waar de procedure rondom de Milieueffectrapportage (MER) ten behoeve van de ontwikkeling van Plantage Bolivia zich momenteel bevindt?

In het najaar van 2022 heeft de startnotitie MER ter inzage gelegen. Hierop zijn bij het OLB twee zienswijzen ingediend. Deze worden aan de MER-commissie meegegeven. De MER-commissie stelt een advies over de richtlijnen op en vervolgens stelt het OLB de richtlijnen vast. Het bestuurscollege is voornemens daarbij de procedure zoals beschreven in het Eilandsbesluit natuurbeheer te volgen. De Staatssecretaris van IenW zal u informeren over de vervolgstappen.

Vraag 7

a. Is er al een MER opgesteld voor de mogelijke ontwikkeling van Plantage Bolivia en indien deze is opgesteld, wat zijn de hoofdconclusies?

Voor de mogelijke ontwikkeling van een containerhaven nabij Hato is een startnotitie voor de MER inmiddels gereed en zal in 2023 een MER worden opgesteld. Het afronden van deze procedure kan pas plaatsvinden op het moment dat de leden van de Commissie MER zijn benoemd.

Vraag 8

b. Zijn de richtlijnen al vastgesteld en zijn daar de ingezonden zienswijzen in verwerkt?

Een maatschappelijke kosten baten analyse (MKBA) is opgesteld met het doel om de maatschappelijke meerwaarde van de vrachthaven (waaronder, maar niet uitsluitend containers) te onderzoeken. Uit de MKBA is gebleken dat een vrachthaven maatschappelijke meerwaarde biedt, onder andere om de kosten van levensonderhoud voor de bevolking omlaag te brengen. Om de uitkomsten hiervan te verifiëren wordt ook een second opinion op de MKBA uitgevoerd door het Centraal Planbureau. Deze zal eind april gereed zijn. Als de resultaten van de MER bekend zijn zullen de uitkomsten van de MKBA hieraan getoetst worden.

Vraag 9

c. Worden in de MER ook alternatieven onderzocht, zoals het bouwen van huizen in en rondom bestaande woonkernen? Zo nee, waarom niet en hoe bent u van plan deze lacune te laten dichten in overleg met het OLB?

Afgelopen decennia zijn verschillende onderzoeken verricht over mogelijke locaties voor container- en vrachtafhandeling op Bonaire. Met de bevolkingsgroei is de noodzaak voor een efficiëntere container- en vrachtafhandeling steeds groter geworden. In 2017 heeft Port of Amsterdam International het Bestuurscollege geadviseerd om de locatie te Hato als voorkeurslocatie aan te wijzen voor een nieuwe vrachthaven. Met de MKBA is onderzoek gedaan naar de maatschappelijke meerwaarde van de vrachthaven op twee alternatieve locaties (Hato en BOPEC) vergeleken met de huidige locatie (Kralendijk). De MKBA toont aan dat er maatschappelijk nut is. Het Centraal Planbureau zal dit nader verifiëren met een second opinion.

Vraag 10

d. Klopt het dat het Rijk het OLB had geadviseerd om de commissie voor de milieueffectrapportage Nederland in te schakelen met betrekking tot Plantage Bolivia? Zo ja, klopt het dat het OLB dit advies niet heeft opgevolgd? Is duidelijk waarom dit advies niet is opgevolgd?

Wat in het MER onderzocht moet worden, wordt vastgelegd in de nader vast te stellen richtlijnen, waarover de MER-commissie het OLB zal adviseren.

Vraag 11

Klopt het dat voor de mogelijke ontwikkeling van een containerhaven nabij HATO ook een MER wordt opgesteld? Zo ja, wanneer zal deze afgerond zijn? Zo nee, wat is de reden hiervoor?

Wat in het MER onderzocht moet worden, wordt vastgelegd in de nader vast te stellen richtlijnen, waarover de MER-commissie het OLB zal adviseren.

Vraag 12

Klopt het dat bij het opstellen van de MER voor HATO geen onderzoek gedaan zal worden naar de vraag of de containerhaven überhaupt nodig is, aangezien het beleid van Bonaire erop gericht is om niet meer dan één cruiseschip per dag te hebben, waardoor uitbreiding niet nodig is? Zo nee, waarom niet?2

De regering is verantwoordelijk voor het uitvoeren van moties. Ik ben in beginsel van mening dat met de huidige wet en regelgeving en daarop gebaseerde stelsel van vergunningverlening, toezicht- en handhaving (VTH), uitvoering wordt gegeven aan de motie. Met dit stelsel worden aanvragen om (bouw)projecten namelijk op hun aanvaardbaarheid getoetst en dienen die regels gecontroleerd en gehandhaafd te worden. Ook de belangrijke vraag of koraal wordt beschadigd dient in dit stelsel aan de orde te komen en in de MER zal worden onderzocht of er mogelijke schade- effecten voor het koraal zullen zijn bij de aanleg van de nieuwe vrachthaven. Het bestuurscollege van Bonaire is verantwoordelijk voor de beoordeling van de MER en de benodigde vergunningen.
In dit verband is ook van belang dat zowel de verantwoordelijke bewindspersonen als de kamer de verantwoordelijkheid nemen om het VTH stelsel verder te versterken met eisen die gesteld worden aan de kwaliteit van de door de bestuurscolleges uit te voeren inspecties en beoordelingen van eventuele verleende milieu- en bouwvergunningen voor projecten aan de kust. Het is immers niet alleen van belang dat bij vergunningverlening de juiste afwegingen worden gemaakt maar ook dat de kwaliteit komt vast te staan voor toezicht en handhaving van vergunningen. Hierin voorziet het Inrichtingen en activiteitenbesluit BES (IAB BES). Deze algemene maatregel van bestuur is in uw kamer in behandeling.

Vraag 13

Bent u het ermee eens dat het onwenselijk is dat niet serieus wordt bekeken of de vrachthaven überhaupt nodig is? Zo nee, waarom niet? Zo ja, wat gaat u concreet doen?

In de MKBA is nut en noodzaak van de vrachthaven nabij Hato onderzocht, naast mogelijke andere locaties. In de MER zal nader moeten worden onderzocht wat de milieueffecten zijn van een vrachthaven nabij Hato en of het op basis daarvan wenselijk en mogelijk is om de haven aan te leggen.

Vraag 14

Klopt het dat bij het opstellen van deze MER ook geen onderzoek zal worden gedaan naar de mogelijkheid van de herontwikkeling van een nieuwe haven op de huidige locatie? Zo nee, waarom niet?

De ecologische kwaliteit van het koraal van Caribisch Nederland is beschreven in de staat van de natuur in Caribisch Nederland 2017. Uw Kamer is hierover op 25 februari 2019 geïnformeerd (Kamerstuk 30 825, nr. 218). De beoordeling van de kwaliteit en de algehele staat van instandhouding van het koraal zijn beide zeer ongunstig. In 2025 zal opnieuw een staat van de natuur worden opgesteld. Deze wordt dan ook met uw Kamer gedeeld.

Vraag 15

Bent u het ermee eens dat het onwenselijk is dat de huidige locatie niet als serieus alternatief wordt bekeken, omdat een andere locatie nieuwe schade aan het koraal met zich meebrengt, terwijl op de huidige locatie het koraal al is aangetast, zeker gezien de renovatie en verlenging van de zuidpier in 2021? Zo nee, waarom niet?

Het klopt dat het koraal aan de oostkust van Bonaire niet is geïnventariseerd. Door de stroming is onderzoek naar en inventarisatie van koraal daar moeilijk. Koraalherstel is door de stroming daar tevens zeer beperkt mogelijk. Bij St. Eustatius en Saba komt geen koraalrif voor zoals bij Bonaire maar betreft het meer koraalgemeenschappen die groeien op gestold lavagesteente. Volledige inventarisatie van koraal is niet mogelijk. Voor de monitoring van koraal worden internationale vastgestelde (wetenschappelijke) richtlijnen gevolgd4.

Vraag 16

Bent u het ermee eens dat u verantwoordelijk bent om ervoor te zorgen dat bij een mogelijke uitbreiding van de containerhaven het koraal niet wordt beschadigd op basis van de aangenomen motie van de Partij voor de Dieren en BIJ1, die oproept om projecten waarbij het koraal wordt beschadigd niet door te laten gaan? Zo nee, waarom niet en wie zijn dan de verantwoordelijken?3

Uit de staat van natuur in Caribisch Nederland 2017 blijkt dat het koraal rondom Saba niet volledig aan het afsterven is. Wel is het zo dat de bedekking met koraal de laatste 30 jaar enorm is afgenomen van circa 30% bedekking in 1993 naar circa 8% in 2017. De laatste jaren lijkt de bedekking te stabiliseren. De hoofdoorzaken van afname van het koraal zijn klimaatverandering, extreme weersomstandigheden, erosie, sedimentatie en ziekten. De uitvoering van het Natuur- en milieubeleidsplan Caribisch Nederland 2020–2030 (NMBP) heeft tot doel de trend van koraalrifdegradatie te keren om gezonde, veerkrachtige en weerbare koraalriffen te creëren. Door de uitvoering van het NMBP investeert het Rijk in herstel van het koraal en het terugdringen van loslopende grazers om erosie en sedimentatie op het koraal te voorkomen.

Vraag 17

Bent u het ermee eens dat als eerste de noodzaak van de containerhaven moet worden onderzocht, en daarna gekeken moet worden of de huidige locatie geschikt is voor mogelijke uitbreiding, alvorens naar andere opties te kijken? Zo nee, waarom niet? Zo ja, bent u bereid om in samenspraak met het OLB en de opstellers van de MER te kijken hoe dit bewerkstelligd kan worden?

Er zijn geen jaarlijkse voortgangsrapportages voor het NMBP opgesteld. Uw Kamer zal voor 1 juli 2023 geïnformeerd worden over de voortgang van de uitvoering van het NMBP op de eilanden. Dit zal de eilandelijke voortgangsrapportages omvatten.

Vraag 18

Kunt u aangeven hoe het is gesteld met de ecologische kwaliteit van het koraal rondom Bonaire, Sint Eustatius en Saba?

Fase 1 van NMBP is nog in uitvoering. Er lopen verschillende activiteiten die bijdragen aan het behalen van de in bijlage 3 genoemde mijlpalen voor 2024 en 2030. De voortgang van fase 1 (2020–2024) van het NMBP zal worden geëvalueerd, deze evaluatie zal voor 1 april 2025 met uw Kamer gedeeld worden. Een van de doelen van de evaluatie is onderzoeken in hoeverre de betreffende mijlpalen voor 2024 behaald zijn.

Vraag 19

Klopt het dat het koraal aan de oostkust van Bonaire, waaronder 15 kilometer grenzend aan Plantage Bolivia, nog niet is geïnventariseerd? Zo nee, wat waren de uitkomsten? Zo ja, bent u het ermee eens dat alle koraalriffen rond de BES-eilanden zo spoedig mogelijk geïnventariseerd moeten worden?

Voor de vraag over de voortgangsrapportage verwijs ik naar het antwoord op vraag 17. Voor projecten met mogelijke schade aan het koraal wordt het vigerend juridisch kader gehanteerd. Ik heb uw Kamer hierover geïnformeerd bij brief van d.d. 26 november 2021 (Kamerstuk 26 407, nr. 254) en de daarin bijgevoegde beschrijving van het vigerend juridisch kader. Deze brief was een reactie op moties met als strekking om ervoor te zorgen dat bij projecten natuurbescherming wordt gewaarborgd en te voorkomen dat deze tot koraalbeschadiging leiden. Een goede uitvoering van de wet- en regelgeving biedt een gedegen kader voor toetsing van projecten en voldoende waarborgen om schade aan het koraal te voorkomen.

Vraag 20

Klopt het dat het koraal rondom Saba aan het afsterven is? Zo ja, wat zijn de hoofdoorzaken van deze sterfte, wat wordt ertegen ondernomen en welke ondersteunende rol kan het Rijk spelen om koraalsterfte te voorkomen?4

Er is een ruimtelijk ontwikkelingsprogramma in ontwikkeling dat in Q4 2023 door de ministerraad zal worden vastgesteld. Dit programma zal het ruimtelijk kader bieden voor onder andere duurzame kustbebouwing en koraalbescherming. Voor wat betreft illegale kustbebouwing en de omgang daarmee voert de ILT een onderzoek uit naar de uitoefening van lokale taken op het gebied van vergunningverlening, toezicht en handhaving. De ILT zal aanbevelingen doen voor een verbetering van dit stelsel. Voor legale (en gelegaliseerde) kustbebouwing biedt de uitvoering van het NMBP een integrale aanpak om de verschillende drukfactoren op het koraal te verminderen of weg te nemen.

Vraag 21

Zijn de jaarlijkse voortgangsrapportages met betrekking tot het Natuur- en milieubeleidsplan Caribisch Nederland 2020–2030 opgesteld? Zo ja, wat waren de meest recente hoofdconclusies en resultaten?

Ik verleen met mijn collega van IenW ondersteuning aan de implementatie van het Uitvoeringsprogramma Toezicht en Handhaving van het bestuurscollege. Op basis hiervan worden meerdere taskforces ingericht waaronder de taskforce kustbebouwing maar ook de taskforce implementatie nieuwe milieuregelgeving te weten: het Inrichting en activiteitenbesluit BES (IAB BES). Beiden hebben onder meer tot doel om koraal ecosystemen te beschermen. De ondersteuning bestaat uit meerdere componenten waaronder de werving en selectie van tijdelijk en vast personeel via de VNG en omgevingsdiensten, het voorzien in ICT behoeften, het bieden van advies bij complexe vergunning-, toezicht- en handhavingstrajecten (VTH) en het trainen van personeel. Daarnaast is er ook mede financiering van de benodigde inzet.
Het OLB heeft de afgelopen maanden zich actief ingespannen om extra vast maar ook tijdelijk personeel te werven voor het behandelen van vergunningaanvragen en op deze wijze het vergunningstraject te verbeteren. Deze inspanning heeft geresulteerd in extra mankrachten die reeds zijn begonnen dan wel binnenkort met hun werkzaamheden zullen aanvangen. Tevens heeft het OLB stappen ondernomen om de nodige samenwerking met een Nederlandse gemeente te bewerkstelligen en vanuit diens omgevingsdienst de nodige ondersteuning en training op VHT-gebied te ontvangen. Deze acties zijn bij het beantwoorden van deze vragen nog niet gefinaliseerd.

Vraag 22

Kunt u aangeven welke mijlpalen van de uitvoeringsagenda behaald zijn, zoals opgesteld in bijlage 3 en dan met name voor onderdeel: 1.1.3 Duurzame kustontwikkeling a tot f?

Ja, het is bekend dat op Sint Eustatius een onvergund pad zou zijn uitgegraven van een hotel naar de zee. Het openbaar lichaam heeft hierover gesproken met de overtreder en zij hebben de consequenties en vervolgstappen hiervan schriftelijk vastgelegd. Het openbaar lichaam heeft een onderzoek uitgevoerd naar de gevolgen van de bouw van het hotel in kwestie en de aanleg van het pad. Op grond van dit onderzoek zal zo snel mogelijk maar in ieder geval voor 1 juni 2023 besloten worden welke acties conform het toezicht- en handhavingsstelsel ondernomen moeten worden.

Vraag 23

Indien de rapportages nog niet zijn opgesteld, bent u bereid de Openbare Lichamen te vragen deze zo spoedig mogelijk op te stellen, en daarbij te verzoeken om te wachten met de mogelijke uitrol van projecten die schade aan het koraal kunnen berokkenen? Zo nee, waarom niet?

Het is niet bekend hoeveel gebouwen op de klif van Sint Eustatius zijn gebouwd die een gevaar vormen voor het koraal. De Ministeries van IenW, LNV en BZK zijn in regulier overleg met het Openbaar Lichaam over de uitvoering van het NMBP via een stuurgroep overleg over de voortgang op het NMBP. Een belangrijk onderdeel van het NMBP op Sint Eustatius is het herstel van het koraal, onder andere door het verwijderen van het loslopend vee. Ook buiten deze bijeenkomsten om voorzien bovengenoemde ministeries het Openbaar Lichaam van advies en ondersteuning. Daarnaast lopen er meerdere door het Rijk gefinancierde anti-erosieprojecten. Zo heeft het Ministerie van IenW begin 2020 € 17 miljoen beschikbaar gesteld voor een integraal plan tegen de erosieproblematiek. Het geld is onder andere ingezet voor het op juiste wijze afvoeren van hemelwater, wat deels de erosie veroorzaakt. Daarnaast is er binnen het Tevens is er in 2018 zo’n € 10 miljoen beschikbaar gesteld voor het stutten van de klif van Fort Oranje en eind 2020 nog eens €2,5 miljoen voor het verduurzamen van de eerder genomen maatregelen. De vergunninghouder van het Chogogo Beach Resort is Chogogo Bonaire OG B.V.

Vraag 24

Wat gaat u doen wanneer binnen een rapportagejaar duidelijk wordt dat het koraal nog steeds aangetast wordt door kustbebouwing of dat er geen concrete, positieve resultaten naar voren komen uit de voortgangsrapportage met betrekking tot 1.1.3 duurzame kustontwikkeling?

De vergunninghouder is verantwoordelijk voor het verhogen van de keermuur.

Vraag 25

Hoe gaat u het bestuurscollege ondersteunen bij de door hun gestelde prioriteit om een taskforce kustbebouwing in te stellen, met als doel intensivering van toezicht en handhaving bij bestaande bouw, nieuwbouw of verbouwing van woningen en verblijfsrecreaties langs de kust? Of bent u hierbij anderszins betrokken?

Een overtreder is verantwoordelijk voor het betalen van de aan de overtreder opgelegde dwangsom.

Vraag 26

Klopt het dat op Sint Eustatius een hotel aan de kust gebouwd is, waarbij tijdens de bouw (begonnen rond 2019) een illegaal pad naar zee is uitgegraven, waarvan inmiddels delen zijn ingestort, met mogelijke risico’s voor het Sint Eustatius National Marine Park, dat onderaan de klif begint?5

In de regel is degene die de schade veroorzaakt heeft verantwoordelijk voor het nemen van maatregelen.

Vraag 27

Kunt u nagaan hoeveel gebouwen op de klif van Sint Eustatius zijn gebouwd welke een gevaar vormen voor het koraal? Bent u bereid met het Openbaar Lichaam Sint Eustatius in gesprek te gaan over de uitvoering van zowel het NMBP 2020–2030 bijlage 3 en het voorkomen van kustbebouwing die nadelig is voor het koraal en/of het onderwaterleven? Zo nee, waarom niet? Zo ja, per wanneer? Kunt u aangeven wie de vergunninghouder(s) is (zijn) van het Chogogo Beach Resort?

Het antwoord op deze vraag vergt nader overleg met het openbaar lichaam. Het is mij bekend dat de keermuur nog niet is opgehoogd omdat tegen de besluitvorming een bezwaarprocedure loopt. Ik zal dit onderwerp in april met het nieuwe bestuurscollege bespreken. De Staatssecretaris van IenW zal uw Kamer uiterlijk eind mei 2023 hierover informeren.

Vraag 28

Wie is (zijn) er verantwoordelijk voor het verhogen van de keermuur?

Het antwoord op deze vraag vergt nader overleg met het openbaar lichaam. De Staatssecretaris van IenW zal uw Kamer uiterlijk eind mei 2023 hierover informeren.

Vraag 29

Wie is (zijn) er verantwoordelijk voor het betalen van de dwangsom?

Een ingediende claim is niet bekend bij het OLB.

Vraag 30

Wie is (zijn) er verantwoordelijk voor het nemen van natuurherstelmaatregelen en dan met name voor het koraal?

Zie antwoord op vraag 29. Ik zal dit onderwerp in april met het nieuwe bestuurscollege bespreken.

Vraag 31

Klopt het dat de keermuur nog steeds niet is opgehoogd en dat de vergunninghouder hiermee niet aan de termijn van zes weken heeft voldaan, zoals gesteld in de schriftelijke waarschuwing van het OLB, met last onder tweede dwangsom? Zo ja, waarom is de eerste opgelegde dwangsom nog niet geïnd?

Ja dat klopt. Ik ben in beginsel bereid om te ondersteunen maar stel vast dat er nog geen verzoek tot ondersteuning is gedaan. Ik zal dit onderwerp in april met het nieuwe bestuurscollege bespreken.

Vraag 32

Wanneer zal het OLB de eerste en de tweede dwangsom innen?

Het antwoord op deze vraag vergt nader overleg met het openbaar lichaam. De Staatssecretaris van IenW zal uw Kamer uiterlijk eind mei 2023 hierover informeren.

Vraag 33

Kunt u nagaan of de vergunninghouder of iemand van Chogogo Beach Resort een niet-publieke, financiële claim heeft gelegd op het OLB? Zo ja, om hoeveel geld gaat het?

Het onderzoek van de Inspectie Leefomgeving en Transport zal eind mei 2023 aan uw Kamer worden gestuurd. De Staatssecretaris van IenW is bereid om het onderzoek dan direct van een appreciatie te voorzien en zal ook een inhoudelijke beantwoording geven van bedoelde vragen naar aanleiding van het schriftelijk overleg inzake het Inrichtingen en activiteiten Bes (IAB BES).

Vraag 34

Is het mogelijk dat deze claim de inning van de dwangsom frustreert?

Mijn verwachting is dat ik reeds eind mei 2023 met de conclusies van het ILT rapport een beeld zal hebben over de haalbaarheid van de lopende verbetertrajecten Als de resultaten van dat rapport verdere actie vanuit het Rijk vergt, dan ga ik hiermee gelijk aan de slag. Ik merk hierbij op dat spoedige inwerkingtreding van hoofdstuk 5 van het IAB BES noodzakelijk is voor het vaststellen van duidelijke kwaliteitseisen aan de uitvoering van lokale VTH taken, voor het voeren van overleg en ook voor het doen van aanwijzingen op grond van artikel 10.11 Wet Vrom Bes. De behandeling van het IAB BES in de kamer is echter aangehouden.

Vraag 35

Klopt het dat de ministeries het OLB juridische bijstand kunnen bieden bij een (niet-)publieke claim? Zo ja, bent u daartoe bereid? Zo nee, waarom niet?

Het OLB heeft in januari 2023 een verbetertraject bestuurlijk vastgesteld voor de directies die zich bezighouden met VTH taken en de uitvoering van verantwoordelijkheden in het kader van Ruimtelijke Ordening. Het verbetertraject wordt aangestuurd door een stuurgroep waaraan namens mij en de andere ministeries wordt deelgenomen.

Vraag 36

Is het Openbaar Lichaam van plan om natuurherstelmaatregelen te vragen aan de vergunninghouder van het Chogogo Beach Resort? Zo ja, per wanneer? Zo nee, waarom niet en wie zal verantwoordelijkheid dragen voor het herstellen van het koraal?

Ik verwijs hiervoor naar het antwoord op vraag 34.

Vraag 37

Kunt u aangeven wanneer het onderzoek van de Inspectie Leefomgeving en Transport naar de kwaliteit van de uitvoering van vergunningverlening, toezicht en handhaving taken naar de Kamer zal worden gestuurd? Bent u bereid om deze direct van een appreciatie te voorzien en daarbij ook een inhoudelijke beantwoording te geven van die vragen van het schriftelijk overleg inrichtingen- en activiteitenbesluit (IAB) BES waarbij nu in de beantwoording naar het ILT-onderzoek wordt verwezen? Zo nee, waarom niet?

Hoewel dit leidt tot een uitzonderlijke korte beantwoordingstermijn, hebben medewerkers van de betrokken departementen de beantwoording met spoed ter hand genomen en mij daarmee in staat gesteld de meeste vragen conform uw verzoek voor het Commissiedebat te beantwoorden. Ik stel het op prijs als u een volgende keer weer de reguliere termijnen wilt hanteren.

Vraag 38

Wat gaat u doen wanneer binnen een jaar geen concrete resultaten zijn behaald in het verbetertraject bij de dienst die vergunningverlening, toezicht en handhaving taken uitvoert? Kunt u hiertoe tijdig voorbereidingen treffen?

Vraag 39

Kunt u hierbij aangeven waarom het verbetertraject voor de implementatie nog niet bestuurlijk is vastgesteld door het OLB en wanneer dit gaat gebeuren? Wat gaat u ondernemen wanneer dit niet tot stand komt?

Vraag 40

Wat bent u van plan te doen wanneer binnen een jaar duidelijk wordt dat de uitvoeringsprogramma’s op kernpunten niet worden geïmplementeerd, zoals wel wordt verwacht door het kabinet? Kunt u toezeggen dat de aanbevelingen binnen een jaar worden uitgevoerd?

Vraag 41

Kunt u deze vragen beantwoorden vóór het verzamel-commissiedebat BES van 13 april 2023?

Vraag 1

Wat is uw reactie op beide berichten?1

Mediagebruik is onderdeel van het moderne leven en brengt zowel voor- als nadelen met zich mee. Het feit dat het schermgebruik onder kinderen toeneemt, is onlosmakelijk verbonden met de snelheid waarmee onze wereld digitaliseert. Onderzoek leert mij dat het gebruik van digitale producten en diensten door kinderen zowel positieve als negatieve gevolgen kan hebben. Voordelen zijn dat beeldschermen kunnen bijdragen aan een efficiënter leerproces bij kinderen en meer rust voor de ouder. Er zijn ook nadelen van beeldschermgebruik, zoals op het gebied van houding en bewegen, oogproblemen, achterblijvende algemene ontwikkeling, overgewicht en slaapproblemen.2 De mate van schermgebruik die beschreven wordt in de artikelen, vind ik daarom zorgwekkend. Ouders moeten alert zijn op deze nadelen. Het beleid van het kabinet is erop gericht om de negatieve effecten aan te pakken, waarbij de positieve effecten blijven bestaan.

Vraag 2

Hoe duidt u het gegeven dat een kwart van de onderzochte baby’s meer dan twee uur schermtijd heeft? Welke gevolgen heeft dit volgens u?

Als alle digitale media-activiteiten samengenomen worden, blijkt dat kinderen van 9 maanden tot en met 6 jaar hier volgens hun ouders gemiddeld zo’n 100 minuten per dag aan besteden. Oftewel bijna een uur en drie kwartier. Of dit een toename is ten opzichte van vorig jaar is moeilijk te zeggen omdat de data niet helemaal vergelijkbaar zijn. Desalniettemin lijkt het erop dat ten opzichte van 2022 een kleine toename is van 7 minuten media-tijd per dag. Gemiddeld 100 minuten beeldschermgebruik per dag is voor kinderen tot en met 6 jaar redelijk veel. Bovendien betekent een gemiddelde dat sommige kinderen hier (ver) boven zitten. In het beweegadvies van de Gezondheidsraad voor kinderen onder de 0–4 jaar is zelfs opgenomen dat schermtijd voor kinderen onder de twee jaar compleet wordt afgeraden.
Jonge kinderen gebruiken steeds meer soorten beeldschermen (bijv. tablet, laptop, vaste computer en smartphone) en zij besteden hier meer tijd aan. Deze beeldschermen worden door kinderen en ouders gebruikt voor zowel ontspannende als leerzame activiteiten. Zie antwoord vraag 1 voor mogelijke positieve en negatieve effecten van dit schermgebruik.

Vraag 3

Vindt u dat de gevolgen van het onderzoek waaruit blijkt dat schermgebruik jaarlijks blijft toenemen, ook onder jongeren en kleine kinderen, genoeg in kaart zijn gebracht? Zo nee, wat is daarvoor nodig?

Het Trimbos-instituut inventariseert in opdracht van de Alliantie Digitaal Samenleven in welke mate bestaande onderzoeken beeld kunnen geven van de relatie tussen mentale, sociale en fysieke gezondheid en schermtijd. Er wordt wereldwijd veel onderzoek gedaan naar de effecten van schermtijd op baby’s en/of jonge kinderen. Die onderzoeken worden ook bijgehouden door de WHO.
Het Iene Miene Media-onderzoek, waarover geschreven wordt in het NOS-artikel, heeft als doel om te meten hoe kinderen binnen huishoudens omgaan met, en gebruik maken van, verschillende media(apparaten) en hoe hun ouders hen hierbij begeleiden. Met relevante stakeholders wordt gewerkt aan de vertaling naar de praktijk van dit soort onderzoeken. Dit blijkt ook uit bijvoorbeeld het Digitale Balans Model3 dat het Trimbos-instituut en Netwerk Mediawijsheid in 2019 hebben ontwikkeld. Vanuit dit model is in kaart gebracht hoe mensen meer grip kunnen krijgen op schermtijd en balans.

Vraag 4

In hoeverre bent u bekend met ander onderzoek dat zich richt op lange termijn effecten van schermtijd bij baby’s en/of jonge kinderen?

Ik ben hiervan op de hoogte. Er wordt wereldwijd veel onderzoek gedaan naar de effecten van schermtijd op baby’s en/of jonge kinderen. Die onderzoeken worden bijgehouden door de WHO, die met een richtlijn rond schermtijd is gekomen, gebaseerd op deze verschillende onderzoeken.4 Veel onderzoek richt zich op deelzaken zoals de invloed op mentale problemen of de invloed op lichamelijke ontwikkeling (fysieke activiteit, maar ook ontwikkeling van oogfunctie).
De beschikking van schermen speelt nog niet lang en de ontwikkelingen daarin volgen elkaar in hoog tempo op. De richtlijn van de WHO biedt daarbij houvast. Dit is verwerkt in de adviezen van de jeugdgezondheidszorg, bijvoorbeeld in de 20-20-2 regel, die specifiek ingaat op schermtijd in relatie tot buitenspelen.5

Vraag 5

Kunt u reflecteren op de uitkomsten van ander onderzoek dat in opdracht van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) werd uitgevoerd, waaruit blijkt dat de meeste jongeren zeer intensief gebruik maken van «schermen» (smartphone, laptops, televisie, etc.) en dit kan leiden tot concentratiestoornissen en een lager welzijn?2

Zoals beschreven in de Kamerbrief van het Ministerie van BZK over de voortgang digitale inclusie 20217, waarin het onderzoek wordt benoemd, kunnen digitale apparaten ons functioneren zowel op een positieve als negatieve manier beïnvloeden. Om de negatieve invloeden te beperken, zijn nieuwe vaardigheden, meer regulering en voorlichting nodig. Het onderzoek laat zien dat veel jongeren bijvoorbeeld beschikken over onvoldoende vaardigheden om grote hoeveelheden informatie te kunnen verwerken en kritisch te beoordelen. Bij 2 op de 5 jongeren en 1 op de 4 jonge werknemers is sprake van problematisch smartphonegebruik. Het smartphonegebruik stoort dan andere activiteiten, zoals (huis)werk of sociale activiteiten. Een continue versnippering van de aandacht kan leiden tot overprikkeling, stress en mentale klachten. De ontwikkelingen gaan snel en onze vaardigheden zijn nog niet voldoende aangepast op de digitale samenleving, en dat maakt sommigen kwetsbaarder dan anderen voor de negatieve gevolgen. Hierin ligt een rol voor zowel ouders als de overheid om op tijd te waarschuwen voor risico’s. Zie ook antwoord 6.

Vraag 6

Welke concrete stappen neemt u om ouders te informeren over schermgebruik en de (nadelige) effecten daarvan?

Het basistakenpakket Jeugdgezondheidszorg (JGZ) wordt ingezet om gezondheidsproblemen en nadelige effecten van schermgebruik te voorkomen. De JGZ-professionals kunnen tijdens de contactmomenten met ouders spreken over verantwoord schermgebruik. In de JGZ wordt gewerkt met de Richtlijn Houding en bewegen uit 2020. Hierin staan welke effectieve adviezen JGZ-professionals kunnen geven aan ouders en jeugdigen over mediagebruik in relatie tot houding en bewegen. Er is geen specifieke JGZ-richtlijn mediaopvoeding. Voor deze professionals is wel een e-learning Mediaopvoeding beschikbaar.
Daarnaast heeft het NJI de Toolbox Mediaopvoeding: «Media? Gewoon opvoeden!» ontwikkeld. Hierin zijn factsheets voor professionals en leerkrachten en tipsheets voor ouders opgenomen. Tenslotte werkt BZK aan een publiekscampagne over kinderen in de digitale wereld waarin schermgebruik onder kinderen en de risico’s daarvan een belangrijk thema zal zijn. Over deze publiekscampagne en andere fundamentele acties om kinderen in de digitale wereld beter te beschermen, zal de Staatssecretaris van BZK uw Kamer voor de zomer informeren in een brede beleidsbrief.

Vraag 7

Welke stappen kunnen ouders nemen om de schermtijd van kinderen te beperken?

Naast de inzet door JGZ-professionals tijdens de contactmomenten, kunnen ouders ook gebruik maken van de NJI Toolbox Mediaopvoeding «Media? Gewoon opvoeden!» en van de praktische adviezen op Mediawijsheid.nl.

Vraag 8

Welke concrete stappen neemt u om de nadelige effecten van schermtijd bij kinderen en jongeren te verminderen?

Met de inzet van het basistakenpakket JGZ wil ik gezondheidsproblemen voorkomen. De jeugdgezondheidsprofessionals kunnen tijdens de contactmomenten met ouders spreken over verantwoord schermgebruik, wat schermgebruik doet met ontwikkeling van een kind en ze hierover adviseren.
Verder zet het kabinet met de landelijke aanpak «Mentale gezondheid: van ons allemaal» in op de mentale gezondheid van jongeren en jongvolwassenen. Hierbij is nadrukkelijk aandacht voor de effecten van teveel online activiteiten. Samen met jongeren zelf en organisaties zoals MIND Us en het netwerk Mediawijsheid, wordt onder meer ingezet op het stimuleren van mediawijsheid, digitale vaardigheden en digitale balans.

Vraag 9

Kunt u toelichten welke stappen techbedrijven zoals Instagram, Youtube en TikTok zouden moeten nemen om problematisch gebruik te voorkomen?

Sociale media platforms hebben de verantwoordelijkheid om de rechten en belangen van minderjarigen te allen tijde te borgen. Vanuit het Verenigde Naties Verdrag inzake de Rechten van het Kind dienen zowel publieke als private partijen het belang van het kind mee te nemen bij activiteiten die kinderen raken. De Staatssecretaris van BZK spreekt sociale media platforms aan op deze verantwoordelijkheid en gaat met hen hierover in gesprek. De negatieve effecten worden tijdens gerichte gesprekken met grote techbedrijven onder de aandacht gebracht. Een voorbeeld hiervan is de klankbordgroep publiek-private samenwerking over online content. Verder hebben de Staatssecretaris van BZK en ik recentelijk met diverse partijen, waaronder social media platforms, gesproken over kinderrechten in relatie tot digitalisering. Verder zet de Staatssecretaris van BZK zich ervoor in dat online platforms in het kader van de opkomende verplichtingen vanuit de Digital Services Act (DSA) meer transparantie gaan bieden over de effecten van hun platforms, over de risico´s voor minderjarigen, over de maatregelen die zij nemen om risico´s te verminderen en over de effectiviteit van die maatregelen.

Vraag 10

In hoeverre bent u bereid om in gesprek te gaan met techbedrijven om ze ertoe te bewegen om serieuze stappen te nemen, zoals het beperken van de maximale tijd per app, leeftijdscontroles en het aanpassen van de aanbevelingsalgortimes?

Het Ministerie van BZK is reeds met techbedrijven in gesprek om hen te wijzen op de verantwoordelijkheid die zij hebben om de rechten van kinderen online te beschermen. Ook heeft het Ministerie van BZK experttafels georganiseerd waarin oplossingen zijn besproken om de leeftijdscontrole te verbeteren. Op dit moment is de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties zich hierop aan het beraden. Daarnaast treedt binnenkort de DSA in werking waarmee strengere voorwaarden gesteld worden aan het gebruik van aanbevelingsalgoritmes. Zo moeten zeer grote online platforms nadrukkelijk rekening gaan houden met de negatieve effecten die hun algoritmes kunnen hebben op kinderen en moeten zij deze systemen zo nodig aanpassen. Ze moeten dit bovendien laten onderzoeken door externe auditors. Een overzicht van fundamentele acties die verder worden ondernomen om kinderen beter te beschermen in de digitale wereld, zal voor de zomer door de Staatssecretaris van BZK naar uw Kamer worden gestuurd.

Vraag 11

Ziet u kans om deze vraagstukken ook mee te nemen in het Nationaal Preventieakkoord?

Vanuit de brede preventieaanpak komt het thema schermtijd op een aantal plaatsen terug, zoals bijvoorbeeld bij het thema bewegen en bij het programma Gezonde School.
Binnen de Beweegalliantie is er een cirkel van organisaties (onder meer vanuit onderzoek, kennisinstituten, maatschappelijke organisaties, fondsen en kinderopvang) gestart voor 0–4 jarigen die aan de slag gaat met het in beweging krijgen van de doelgroep 0–4 jarigen. Schermtijd is in deze cirkel ook als thema besproken. Dit wordt de komende tijd verder uitgewerkt.
Het thema schermtijd komt ook terug in het beweegadvies van de Gezondheidsraad voor kinderen onder de 0–4 jaar. Daarin is opgenomen dat schermtijd voor kinderen onder de twee jaar compleet wordt afgeraden en bij kinderen tussen de 2 en 4 jaar moet worden beperkt tot maximaal 1 uur per dag. Op basis van dit advies heeft het Kennis Centrum Sport en Bewegen (KCSB) een infographic8 omtrent bewegen en zitgedrag gepubliceerd. Dit om het bewustzijn rondom het beweegadvies te vergroten. De infographic wordt met alle relevante partijen betrokken bij 0–4 jarigen gedeeld.
In de verdere implementatie van het beweegadvies zal schermtijd voor deze groep dan ook worden meegenomen.
Binnen de Gezonde School kunnen scholen aan de slag met het thema mediawijsheid. Scholen krijgen dan richtlijnen en adviezen voor schermtijd en kunnen aan de slag met verschillende interventies. Daarnaast zie ik de trend dat steeds meer thema’s een link hebben met schermtijd. Binnen het programma wordt bezien of en hoe schermtijd ook binnen de andere thema’s een grotere rol kan krijgen. Dit zal ook worden meegenomen in het programmaplan voor de nieuwe programmaperiode.

Vraag 12

Bent u bekend met de Franse wetgeving over kinderen en sociale media, en vindt u het ook wenselijk om ook dergelijke concrete maatregelen in Nederland te nemen?3

Ja, ik volg met belangstelling de Franse wetgeving over kinderen en sociale media. Wetgeving over kinderen en sociale media in Europees verband heeft grotere schaal en impact. De Franse wetgeving omtrent de verhoging van de leeftijdsgrens naar 15 jaar voor het gebruik van sociale media zonder toestemming van de ouders is in onze ogen in Nederland niet noodzakelijk, aangezien de Uitvoeringswet Algemene Verordening Gegevensbescherming (UAVG) de verwerking van gegevens van kinderen onder de 16 jaar zonder de toestemming van ouders reeds verbiedt. De Autoriteit Persoonsgegevens houdt toezicht op de naleving hiervan.

Vraag 1

Herkent en erkent u de kritiek van honderden techprominenten dat er onvoldoende oog is voor de mogelijke maatschappelijke ontwrichtende effecten die kunstmatige intelligentie toepassingen met zich mee brengen? Kunt u uw antwoord uitgebreid toelichten?1

Het is uiteraard belangrijk dat er aandacht is voor de impact die de inzet van (krachtige) AI-systemen op onze samenleving kan hebben. Het afgelopen half jaar heeft de aandacht voor met name generatieve AI-systemen daarbij een enorme vlucht genomen.
Enerzijds maakt het karakter van deze technologie het mogelijk om als zeer geavanceerd hulpmiddel taken uit handen te nemen of te vergemakkelijken en bij te dragen aan maatschappelijke opgaven, anderzijds heeft het de potentie om bij te dragen aan desinformatie of manipulatie. Deze ongewenste, en in sommige gevallen potentieel ontwrichtende, effecten zijn zorgwekkend. Het tempo waarin deze technologie zich ontwikkelt brengt daarnaast onzekerheden met zich mee en daarbij bestaan er nog vraagtekens.
De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) schrijft in haar rapport «opgave AI» dat effecten van (nieuwe) AI op publieke waarden niet vooraf te voorspellen zijn.2 Het is daarom belangrijk dat er in de maatschappij een continu debat gevoerd wordt en dat de overheid structureel signalen uit de samenleving ophaalt en uitgaat van een lerende aanpak. Momenteel wordt er daarom gewerkt aan het ontwikkelen van een visie op generatieve AI, naar aanleiding van een motie van de leden Dekker-Abdulaziz en Rajkowski.3 Ik informeer uw Kamer nog voor de zomer over de vorderingen. Deze visie zal open tot stand komen en zullen burgers, bedrijven en overheden actief worden gevraagd om bij te dragen aan dit traject.
Tegelijkertijd zet het kabinet zich in om de reeds bekende risico’s van AI te adresseren, in de eerste plaats via regulering. Naast al bestaande voor AI relevante wet- en regelgeving (zoals de AVG en de Grondwet) richt de Europese AI-verordening – die op dit moment nog in onderhandeling is – zich specifiek op een aanscherping van het reguleren van AI-systemen in de Europese Unie. De AI-verordening is productwetgeving, opdat AI systemen pas op de markt komen als aan de eisen van de verordening is voldaan. In de concept AI-verordening4 zijn AI-systemen onderverdeeld in verschillende categorieën. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere of minder zware eisen. Het merendeel van de eisen geldt voor AI-systemen met hoge risico’s voor gezondheid, veiligheid en mensenrechten.
Daarnaast blijft het kabinet zich inzetten op het stimuleren van mensgerichte AI. Dit gebeurt onder andere door te investeren in de ontwikkeling van oplossingen voor verantwoorde en veilige AI via onder meer de ELSA-labs5 en het ROBUST-programma.6 Naast het weren van negatieve AI-toepassingen, moeten we positieve AI-toepassingen blijven omarmen.

Vraag 2

Bent u het eens met de stelling dat de maatschappelijke vraagstukken die voortkomen uit de toepassing van kunstmatige intelligentie niet bepaald moeten worden door techbedrijven maar een maatschappelijk en politiek debat verdienen? Vindt u dit maatschappelijke en politieke debat tot op heden voldoende gevoerd? Kunt u uw antwoord uitgebreid toelichten?

Ja, ik kan mij vinden in de stelling dat maatschappelijke vraagstukken die voortkomen uit AI-toepassingen een brede maatschappelijke dialoog verdienen. Daarbij onderstreep ik dat het debat zowel maatschappelijk als politiek hierover momenteel op veel verschillende manieren wordt gevoerd.
Door de recente ontwikkelingen op het gebied van AI is de aandacht voor AI in het publieke debat sterk toegenomen. Dit is bijvoorbeeld merkbaar aan de grote (social) media-aandacht voor het onderwerp. Het maatschappelijk debat over de impact van AI op onze samenleving wordt echter al langere tijd gevoerd. Hierbij is aandacht voor zowel de enorme kansen die met een technologie als AI gemoeid gaan, alsook de risico’s. Zo is er afgelopen jaren veel aandacht geweest voor onderwerpen als transparantie, bias en het belang van menselijk toezicht op AI. Deze signalen zijn actief meegenomen in het nationale AI-beleid.
Om zicht te houden op nieuwe maatschappelijke vraagstukken en risico’s van AI is het van groot belang het gesprek hierover met verschillende partijen te blijven voeren. Deze maatschappelijke dialoog staat ook centraal bij het in 2023 komen tot een (kabinets)visie op generatieve AI, waarbij een stevig maatschappelijk debat over de maatschappelijke impact van (generatieve) AI met burgers, overheden en bedrijven zal worden gevoerd en als belangrijke input fungeert.
Hier ligt ook een brede en gedeelde verantwoordelijkheid, ook bij aanbieders en gebruikers van AI, wetenschappers, onderwijsinstellingen, burgers en overheden. En daar zet het kabinet zich vol voor in, bijvoorbeeld via de Nederlandse AI Coalitie. Via dit publiek-private samenwerkingsverband werken overheid, bedrijfsleven, onderwijs- en onderzoeksinstellingen en maatschappelijke organisaties in gezamenlijkheid aan maatschappelijk verantwoorde AI-toepassingen.
Daarnaast is de (aankomende) AI-verordening een directe reactie op de in de maatschappij gesignaleerde risico’s. De Europese Unie pakt met deze verordening de regie rondom de maatschappelijke vraagstukken rondom AI. Dit geldt ook voor een aantal andere Europese wetten, zoals de Digital Markets Act en de Digital Services Act. Bedrijven mogen alleen (digitale) producten en diensten leveren op de Europese markt als deze veilig zijn en mensenrechten respecteren.

Vraag 3

Kunt u de concrete uitwerking van het waardenkader sturen, naar aanleiding van aangenomen motie Leijten en Ceder? Zo nee, wanneer kan de Kamer deze concrete uitwerking verwachten?2

Met uw Kamer deel ik de behoefte aan één duidelijk waardenkader dat toegepast kan worden in digitalisering in alle sectoren. Tegelijkertijd constateer ik dat er al meerdere waardenkaders zijn die tegelijkertijd gelden. Zo zijn de waarden die wij als maatschappij van fundamenteel belang achten vastgelegd in de Grondwet. Hierbij valt te denken aan non-discriminatie, privacy en vrijheid van meningsuiting. De bescherming van deze waarden is uitgewerkt in wetgeving. De AVG ziet bijvoorbeeld toe op de bescherming van persoonsgegevens. Op basis van deze wet- en regelgeving zijn er diverse handreikingen opgesteld om organisaties te helpen deze waarden ook in de praktijk te beschermen. Voorbeeld hiervan zijn de Impact Assessment Mensenrechten Algoritmen (IAMA),8 de handreiking non-discriminatie by design en de Code Goed Digitaal Openbaar Bestuur (CODIO)9.
Welke publieke waarden een rol spelen in concrete situaties is (mede) afhankelijk van de sector en het specifieke geval. Zo is de hierboven genoemde CODIO voor digitalisering in het openbaar bestuur opgebouwd als een bouwwerk dat bestaat uit drie fundamenten: (1) democratie, (2) rechtstaat en (3) bestuurskracht; zes principes: (1) participatie, (2) maatschappelijke waarde, (3) mensenrechten, (4) procedurele rechtvaardigheid, (5) bestuurskwaliteit en (6) verantwoordelijkheid; en 30 specifieke waarden. De code biedt een rijkheid aan waarden maar ook drie heldere ankerpunten: democratie, rechtstaat en bestuurskracht. De vraag die in het openbaar bestuur wordt gesteld ziet minder op een aanvullend waardenkader dan op handreiking bij de toepassing van alle bestaande kaders. Daarom ontwikkel ik bijvoorbeeld een implementatiekader «verantwoorde inzet van algoritmes» met daarin alle verplichte en aanbevolen onderdelen waarmee rekening moet worden gehouden bij het ontwikkelen en inzetten van algoritmes.
Tegelijkertijd heb ook ik de behoefte om de bestaande waardenkaders in samenhang te beschouwen en te verbinden. In de brief over het implementatiekader, die u nog voor de zomer van mij ontvangt, zal ik aangeven hoe we daartoe willen komen.

Vraag 4

Kunt u zich vinden in de oproep van de techprominenten om een pauze in te lassen met betrekking tot het gebruik van vergaande kunstmatige intelligentie en kunt u in uw antwoord betrekken hoe zich dit verhoudt tot het normenkader dat moet worden opgesteld door de Autoriteit Persoonsgegevens en dat nog niet ontwikkeld is?

Ik herken zorgen die genoemd worden in de oproep van techprominenten en het is goed dat zij daarvoor aandacht vragen.
De oproep richt zich echter in grote mate op toekomstige ontwikkelingen, terwijl we nu al impact zien van generatieve AI. Daarbij gaat het bijvoorbeeld om desinformatie en gevolgen voor het onderwijs. Deze gevolgen worden niet opgelost met een pauze. Het is daarom van belang om ook nu al actie te nemen.
Op de korte termijn werkt het kabinet aan adresseren van die gevolgen.10 Het kabinet werkt ook aan een integrale visie op generatieve AI naar aanleiding van een motie11 van uw Kamer.
Daarnaast is de oproep een steun in de rug voor de Nederlandse en Europese aanpak om tot mensgerichte AI te komen. Zoals in antwoord 1 beschreven, investeren we in het veiliger kunnen maken van AI-systemen en stellen gaan we via de AI-verordening eisen stellen om deze veiligheid te waarborgen.
In Nederland werken we ook aan het versterken van toezicht op algoritmes en AI. Diverse toezichthouders hebben met AI en algoritmes te maken. De DCA bij de AP richt zich vanaf januari 2023, conform de doelen in de inrichtingsnota algoritmetoezichthouder, op het komen tot gezamenlijke en sectoroverstijgende normuitleg.12 Bijvoorbeeld over transparantieverplichtingen in wet- en regelgeving. Ook faciliteert de AP het gezamenlijk uitleggen van juridische normen en kaders op het gebied van algoritmes en AI. Dit moet bijdragen aan het scheppen van duidelijkheid aan ondertoezichtgestelden – bijvoorbeeld bedrijven of overheden – over hoe en aan welke normen zij moeten voldoen als het gaat om de (verantwoorde) inzet van AI. Naast deze inspanningen van de DCA zal het kabinet het toezicht op basis van de AI verordening vormgeven zodra deze definitief tot stand is gekomen. Bij de voorbereiding, die nu al loopt zijn diverse toezichthouders betrokken.

Vraag 5

Kunt u aangeven welke adviescolleges, instanties of andere gremia de overheid en bestuurders adviseren over de ethische aspecten van het gebruik van kunstmatige intelligentie en nieuwe digitale toepassingen?

Bij de ontwikkeling en het gebruik van AI en nieuwe digitale toepassingen wint de overheid advies in over de ethische aspecten van een breed scala aan organisaties, bedrijven en personen, waaronder de wetenschap en het maatschappelijk middenveld. Recente voorbeelden daarvan zijn onderzoeken van het Rathenau Instituut en de WRR. Deze organisaties worden ook betrokken bij het opstellen van de kabinetsvisie op generatieve AI.
Onderdelen van de rijksoverheid en andere (mede-)overheden hebben daarnaast ook zelf adviesorganen voor de ethische aspecten van het gebruik van AI en digitale toepassingen. Voorbeelden daarvan zijn de Commissie Data Ethiek van het UWV en de Adviescommissie Analytics bij het Ministerie van Financiën en ethische commissies bij gemeenten en provincies.