| Ingediend | 16 januari 2026 |
|---|---|
| Beantwoord | 17 maart 2026 (na 60 dagen) |
| Indiener | Barbara Kathmann (PvdA) |
| Beantwoord door | Foort van Oosten (VVD), van Marum |
| Onderwerpen | cultuur en recreatie media |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2026Z00696.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20252026-1349.html |
Ja.
Ja, wij vinden het onacceptabel dat met de AI-chatbot Grok op grote schaal deepnudes (seksueel getinte nepafbeeldingen of -video’s) zijn gegenereerd. Het bericht dat zoveel mensen slachtoffer zijn geworden vinden wij zeer zorgwekkend. De slachtoffers zijn met name vrouwen en minderjarigen, maar deepnudes kunnen in potentie van iedereen gemaakt worden. De impact en de gevolgen van deepnudes voor slachtoffers en hun omgeving zijn enorm, mede omdat het maken van deepnudes steeds geavanceerder wordt en daarmee deepnudes steeds realistischer worden. Daarnaast zijn deze beelden ook schadelijk voor de samenleving, omdat iedereen, specifiek jongeren, ze online tegen kunnen komen.
Het vervaardigen van seksueel beeldmateriaal van minderjarigen, of van personen zonder toestemming, is strafbaar, ook als het materiaal met AI is gegenereerd.
Zoals ook bij vraag 2 beantwoord, vinden wij het bericht dat mensen, met name vrouwen en kinderen, slachtoffer worden van deepnudes zeer zorgwekkend.
De GROK AI tool is geen zelfstandig platform, maar een onderdeel van X waarlangs de verspreiding plaatsvindt. X is onder de Digital Service Act (DSA) een zeer groot online platform. De Europese Commissie (EC) houdt hier toezicht op en is inmiddels een onderzoek gestart in het kader van de DSA.4 Het is aan de EC om te beoordelen of X aan de wettelijke verplichtingen heeft voldaan. Nederland heeft in de lopende onderzoeken tegen X geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling.
Het gesprek waarnaar wordt verwezen in het AD, betreft een gesprek op werkniveau tussen medewerkers van het Ministerie van Justitie en Veiligheid en medewerkers van de politie en het Openbaar Ministerie (OM). Binnen het Ministerie van Justitie en Veiligheid wordt gekeken naar de mogelijkheden om het gebruik van nudify-applicaties verder tegen te gaan. Ondanks de mogelijkheid om gebruikers van de applicaties strafrechtelijk te vervolgen (via de artikelen 252 en 254ba Sr) en de mogelijkheid om elk illegaal beeld te laten verwijderen, blijft het maatschappelijke probleem rondom deepnudes, zich in grote mate voordoen. Om die reden wordt bezien of het wenselijk en haalbaar is het aanbieden van de applicaties zelf te verbieden, nationaal dan wel Europees. In dat kader hebben met verschillende stakeholders en experts, waaronder ook medewerkers van de politie en het OM, gesprekken plaatsgevonden. Voordat een inhoudelijke positie bepaald wordt, is verdere studie nodig.
In de voortgangsbrief aanpak seksuele misdrijven, die twee keer per jaar wordt verstuurd, zal de Minister van Justitie en Veiligheid uw Kamer informeren over de stand van zaken van deze verkenning.
Zie het antwoord op vraag 4. Welke gevolgen het heeft voor X dat het platform het generen van deepnudes standaard aanbiedt via GROK, zal moeten blijken uit het onderzoek dat door de Europese Commissie is ingesteld.
Zie het antwoord op vraag 4.
Wij zullen de effectiviteit van de door X genomen maatregelen moeten afwachten. Wij houden dat nauwlettend in de gaten.
Ja, wij delen deze zorgen, maar zoals eerder geantwoord zullen wij de effectiviteit van de getroffen maatregelen moeten afwachten.
Zoals geantwoord bij vraag 4, wordt binnen het Ministerie van Justitie en Veiligheid gekeken naar de mogelijkheden om het gebruik van nudify applicaties verder tegen te gaan.
De DSA harmoniseert de regels die van toepassing zijn op tussenhandeldiensten op de interne markt volledig. De lidstaten mogen derhalve geen aanvullende nationale eisen stellen of in stand houden die verband houden met aangelegenheden die binnen het toepassingsgebied van de verordening vallen, tenzij daarin uitdrukkelijk is voorzien in de verordening. Vanuit België is een oproep geweest aan de EC om op te treden, maar daar is Grok momenteel niet verboden.
De EC is inmiddels een onderzoek gestart naar de AI chatbot Grok. Bij constatering van schending van de DSA staan de EC verschillende middelen ter beschikking; één daarvan is de toegang tot een dienst beperken.
In het Verenigd Koninkrijk is andere wetgeving op digitale diensten van toepassing dan in de Europese Unie.
Het is niet aan ons als bewindspersonen om deze oproep van de EC te beoordelen. Zoals ook bij vraag 3 beantwoord, houdt primair de EC toezicht op X en op Grok, als onderdeel van X. In het onderzoek, dat is gestart door de EC, heeft Nederland geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling.
De ACM en AP hebben aangegeven op dit moment samen met andere partijen en toezichthouders te verkennen wat de mogelijkheden zijn om dit soort applicaties aan te pakken en hoe zij elkaar daarin kunnen versterken.
Als het gaat om specifiek de bevoegdheden van de ACM, heeft de ACM de volgende reactie gegeven:
«De ACM houdt in Nederland toezicht op de DSA. De DSA gaat niet over welke online inhoud illegaal is. Dat bepalen wetten zoals het strafrecht of privacywetgeving. Wat de DSA wél regelt, is welke processen de online platforms moeten hebben ingericht op het voorkomen van illegale inhoud. Bijvoorbeeld, hoe online platforms moeten omgaan met meldingen over illegale inhoud. Dit betekent dat de ACM niet kan optreden tegen de illegale content zelf, zoals bijvoorbeeld de seksuele beelden die zonder toestemming zijn verspreid. De ACM komt bij deze problematiek enkel in beeld als er sprake is van een onlineplatform (of een hosting provider) die een rol speelt in de verspreiding/hosting van de content en zoals hiervoor genoemd de processen niet op orde heeft.
De ACM kan optreden wanneer de aanbieders van deze diensten in Nederland gevestigd zijn. De allergrootste platforms vallen primair onder toezicht van de EC. Zo heeft de EC een DSA-onderzoek geopend tegen het platform X, in verband met de rol dat dat platform speelt in het verspreiden van content door middel van Grok. Nationale toezichthouders kunnen wel bijstand verlenen bij onderzoeken als de EC daarom vraagt. Ook kunnen Nederlandse gebruikers meldingen van mogelijke DSA-overtredingen bij de ACM indienen. De ACM zorgt er dan voor dat deze bij de juiste instanties terechtkomen.»
Als het gaat om specifiek de bevoegdheden van de AP, heeft de AP de volgende reactie gegeven:
«Het genereren en/of verspreiden van seksuele deepfakes is in dit geval een verwerking van persoonsgegevens die aan de Algemene verordening gegevensbescherming (AVG) moet voldoen. De AP kan onderzoek instellen naar personen of organisaties die verantwoordelijk zijn voor het (mogelijk) maken en verspreiden van dit soort materiaal. Dit kan op basis van klachten, maar ook op eigen initiatief. Als uit dat onderzoek blijkt dat de AVG wordt overtreden, kan de AP optreden, bijvoorbeeld door het opleggen van boetes en het laten verwijderen van content.
Wanneer het hoofdkantoor van een organisatie in een andere lidstaat is gevestigd, zoals het geval bij X (het Europese hoofdkantoor is namelijk gevestigd in Ierland), dan stelt de gegevensbeschermingsautoriteit van het betreffende land onderzoek in. De AP houdt nauw contact met deze collega-toezichthouders.
De AP merkt op dat wat deepnudes betreft er zowel praktische als juridische complicaties zijn als het gaat om bewijsvergaring en handhaving. Zo is het vaak lastig te achterhalen wie de deepfakes heeft gemaakt of verspreid, zijn de eigenaren van platforms vaak moeilijk vindbaar of bevinden deze zich in het buitenland (veelal buiten de EU). Ook sluit wetgeving niet altijd naadloos aan op dit soort situaties.»
Een complicerende factor is ook dat de illegaliteit van de content telkens van individueel geval tot geval moet worden beoordeeld en bewezen en het is niet goed mogelijk dit in generieke zin te doen. Voor een effectieve aanpak van dit probleem bevelen de ACM en AP aan dat onderzoek wordt gedaan naar manieren om de drempel voor de illegaliteit van deze problematiek te verlagen, of om vast te stellen of een nieuwe strafbaarstelling van meerwaarde is. Dan kan het probleem bij de bron worden aangepakt, in plaats van incidentbestrijding.
Slachtoffers kunnen bij verschillende organisaties, zoals Slachtofferhulp Nederland (SHN), Centrum Seksueel Geweld (CSG) en Offlimits, terecht voor hulp. Als het slachtoffer overweegt een melding te maken of aangifte te doen, kan deze terecht bij de politie. Genoemde hulporganisaties kunnen slachtoffers hierover informeren of hierbij ondersteunen.
Bij bovengenoemde hulporganisaties is niet bekend of er ook Nederlanders zijn die slachtoffer zijn geworden van de AI-naaktbeelden, die specifiek met de AI-Chatbot Grok zijn gegenereerd. Dit komt omdat bij meldingen die door slachtoffers worden gedaan bij SHN en CSG, in de registratie geen onderscheid wordt gemaakt naar misbruik van echt dan wel met AI-gegenereerd beeldmateriaal. Bij meldingen die door slachtoffers worden gedaan bij Offlimits, wordt in de registratie wel onderscheid gemaakt tussen echt en AI-gegenereerd beeldmateriaal, maar wordt niet geregistreerd met welke specifieke AI-applicatie, zoals bijvoorbeeld de AI-chatbot Grok, de afbeeldingen zijn gegenereerd.
De politie heeft in de afgelopen twee maanden wel een toename gezien in de hoeveelheid meldingen die vanuit platforms worden gedaan over uploads naar AI-chatbot Grok. Mogelijk zijn er ook slachtoffers die zelf melding hebben gedaan bij de politie, maar dit is niet goed uit de registratie te halen, omdat de melding onder verschillende delictsoorten kan worden geregistreerd.
Nee, dit hebben wij niet met X besproken. De EC heeft inmiddels een onderzoek ingesteld. Wij zullen de ontwikkeling rondom dit onderzoek volgen.
Zoals ook bij de vragen 3 en 11 aan de orde is gekomen, is het aan de EC, een onafhankelijke toezichthouder, om hier toezicht op te houden. De EC is inmiddels een onderzoek gestart in het kader van de DSA. Het is aan de EC om te beoordelen of X aan de wettelijke verplichtingen heeft voldaan. Nederland heeft in de lopende onderzoeken tegen X geen specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling. Als de toezichthouder vaststelt dat sprake is van het niet nakomen verplichtingen, kan zij sancties opleggen.
Het kabinet beraadt zich op dit moment over de wenselijkheid en mogelijkheid van een verbod op bepaalde applicaties. Het verbieden van X als geheel is niet aan de orde.
Ja.
Hierbij deel ik u mede dat de beantwoording van vragen van leden van de Tweede Kamer naar aanleiding van berichten over de app GROK van platform X niet binnen de daarvoor geldende termijn kunnen worden beantwoord. Het betreft drie sets vragen: De zorgvuldige beantwoording van de vragen van de fracties vergt nadere interdepartementale afstemming, hetgeen meer tijd vraagt. Ik streef ernaar de beantwoording zo spoedig mogelijk aan uw Kamer te doen toekomen.