| Ingediend | 15 juli 2025 |
|---|---|
| Beantwoord | 19 september 2025 (na 66 dagen) |
| Indieners | Ingrid Michon (Volkspartij voor Vrijheid en Democratie), Barbara Kathmann (PvdA), Jesse Six Dijkstra (NSC), Hanneke van der Werf (D66) |
| Beantwoord door | van Marum , Struycken |
| Onderwerpen | criminaliteit openbare orde en veiligheid |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2025Z14702.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20252026-39.html |
Ja.
Het kabinet erkent de grote impact die bepaalde deepfakes en online misbruik hebben op slachtoffers. Effectieve handhaving en bescherming van slachtoffers zijn van groot belang. De beleidsreactie op het rapport «Online seksueel geweld» van 21 maart 20252 zal ik u in het najaar doen toekomen, hierin wordt onder meer gereflecteerd op de capaciteit en prioriteit van onder andere de politie, het OM, de Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument en Markt (ACM) voor de problematiek rondom online misbruik.
Het is daarnaast belangrijk om te benoemen dat het in de praktijk helaas soms lastig is om effectief op te treden tegen deepfake porno, omdat aanbieders van deepfake-websites vaak niet transparant zijn over hun identiteit of hun vertegenwoordiging binnen de EU. Dit bemoeilijkt het vaststellen van de juiste verantwoordelijke partij en daarmee de handhaving. Ook blijkt dat wanneer de identiteit van deze partijen wel te achterhalen is, zij niet in Nederland, of zelfs niet in de EU, gevestigd zijn, wat handhaving bemoeilijkt.
Grote techbedrijven hebben de verantwoordelijkheid om zich te houden aan geldende wet- en regelgeving en daarmee illegale inhoud tegen te gaan. Op grond van de Digitale Services Act (DSA) rust op zeer grote online platforms en zeer grote online zoekmachines de verantwoordelijkheid om illegale inhoud op hun diensten tegen te gaan en systeemrisico’s te mitigeren, onder meer door het voor gebruikers van de platforms mogelijk te maken om illegale inhoud op eenvoudige wijze te melden.
Zeer grote online platforms en zoekmachines zijn daarnaast verplicht jaarlijks een risicobeoordeling uit te voeren om systeemrisico’s, zoals schadelijke deepfakes, te identificeren. Indien relevante risico’s aanwezig zijn, dan moeten zij passende maatregelen nemen om deze te beperken, zoals aanpassingen in diensten, de interface, algemene voorwaarden, moderatieprocedures en/of algoritmes. Indien een platform systematisch nalaat om adequaat op meldingen te reageren, kunnen nationale toezichthouders of de Europese Commissie daarop handhaven, bijvoorbeeld door boetes op te leggen. Daarnaast hebben gebruikers de mogelijkheid om, naast het doorlopen van de interne klachtenafhandelingsprocedure bij een aanbieder, een gerechtelijke procedure te starten.
Dat organisaties burgers vertegenwoordigen of ondersteunen, kan in het algemeen bijdragen aan de effectieve handhaving van gebruikersrechten onder de Digitaledienstenverordening (hierna: de DSA) en aan een betere rechtsbescherming in de digitale omgeving.
Het kabinet is zich bewust van de enorme impact die online grensoverschrijdend gedrag, zoals het verspreiden van pornografische deepfakes, kan hebben op slachtoffers. Zoals gemeld in mijn antwoord op vraag 3 beoogt de DSA de verspreiding van illegale inhoud en systeemrisico’s aan te pakken. Dat betreft vaak ook deepfake-pornobeelden, omdat die veelal illegaal zijn en dus onder toepassingsbereik van de DSA vallen.3 Onder meer de verantwoordelijke onafhankelijke toezichthouders kunnen optreden tegen bedrijven die bijdragen aan de creatie of verspreiding van dergelijk materiaal.
Daarnaast vindt er vanuit mijn departement en onder andere het Ministerie van Economische Zaken en het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties regelmatig overleg plaats met techbedrijven. Om de brede dialoog over online content te ondersteunen, is in 2023 – onder neutraal voorzitterschap van ECP4 – een overlegplatform opgericht waarin publieke en private partijen uitdagingen en ontwikkelingen op het gebied online contentmoderatie uitwisselen. Daarnaast ondersteunt het Ministerie van Justitie en Veiligheid het meldpunt Helpwanted van stichting Offlimits, om het voor burgers eenvoudiger te maken om hulp te zoeken en melding te doen van illegale content met als doel om dit snel verwijderd te krijgen. Offlimits onderhoudt contacten met platformen en heeft op 15 juli jl. de status van betrouwbare flagger toegewezen gekregen door de ACM. Hiermee is haar rol in het signaleren en melden van illegale inhoud geformaliseerd onder de DSA.
Het Nederlandse recht biedt een breed scala aan instrumenten om ongewenste deepfakes aan te pakken, zowel civiel-, straf- als bestuursrechtelijk.5 Bij verwerking van persoonsgegevens in deepfakes, zoals gezichtskenmerken of stem, is de Algemene Verordening Gegevensbescherming (AVG) van toepassing. Zo verbiedt de AVG het maken en verspreiden – buiten de huiselijke sfeer – van deepfakes waarin persoonsgegevens zijn verwerkt zonder een verwerkingsgrondslag. In de praktijk is daardoor een deepfake die zonder toestemming is gemaakt, zeker als daarin gevoelige (bijvoorbeeld seksuele) content is te zien, strijdig met de AVG. De betrokkene kan een klacht indienen bij de AP wanneer het gaat om (deepfake)content waarbij onrechtmatig persoonsgegevens zijn verwerkt.
Het toepassen van deepfake-technologie kan onder omstandigheden een onrechtmatige daad vormen. Dit zal standaard het geval zijn bij publicatie van pornografische deepfakes die zonder toestemming zijn vervaardigd, maar kan bijvoorbeeld ook het geval zijn bij de imitatie van stemmen. Ook uit de regeling van het portretrecht in de Auteurswet volgt dat publicatie van een portret dat niet in opdracht is gemaakt (zoals bij deepfakes veelal het geval zal zijn) niet geoorloofd is als een redelijk belang van de geportretteerde zich tegen de openbaarmaking verzet (artikel 21 Auteurswet).
De DSA verplicht online platforms om het melden van illegale inhoud, zoals ongeoorloofde deepfakes, mogelijk te maken.6 Als zij vervolgens geen actie ondernemen op zulke meldingen dan kunnen zij er, mits aan de overige voorwaarden daarvoor is voldaan, zelf aansprakelijk voor worden gesteld. Als een platform structureel tekortschiet in de afhandeling van dit soort meldingen, kunnen daarnaast toezichthouders daar tegen optreden, bijvoorbeeld middels het opleggen van een boete. De DSA geeft gebruikers bovendien het recht om een klacht te kunnen indienen bij platformen, en in sommige gevallen kunnen gebruikers naar een onafhankelijke geschilbeslechtingscommissie om besluiten van platformen aan te vechten. Zoals toegelicht bij het antwoord op vraag 4, zijn zeer grote online platformen en zeer grote online zoekmachines op grond van de DSA verder verplicht om de systeemrisico’s die kunnen voortvloeien uit de verspreiding van kunstmatig gegenereerde of gemanipuleerde content, zoals deepfakes, te identificeren en te beperken. De transparantieverplichtingen uit de AI-verordening7 vereenvoudigen de opsporing van dergelijke, kunstmatig gegenereerde, content en het AI-systeem daarachter.
Het strafrecht, met onder meer artikel 254ba Sr (Wet seksuele misdrijven, in werking getreden per 1 juli 2024), stelt het zonder instemming maken of verspreiden van seksueel beeldmateriaal strafbaar, ongeacht of dit door een persoon of AI is vervaardigd. Ook andere strafrechtelijke bepalingen, zoals doxing (art. 285d Sr) en smaad/laster (art. 261 Sr), kunnen van toepassing zijn.
Het Nederlandse recht biedt voldoende mogelijkheden voor juridische (civiele) vervolgstappen, strafrechtelijke vervolging en bestuursrechtelijke handhaving. Eerder werd door mijn ambtsvoorganger en de toenmalig Minister voor Rechtsbescherming naar aanleiding van de uitkomst van onderzoeken van het WODC geconstateerd dat het wettelijk kader voldoende mogelijkheden biedt om het onwenselijke gebruik van deepfaketechnologie te adresseren.8 Zoals hiervoor genoemd kunnen online platforms onder voorwaarden al aansprakelijk worden gesteld als zij geen medewerking verlenen aan het verwijderen van illegale content.
Recentelijk werd voor wat betreft pornografische deepfakes in het eerder genoemde rapport «Online seksueel geweld» geconcludeerd dat het bestrijden van online seksueel misbruik niet wordt belemmerd door een gebrek aan regelgeving.9 Hier komt bij dat het auteursrecht in de kern bedoeld is om de maker van een werk van letterkunde, wetenschap of kunst in staat te stellen het werk te (laten) exploiteren. Introductie van een auteursrecht op iets dat op zichzelf beschouwd geen creatieve prestatie is (een stem of beeltenis) en dat tot doel heeft openbaarmaking te voorkomen, staat daar haaks op. De Staatssecretaris van Justitie en Veiligheid ziet dan ook geen aanleiding om over te gaan tot aanpassing van wetgeving.