Kamervraag 2023Z08264

Het bericht 'Deepfakes op TikTok maken illegale reclame voor leningen'

Ingediend 11 mei 2023
Beantwoord 3 juli 2023 (na 53 dagen)
Indiener Evert Jan Slootweg (CDA)
Beantwoord door Sigrid Kaag (viceminister-president , minister financiën) (D66), Alexandra van Huffelen (staatssecretaris binnenlandse zaken en koninkrijksrelaties) (D66)
Onderwerpen cultuur en recreatie financiën media organisatie en beleid
Bron vraag https://zoek.officielebekendmakingen.nl/kv-tk-2023Z08264.html
Bron antwoord https://zoek.officielebekendmakingen.nl/ah-tk-20222023-3114.html
  • Vraag 1
    Bent u bekend met het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» van BNR Nieuwsradio?1

    Ja.

  • Vraag 2
    Vindt u het met mij eveneens verwerpelijk dat een internationaal reclamenetwerk door middel van deepfakes met name jongeren met valse beloften naar leensites lokt?

    Ja, reclame die is gebaseerd op valse beloften is sowieso verwerpelijk. Dat dit nog eens specifiek is gericht op jongeren maakt het nog kwalijker.

  • Vraag 3
    Kun u aangeven welke wet- en regelgeving wordt overtreden door deze reclames op TikTok, zoals gesteld in het artikel, wie deze overtredingen begaat en wie verantwoordelijk is voor het naleven en handhaven van de wet- en regelgeving op dit punt?

    Het is aan de rechter of toezichthouders om overtredingen vast te stellen, en niet aan het kabinet. Tot nu toe is voor zover bekend nog geen overtreding vastgesteld. Wij hebben evenmin informatie over lopende of nog te starten onderzoeken. Daarover kunnen de toezichthouders, die onafhankelijk zijn, ook geen uitspraken doen. Hieronder geef ik wel een overzicht van de wet- en regelgeving die in dit kader van toepassing is.

  • Vraag 4
    Kunt u bevestigen dat ABN AMRO, ING en Pricewise niet betrokken zijn bij deze reclamestrategie en er evenmin van op de hoogte waren?

    ABN AMRO, ING en Pricewise laten weten niet van deze advertentiewijze te weten en niet hiermee geassocieerd te willen worden. Zij hebben geprobeerd de reclames zo snel mogelijk uit de lucht te halen via TikTok en Google. TikTok heeft inmiddels aan ABN AMRO aangegeven dat de advertenties over leningen niet in lijn zijn met de richtlijnen voor financiële instanties. Alle advertenties zijn van het platform verwijderd. Ook zijn alle accounts geblokkeerd van waaruit de advertenties geplaatst zijn.

  • Vraag 5
    Zo ja, ligt het voor deze bedrijven in de rede een financiële claim in te dienen bij de producent van deze reclames?

    ING heeft aangeven om, indien duidelijk is wie er verantwoordelijk is voor het plaatsen van deze advertenties, te bekijken wat juridisch de mogelijkheden zijn en of het nodig is om hier actie op te ondernemen. De andere betrokken bedrijven hebben zich hier niet over uitgelaten. Vooralsnog zijn geen claims ingediend.

  • Vraag 6
    Bent u bereid om als aandeelhouder van ABN AMRO aan te dringen op het stopzetten van deze reclames en het indienen van een schadeclaim bij de producent van deze reclames?

    NLFI is namens de staat aandeelhouder. Het ministerie staat daarbij op afstand. Dee bank heeft uit zichzelf al de nodige acties ondernomen.

  • Vraag 7
    Deelt u de opvatting dat de producent van deze deepfakereclames misbruik maakt van het reclamenetwerk van Google?

    Google heeft aangegeven dat deze advertentie niet door Google op TikTok is weergegeven. Als Google advertenties aantreft van gebruikers die de beleidsregels inzake misleiding van gebruikers schenden, kan het account worden beëindigd. Zie daarnaast de beantwoording van vraag 3 voor wat betreft de regels die gelden voor de uploader(s) van de reclamevideo’s. Het is aan de bevoegde autoriteiten om te oordelen of er al dan niet sprake is van misbruik van het reclamenetwerk.

  • Vraag 8
    Welke verantwoordelijkheid ligt er in juridisch en moreel opzicht bij zowel Google als TikTok om ervoor te zorgen dat gebruikers hun platform op een veilige manier kunnen gebruiken en oplichting van gebruikers met name jongeren te voorkomen?

    Voor de beantwoording van deze vraag over de verantwoordelijkheden in juridisch opzicht verwijs ik naar het antwoord bij vraag 3, waarin de verantwoordelijkheden van Google en TikTok op grond van de DSA worden toegelicht. Naast verplichtingen op grond van de DSA dienen online platforms als Google en TikTok zich ook te houden aan het generieke consumentenrecht. Over welke verantwoordelijkheden en verplichtingen er rusten op online platforms op grond van het consumentenrecht heeft de ACM in 2020 vuistregels gepubliceerd: Vuistregels Online platformen (acm.nl).
    Verder is het een taak van platformen zelf om ervoor te zorgen dat de informatie die via hun diensten wordt verspreid zo betrouwbaar mogelijk is, maar ook om ervoor te zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te herkennen en signaleren.

  • Vraag 9
    Op welke wijze gaat u gebruikers, met name jongeren, beschermen tegen dergelijke praktijken die desastreuze financiële gevolgen kunnen hebben, met name omdat experts verwachten dat deepfake reclames in de nabije toekomst niet van echt te onderscheiden zijn?

    De Nederlandse overheid zet allereerst in op het mediawijs en weerbaar maken van burgers en scholieren. Steeds meer scholen in Nederland besteden binnen de context van digitale geletterdheid en mediawijsheid aandacht aan bijvoorbeeld desinformatie. Voor scholen gebeurt dat onder meer door al bestaand lesmateriaal overzichtelijk te bundelen. Op die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen. Voor de bredere kabinetsinzet ten aanzien van het versterken van de weerbaarheid van burgers, verwijs ik u naar de Kamerbrief over de Rijksbrede strategie effectieve aanpak van desinformatie2.
    De digitale wereld is complex. Er is een substantiële kennisasymmetrie tussen de bedrijven die de digitale wereld maken en de gebruikers daarvan. De precieze werking van dataverzameling, -deling en -gebruik is ingewikkeld, beïnvloedingen zijn subtiel en ongemerkt (denk aan grafische ontwerpen om gebruikers bepaalde keuzes te laten maken), maar ook de werking van apparaten zelf of instellingen zijn voor een gemiddelde gebruiker vaak moeilijk te doorgronden. Hierdoor wordt het voor gebruikers moeilijk om een goede inschatting te maken van de effecten van online activiteiten op eigen welzijn. Zeker als het gaat om kinderen. Naast dat bedrijven verplicht zijn om zo transparant mogelijk te zijn over hoe hun producten werken is goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico´s in de digitale wereld cruciaal. Zoals aangekondigd in de brief van 16 december 2022 wil het kabinet daarom een meerjarige, brede publiekscampagne starten3. Het thema desinformatie zal daar onderdeel van uitmaken.
    Op grond van de DSA zijn grote online platforms- en zoekmachines verplicht om jaarlijks de systeemrisico’s die voortvloeien uit de werking of het gebruik van hun diensten in kaart te brengen en deze risico’s zo nodig beperken. Systeemrisico’s zijn bijvoorbeeld de verspreiding van illegale inhoud en/of desinformatie via hun diensten, al dan niet met gebruikmaking van deepfakes. De Europese Commissie zal hier toezicht op houden.
    Als het specifiek gaat over reclames voor krediet ziet de AFM toe op de vergunningplicht voor consumptief krediet en de normen die bij het antwoord op vraag 3 worden genoemd. Kredietaanbieders moeten onder meer toetsen of de lening verantwoord kan worden verstrekt en een BKR-toets doen. Er mag bovendien alleen krediet worden verstrekt aan 18+. Een kredietcontract aan minderjarigen is niet rechtsgeldig.
    Ten aanzien van gebruik van AI geldt dat er in Brussel onderhandeld wordt over de AI act. Gebruikers van generatieve AI, zoals systemen die videomateriaal genereren of bewerken die aanzienlijk op bestaande personen lijken, worden onder de AI Act verplicht om uiterlijk op het moment van de eerste interactie of blootstelling duidelijk te maken dat sprake is van gegenereerde content. Tot slot kan worden vermeld dat de Europese Commissie wil dat partijen die zich hebben aangesloten bij de Code of Practice on Disinformation, technologie gaan ontwikkelen zodat AI gegenereerde content duidelijk gelabeld wordt, zodat geen twijfel meer kan bestaan of iets echt of een deepfake is. Hierover is de Europese Commissie op dit moment in gesprek met de ondertekenaars van de EU Code of Practice on Disinformation.

  • Vraag 10
    Welke mogelijkheden zijn er om dit soort illegale reclames aan te pakken, wanneer het verantwoordelijke bedrijf is geïdentificeerd?

    Zie vraag 3. De toepasselijke wet- en regelgeving geven de bevoegde autoriteiten, waaronder de AFM, de ACM of in het geval van de DSA de Europese Commissie, een mandaat te handhaven indien de regels worden overtreden.

  • Mededeling - 2 juni 2023

    De schriftelijke vragen van het lid Slootweg (CDA) over het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» (ingezonden 12 mei 2023, met kenmerk 2023Z08264) kunnen met het oog op een zorgvuldige en volledige beantwoording niet binnen de termijn van drie weken worden beantwoord. Ik streef ernaar om de antwoorden zo spoedig mogelijk aan uw Kamer te sturen.


Kamervraag document nummer: kv-tk-2023Z08264
Volledige titel: Het bericht 'Deepfakes op TikTok maken illegale reclame voor leningen'
Kamerantwoord document nummer: ah-tk-20222023-3114
Volledige titel: Antwoord op vragen van het lid Slootweg over het bericht ‘Deepfakes op TikTok maken illegale reclame voor leningen’