| Ingediend | 19 augustus 2026 |
|---|---|
| Beantwoord | 5 oktober 2026 (na 47 dagen) |
| Indieners | Jantine Zwinkels (CDA), Sarah El Boujdaini (D66) |
| Beantwoord door | Aerdts |
| Onderwerpen | economie ict |
| Bron vraag | https://zoek.officielebekendmakingen.nl/kv-tk-2026Z17015.html |
| Bron antwoord | https://zoek.officielebekendmakingen.nl/ah-tk-20262027-254.html |
Ja.
Dit is ons niet bekend.
Hierbij moet opgemerkt worden dat het niet eenduidig te herkennen valt of een cyberaanval door een AI agent, een mens, of een combinatie daarvan is uitgevoerd. In de genoemde incidenten hebben AI-ontwikkelaars zelf publiekelijk gemeld dat AI agents een inbraak hadden uitgevoerd.
Deze vraag is niet in algemene zin te beantwoorden. Zowel de karakteristieken en capaciteiten van AI modellen, als de eigenschappen van testomgevingen hebben invloed op het risico van een ongewenste uitbraak van AI agents. Ook de instructies die ontwikkelaars aan AI agents geven hebben invloed, evenals de kenmerken van de infrastructuur waarop AI producten ontwikkeld worden. De genoemde incidenten met uitbraken van AI agents zijn zorgwekkend, maar vragen om nadere analyse en interpretatie voordat er algemene conclusies over risico’s afgegeven kunnen worden.
De AI-verordening3 reguleert AI-systemen in Europa, en stelt eisen op basis van risico-categorisering. Zo worden bepaalde AI-praktijken verboden en worden er extra producteisen gesteld aan AI-systemen met een hoog risico.
Tevens worden specifieke eisen gesteld aan zogenaamde General Purpose AI Modellen (GPAI). Dit zijn grote modellen die verwerkt kunnen worden in heel veel verschillende systemen, zoals de modellen achter ChatGPT, Claude en Gemini. De eisen zijn per 2 augustus 2025 van kracht en de AI Office van de Europese Commissie (hierna Commissie) houdt hier toezicht op.
Aan alle GPAI-modellen worden documentatie eisen gesteld waaronder bepaalde informatie over training en testen. Daarnaast bestaat een specifieke categorie van GPAI modellen met systeemrisico’s waarvoor aanvullende eisen gelden. Dit zijn de modellen die met een bepaalde grote hoeveelheid rekenkracht zijn getraind en vergaande capaciteiten hebben. Wanneer de Commissie het besluit heeft genomen dat een dergelijk model onder de categorie van systeem risico valt, moeten de aanbieders van de AI-modellen onder andere mitigerende maatregelen nemen voor de systeemrisico’s.
Zo moeten aanbieders van AI modellen met systeemrisico’s zorgen voor een passend niveau van cyberbeveiliging voor het model en de fysieke infrastructuur ervan gedurende de gehele levenscyclus van het model. Hierbij moeten aanbieders van deze categorie AI modellen rekening houden met onopzettelijke modellekken, ongeoorloofde vrijgave, omzeiling van veiligheidsmaatregelen, alsmede met bescherming tegen cyberaanvallen, ongeoorloofde toegang, en modeldiefstal. Die bescherming kan worden geboden door modelwegingen, algoritmen, servers en datasets te beveiligen, bijvoorbeeld met operationele beveiligingsmaatregelen voor informatie, specifiek cyberbeveiligingsbeleid, passende technische en bewezen oplossingen, alsmede met controles op cyber- en fysieke toegang, afgestemd op de relevante omstandigheden en risico’s. Het inrichten van veilige ontwikkel- en testomgevingen valt onder de verantwoordelijkheid van deze aanbieders.
Hierbij merkt het kabinet op dat test- en ontwikkelactiviteiten zijn uitgezonderd omdat de AI-verordening van toepassing zijn op AI-modellen die op de markt wordt gebracht of in gebruik worden genomen. In de genoemde voorbeelden gaat het, voor zover bekend, om ontwikkelomgevingen die binnen de genoemde bedrijven ingericht zijn, en niet als product op de markt gebracht zijn. De AI Office bestudeert deze gevallen en de beoogde coördinerende markttoezichtautoriteiten in Nederland, de RDI en de AP, zijn met hen in contact.
Nederland prefereert op gebied van AI de internationale samenwerking via bestaande mandaten en structuren in plaats van het opbouwen van nieuwe afspraken. Naast de AI-verordening zijn er verschillende internationale kaders waarin er normen en principes zijn vastgelegd over de ontwikkeling en het gebruik van AI, zoals de AI Principles van OESO4, de Recommendation on the Ethics of AI5 die door alle UNESCO lidstaten is aangenomen, en het Hiroshima AI reporting framework6, een vrijwillige internationaal instrument dat organisaties helpt om te rapporteren over hun risicobeheer bij het inzetten en ontwikkelen van frontier AI modellen. Nederland moedigt landen aan om zich aan te sluiten bij de Framework Convention7 van de Raad van Europa, een bindend verdrag over artificiële intelligentie, mensenrechten, democratie en de rechtsstaat. Via deze, en andere internationale kaders, kan verdere aandacht geschonken worden aan het bovenstaande vraagstuk.
Het kabinet is niet specifiek op de hoogte van de genoemde benchmark. Het AI Office van de Europese Commissie ziet toe op de onder vraag 4 genoemde wettelijke verplichtingen. Het kabinet hecht er waarde aan dat het AI Office daar goed toe in staat is en daarin goed samenwerkt met de toezichthouders in de lidstaten.
Het Kabinet deelt deze mening. Ontwikkelaars zijn verantwoordelijk voor de AI-modellen en -systemen die zij creëren en het mitigeren van mogelijke risico’s. Deze verantwoordelijkheid geldt als producten op de markt zijn gekomen, maar ook voor de ontwikkel- en testfase. De Commissie heeft samen met ontwikkelaars en toezichthouders, en met ondersteuning vanuit ngo’s, praktijkcodes opgesteld die een uitwerking zijn van de wettelijke eisen. In deze General-Purpose AI Code of Practice9 staan richtlijnen die ontwikkelaars helpen om aan de eisen te kunnen voldoen.
Zie de beantwoording van vraag 4.
Een AI-model dat ongeautoriseerd toegang tot netwerken of systemen kan krijgen, zou kwetsbaarheden sneller en op grotere schaal kunnen vinden en misbruiken dan voorheen. AI verlaagt de drempel voor aanvallers en maakt het voor een bredere groep kwaadwillenden mogelijk om cyberaanvallen uit te voeren. Daardoor ontstaat er een nieuwe realiteit waar we ons aan moeten aanpassen.
We zien een duidelijke trend in incidentrapportages en onderzoeken dat kwaadwillenden steeds beter weten hoe AI technologie ingezet kan worden. De technologie ontwikkelt zich snel en de mogelijkheden voor kwaadwillenden nemen toe. Er is niet specifiek één sector aan te wijzen die het meest kwetsbaar is. Aan de incidenten van de afgelopen tijd is te zien dat elke sector getroffen kan worden. Van overheidsorganisatie, tot zorginstelling tot telecombedrijf. Verstoring of uitval hiervan, kan maatschappelijke ontwrichting veroorzaken en de nationale veiligheid raken. In elke sector is het op orde brengen van de basis dan ook randvoorwaardelijk. Daarom is op 24 september een gezamenlijke verklaring van de AIVD, MIVD, NCTV, NCSC, politie, OM en CIO-rijk uitgebracht10, bedoeld om overheden, bedrijven en organisaties te activeren om extra stappen te zetten. In november dit jaar wordt uw Kamer door de Minister van Justitie en Veiligheid middels de Kamerbrief voortgangsrapportage Nederlandse Cybersecuritystrategie en Cybersecurity Beeld Nederland 2026 geïnformeerd over de stappen die het Kabinet onderneemt om de digitale weerbaarheid tegen cyberdreigingen, waaronder die vanuit geavanceerde AI-systemen, te verhogen.
De AI-verordening bevat al een verplichting voor aanbieders van AI-modellen voor algemene doeleinden met systeemrisico’s om ernstige incidenten te melden bij de Europese Commissie en de nationale autoriteit. Aanbieders van deze categorie AI-modellen dienen mogelijke systeemrisico’s te beoordelen en te beperken. Indien er zich als gevolg van de ontwikkeling of het gebruik van deze AI-modellen een ernstig incident voordoet, moet de aanbieder van het AI-model onverwijld het verdere verloop van het incident beginnen te volgen en de Commissie en de nationale bevoegde autoriteiten alle relevante informatie en mogelijke corrigerende maatregelen melden.
Zoals gemeld in het antwoord op vraag 4 en 5 houdt het AI Office van de Europese Commissie toezicht en hecht het kabinet eraan dat zij hier goed toe in staat is en samenwerkt met de nationale toezichthouders.
Dit is geschied.
De vragen van het leden El Boujdaini (D66) en Zwinkels (CDA) over «AI-modellen die buiten hun testomgeving inbreken bij organisaties» (2026Z17015) kunnen niet binnen de gebruikelijke termijn worden beantwoord. De vraag richt zich op zeer actuele ontwikkelingen in het AI en cyberveiligheidsdomein, en vergt nadere analyse bij belanghebbende instanties. Ik zal uw Kamer zo spoedig mogelijk de antwoorden op de vragen doen toekomen.