Direct naar de inhoud
Mardi Gras Developers
Menu+

Security

AI-security-check

Tien vragen over hoe jullie AI gebruiken. Je ziet direct een score per onderdeel en de drie maatregelen die het meeste opleveren. Het kost ongeveer drie minuten.

Je antwoorden blijven in je browser en worden nergens opgeslagen of verstuurd. Dit is een eerste inschatting en geen audit.

De tien vragen volgen de twee actuele OWASP-lijsten voor AI-beveiliging. Bij elke maatregel staat op welk risico hij ingaat. OWASP Top 10 for LLM Applications (2025), OWASP Top 10 for Agentic Applications for 2026.

Bijgewerkt

0 van 10 beantwoord

  1. 01 · Data en privacyWeet je in welke regio jullie prompts en antwoorden worden verwerkt?
  2. 02 · Data en privacyWorden persoonsgegevens gemaskeerd voordat ze naar een model gaan?
  3. 03 · ToegangGebruiken medewerkers publieke AI-tools met bedrijfs- of klantgegevens?
  4. 04 · ToegangHoe is jullie AI-omgeving of AI-toepassing bereikbaar?
  5. 05 · Onbetrouwbare invoerHoe gaat jullie AI om met inhoud van buiten, zoals e-mails, documenten en webpagina's?
  6. 06 · Onbetrouwbare invoerTesten jullie je AI-toepassing op prompt-injectie?
  7. 07 · Agents en rechtenWelke rechten heeft een AI-agent of AI-koppeling in jullie systemen?
  8. 08 · Agents en rechtenIs menselijke goedkeuring nodig voor risicovolle acties, zoals verwijderen, betalen of uitrollen?
  9. 09 · Toezicht en kwaliteitKun je achteraf reconstrueren wat een AI-toepassing of agent heeft gedaan?
  10. 10 · Toezicht en kwaliteitMeten jullie de kwaliteit van de AI-antwoorden bij elke wijziging?

Kies een aanval en kijk waar hij strandt

Vijf aanvallen die dagelijks voorkomen, en de laag die ze tegenhoudt.

Scanner zoekt een bekende kwetsbaarheid
Gestopt: Zero Trust. Zodra een lek in veelgebruikte software bekend wordt, scannen bots binnen uren het hele internet af naar servers die het nog hebben. Met Cloudflare Zero Trust legt de server zelf een uitgaande tunnel en staat er geen poort open; een verzoek zonder geldige identiteit bereikt de toepassing niet, ook niet als die nog niet gepatcht is. Patchen blijft nodig, maar je koopt er tijd mee.
Gestolen wachtwoord
Gestopt: Zero Trust. Wachtwoorden lekken via phishing en hergebruik. Achter Zero Trust is een wachtwoord alleen niet genoeg: inloggen loopt via jullie identiteitsprovider met een tweede factor, per toepassing, en toegang is direct in te trekken als iemand vertrekt.
Verborgen instructie in een document
Gestopt: Invoer. Een aanvaller verstopt een opdracht in een pdf of e-mail die een medewerker laat samenvatten. Omdat externe inhoud gescheiden blijft van de opdracht, wordt de tekst samengevat en niet uitgevoerd. Waterdicht is deze laag niet; daarom volgen er nog twee.
Gemanipuleerde agent zoekt geheimen
Gestopt: Rechten. Stel dat een injectie toch slaagt en de agent wachtwoorden of sleutels moet opzoeken. De agent heeft alleen rechten voor zijn taak en kan daar niet bij.
Agent wil iets uitrollen of verwijderen
Gestopt: Goedkeuring. Een agent, gemanipuleerd of gewoon fout, bereidt een onomkeerbare actie voor. Die wordt pas uitgevoerd nadat een mens hem heeft bekeken en goedgekeurd.

Elke stap staat in het audit-log, ook de geblokkeerde.

Alle tien maatregelen

De volledige lijst waar de check op is gebaseerd, ook bruikbaar als checklist.

  1. Data en privacy

    Dwing de verwerkingsregio technisch af

    Laat alle modelverzoeken via een gateway lopen die alleen Europese endpoints toestaat en verzoeken weigert waarvoor dat niet kan.

    OWASP: LLM02 Sensitive Information Disclosure

    Private AI-platform
  2. Data en privacy

    Maskeer persoonsgegevens automatisch

    Vervang gestructureerde gegevens deterministisch en haal vrije tekst door PII-detectie, zodat het niet van de oplettendheid van medewerkers afhangt.

    OWASP: LLM02 Sensitive Information Disclosure

    Data-engineering
  3. Toegang

    Geef medewerkers een eigen AI-omgeving

    Een verbod werkt alleen met een goed alternatief. Bied een eigen chatomgeving aan die even makkelijk is en waar je zelf bepaalt waar data naartoe gaat.

    OWASP: LLM02 Sensitive Information Disclosure

    Private AI-platform
  4. Toegang

    Zet identiteitscontrole vóór de toepassing

    Laat niemand de toepassing bereiken zonder eerst in te loggen via jullie identiteitsprovider, en controleer ook of beheerschermen niet rechtstreeks op internet staan.

    OWASP: ASI03 Identity & Privilege Abuse

    AI-infrastructuur en security
  5. Onbetrouwbare invoer

    Behandel externe inhoud als data

    Markeer alles wat van buiten komt als onbetrouwbaar en houd het gescheiden van de opdracht, zodat verborgen instructies in een document niet als opdracht worden gelezen.

    OWASP: LLM01 Prompt Injection · ASI01 Agent Goal Hijack

    AI-infrastructuur en security
  6. Onbetrouwbare invoer

    Maak aanvalstests onderdeel van elke release

    Leg een set bekende aanvallen vast en draai die automatisch bij elke wijziging, net als gewone tests.

    OWASP: LLM01 Prompt Injection

    AI-infrastructuur en security
  7. Agents en rechten

    Geef agents minimale rechten

    Geef elke agent een eigen account met alleen de rechten voor zijn taak. Wat een agent niet mag, kan een aanvaller hem ook niet laten doen.

    OWASP: LLM06 Excessive Agency · ASI03 Identity & Privilege Abuse

    AI-infrastructuur en security
  8. Agents en rechten

    Laat een mens risicovolle acties goedkeuren

    Bepaal welke acties onomkeerbaar of kostbaar zijn en laat de AI die alleen voorbereiden. Een mens voert ze uit of keurt ze goed.

    OWASP: LLM06 Excessive Agency · ASI02 Tool Misuse

    AI-oplossingen en agents
  9. Toezicht en kwaliteit

    Leg elke actie vast in een audit-log

    Registreer per actie wie of wat hem uitvoerde, met welke invoer en met welk resultaat, op een plek die de agent zelf niet kan wijzigen.

    OWASP: ASI10 Rogue Agents · ASI08 Cascading Failures

    AI-infrastructuur en security
  10. Toezicht en kwaliteit

    Meet kwaliteit met een vaste testset

    Stel een set echte vragen met verwachte antwoorden samen en meet elke versie daartegen, zodat je ziet of een aanpassing verbetert of verslechtert.

    OWASP: LLM09 Misinformation

    AI-oplossingen en agents