# AI-security-check

Tien vragen over hoe jullie AI gebruiken. Je ziet direct een score per onderdeel en de drie maatregelen die het meeste opleveren. Het kost ongeveer drie minuten.

Je antwoorden blijven in je browser en worden nergens opgeslagen of verstuurd. Dit is een eerste inschatting en geen audit.

De tien vragen volgen de twee actuele OWASP-lijsten voor AI-beveiliging. Bij elke maatregel staat op welk risico hij ingaat. OWASP Top 10 for LLM Applications (2025): https://genai.owasp.org/llm-top-10/ · OWASP Top 10 for Agentic Applications for 2026: https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

## 1. Weet je in welke regio jullie prompts en antwoorden worden verwerkt?

- Ja, contractueel vastgelegd en technisch afgedwongen
- Ja, op basis van wat de leverancier zegt
- Nee, of dat weet ik niet

**Dwing de verwerkingsregio technisch af.** Laat alle modelverzoeken via een gateway lopen die alleen Europese endpoints toestaat en verzoeken weigert waarvoor dat niet kan.

## 2. Worden persoonsgegevens gemaskeerd voordat ze naar een model gaan?

- Ja, automatisch
- Soms, handmatig door medewerkers
- Nee, of dat weet ik niet

**Maskeer persoonsgegevens automatisch.** Vervang gestructureerde gegevens deterministisch en haal vrije tekst door PII-detectie, zodat het niet van de oplettendheid van medewerkers afhangt.

## 3. Gebruiken medewerkers publieke AI-tools met bedrijfs- of klantgegevens?

- Nee, er is een eigen AI-omgeving die ze daarvoor gebruiken
- Er is beleid, maar geen controle
- Ja, of dat weet ik niet

**Geef medewerkers een eigen AI-omgeving.** Een verbod werkt alleen met een goed alternatief. Bied een eigen chatomgeving aan die even makkelijk is en waar je zelf bepaalt waar data naartoe gaat.

## 4. Hoe is jullie AI-omgeving of AI-toepassing bereikbaar?

- Alleen na inloggen met single sign-on
- Met een eigen wachtwoord, bereikbaar vanaf internet
- Dat weet ik niet

**Zet identiteitscontrole vóór de toepassing.** Laat niemand de toepassing bereiken zonder eerst in te loggen via jullie identiteitsprovider, en controleer ook of beheerschermen niet rechtstreeks op internet staan.

## 5. Hoe gaat jullie AI om met inhoud van buiten, zoals e-mails, documenten en webpagina's?

- Als onbetrouwbaar en gescheiden van de opdracht, of we verwerken geen externe inhoud
- Hetzelfde als onze eigen instructies
- Dat weet ik niet

**Behandel externe inhoud als data.** Markeer alles wat van buiten komt als onbetrouwbaar en houd het gescheiden van de opdracht, zodat verborgen instructies in een document niet als opdracht worden gelezen.

## 6. Testen jullie je AI-toepassing op prompt-injectie?

- Ja, bij elke release
- Eén keer, bij de oplevering
- Nee

**Maak aanvalstests onderdeel van elke release.** Leg een set bekende aanvallen vast en draai die automatisch bij elke wijziging, net als gewone tests.

## 7. Welke rechten heeft een AI-agent of AI-koppeling in jullie systemen?

- Alleen wat de taak nodig heeft, of we hebben geen agents
- Dezelfde rechten als de gebruiker of een breed service-account
- Dat weet ik niet

**Geef agents minimale rechten.** Geef elke agent een eigen account met alleen de rechten voor zijn taak. Wat een agent niet mag, kan een aanvaller hem ook niet laten doen.

## 8. Is menselijke goedkeuring nodig voor risicovolle acties, zoals verwijderen, betalen of uitrollen?

- Ja, altijd
- Voor sommige acties
- Nee

**Laat een mens risicovolle acties goedkeuren.** Bepaal welke acties onomkeerbaar of kostbaar zijn en laat de AI die alleen voorbereiden. Een mens voert ze uit of keurt ze goed.

## 9. Kun je achteraf reconstrueren wat een AI-toepassing of agent heeft gedaan?

- Ja, er is een audit-log per actie
- Alleen via algemene applicatielogs
- Nee

**Leg elke actie vast in een audit-log.** Registreer per actie wie of wat hem uitvoerde, met welke invoer en met welk resultaat, op een plek die de agent zelf niet kan wijzigen.

## 10. Meten jullie de kwaliteit van de AI-antwoorden bij elke wijziging?

- Ja, met een vaste testset
- Af en toe, met de hand
- Nee

**Meet kwaliteit met een vaste testset.** Stel een set echte vragen met verwachte antwoorden samen en meet elke versie daartegen, zodat je ziet of een aanpassing verbetert of verslechtert.

## Kies een aanval en kijk waar hij strandt

- **Scanner zoekt een bekende kwetsbaarheid.** Zodra een lek in veelgebruikte software bekend wordt, scannen bots binnen uren het hele internet af naar servers die het nog hebben. Met Cloudflare Zero Trust legt de server zelf een uitgaande tunnel en staat er geen poort open; een verzoek zonder geldige identiteit bereikt de toepassing niet, ook niet als die nog niet gepatcht is. Patchen blijft nodig, maar je koopt er tijd mee.
- **Gestolen wachtwoord.** Wachtwoorden lekken via phishing en hergebruik. Achter Zero Trust is een wachtwoord alleen niet genoeg: inloggen loopt via jullie identiteitsprovider met een tweede factor, per toepassing, en toegang is direct in te trekken als iemand vertrekt.
- **Verborgen instructie in een document.** Een aanvaller verstopt een opdracht in een pdf of e-mail die een medewerker laat samenvatten. Omdat externe inhoud gescheiden blijft van de opdracht, wordt de tekst samengevat en niet uitgevoerd. Waterdicht is deze laag niet; daarom volgen er nog twee.
- **Gemanipuleerde agent zoekt geheimen.** Stel dat een injectie toch slaagt en de agent wachtwoorden of sleutels moet opzoeken. De agent heeft alleen rechten voor zijn taak en kan daar niet bij.
- **Agent wil iets uitrollen of verwijderen.** Een agent, gemanipuleerd of gewoon fout, bereidt een onomkeerbare actie voor. Die wordt pas uitgevoerd nadat een mens hem heeft bekeken en goedgekeurd.

---
Source: https://mg-devs.nl/ai-security-check/
