Gidsen · AI-beveiliging
AI-beveiliging: gidsen en analyse
Heldere teksten over AI-beveiliging en de regels die er nu voor gelden: de OWASP LLM Top 10, één risico per keer, plus analyse van de regelgeving waar je aan moet voldoen.
Analyse
De OWASP LLM Top 10, uitgelegd
- LLM01Prompt InjectionWanneer door een aanvaller beheerste tekst verandert in instructies die het model opvolgt, heb je de kenmerkende kwetsbaarheid van LLM-apps te pakken.
- LLM02Blootstelling van gevoelige informatieHet model onthult data die het niet zou mogen tonen: gegevens van andere gebruikers, secrets, persoonsgegevens of interne details.
- LLM03Supply ChainRisico dat je overerft van modellen, datasets, adapters en plugins van derden die je zelf nooit hebt gebouwd.
- LLM04Data and Model PoisoningHet besmetten van trainings-, fine-tuning- of retrieval-data om het gedrag van het model te buigen.
- LLM05Onveilige verwerking van model-outputModel-output als veilig behandelen en rechtstreeks doorgeven aan een browser, shell, query of API.
- LLM06Excessive AgencyEen agent meer tools, rechten of autonomie geven dan de taak vereist, zodat één manipulatie tot schade in de echte wereld leidt.
- LLM07System Prompt LeakageHet uit een model trekken van de verborgen system prompt, inclusief de secrets, regels en tool schemas die teams daarin verstoppen.
- LLM08Vector and Embedding WeaknessesAanvallen en lekken in de RAG-laag: de embeddings, de vector store en de retrieval die je model van context voorzien.
- LLM09MisinformatieZelfverzekerd, plausibel en fout. Wat er gebeurt wanneer hallucinations en overreliance uitmonden in echte beslissingen.
- LLM10Onbegrensd verbruikGeen limieten op gebruik, dus aanvallers kunnen je rekening laten oplopen, je dienst verstoren of je model extraheren.
Test dit op je eigen AI voordat iemand anders dat doet
Redproof doet onafhankelijke red-teaming voor LLM- en AI-agentproducten. We toetsen je systeem over de hele OWASP LLM Top 10, leveren bevindingen gerangschikt op ernst met reproducties, fixes en koppeling aan de EU AI Act, en hertesten nadat je hebt gepatcht. Dat is het bewijs dat je zelfbeoordeling nodig heeft, voordat een toezichthouder of klant erom vraagt.