H-02 Uitvoer van het model wordt behandeld als onbetrouwbare invoer: niet rechtstreeks uitgevoerd, gevalideerd en geëncodeerd

Waarom

Een AI-functie kan misleid worden (prompt injection), gegevens lekken of onverwacht duur worden.

Hoe we het controleren

Methode: scan + analist

• Scan: volledig automatisch, met vaste regels. Dezelfde code geeft altijd dezelfde uitkomst.
• Keurder: een erkende keurder bekijkt het bewijs of de plekken die de scan aanwijst, en legt het oordeel vast.

Deze check zit in de open-source scanner. Bekijk de code van deze check (aiscan/checks/code.py).

Zo los je een bevinding op

Behandel uitvoer van een AI-model als onbetrouwbare invoer: nooit in eval, shell of SQL; valideer tegen een schema en escape bij weergave.