Kan jeres AI-applikation overtales til at handle uden for sine rammer?
Når I tilføjer AI, ændrer applikationen adfærd. Instruktioner kan komme ind gennem brugernes prompts eller gennem indhold, modellen selv henter, og tilkoblede værktøjer kan give modellen adgang til data og handlinger langt ud over selve samtalen. Traditionel applikationstest finder ikke altid de veje, fordi den går ud fra, at softwaren kun gør det, den eksplicit er programmeret til.
Vi tester AI-komponenten sammen med applikationen og de datakilder, rettigheder og integrationer, der omgiver den. Det omfatter direkte og indirekte prompt injection, utilsigtet videregivelse af data, manipulation af modellens adfærd og det, tilkoblede værktøjer tillader, når modellen først er påvirket.
Fund demonstreres i deres sammenhæng og føres tilbage til den kontrol, der kan begrænse dem, uanset om den ligger i prompten, i dataflowet, i rettighederne eller i selve funktionens design.
- Demonstrerede AI-specifikke angrebsveje og testresultater
- En gennemgang af prompts, datahentning, rettigheder og integrationer
- Klar dokumentation for, hvilke data eller handlinger der kan blive eksponeret
- Prioriteter ud fra konsekvensen af hver demonstreret adfærd
- Anbefalinger placeret ved den kontrol, hvor de har effekt
Har du brug for hjælp, er vi her.
Fortæl os hvor I er, så hjælper vi med at finde næste skridt sammen.