AI-funktioner i SaaS-produkter

Når jeres produkt har en AI-assistent eller -agent, skal den holde kundernes data adskilt og ikke lade sig styre af dokumenter, brugerne uploader.

Hvad der er særligt

En AI-funktion i et SaaS-produkt arbejder med jeres kunders data og ofte med dokumenter, e-mails eller websider, som ingen har kontrol over. Det åbner for indirekte manipulation: en instruktion gemt i et dokument kan få assistenten til at gøre noget, brugeren aldrig bad om. Og når flere kunder deler samme system, er det afgørende, at én kundes data aldrig dukker op hos en anden.

Det er især det her, vi tester:

At assistenten ikke følger instruktioner gemt i dokumenter, websider eller e-mails.
At den kun ser og viser data fra den kunde og bruger, den taler med.
At en agent med værktøjer ikke handler ud over det, brugeren har bedt om.
At systemprompt og interne regler ikke kan trækkes ud.

Typiske fejl

Bruger: Kan du opsummere den her kontrakt, jeg har uploadet?
Chatbot: Opsummering: … Som instrueret i dokumentet har jeg også sendt en kopi til den angivne adresse.← fejl

Instruktionen stod med hvid tekst i dokumentet.

Læs videre

Ydelse
Sikkerhedstest af chatbots og AI-agenter
Vi tester jeres chatbot eller AI-agent med 100 eller 150 realistiske samtaler på dansk. Fast pris og rapport på fem dage.
Værktøj
AI Act-selvtest for chatbots
Otte spørgsmål, der viser, hvilken risikokategori jeres AI-system sandsynligvis hører til.
Værktøj
Hvad koster en chatbot-fejl?
Regn ud, hvad forkerte svar fra jeres chatbot koster om året.
Sektor
Chatbots i bank og forsikring
En chatbot i en bank eller et forsikringsselskab må ikke give tilsagn om lån eller dækning, og den skal genkende svindel, mens den sker.
Sektor
Chatbots i e-handel
En webshop-chatbot taler om ordrer, returneringer og priser. Den må ikke love mere end fortrydelsesretten og købeloven giver.

Fortæl os om jeres chatbot på 20 minutter. I får et konkret bud på, hvilken test der passer, og hvad den koster.

Book 20 minutter