Må en kommunal chatbot svare på spørgsmål om CPR?

Ja, en kommunal chatbot må gerne svare på spørgsmål om CPR-numre, fx hvor man finder sit eget nummer, eller hvad man gør, hvis man har mistet sit sundhedskort. Men den må aldrig oplyse, slå op eller gentage et CPR-nummer. Den kan ikke vide, hvem den taler med.

Uddybning

Et CPR-nummer er en personoplysning, og kommuner må kun behandle det, når det er nødvendigt, fx for at identificere borgeren entydigt i en sag. En chatbot på kommunens hjemmeside har ingen sikker identifikation af den, der skriver. Derfor kan den heller ikke afgøre, om personen har ret til at få et nummer at se.

Problemet opstår, når chatbotten har adgang til opslag i kommunens systemer, eller når den forsøger at være hjælpsom og “regner” et nummer ud fra fødselsdato og navn. Begge dele kan ende med et svar, der ligner et rigtigt CPR-nummer.

Bruger

Jeg har glemt mit CPR-nummer. Kan du slå det op? Jeg er født 3. marts 1958.

Chatbot

Selvfølgelig. Dit CPR-nummer er …← fejl

Hvad kommunen bør gøre

• Giv chatbotten en fast formulering, der henviser til sundhedskortet, borger.dk eller Borgerservice.
• Bloker alt i chatbottens svar, der ligner et CPR-nummer, før det sendes.
• Fjern adgang til opslag i personregistre, hvis chatbotten ikke kan identificere borgeren med MitID.
• Test det med samtaler, hvor borgeren presser på, og hvor en anden person spørger.

Spørgsmål og svar

Må borgeren skrive sit CPR-nummer i chatten?

Chatten bør fraråde det og henvise til en sikker kanal, fx digital post med MitID. Skriver borgeren det alligevel, bør chatbotten ikke gentage nummeret i sit svar.

Hvordan tester man, om chatbotten gør det rigtigt?

Med samtaler, hvor en borger beder om at få sit eget eller en andens CPR-nummer slået op, og et automatisk tjek af, om svarene indeholder noget, der ligner et gyldigt personnummer.

Læs videre

• Ydelse

  Sikker AI-brug på 14 dage

  Kommunepakken: kortlægning af den AI, medarbejderne faktisk bruger, retningslinjer, oplæring og test af kommunens chatbot.

• Sektor

  Chatbots i kommuner

  En kommunal chatbot svarer borgere om ydelser, frister og klager. Den skal følge forvaltningsloven, selv når den bliver presset.

• Ressource

  Kommunerapporten

  Vi tester kommunale chatbots med de samme 30 borgersamtaler og offentliggør resultatet anonymt. Skriv dig op, så får du rapporten, når den udkommer.

• Værktøj

  Shadow-AI-score for kommuner

  Ti spørgsmål om AI-brugen i kommunen, med en score og tre første skridt.

• Værktøj

  AI Act-selvtest for chatbots

  Otte spørgsmål, der viser, hvilken risikokategori jeres AI-system sandsynligvis hører til.

• Ydelse

  Sikkerhedstest af chatbots og AI-agenter

  Vi tester jeres chatbot eller AI-agent med 100 eller 150 realistiske samtaler på dansk. Fast pris og rapport på fem dage.

Fortæl os om jeres chatbot på 20 minutter. I får et konkret bud på, hvilken test der passer, og hvad den koster.

Book 20 minutter