Høringssvar fra Dansk Socialrådgiverforening til Lov om offentlige myndigheders og organers udvikling og anvendelse af AI-systemer ved behandling af personoplysninger (AI-hjemmelsloven)

Til

Digitaliseringsstyrelsen

DS anerkender behovet for et klarere retsgrundlag for anvendelsen af AI i den offentlige sektor og dermed nødvendigheden af lovforslaget. AI-løsninger kan efter DS’ opfattelse understøtte og kvalificere den offentlige opgaveløsning. Samtidig er det afgørende at understrege, at anvendelsen af AI på det sociale område rejser grundlæggende spørgsmål om retssikkerhed, faglighed og borgernes tillid til den offentlige forvaltning. Ambitionerne om effektivisering og øget kvalitet må ikke føre til, at der gås på kompromis med disse hensyn.

Generelle bemærkninger

For det første er det afgørende for Dansk Socialrådgiverforening (DS), at anvendelsen af kunstig intelligens ikke fører til personalereduktioner. Ressourcer, der eventuelt frigøres ved brug af AI, bør i stedet anvendes til at styrke kvaliteten i opgaveløsningen. Det gælder navnlig den relationelle kontakt med børn og voksne samt muligheden for at foretage en helhedsorienteret vurdering af den enkelte borgers situation. Begge dele er afgørende for borgerens retssikkerhed og for den faglige kvalitet.

DS ønsker at understrege, at anvendelsen af AI ikke stiller færre, men flere krav til socialrådgiverens faglighed. Når kunstig intelligens indgår i sagsbehandlingen, øges behovet for professionel dømmekraft, herunder evnen til at forstå og kritisk vurdere de output, som AI-systemet leverer. Det forudsætter et højt socialfagligt niveau og relevante AI-kompetencer samt en systematisk og vedvarende opkvalificering af medarbejderne. DS finder det afgørende, at arbejdsgiveren påtager sig et klart ansvar for de ansattes anvendelse af AI-systemer og sikrer løbende kompetenceudvikling gennem uddannelse, den fornødne tid og organisatorisk understøttelse.

Det fremgår af lovbemærkningerne, at indførelsen af AI-systemer hos offentlige myndigheder skal medføre effektiviseringsgevinster og frigive tid til kerneopgaven. Der peges på, at lovforslaget især kan medføre økonomiske omkostninger i forbindelse med implementeringen af AI-systemerne, men det forventes, at disse omkostninger efterfølgende opvejes af gevinsterne ved at anvende systemerne. DS er skeptisk over for denne vurdering. Udvikling og implementering af AI-systemer må forventes at foregå løbende, og der vil desuden være vedvarende omkostninger til kontrol af, at reglerne overholdes, og til tilsyn med, at systemerne fungerer efter hensigten. Hertil kommer, at energiforbruget og betalingen for anvendelsen af systemerne formentlig vil stige i fremtiden.

DS ønsker desuden at kvittere for, at der med det nye lovforslag ikke etableres en generel hjemmel til at videregive og samkøre data på tværs af myndigheder. Der er tale om en vigtig præcisering, der beskytter borgeren.

Endelig vil DS pege på behovet for AI-personalepolitikker på de offentlige arbejdspladser. Personalepolitikken bør sikre medarbejderinddragelse ved indkøb, udvikling, implementering og evaluering af AI-systemer. De bør desuden indeholde tiltag, der forebygger, at faglige kompetencer eroderes, arbejdet intensiveres, frygten for at miste jobbet stiger, overvågning af medarbejderne øges, og – at meningen med arbejdet og arbejdstilfredsheden falder.

Specifikke bemærkninger

Beslutningsstøtte

DS finder det positivt, at lovforslaget indeholder begrebsdefinitioner, som kan støtte myndighederne og deres ansatte i udviklingen, implementeringen og anvendelsen af AI-systemer. Det er ligeledes positivt, at lovforslaget definerer ’beslutningsstøtte’ og præciserer, at AI-systemer aldrig må træffe automatiserede afgørelser, men at der skal være en fysisk person, som inddrager AI-systemets forslag i den samlede konkrete individuelle faglige vurdering, som ligger til grund for den endelige afgørelse.

DS er dog bekymret for, om socialrådgiveren i praksis får de nødvendige forudsætninger for selvstændigt at kunne bedømme og vurdere AI-systemets forslag til afgørelse. Denne bekymring bygger på flere forhold.

• DS ser en risiko for, at AI-systemer udformes, så socialrådgiverens bedømmelse og endelige afgørelse i praksis reduceres til at sætte flueben ved ’Sagen er vurderet’ og ’AI-systemets anbefaling godkendes’. Et sådant systemdesign vil gøre den menneskelige vurdering til en formalitet. Det vil være ulovligt og dermed udgøre et potentielt retssikkerhedsproblem.
• Socialrådgivere har som oftest meget travlt, og altid i gang med flere – somme tider akutte – borgersager samtidig. Der kan derfor være risiko for, at socialrådgiverne i praksis ikke har den nødvendige tid til rådighed til at kunne lave en grundig vurdering af alle sager.
• Nyuddannede og nyansatte socialrådgivere vil være mere afhængige af hjælpen fra et AI-system og have sværere ved at gennemskue og udfordre AI-systemets anbefalinger. Der kan derfor være risiko for, at de hurtigere accepterer anbefalingerne fra AI-systemet og på længere sigt vænner sig til, at dette bliver normen.

I bemærkningerne til lovforslaget anerkendes det, at scenariet, hvor AI-systemet gør det nemt at acceptere beslutningsstøtten som den endelige afgørelse, kan udgøre en reel risiko. Det fremgår også, at et sådant system vil være ulovligt. Lovbemærkningerne angiver imidlertid ikke, hvor omfattende den menneskelige involvering skal være, før der er tale om beslutningsstøtte frem for en fuldautomatisk afgørelse. Her henvises blot til, at fremtidig praksis vil bidrage til en præcisering.

Der skitseres nogle initiativer, arbejdspladsen kan anvende, f.eks. at identificere, hvem der har beslutningskompetencen, og sikre dokumentation og logning af processerne. Der gives imidlertid ikke klare anvisninger på, hvordan man undgår eller forebygger, at beslutningsstøtten i praksis ændrer karakter til en beslutning, eller hvordan det sikres, at socialrådgiveren får reel mulighed for at foretage en vurdering, herunder opdage fejlbehæftede eller skæve AI-anbefalinger. Det fremgår heller ikke, hvordan dette kontrolleres.

Profilering

Lovforslaget giver konkret mulighed for fremover at profilere borgere, dvs. evaluere bestemte forhold hos borgere på baggrund af personoplysninger. Ifølge lovforslagets bemærkninger forventes det, at AI-systemerne kan trænes på historiske og afsluttede sager for at kunne levere redskaber til at profilere (evaluere) den konkrete borger og dennes udfordringer, og dermed at kunne levere beslutningsstøtten, dvs. forslag til afgørelser. Her ser DS en risiko for, at AI-systemerne vil kunne levere beslutningsstøtte, som ikke matcher borgerens reelle behov. Det er der flere grunde til:

• AI-systemets profilering af borgeren og dennes sag risikerer alene at tage udgangspunkt i statistiske sandsynligheder. Dermed kan AI-systemet overse de unikke forhold i borgerens sag, som taler for en anden afgørelse end den, beslutningsstøtten lægger op til. Sociale sager er ofte komplekse og forskelligartede, og det kræver både dyb og bred faglighed at nå frem til den rette afgørelse. Derfor er en konkret og individuel vurdering nødvendig, men som beskrevet ovenfor er der risiko for, at denne vurdering i praksis udelades.
• Når AI-systemet skal trænes på gamle sager, vil der være en stor risiko for, at sagerne reelt er forældede fordi lovgrundlaget eller lovfortolkningen har ændret sig, eller fordi AI-systemets anbefaling ikke tager afsæt i de nyeste sociale metoder og redskaber.
• Endelig kan der være bias i gamle sager i form af forforståelse af særlige samfundsgrupper eller problematikker, som har ændret sig.

I bemærkningerne til lovforslaget gøres opmærksom på risici ved profilering og bias, men der begrænset vejledning om, hvordan disse risici kan håndteres. Det overlades til myndigheden selv at vurdere, hvilke mitigerende foranstaltninger, der kan være relevante.

Ressortministeriernes opgave

Det fremgår af bemærkningerne til lovforslaget, at myndigheder, der arbejder med sårbare borgere, i realiteten bør udarbejde passende og specifikke foranstaltninger til beskyttelse af borgeres rettigheder og interesser. På den baggrund finder DS det besynderligt, at lovforslaget ikke forpligter ressortministerierne – men kun opfordrer –  til at gennemføre en vurdering af behovet for yderligere foranstaltninger til beskyttelse af borgere inden for deres ressortområde.

På det sociale område arbejdes der netop med følsomme personoplysninger om borgernes helbred, sociale problemer, misbrug, handicap, sygdomme, kriminalitet samt ikke mindst om børns forhold.

DS mener, at det er nødvendigt, at ressortministerierne løbende gennemfører sådanne vurderinger, så borgerne kan beskyttes bedst muligt, idet udviklingen af AI sker med stor hast.

Da AI-forordningen har udsat igangsættelsen af AI-systemer på følsomme områder til udgangen af 2027, bør ressortministerierne, herunder Socialministeriet, have tid til at gennemføre denne opgave.

Undtagelser til den registreredes rettigheder

Lovforslaget giver ressortministerierne mulighed for at indføre begrænsninger af de rettigheder, som borgeren har efter databeskyttelsesforordningen, herunder retten til indsigt og sletning. Som begrundelse henvises der til, at det i praksis kan være vanskeligt at udskille en borgers data fra et komplekst AI-system. DS er bekymret for, om denne adgang kan føre til generelle og vidtgående begrænsninger for et helt ressortområde, eller om begrænsningerne alene vil kunne knyttes til bestemte systemtyper eller opgaver. Lovforslagets mulige rækkevidde fremstår derfor uklar.

I den forbindelse vil DS gøre opmærksom på, at borgernes tillid til myndighederne i høj grad er betinget af gennemsigtige og gennemskuelige processer, og at en svækkelse af borgerens ret til indsigt kan øge mistilliden – ikke alene til socialrådgiveren – men til de offentlige myndigheder som sådan.

I forhold til anvendelse af AI-systemerne i den konkrete sagsbehandling vil en borger med rette kunne spørge til, om AI har været brugt til behandlingen af borgerens sag, hvordan og i hvilket omfang. DS ønsker at gøre opmærksom på, at jo tættere AI-teknologien kommer på afgørelser om udsatte borgeres liv, desto stærkere skal kravene være til retssikkerheden. Det skal kunne forklares, hvordan en afgørelse er blevet til.

Ansvarsproblematik

DS ønsker at gøre opmærksom på en særlig usikkerhed ved brugen af eksterne offentligt tilgængelige AI-systemer. Det fremgår indirekte af bemærkningerne i lovforslaget, at AI-systemerne ejes af den offentlige myndighed, som dermed også er ansvarlig både for datasikkerhed i AI-systemerne og for de ansattes anvendelse af AI-systemerne. Det er imidlertid uklart, hvordan de ansatte er stillet ved brug af andre offentligt tilgængelige AI-systemer, chatbots og apps, f.eks. ChatGPT, Google Gemini, Claude, Le Chat og Grok. Det er heller ikke umiddelbart gennemskueligt i lovbemærkningerne, om de ansatte må anvende disse systemer som supplement til de AI-systemer, som arbejdspladsen stiller til rådighed.

DS anbefaler, at arbejdsgiveren vejleder de ansatte om, at anvendelse af andre offentlig tilgængelige AI-systemer bør undgås, herunder klargør, hvad der er tilladt og hvad der ikke er tilladt at bruge. Formålet er at forebygge, at ansatte utilsigtet uploader personoplysninger eller anvender utilstrækkeligt fagligt underbyggede forslag som grundlag for afgørelser og dermed påtager sig et individuelt ansvar i sagsbehandlingen, der ikke er omfattet af de systemer, som arbejdsgiveren har indført og har ansvar for.

Derudover bør den offentlige myndighed tage tydeligt stilling til, hvem der har det organisatoriske ansvar for valg af AI-system, udvikling, kvalitetssikring, kontrol, instruktion, dokumentation, kompetenceudvikling samt håndtering af fejl. Det skal herunder afklares, hvordan ansvaret fordeles mellem myndigheden, leverandøren, ledelsen, så man undgår at ansvaret havner på hos den enkelte bruger af AI-systemet.

Endelig vil DS fremhæve, at forskelle i kommunernes indførelse, implementering og anvendelse af AI-systemer kan føre til, at borgerne ikke mødes af samme niveau af databeskyttelse, service og hjælp. Der er derfor behov for tværgående minimumsstandarder, som kan understøtte en mere ensartet og retssikker anvendelse af AI-systemer på tværs af kommuner og andre offentlige myndigheder.

Opsummering

• AI-systemer må gerne understøtte og styrke – men ikke erstatte det socialfaglige skøn.
• Det skal være reelt muligt for socialrådgiveren at vurdere AI-genererede forslag. Det forudsætter tilstrækkelig tid, kompetencer og adgang til de oplysninger, som forslaget bygges på samt mulighed for at fravige anbefalingen og få organisatorisk opbakning til at gøre det.
• Borgeren skal kunne få klarhed over, om og hvordan AI har indgået i sagsbehandlingen, herunder med hvilket formål og med hvilken betydning for sagen. Det skal desuden fremgå, hvordan den efterfølgende faglige vurdering er foretaget.
• Det sociale område er særligt risikofyldt i forhold til anvendelse af AI, idet der i stor udstrækning behandles følsomme personoplysninger i komplekse sager med sårbare borgere. Derfor skal beskyttelsen og gennemsigtigheden være høj.
• Der skal være et tydeligt ansvar for kvalitetssikring og kontrol af AI-systemer, så den enkelte medarbejder ikke pålægges ansvaret for systemfejl. Der skal ligeledes være tydelige grænser for hvilke AI-systemer den ansatte må bruge til løsning af arbejdsopgaverne.
• AI skal frigive tid til at styrke den faglige kvalitet og kontakten med borgeren. Eventuelle effektiviseringsgevinster må ikke anvendes til at intensivere arbejdet, så socialrådgiveren skal håndtere og være i kontakt med endnu flere borgere end i dag.

Med venlig hilsen
Marie Vithen
Næstforkvinde
Dansk Socialrådgiverforening