Kunstig intelligens: Teknologien er ikke moden til at tegne profiler af borgerne
Den kunstige intelligens, som udvikles til det offentlige i disse år, bør begynde et helt andet sted end med profilering af den enkelte borger, mener datalogiforsker Naja Holten Møller. Hun anbefaler, at man satser på algoritmer til rutineopgaver og tager de fagprofessionelle med på råd.
Sagsbehandlere skal både vide, hvornår de kan bruge en kunstig intelligens, og hvor meget de kan stole på den. Derfor skal algoritmen udvikles sammen med praksis, lyder det fra adjunkt Naja Holten Møller fra Datalogisk Institut på Københavns Universitet.
– Hvis sagsbehandlere ikke altid kan genkende den profil, som den kunstige intelligens tegner af en borger, er det svært at forstå, hvordan den tilvejebringer resultatet, og derfor ser de bort fra støtten. Vi skal sikre, at praksis og kunstig intelligens går hånd i hånd, hvor relationsarbejdet med borgerne er det primære, og hvor sagsbehandlerne altid vejer deres erfaring fra praksis op mod den kunstige intelligens. Derfor skal de have opbakning fra ledelsen til altid at lægge deres eget skøn til grund for den endelige beslutning.
Naja Holten Møller har forsket i, hvordan jobcentre bruger den kunstige intelligens ASTA til at vurdere lediges fremtidsudsigter på arbejdsmarkedet. Her har hun blandt andet mødt socialrådgivere i en workshop og interviewet sagsbehandlere.
– Sagsbehandlerne oplever, at kunstig intelligens kan være anvendeligt, men de siger samtidig, at de sagtens kan afgøre, om en borger er i risiko for at blive langtidsledig, når de møder borgeren. Derfor skal man ikke bare rulle teknologi ud. De fagprofessionelle skal have indflydelse, når der skal designes kunstig intelligens, som skal lette deres arbejde, siger Naja Holten Møller, som forsker sammen med ph.d.-studerende Asbjørn Ammitzbøll Flügge.
Hvis man tænker oppe fra og ned, bliver kunstig intelligens et politisk projekt, advarer hun.
– I et politisk projekt vil man tegne profiler af den arbejdsløses risiko for at blive langtidsledig, men der er stor forskel på en ung nyuddannet og en borger, som har været uden job i et stykke tid. Derfor skal sagsbehandlerne være med i udviklingen af værktøjet, så det bliver udviklet i det rette tempo og med en klar forståelse af dets begrænsninger. Det kan virke omstændeligt, men det er vi nødt til, fordi en algoritme bygger på en afgrænset datamodel.
Begynd med rutineopgaver
Det offentlige har ofte som mål at optimere forløbene for den enkelte borger. Så fremfor at tegne profiler af borgerne er det mere interessant at bruge kunstig intelligens til at lette rutineprægede arbejdsgange, mener Naja Holten Møller.
– Sagsbehandlere skal indhente den samme dokumentation hver gang, for eksempel lægeerklæringer. Kan vi bruge kunstig intelligens til at gøre det lettere? Meget af vores forskning handler om at give værktøjet retning, og sagsbehandlere har brug for hjælp til at løse rutineopgaver mere smidigt.
Det er imidlertid lettere sagt end gjort, for det offentlige er ikke som en kommode, hvor man kan trække en skuffe ud, installere kunstig intelligens og lukke den igen. Systemet er som tandhjul, der griber ind i hinanden, forklarer Naja Holten Møller.
– Der er mange snitflader på socialområdet. For eksempel kan en lægeerklæring både indhentes hos den praktiserende læge og fra et hospital, og de har forskellige størrelser og specialer. Alt det skal den kunstige intelligens tage højde for.
Lovgivningen gør ikke kompleksiteten mindre. Den ændres ret ofte på socialområdet, og det skal en kunstig intelligens tilpasses efter.
– Når man vil bruge kunstig intelligens til at finde ud af, om børn mistrives, bliver det endnu mere komplekst, fordi mange parter og forhold gør sig gældende. Derfor er det ikke der, vi vil begynde. Det er teknologien ikke moden til, og derfor ser vi på, om vi kan bruge kunstig intelligens til at gøre rutineprægede opgaver smidigere, siger Naja Holten Møller.
Mennesket skal stadig først
Alene det at konstruere en algoritme til at indhente lægeerklæringer er en udfordring, for man skal ikke tage fejl af, at sagsbehandling handler om at arbejde med relationer, påpeger adjunkten fra Datalogisk Institut.
– Hvis relationen mellem borger og sagsbehandler ikke er etableret, kan borgeren opfatte det negativt, at sagsbehandleren vil indhente en lægeerklæring. Det kan godt være, at arbejdsgangen siger, at sagsbehandleren indhenter dokumentation før første møde med borgeren, så de har noget at tale ud fra, men rækkefølgen skal være til at ændre.
Det viser adjunktens erfaringer fra jobcentre.
– Den ledige har måske personlige udfordringer, diagnoser eller har været indlagt af psykiatriske årsager. Kompleksiteten af menneskelige udfordringer gør det nødvendigt først at etablere en relation, hvor man har fokus på, hvad der er vigtigt i forhold til det forløb, der skal etableres for borgeren. Derfor skal vi reflektere over, hvilke typer problemer vi kan bruge kunstig intelligens til at hjælpe os med, siger Naja Holten Møller.