”Algoritmen kan spille ind som en tredje makker”

På en skala fra et til ti vurderer Simone Berg bekymringsgraden for et barn til to. Når hun derefter skanner underretningen ind i en algoritmebaseret beslutningsstøtte, boner den ud med et fem-tal.

Selv om den kunstige intelligens tydeligvis er mere bekymret, får det ikke Simone Berg til at tvivle på sin dømmekraft. Eller rettere sagt fik ikke, for familierådgiveren blev udfordret på sine vurderinger, da to team i Silkeborg Kommune testede den første udgave af den beslutningsstøtte, et forskerteam i Aarhus er ved at udvikle.

– Vi vidste, at vi over tid kunne blive påvirket af den kunstige intelligens, så vi var opmærksomme på ikke at lade os styre. Men udsvingene gav god mening, fordi de fik os til i højere grad at drøfte, hvad der gjorde os bekymrede i en sag, fortæller Simone Berg, som er tillidsrepræsentant for sine kolleger.

En lavere score end hendes egen fik Simone Berg til at tænke over, om hun var for overbekymret, mens en højere score både kunne bunde i, at der var noget, hun havde overset, eller at der var ting, beslutningsstøtten ikke vidste.

– Algoritmen boner ud, hvis der står psykiatrisk behandling eller misbrug i underretningen, men jeg ved måske, at moren er medicineret for sin skizofreni og er velfungerende. Eller måske har jeg lige talt med misbrugskonsulenten, som siger, at moren er i behandling for sit misbrug og er i bedring. Vi var opmærksomme på, at vi ved noget fra vores kendskab til familien, som beslutningsstøtten ikke kender til, siger familierådgiveren.

Plads til forbedringer

Der er plads til forbedringer i beslutningsstøtten, mener Simone Berg.

– Robotten boner ud på bekymringsord som misbrug, vold og overgreb, men hvis der står ’et stort forbrug’ i stedet for misbrug, fanger den det ikke. Man skal hele tiden have for øje, at det er en robot. Det er en lille baby, som skal udvikles.

Også navnet bør forbedres.

– Beslutningsstøtte er et dårligt ord, for algoritmen skal ikke beslutte noget. Jeg drøfter som regel underretninger med en kollega, og algoritmen kan så spille ind som en tredje makker. Når man arbejder med den samme type sager, kan man blive blind for noget, og beslutningsstøtten understøtter, at vi får drøftet, om vi gør det, vi gerne vil. På den måde kvalificerer den vores vurdering, siger Simone Berg.

Hun frygter ikke, at beslutningsstøtten reducerer borgernes retssikkerhed. Tværtimod. I hvert fald så længe socialrådgivere kun læner sig op ad den.

– Algoritmen har ikke andel i sagen, hvor vi altid har en forforståelse, både af sociale problemer og af de borgere, vi arbejder med. Her dukker algoritmen op og giver anledning til, at vi tænker os om en gang mere, og det forstærker retssikkerheden.

Algoritmen er ikke ansvarlig

Simone Berg er ikke bange for, at algoritmen kan blive så god, at den kan erstatte hende.

– Algoritmen kan ikke lave en individuel vurdering, som er det centrale i vores arbejde. Den kan heller ikke tage højde for den tavse viden i sager om sociale problemer.

Alligevel ser Simone Berg en risiko ved den automatiserede makker, for det kan være stressende at arbejde i en familieafdeling, og sagsbehandlerne kommer meget igennem følelsesmæssigt.

– Min faglighed bygger på ti års erfaring, men det vil måske være fristende for nyuddannede, som kommer til at arbejde med en robot fra dag et, at læne sig for meget op ad den. Ligesom når jeg følger en GPS uden at tænke over, om jeg skal til højre eller venstre. Så risikerer der at ske fejl, og hvem har så ansvaret? Ansvaret for børns trivsel og sikkerhed hører ikke hjemme i en algoritme, siger Simone Berg.

Statistik i socialt arbejde

Da beslutningsstøtten i underretninger blev testet i de to kommuner, var Clara Siboni Lund med på sidelinjen, hvor hun interviewede i alt 13 socialrådgivere. Hun har lavet ph.d. om implementering af Machine Learning i den offentlige forvaltning og er i dag adjunkt ved Institut for Statskundskab på Aarhus Universitet. Og hun konkluderer, at det fortrinsvis har været positivt for socialrådgivere i Silkeborg og Hjørring Kommune at arbejde med beslutningsstøtten.

Clara Siboni Lund har ikke haft mulighed for at stille op til interview med fagbladet Socialrådgiveren, men i forskningstidsskriftet Uden for Nummer skriver hun:
”Beslutningsstøtten er i tråd med den systematiske måde, socialrådgiverne allerede arbejder med risikofaktorer på, og de finder, at den har potentiale til at indikere alvoren i et barns risikoniveau.”

Når en underretning er skannet ind, beregner beslutningsstøtten en risikoscore mellem et og ti, hvor ti er mest alvorlig. Socialrådgiverne beskriver, at beslutningsstøtten giver dem et praj, et fingerpraj eller et signal, eller at den virker som guide eller indikator. Men det får dem ikke til at frygte, at andre faggrupper kan overtage vurderingen af underretningerne.

Kun små justeringer

Langt de fleste af de 13 socialrådgivere tænker, at beslutningsstøtten misser noget, hvis risikoscoren er langt fra deres egen. Alligevel er de opmærksomme på, at beslutningsstøtten kan medføre en afkobling af deres socialfaglige viden.

”De forestiller sig, at beslutningsstøtten kan blive en sovepude, som gør, at de i mindre grad vil forholde sig fagligt og nuanceret til hvert enkelt barn”, sammenfatter Clara Siboni Lund.

Pilottesten giver ikke umiddelbart genklang til bekymringen. Ganske vist ændrede socialrådgiverne deres vurdering i hver femte sag efter at have set beslutningsstøttens risikovurdering, men hovedparten var relativt små justeringer. For eksempel gav en socialrådgiver en 14-årig pige scoren fem, mens beslutningsstøtten sagde otte. Forskellen fik socialrådgiveren til at genoverveje sagen, hvorefter hun gik op på seks. Hendes bekymring var altså stadig lavest, hvilket hun forklarede med, at hun havde medtænkt, at pigen var på efterskole.

Læs hele artiklen ”Algoritmer i socialfaglige vurderinger – en undersøgelse af socialarbejderes opfattelse af at anvende algoritmer til vurdering af underretninger” i Uden for Nummer 39/2019