Når AI gør arbejdet lettere

Den japanske fisk ’fugu’ er både en delikatesse og dødelig at spise, hvis ikke den tilberedes korrekt. Japanske kokke skal gennemgå en særlig efteruddannelse for at få lov til at servere den, og spørger du ChatGPT, bør du derfor ’under ingen omstændigheder forsøge at tilberede fugu selv’. Måske har kunstig intelligens (AI), herunder også ChatGPT selv, mere tilfælles med den giftige fisk, end man umiddelbart skulle tro.

Begge giver noget helt særligt, men kan samtidig forårsage stor skade, hvis de ikke håndteres med omhu og omtanke. Førende AI-eksperter som Geoffrey Hinton – der også kaldes gudfader til kunstig intelligens – advarer blandt andet om, at AI kan blive misbrugt af fjendtlige stater og kriminelle, at den kan gøre mennesker overflødige i en række brancher, og at den i sidste ende kan true vores eksistens.

Så vidt kommer det forhåbentlig ikke. Men det står klart, at kunstig intelligens er kommet, ikke kun for at blive, men for at transformere vores arbejdsliv. Også socialrådgivernes.

AI er efterspurgt

Selv om medarbejderne på socialområdet i København som udgangspunkt ikke må bruge redskaber som ChatGPT i forbindelse med arbejdet, er fornemmelsen, at enkelte rundt omkring har gjort det alligevel, fortæller Jesper Rukshan Nissen.

– Det er tydeligt, at mange socialrådgivere, især de unge, er begyndt at efterspørge brugen af kunstig intelligens. Mange spørger, hvorfor vi ikke kan bruge AI til mødebooking, sagsresumeer og andet. Vi er forbi debatten om, hvorvidt vi skal bruge det eller ej. Så derfor handler det nu om, hvordan vi tager det i brug og bringer det ind i sikre miljøer.

Jesper Rukshan Nissen er socialrådgiver, tillidsrepræsentant og digitaliseringskonsulent i Københavns Kommunes socialforvaltning med ansvar for blandt andet fagsystemet DUBU. Med en fortid på børneområdet ved han, hvordan systemerne opleves blandt socialrådgiverne og betragter sig selv som et bindeled mellem teknologi og medarbejdere. Samtidig arbejder han med udvikling af nye digitale redskaber, der skal understøtte blandt andre socialrådgiverne i deres arbejde. Og potentialet er stort, mener han.

– Der er meget viden i vores fagsystemer, som ikke bliver udnyttet. En masse viden, historik og analyser i sager, der går tabt. Her kan AI både i den enkelte sag og på tværs af sager for eksempel lave faglige analyser lynhurtigt og give et bedre beslutningsgrundlag, siger Jesper Rushan Nissen og uddyber:

– Den perfekte case er, at en socialrådgiver, der overtager en sag, kan læse en opsamling af, hvad der er sket, det faglige grundlag for beslutningerne, og vurderinger af hvad der burde være sket, i stedet for selv at læse 3000 sider igennem. Så kan man relativt hurtigt sætte sig ind i nye sagsstammer. Det er en lavthængende frugt, som vi faktisk kan tage fat i.

Juridisk usikkerhed

Andre frugter hænger højere oppe i træet, hvor grenene er tættere. Helt oppe, hvor de juridiske og etiske udfordringer er størst, finder man de meget omdiskuterede prædiktive AI-modeller, der skal forudsige risikoen for blandt andet ledighed og børns mistrivsel. Dem er der lavet flere forsøg med i Danmark.

I en videnskabelig artikel fra 2021 konkluderede forskere fra blandt andet IT-Universitetet, at AI-modellerne mangler afgørende dele af sagsbehandlernes faglige grundlag, simpelthen fordi det ikke bliver skrevet ned.

”Sagsbehandlerne sidder stadig til møder med borgerne og kan (mærke, red.), hvis der er én, som lugter af alkohol, eller hvis vedkommende bliver ked af det, når der bliver spurgt ind til helbredet. Så der er en masse fysiske ”clues”, som man endnu ikke kan tage teknologisk højde for”, skrev de dengang.

Et andet projekt, ‘Underretninger i fokus’, viste ifølge forskerne bag, at deres AI-model blandt andet kunne understøtte socialrådgivernes faglige vurderinger. På grund af juridiske bekymringer har de dog kun afprøvet modellen på testsager.

I København kørte man et lignende projekt med en underretnings-model, der blev trænet på tusindvis af tidligere faglige vurderinger og derefter selv kategoriserede 100 underretninger. Modellens kategorisering blev bedømt fagligt af en gruppe socialrådgivere, og deres feedback blev så brugt til at gentræne modellen.

– Udskiftningen blandt socialrådgiverne er stor, og vi får flere og flere underretninger. Derfor var det en god case at tage fat i. De unge socialrådgivere var meget glade for underretningsalgoritmen og brugte den til at lære, mens de mere erfarne rådgivere mente, at den var overflødig. Men den hjalp de nyuddannede, siger Jesper Rukshan Nissen og forklarer, at kommunen måtte stoppe projektet på grund af en EU-dom.

Advarer mod datadreven ledelse

Selv om det kræver mange ressourcer at minimere risici ved modellerne som indbygget diskrimination på baggrund af nationalitet eller køn, er den største barriere for at udvikle nye værktøjer baseret på kunstig intelligens netop lovgivning, mener han.

– Der er en ambition blandt politikere og ledelse om at få det bedst mulige produkt, så nu skal lovgivningen på plads. Men der er også en frygt for, at der kommer ny lovgivning, der lukker det ned og spænder ben for udviklingen, siger han.

Den juridiske usikkerhed betyder, at kommunerne holder igen med at tage AI-løsninger i brug på områder, hvor de kunne gøre gavn. Det mener blandt andre direktør for sociale forhold og beskæftigelse i Aarhus, Erik Kaastrup-Hansen.

”Sagen er, at lovgivningen halter gevaldigt efter den teknologiske udvikling, og det skaber unødvendig usikkerhed og bremser innovation og implementering af effektive AI-løsninger. Derfor har vi ud fra et forsigtighedsprincip valgt at afstå fra at tage løsningen i brug på myndighedsområdet, indtil vi får hjemmelsgrundlaget på plads. Og det bør ske hellere før end siden”, skrev han på Altinget.dk i januar.

Men ifølge Jesper Rukshan Nissen er der grund til nøje at overveje, hvor hurtigt man går frem.

– Det er nemt at blive forført af datadreven ledelse og effektivitet, men hvis ikke politikerne og direktionen kan gennemskue, hvordan det påvirker fagligheden, er det et problem. Måske særligt i mindre kommuner uden de nødvendige ressourcer. Her har vi i Dansk Socialrådgiverforening en kæmpe rolle at spille ved at deltage i debatten og sikre, at socialrådgiverne ved, hvad de skal være opmærksomme på ude i kommunerne.

Socialrådgivere skal være modige

Det sidste er helt afgørende, mener han. Socialrådgiverne skal uddannes i at bruge de nye teknologiske redskaber og være med til at sikre kvaliteten af dem.

– Nogle vil gå langt for at få AI til at effektivisere arbejdet og dermed kunne overholde tidsfrister, men der skal altid være et mellemled i form af en socialrådgiver. Jeg kan godt se, at udviklingen kan rulle som en lavine, uden at man stopper op og husker fagligheden. Derfor er det så afgørende, at vi socialrådgivere griber mulighederne og samtidig bruger vores faglighed, kritiske sans og etik. Vi skal være modige, turde at sige, når modellen tager fejl, og give konstruktiv feedback, siger han.

I sidste ende vil der altid være risici ved kunstig intelligens. Socialrådgiverne skal lære dem at kende, så de kan bruge redskaberne med omhu. Præcis som de kokke, der laver fugu.

---

I Digitaliseringsstyrelsens notat ’Guide til offentlige myndigheder om ansvarlig anvendelse af generativ kunstig intelligens’ står der blandt andet:
”Uanset om jeres organisation har taget stilling til brugen af generativ AI eller ej, så er der en god sandsynlighed for, at flere medarbejdere i organisationen allerede bruger det – og med god grund.”
» Find guiden på digst.dk

En del socialrådgivere har allerede adgang til kunstig intelligens i hverdagen. En af dem er Velat Nihat Kalan, jobrådgiver i Jobcenter Roskilde, hvor han arbejder med dagpengemodtagere. Roskilde har sammen med en række andre kommuner og et privat firma udviklet AI-redskabet Roboref, der hjælper med at skrive referater fra møder og borgersamtaler.

– Det fungerer rigtig godt. Vi sparer rigtig meget tid på dokumentation, som vi i stedet kan bruge på borgerne. Og det giver os mulighed for at være mere nærværende og se borgerne i øjnene, fordi vi ikke selv skal skrive noter, så det giver stor værdi for både os og borgerne, siger Velat Kalan.

Borgerne skal informeres

Oplysningspligten er afgørende i arbejdet med borgerne, og Velat tager sig derfor tid til at informere grundigt om brugen af Roboref og spørger, om han må bruge det under samtalen.

– Det siger 99 procent af dem ja til. I nogle tilfælde har jeg også vist systemet for borgerne, så det ikke virker farligt for dem.

Dernæst optager systemet samtalen, transskriberer den og udarbejder så et udkast til et socialfagligt notat, som Velat tjekker igennem, retter til og lægger i borgerens ’min plan’ på Jobnet. Derefter bliver den oprindelige transskribering slettet permanent, hvilket Velat altid understreger for borgeren. Og selv om Roboref indimellem begår fejl, for eksempel ved at misforstå sammenhænge i samtalerne, er Velat Kalan ikke bekymret for at bruge det.

– Jeg skal altid gennemgå udkastet og kvalitetssikre det, før det bliver lagt op på Jobnet. Roboref handler ikke om at erstatte en ressource, men om at understøtte os som socialrådgivere, så vi kan være mere nærværende, lyttende og forstående i vores samtaler med borgerne, konkluderer han.

---

Miniguide: Sådan kan du bruge chatbot

Du skal altid følge reglerne på din arbejdsplads. Hvis du gerne må bruge AI-redskaber, er her fem eksempler på opgaver, du kan få en chatbot til at hjælpe med:

• Læse korrektur på tekster.
• Ændre den sproglige stil i en mail til en kollega, din chef eller en borger – så den matcher din ’målgruppe’.
• Forklare og opsummere lovgivning i et letforståeligt sprog.
• Lave skabeloner, strukturere notater og lave tjeklister til internt brug.
• Sparre om faglige problemstillinger (uden personfølsomme oplysninger!)

Gode råd når du prompter

• Det, du skriver til en chatbot, kaldes en ’prompt’. Følg disse tre råd, når du prompter, for at få de mest brugbare svar:
• Vær præcis og specifik: Formuler dit spørgsmål eller din anmodning så præcist som muligt. For eksempel, at et resumé må fylde det antal linjer, du ønsker, eller opdeles i punkter. Eller at teksten skal omformes til fem slides i powerpoint.
• Giv kontekst: Skriv lidt om, hvad dens svar skal bruges til.
• Følg op: Hvis AI’en ikke giver et brugbart svar, så spørg på en anden måde eller forklar den, hvorfor det ikke er brugbart.
• Hvis du ikke må bruge chatbot på dit arbejde, kan du starte med private opgaver som forslag til en tale eller hjælp til at planlægge en rejse.
• Husk – skriv aldrig personfølsomme eller -henførbare oplysninger.

Hvilken chatbot skal du vælge?

ChatGPT er den mest udbredte og kendte generative AI-chatbot, men der findes en række alternativer.

For eksempel har firmaet Anthropic udviklet chatbotten Claude, der bygger på en række etiske principper. Anthropic ønsker i modsætning til mange andre tech-virksomheder, at regeringer tager risici alvorligt og regulerer udviklingen af AI.

En anden mulighed er ’le Chat’ fra selskabet Mistral AI, der tilbyder et godt europæisk alternativ til de amerikanske chatbots.

---

Bag om historien
Kunstig intelligens (AI) er ikke længere en fjern teknologi, der arbejder i baggrunden af it-systemer. AI er ved at blive en aktiv del af vores arbejdsred­skaber, som vi kan ’prompte’ til at løse konkrete opgaver – hvis ledelsen og lovgivningen tillader det.

Temaet sætter fokus på, hvordan socialrådgivere kan være med til at sikre, at kunstig intelligens bruges klogt, etisk og med respekt for borgernes rettig­heder – og på en måde, som understøtter det sociale arbejde.