Rättsliga förutsättningar för att använda AI i socialtjänsten

Enligt SoLPUL och SoLPUF får en socialnämnd behandla personuppgifter för ett flertal ändamål. Personuppgifter får behandlas om behandlingen är nödvändig för att arbetsuppgifter inom socialtjänsten ska kunna utföras, bland annat för ändamålen tillsyn, uppföljning, utvärdering, kvalitetssäkring och administration av verksamheten.

En privat utförare får inte behandla personuppgifter för dessa ändamål, med undantag för administration av verksamheten.

Det finns inget entydigt svar på vad som avses med uppföljning, utvärdering, kvalitetssäkring, men uttalanden i förarbeten och allmänna råd kan tolkas som att personuppgifter kan hämtas in och analyseras med stöd av AI för dessa syften och vid handläggning av ärenden.

Eftersom SoLPUF anger att en socialnämnd får behandla personuppgifter för vissa ändamål, såsom till exempel kvalitetssäkring, är bedömningen att socialtjänsten får använda personuppgifter med AI. Under förutsättning att det är ”nödvändigt för att arbetsuppgifter inom socialtjänsten ska kunna utföras samt att uppgifterna som behandlas har lämnats i ett ärende eller är nödvändiga för verksamheten.

Det innebär att det är tillåtet för en socialnämnd att ta del av uppgifter om en enskild individ i dennes personakt om till exempel tidigare utlåtanden, bedömningar eller åtgärder genom att skapa ett tillfälligt sammanställningsregister på vilken nämnden applicerar någon form av AI, såsom erfarenhetsbaserade prediktionsmodeller, i syfte att åstadkomma en rättssäkrare och mer kunskapsbaserad bedömning vid handläggning av en individs ärende.

Notera att det endast är tillåtet att inhämta historiska uppgifter från den enskilde individen. Att använda historiska uppgifter om exempelvis insatser och åtgärder om andra individer i ett ärendehanteringssystem är inte möjligt eftersom socialnämnden inte får söka på sådana begrepp inom ramen för handläggning av ärenden.

Genom att skapa ett sammanställningsregister och antingen påföra löpande uppgifter från handläggningen av olika enskilda ärenden till registret eller att vissa utsedda medarbetare söker efter uppgifter i ärendehanteringssystem och tillför uppgifterna till registret , kan socialnämnden dock skapa en databas med historiska data för att kvalitetssäkra handläggningen av framtida ärenden med hjälp av AI I ett sammanställningsregister för ändamålet kvalitetssäkring får man nämligen söka på alla möjliga begrepp. Sammanställningsregistret syftar här till att säkra kvaliteten i handläggningen av det enskilda ärendet. Sammanställningsregistret kan också användas för prediktionsmodeller som läggs till grund för beslutsstöd i ärendehanteringssystemet.

En särskild fråga är om anmälningar och förhandsbedömningar som inte lett till ett beslut om utredning får samlas i ett sammanställningsregister, eftersom dessa omfattas av särskilda bestämmelser kring hur de ska sparas och sökbarheten.

Rättsläget är något osäkert, men bedömningen är att det finns övervägande skäl för att registrering av anmälningar som inte kan dokumenteras i en personakt träffas av sammanställningsförbudet i 7 a § SoLPUL. Anledningen är att en sådan sammanställning inte uppfyller rekvisiten för ett av undantagen från sammanställningsförbudet, nämligen att det rör sig om ”åtgärder som har beslutats inom socialtjänsten som innebär myndighetsutövning”. Inte heller rör det sig om ”handläggning av ärende” (12 § SoLPUF).

Det innebär att sådana anmälningar inte kan underkastas AI eller användas som beslutsstöd vid handläggning av enskilda ärenden.