Publicerad 7 maj 2021

Rättsliga förutsättningar för att använda AI i socialtjänsten

Intresset för att utforska om AI kan användas för att utveckla socialtjänsten är stort bland kommunerna. För att stötta kommunerna i det arbetet har SKR därför utrett hur rättsläget ser ut för socialtjänsten att använda AI i sin verksamhet.

I rapporten som SKR tagit fram ges underlag för bedömningarna med hänvisning till lagtext.

Användningen av AI inom socialtjänsten. rapport (PDF) Pdf, 661 kB.

När man använder AI är det, förutom de rättsliga aspekterna, även viktigt att göra ett grundligt arbete kring andra viktiga aspekter, som till exempel:

  • Etiska aspekter, syftet med att använda AI och tänkbara konsekvenser av det
  • Aspekter kring informationssäkerhet.
  • Kostnader. Initiala och långsiktiga.
  • Kvantitet. Går det att samla in tillräckligt mycket information för att AI ska blir tillförlitligt och kvalitativt?

Frågor och svar

  • Vad gäller för att använda AI för verksamhetsutveckling generellt i socialtjänsten?

    Enligt SoLPUL och SoLPUF får en socialnämnd behandla personuppgifter för ett flertal ändamål. Personuppgifter får behandlas om behandlingen är nödvändig för att arbetsuppgifter inom socialtjänsten ska kunna utföras, bland annat för ändamålen tillsyn, uppföljning, utvärdering, kvalitetssäkring och administration av verksamheten.

    En privat utförare får inte behandla personuppgifter för dessa ändamål, med undantag för administration av verksamheten.

    Det finns inget entydigt svar på vad som avses med uppföljning, utvärdering, kvalitetssäkring, men uttalanden i förarbeten och allmänna råd kan tolkas som att personuppgifter kan hämtas in och analyseras med stöd av AI för dessa syften och vid handläggning av ärenden.

  • Vad gäller för att använda AI för handläggning generellt i socialtjänsten?

    Eftersom SoLPUF anger att en socialnämnd får behandla personuppgifter för vissa ändamål, såsom till exempel kvalitetssäkring, är bedömningen att socialtjänsten får använda personuppgifter med AI. Under förutsättning att det är ”nödvändigt för att arbetsuppgifter inom socialtjänsten ska kunna utföras samt att uppgifterna som behandlas har lämnats i ett ärende eller är nödvändiga för verksamheten.

    Det innebär att det är tillåtet för en socialnämnd att ta del av uppgifter om en enskild individ i dennes personakt om till exempel tidigare utlåtanden, bedömningar eller åtgärder genom att skapa ett tillfälligt sammanställningsregister på vilken nämnden applicerar någon form av AI, såsom erfarenhetsbaserade prediktionsmodeller, i syfte att åstadkomma en rättssäkrare och mer kunskapsbaserad bedömning vid handläggning av en individs ärende.

    Notera att det endast är tillåtet att inhämta historiska uppgifter från den enskilde individen. Att använda historiska uppgifter om exempelvis insatser och åtgärder om andra individer i ett ärendehanteringssystem är inte möjligt eftersom socialnämnden inte får söka på sådana begrepp inom ramen för handläggning av ärenden.

    Genom att skapa ett sammanställningsregister och antingen påföra löpande uppgifter från handläggningen av olika enskilda ärenden till registret eller att vissa utsedda medarbetare söker efter uppgifter i ärendehanteringssystem och tillför uppgifterna till registret , kan socialnämnden dock skapa en databas med historiska data för att kvalitetssäkra handläggningen av framtida ärenden med hjälp av AI I ett sammanställningsregister för ändamålet kvalitetssäkring får man nämligen söka på alla möjliga begrepp. Sammanställningsregistret syftar här till att säkra kvaliteten i handläggningen av det enskilda ärendet. Sammanställningsregistret kan också användas för prediktionsmodeller som läggs till grund för beslutsstöd i ärendehanteringssystemet.

  • Vad gäller för att använda AI specifikt när det gäller anmälningar och förhandsbedömningar om barn och unga i socialtjänsten?

    En särskild fråga är om anmälningar och förhandsbedömningar som inte lett till ett beslut om utredning får samlas i ett sammanställningsregister, eftersom dessa omfattas av särskilda bestämmelser kring hur de ska sparas och sökbarheten.

    Rättsläget är något osäkert, men bedömningen är att det finns övervägande skäl för att registrering av anmälningar som inte kan dokumenteras i en personakt träffas av sammanställningsförbudet i 7 a § SoLPUL. Anledningen är att en sådan sammanställning inte uppfyller rekvisiten för ett av undantagen från sammanställningsförbudet, nämligen att det rör sig om ”åtgärder som har beslutats inom socialtjänsten som innebär myndighetsutövning”. Inte heller rör det sig om ”handläggning av ärende” (12 § SoLPUF).

    Det innebär att sådana anmälningar inte kan underkastas AI eller användas som beslutsstöd vid handläggning av enskilda ärenden.

Kontakt

Kontakta SKR

Har du en fråga med anledning av det pågående virusutbrottet?

Titta först på våra frågor och svar som finns här på webbplatsen.

Covid-19 och det nya coronaviruset