Algoritmer fattar beslut om beskattning, dagisplats och bidrag – nu är det också lagligt, men inte i alla situationer

Allt fler beslut som staten och kommuner fattar sker på ett automatiserat sätt. Det kan handla om allt från skattebeslut till beslut om plats på daghem.

I serverhallar över hela landet fattar algoritmer, alltså datorkod, automatiska beslut om oss medborgare – utan inblandning av oss människor.

Det här är möjligt i enklare fall, där det inte behövs någon manuell prövning. Algoritmerna måste basera sig på entydiga logiska regler.

– Ett syfte med att ta i bruk de här automatiserade beslutssystemen är uttryckligen att spara pengar. Givetvis kostar det att lägga upp ett sådant system. Men samtidigt frigörs det tjänstemannaresurser, kommenterar Markku Suksi som är professor i offentlig rätt vid Åbo akademi.

För medborgarna innebär det att många beslut fattas snabbt, och faktiskt i praktiken utan dröjsmål, såsom lagen säger. Alla behandlas också lika, enligt de parametrar som algoritmen innehåller.

Lagförändring möjliggör automatisering

Skatteförvaltningen, Folkpensionsanstalten (FPA), Lantmäteriverket, Finlands skogscentral, Migrationsverket, Tullen och Arbets- och näringsbyråerna är några exempel på myndigheter som har fattat automatiserade beslut redan en tid.

Men år 2019 konstaterade övervakande myndigheter att det här bröt mot lagen.

EU:s dataskyddsförordning som trädde i kraft året innan kräver att det måste finnas stöd för automatiserade beslut i den nationella lagen om man ska fatta sådana beslut, och det saknades i Finland.

Förvaltningslagen och lagen om informationshantering inom den offentliga förvaltningen förändrades ändå den här månaden och nu står det klart att det också är lagligt att datorn fattar myndighetsbeslut, och under vilka förutsättningar det ska ske.

Nästan alla skattebeslut är automatiserade

Matti Merisalo som är juridisk direktör på Skatteförvaltningen säger att myndigheten i praktiken måste använda automatiserade beslut för att klara av att hantera alla ärenden. Bland annat inkomstskatten och fastighetsskatten kan avgöras av datorn.

Totalt fattar Skatteförvaltningen årligen mer än 16 miljoner beskattningsbeslut. Inom personbeskattningen är drygt 90 procent av dem helt automatiserade.

– Man behöver ingen tjänstemannagranskning för dessa fall. Fördelen för kunden är naturligtvis att han får beslutet mycket snabbare när det fattas automatiskt, kommenterar Merisalo.

– Och han får sina skatteåterbäringar tillbaka snabbare än vad det vore om tjänstemannen skulle granska alla beskattningsbeslut, tillägger han.

Myndigheten siktar också på att öka mängden automatiserade beslut.

– Ja, vi undersöker hur vi kan utvidga de här automatiska besluten till olika processer. Det är viktigt för att effektivisera Skatteförvaltningens verksamhet.

Markku Suksi vid Åbo akademi ser det som oundvikligt att myndighetsbeslut fattade av datorer kommer bli vanligare inom många olika myndigheter.

– Det kommer att öka, det är ganska säkert. För vårt samhälle är på det viset klart för en ökad användning av de systemen att vi har dels den datorkapacitet som behövs men också de upplysningar om individer som behövs.

Myndigheter har också under senare år börjat dela allt mera data med varandra, med stöd av lagstiftningen.

Datorbeslut viktiga också för FPA och Lantmäteriverket

På Folkpensionsanstalten FPA berättar lagstiftningsdirektör Marjukka Turunen att man använder automatiserade beslut till exempel för att sluta betala ut pension snabbt efter att en person har dött.

– Men vi har också många andra beslut som fattas helt automatiskt. Till exempel studiestöd kan godkännas automatiskt på basis av en digital ansökan som innehåller alla nödvändiga uppgifter. Det krävs ingen manuell hantering av en människa, kommenterar Turunen.

Många nekande beslut om bostadsbidrag sker också automatiskt, i sådana fall där det är klart att FPA inte har fått sådana uppgifter som myndigheten har bett om.

Automatiserade beslut kan bli fel

Matti Merisalo, juridisk direktör på Skatteförvaltningen

Och Lantmäteriverket automatiserar till exempel vissa inteckningsärenden där fastigheter används som säkerhet för lån. Information från Utsökningsverket kan dessutom skrivas in i lagfarts- och inteckningsregistret utan mänskligt arbete.

De automatiserade besluten har i fjol sparat Lantmäteriverket minst 25 årsverken. Man har inte behövt anställa så mycket ny personal och så har man samtidigt kunnat fokusera på mer krävande ärenden.

– Automatiserade beslut kan bli fel, men hittills har det bara skett i ett fåtal fall, uppger Matti Merisalo på Skatteförvaltningen.

Han berättar till exempel att ett företag fick beslut om att betala dubbelt så mycket skatt som det egentligen borde betala. Merisalo säger att felet ändå rättades till snabbt när företaget tog kontakt.

De människor som har tagit fram de regler algoritmerna använder sig av är ansvariga för de automatiserade besluten.

Men om en person begär att ett beslut ska omprövas så är det i praktiken en människa vid myndigheten som tar en titt på fallet.

Lagen begränsar algoritmerna i kommunerna

På kommunal nivå är det många beslut som enligt lagen inte kan automatiseras. Det beror framför allt på att EU:s dataskyddsförordning kräver att omprövningen av beslutet ska ske inom samma myndighet. Men kommunala beslut omprövas ofta av en annan myndighet – till exempel en regional myndighet, eller en domstol.

Ida Sulin som är ledande jurist vid Kommunförbundet påpekar att datorn till exempel får ge parkeringsböter. Den får också tilldela barn plats inom småbarnspedagogiken. Men detsamma gäller inte för platser inom grundskolan.

– Om man vill överklaga ett sådant beslut så ska det ske till Regionförvaltningsverket. Det gör att alla sådana beslut om att tilldela platser inom grundskolan faller utanför automatiserade beslutsfattande, säger Sulin.

Många kommuner skulle gärna vilja automatisera fler beslut, för att spara pengar, och för att kunna ge invånarna snabbare service.

Men i praktiken är det flera lagar som ännu behöver skrivas om för att den här automatiseringen ska kunna ske i stor utsträckning inom kommunerna – i praktiken behöver besvärsstigar ändras; alltså vart vissa slags beslut ska överklagas. Det kan ta flera år innan det här sker.

Att kommunerna i nuläget får automatisera bara vissa saker, innebär också att många särskilt mindre kommuner knappast kommer att automatisera så kraftigt under den närmaste tiden.

– Det är ganska få ställen som har råd att satsa på att utveckla och ta i bruk sådana processer. För att volymnyttan är ännu så pass liten på det kommunala sättet, kommenterar Sulin.

Avancerad AI kan inte användas för beslut

Den nya lagen innebär i praktiken att myndigheter inte kan använda så kallad generativ AI såsom Chat GPT i automatiskt beslutsfattande, eftersom man inte kan veta säkert att beslutet då blir korrekt – sådana här AI-system som bygger på maskininlärning är oftast lite som en svart låda.

De kan fungera väl, men inte alltid. Och man vet egentligen inte hur de kommer fram till det de gör.

– Så maskininlärningsmetoderna är så att säga sådana som man inte kan beställa eller bygga upp inom en myndighet utan det måste alltid vara ett regelbaserat system, säger professor Markku Suksi.

Suksi tycker att det är en bra begränsning i lagen att inte möjliggöra avancerad AI i automatiserade beslut. Han påpekar att man då upprätthåller kontakt med rättsstatligheten.

Forskare påpekar ändå samtidigt att folk har en tendens att lättare godkänna beslut som en dator har fattat, jämfört med om beslutet har fattats av en människa. Det kan vara problematiskt om beslutet är felaktigt.

Det är också svårt att veta vad en ökande automatisering av beslutsfattandet kommer att leda till på lång sikt. Troligen finns det både fördelar och nackdelar, för olika människogrupper och för olika delar av samhället.

Flera myndigheter planerar börja använda generativ AI i sin verksamhet, när det inte gäller beslutsfattande – till exempel för att kunna ge mer effektiv kundbetjäning.

Folk har till exempel redan börjat fråga Chat GPT om råd i skattefrågor, men där saknas garanti på att det blir rätt. Om Skatteförvaltningen själv bygger upp en liknande tjänst och begränsar den till data som är korrekt, så borde risken för att deras egen chattbot svarar fel vara minimal.

Viktigt att kunna kolla hur beslut har gått till

När en dator fattar beslut så är det enligt många experter viktigt att de som påverkas har möjligheten att kontrollera att allt har gått rätt till.

Helt såsom det ska vara möjligt att få motiveringar till hur en människa har fattat beslut, så ska det vara möjligt att få reda på hur algoritmen har gått till väga, påpekar professor Markku Suksi.

– Ja, precis. Det tycker jag. Det man kräver av en tjänsteinnehavare borde man också kunna kräva av en algoritmisk beslutsfattare.

Den uppdaterade lagen kräver också att motiveringen till besluten ska framgå. I praktiken kan det handla om vilka regler datorn använder för att fatta sina automatiserade beslut.

Det är en förbättring jämfört med hur läget var förr. Svenska Yle rapporterade till exempel år 2019 om att det ofta var oklart hur myndigheters algoritmer hade gått till väga.

FPA siktar också på att börja publicera alla de här reglerna. Inom de närmaste 18 månaderna ska de vara tillgängliga på myndighetens webbplats och texten ska vara skriven på ett lättfattligt sätt.

Men vissa detaljer kan vara hemliga, påpekar Merisalo på Skatteförvaltningen.

– Övervakningsgränser är sekretessbelagda på grund av vår egen lagstiftning om offentlighet i myndigheternas verksamhet. Alltså vi kan inte berätta de exakta eurogränser som avgör huruvida fallet går till tjänsteman eller inte.

Om sådana uppgifter blev offentliga så skulle det kunna göra det lättare att fuska.

Själva algoritmerna är i princip offentliga

De algoritmer som myndigheterna använder för att fatta de automatiska besluten är enligt Markku Suksis uppfattning offentliga, enligt offentlighetslagen, om källkoden är framtagen av myndigheten själv eller om myndigheten har köpt alla rättigheter till koden. Rättspraxis om det här saknas ändå.

I många fall är det ändå så att koden ägs av ett externt mjukvaruföretag och då är det troligen inte möjligt för utomstående att få ta del av den.

– Det är viktigt att få ut källkoder. Man bör kunna uppfatta dem som offentliga handlingar. Man borde kunna göra det men av olika omständigheter så kan det visa sig vara svårt att få ut dem. Men min principiella hållning är att man borde kunna få ut dem.

I praktiken kan det ändå vara svårt för många att förstå en källkod, eftersom den är svår att tolka utan kunskaper i programmering.