Den offentlige sektors brug af AI truer tillidssamfundet

Et bord med jordbær, en MobilePay-kode og en kontantkasse. Der er ingen kontrol ved en typisk dansk vejbod, og alligevel virker det, i og med at folk (som regel) betaler. Vejboden er ikke naivitet, den er et symbol på noget langt stærkere: tillidssamfundet.

Det er da heller ikke tilfældigt, at det netop er ved at blive indstillet til UNESCOs liste over immateriel kulturarv. Spørgsmålet er nu, om vejboden kan overleve i en verden med kunstig intelligens?

Vi ser allerede konturerne af forandringen. Kommuner, regioner og stat anvender i stigende grad automatiserede løsninger i den faglige beslutningstagning om borgere vedr. sociale ydelser, i beskæftigelsessystemet, i diagnostisk udredning i sundhedsvæsenet og skatteforvaltningen.

På socialområdet forsøgte Gladsaxe Kommune fra 2017-2019 at identificere udsatte børn igennem en risikoalgoritme. Projektet måtte lukke efter kritik af lovlighed og etik.

TrygFonden og VIA University College afprøvede i projektet “Underretninger i fokus” AI, som hjalp til socialrådgiverens skøn. Mens algoritmen beregnede en risikoscore for barnets udsathed 12 måneder frem, traf socialrådgiveren den endelige afgørelse.

På beskæftigelsesområdet har KL-finansierede projekter anvendt AI til at bistå sagsbehandlere med sanktionsvurderinger i 2020-2023. Og en bekendtgørelse fra 2026 forankrer AI på en måde, så teknologien nu kan bruges til at søge oplysninger i sager samt prioritere disse – men med et klart forbud mod fuldautomatiske afgørelser.

Fælles for disse eksempler er, at AI leverer et datagrundlag til fagpersonen, men at ansvaret for den endelige afgørelse formelt forbliver hos et menneske.

Ikke bare rigtigt, men også rimeligt

Formålet om effektivisering og besparelser er klart, men erfaringerne viser et mere mudret billede. Når borgere møder et system, der opleves som ’maskinelt’, opstår der hurtigt usikkerhed: Hvem har egentlig truffet beslutningen? Kan jeg forklare min situation? Er der nogen, der tager ansvar?

SKATs tidligere brug af automatiserede kontrolsystemer er et godt eksempel. Her tænker vi bl.a. på gældsinddrivelsessystemet EFI og AI-overvågningssagen fra 2024. I begge sager var formålet effektivt at identificere afvigelser, men mange borgere oplevede afgørelserne som uforklarlige og uigennemskuelige. Problemet var, at myndigheden optrådte ”usynligt” for borgerne, hvorved der ikke længere var et menneske i den anden ende, der kunne stilles til ansvar.

I det danske samfund er det ikke nok, at en afgørelse er rigtig i teknisk forstand. Den skal også opleves som rimelig. Og det kræver noget, algoritmer ikke kan levere alene: muligheden for dialog, forklaring og at blive mødt som menneske. Det er netop dét, der kendetegner tillidssamfundet. Vi accepterer beslutninger – også de svære – fordi vi tror på, at der sidder et menneske bag, som har forsøgt at gøre det rigtige.

Den danske tillidskultur hviler på relationer, ikke på regler eller kontrolsystemer. Tillid opstår i mødet mellem mennesker. En borger kan godt acceptere en afvisning, hvis der er blevet lyttet, givet en forklaring, og hvis der har stået et menneske bag beslutningen. Men den samme afgørelse kan opleves som dybt urimelig, hvis den kommer som et automatisk svar uden mulighed for dialog og genmæle.

Fra tillid til mistanke

Når vi digitaliserer beslutninger, sker der en glidende forskydning, ved at systemet gradvist overtager relationen. Det kan virke som en teknisk forbedring, men socialt set er det en forandring af noget langt mere grundlæggende. For i det øjeblik relationen forsvinder, forsvinder også noget af det, der gør tillid mulig. Forskellen er enkel: Et menneske kan stå til ansvar, det kan et system ikke. Når ansvar bliver uklart, bliver tilliden erstattet af mistanke.

Det ser vi allerede ved sager, hvor borgere udtrykker usikkerhed om, hvordan en afgørelse er nået. Der er virksomheder, der oplever automatiske kontrolsystemer som ’vilkårlige’, og der er personlige sager, hvor systemer fejler, uden at nogen tager ejerskab. Resultatet er ikke bare frustration, det er en gradvis ændring i adfærd: Hvor man tidligere mødte den ’anden’ – myndigheden eller borgeren – med en vilje til samarbejde, forbereder man sig nu på at skulle gardere sig og tage kampen op.

AI kan accelerere denne udvikling, fordi teknologien gør det muligt at måle mere, overvåge mere og standardisere hurtigere. Det virker rationelt, men skaber en glidebane, i og med at automatisering let fører til øget kontrol, som i sidste ende medfører mistillid.

Og når først mistilliden har sat sig, er den svær at vende.

En afgørende konkurrencefordel

Tænk igen på vejboden, og forestil dig, at vi ’optimerer’ den: Kameraer registrerer alle kunder, AI analyserer adfærd, snyd straffes øjeblikkeligt. Effektivt? Ja. Men vejboden holder op med at være et symbol på tillid og bliver i stedet et system for kontrol. Kunden, der nu behandles som én, man ikke kan stole på, vil forventeligt indstille sin beredvillighed til at stoppe op og samarbejde. Tillid skaber tillid. Kontrol skaber kontrol. Det er en selvforstærkende dynamik.

Den danske tillid er ikke naturgiven, den er resultatet af årtiers udvikling. Hvis vi bevæger os fra tillid til kontrol, mister vi ikke bare effektivitet. Vi mister troen på, at andre mennesker vil det godt. Viljen til at samarbejde. Evnen til at løse problemer uden tvang. Det handler ikke om at være for eller imod teknologi, men om retning: Vil vi bruge AI til at understøtte tillid eller til at erstatte den?

Tillidssamfundet er ikke bare en hyggelig fortælling om vejboder og håndtryk. Det er en af Danmarks vigtigste konkurrencefordele. Det gør det billigere at drive virksomhed, lettere at samarbejde og gør vores velfærdssamfund muligt. Men det hviler på én afgørende forudsætning: Der er et menneske i den anden ende – et menneske, der kan forklare, tage ansvar og møde borgeren som et individ, ikke som et datapunkt.

Danmark er et af de få samfund i verden, hvor tillid er så stærk, at den kan bære hele systemer. Det er noget, verden efterspørger i en tid præget af mistillid og voksende afstand mellem borgere og institutioner. Vil vi bevare det, skal vi ikke vælge mellem teknologi og mennesker, vi skal insistere på begge. Men i den rigtige rækkefølge: Mennesket er målet, teknologien er midlet – ikke omvendt.

Hvis vi fjerner mennesket fra systemet, fjerner vi fundamentet under tillidssamfundet.

Astrid Galsgaard er klinisk psykolog og ph.d. i teknopsykologi. Gert Tinggaard Svendsen er professor i statskundskab ved Aarhus Universitet.