"Kunstig intelligens er bare den nyeste arena for magt, viden og demokrati"

Det handlede ikke om ChatGPT, automatisering eller velfærdsteknologi, da Rebecca Adler-Nissen første gang begyndte at interessere sig for kunstig intelligens.

Det handlede derimod om russiske troldefabrikker og misinformation.

”Det startede under Brexit. Vi kunne se, hvordan digital misinformation blev brugt som strategisk våben, og hvordan det forandrede internationale konflikter. Det gik op for mig, at teknologien ikke bare var et teknisk spørgsmål, men et politologisk – et samfundsspørgsmål,” fortæller hun.

Rebecca Adler-Nissen, der er professor i international politik ved Københavns Universitet, begyndte at forske i, hvordan digitale platforme og informationsstrømme blev brugt til at forme politiske virkeligheder.

Særligt lande som Rusland, der med troldenetværk og målrettet manipulation forsøgte at påvirke valg i de vestlige lande. I et forskningsprojekt analyserede hun, hvordan EU og diplomater reagerede på den digitale misinformation i internationale konflikter.

Hun samarbejdede med netværksforskere, sociologer og sprogteknologer for at kortlægge, hvordan budskaber blev spredt, og hvilke politiske konsekvenser det havde.

”Det var på det tidspunkt, hvor man begyndte at tale om informationskrig som en ny form for geopolitisk kamp. Jeg så, at det her ikke bare handlede om én konflikt, men om hele vores evne til at forhandle, samarbejde og tage beslutninger i et digitaliseret samfund,” fortæller hun.

Hvor hurtigt må toget køre?

Siden har teknologien kun rykket sig hurtigere. Og nu står Rebecca Adler-Nissen i spidsen for det Nationale Center for Kunstig Intelligens i Samfundet (CAISA), der er et nyt nationalt forskningscenter, som i den korte version skal samle og formidle viden om, hvordan Danmark bør udvikle og regulere AI.

Selv om det måske udefra kan ligne lidt af et spring, når en forsker i EU-integration og internationalt samarbejde pludselig leder et AI-center, er det for Rebecca Adler-Nissen tværtimod en naturlig udvikling.

”Det handler stadig om, hvem der har viden, og hvordan den viden bruges i politiske beslutningsprocesser. Kunstig intelligens er bare den nyeste arena, hvor magt, viden og demokrati krydser hinanden,” siger hun.

Hun oplever, at det, vi står over for, har karakter af et samfundshistorisk skifte.

”Det føles, som om vi står lidt uforberedte over for noget, som alle kan fornemme er kæmpestort. Det er sgu ret vildt at beskæftige sig med det her mangfoldige fænomen… Jeg forestiller mig, at det var lidt på samme måde under tidligere store industrielle revolutioner. Da jernbanen kom, og man spurgte: 'Kan vi overhovedet tåle at køre hurtigere end 30 km/t?'”

Hun ser det derfor også som en politologisk og samfundsvidenskabelig opgave at analysere, hvordan teknologier som AI forandrer samfundet.

”De store spørgsmål handler jo ikke om, hvorvidt vi kan bruge AI, men om, hvordan vi bør gøre det. Hvad er retfærdighed, når vi bruger algoritmer til at træffe beslutninger? Hvad vil det sige, at noget virker godt i en forvaltning? Det er klassiske samfundsvidenskabelige spørgsmål.”

Hybridforskning

CAISA er etableret med støtte fra forskningsreserven og digitaliseringsmidlerne og er en del af regeringens strategiske AI-initiativ. Centeret er et tværfagligt konsortium med deltagelse af bl.a. samfundsvidenskab, datalogi og jura og fra universiteter i hele landet.

Målet er ikke kun at skabe banebrydende forskning i kunstig intelligens, men også at rådgive myndigheder og virksomheder, der skal udvikle og implementere AI-løsningerne, og få en fælles evidensbaseret samtale om, hvordan man gør det ansvarligt, siger centerlederen.

Hos CAISA har man allerede sammenlignet sig selv med både DMI og SSI. Men gør det CAISA til en ny form for sektorforskning?  

”Vi er en slags hybrid mellem grundforskning og strategisk forskning. Vi skal lave og samle forskning på højeste internationale niveau, men vi skal også kunne stille op og sige: ’Her er de tre vigtigste ting, vi har lært af udrulningen af tekst-til-tale-modeller.’”

Det handler om at få den seneste viden i spil ude i virkeligheden – ikke mindst den viden, der allerede findes i både den offentlige og den private sektor blandt dem, som udvikler, implementerer og bruger digitale løsninger, forklarer Rebecca Adler-Nissen.

”Hvad sker der med embedsmænd, når AI bruges til sagsbehandling? Hvordan omsættes lovgivning til algoritmisk praksis? Og hvordan sikrer man kvalitet, gennemsigtighed og demokratisk kontrol?”

Et af de konkrete projekter, CAISA netop har sat i gang, handler om, hvordan fagprofessionelles roller og viden forandres, når beslutningsprocesser automatiseres. Et andet projekt undersøger, hvordan digitale løsninger påvirker tillid og adgang til service blandt udsatte borgere, fortæller hun.

”AI ændrer vores forestillinger om, hvad det vil sige at skrive et godt notat eller lave en juridisk vurdering. Mange af de opgaver, man tidligere har lært gennem øvelse og erfaring, kan nu i princippet laves af AI. Det rykker også ved hele det faglige hierarki.”

Samtidig peger hun på, at kunstig intelligens kan være en mulighed for at genskabe borgernes tillid til systemet – hvis det gribes rigtigt an.

Da datalogerne kom

”Forestil dig en offentlig chatbot, som faktisk kan svare præcist på, hvordan du bliver visiteret til en plejebolig, eller hvilke rettigheder dit barn har til ekstrahjælp i skolen. Det er en større ambition end blot effektivisering. Det handler om kvalitet, lige adgang, transparens og retssikkerhed,” siger Rebecca Adler-Nissen.

Hun peger desuden på, at forskere har arbejdet med AI i samfundet i årevis. Den viden, der er blevet skabt i forskermiljøerne rundt omkring i Danmark og udlandet, er bare ikke altid blevet samlet og brugt proaktivt. 

Så når debatten om AI raser netop nu, har det i høj grad at gøre med, at bl.a. ChatGPT skubbede på en kommercialisering, der gav de store sprogmodeller en bred appel.

CAISA har allerede fast dialog med Digitaliseringsministeriet, den digitale taskforce og andre myndigheder på stat-, region- og kommuneniveau. Men CAISA er 100% uafhængigt og bestemmer selv, hvad der skal forskes i, og hvilke forskningsbaserede råd der skal gives, understreger centerlederen.

Det gælder bl.a. vurdering af brugervenlighed, datasikkerhed, gennemsigtighed og konsekvenser for sagsbehandling og retssikkerhed, fortæller centerlederen.

”Vi ved, at digitalisering rammer socialt skævt. Vi ved, hvem der har svært ved at bruge digitale løsninger. Det kan man jo med fordel tage højde for fra starten, når vi udvikler AI-baserede systemer. Men det sker ikke altid,” siger hun.

Der bliver eksperimenteret rigtig meget i kommuner, regioner og stat lige nu, men mange står alene med det, fortæller Rebecca Adler-Nissen. Hun mener derfor, der er et behov for koordinering og gensidig inspiration, så alle ikke sidder med hver deres tilgang.

”Vi vil gerne skabe overblik og være forbindelsesled – både nationalt og internationalt, så vi ikke gentager fejl fra tidligere digitaliseringsbølger, men kan lære af hinanden.”

Og det kræver forskere med forståelse for samfundets struktur og grundlæggende anatomi, siger hun. Forskerne i CAISA følger med i, hvordan EU’s AI-forordning implementeres rundt omkring, og er i dialog med fx ligesindede søsterinitiativer i Holland, Tyskland og de nordiske naboer.

”Vi er nået til et punkt, hvor vi ikke længere bare kan udvikle eller forstå AI-teknologi – vi skal finde ud af, hvordan den bruges, så det skaber reel værdi. Og det kan datalogerne ikke løse alene.”

Faktisk blev CAISA bl.a. til, fordi nogle visionære dataloger henvendte sig, fortæller hun.

”Naturvidenskaberne – fra sprogteknologi og datalogi – kom hen til samfundsvidenskab og sagde: 'Vil I hjælpe os med at samle vores tekniske viden og jeres samfundsvidenskabelige indsigter til et fælles sprog, der kan bruges?'“

Mange æg i få kurve

Rebecca Adler-Nissen inviterer derfor både forskere og praktikere til at bidrage med erfaringer og behov. Sidder man fx med noget forskning, der kan være relevant for CAISA at kende til, skal man bare ringe.

Det samme gælder, hvis man som politiker, beslutningstager eller virksomhed har brug for råd og vejledning.

”Vi drømmer om, at man en dag kan kontakte os og sige: 'Hvem ved noget om digitale rettigheder eller sprogmodeller i det offentlige?' Og så kan vi pege videre til de relevante forskere i Danmark eller udlandet.”

Men det kræver oversættelse. Ikke alle praktikere har tid til eller forudsætninger for at læse videnskabelige artikler. Derfor arbejder CAISA også med at formidle og operationalisere forskningsresultater til praksisnær viden.

I sidste ende handler det ifølge Rebecca Adler-Nissen om, at Danmark skal forme sin egen vej. Ikke nøjes med at overtage andres løsninger, men udvikle dem med udgangspunkt i danske værdier, ønsker og demokratiske beslutninger.

”Der er enormt meget geopolitik i det her. Hvem ejer infrastrukturen? Hvem bestemmer over vores data? Vi har lagt mange æg i få kurve. Og det kan blive dyrt, hvis forbindelsen til USA pludselig ryger. Derfor skal vi have mere digital selvbestemmelse.”

”De næste tre-fire år bliver afgørende. AI bliver rullet ud. Det skal ske på en måde, der gør samfundet bedre og mere rigt, ikke mere ulige. Det er det mest presserende spørgsmål, vi står med lige nu,” siger Rebecca Adler-Nissen.