Claudia og Fridas speciale kan skåne politifolk for en af de værste opgaver

Da Claudia Hertz Bilberg og Frida Marie Lunøe Skolmen skulle vælge emne til deres speciale på Business Administration & Data Science på Copenhagen Business School (CBS), var de især enige om én ting:

”Vi ville gerne skrive noget, der var anderledes end et klassisk CBS-speciale, hvor det tit handler om at maksimere profit. Vi ville skrive noget, vi syntes havde en større samfundsmening,” forklarer Claudia Bilberg.

Det førte til et samarbejde med politiet. Men processen begyndte med en bekymring, der fylder meget i debatten om fremtidens arbejdsmarked: Hvad nu, hvis AI kommer og tager vores jobs?

“Vi prøvede at vende den om og tænke: Hvis AI kommer og tager vores jobs, hvilke jobs ville vi så gerne have, at den startede med at tage?” fortæller Claudia Bilberg.

Opgaven, ingen vil have

Et af disse jobs varetages af efterforskere, der manuelt skal gennemgå og analysere seksuelt overgrebsmateriale med børn. Et job, hvis arbejdsbyrde kun stiger i takt med, at AI har gjort det muligt at masseproducere nyt materiale, og prisen på digital lagring er historisk lav.

“At arbejde med overgrebsmateriale af børn er en type arbejde, hvor vi som samfund næsten kun kan være enige om, at der ikke bør være mennesker, der sidder med det. Så hvis vi kan finde en løsning, der gør, at teknologien kan tage en stor del af den byrde, skylder vi både børnene og efterforskerne at forsøge,” siger Frida Skolmen.

Gennem et tidligere studiejob hos politiet havde Frida Skolmen set med sine egne øjne, hvordan kollegaer knoklede for at løse samfundskritiske opgaver, men også hvordan teknologien på nogle områder haltede bagefter.

Ifølge de to studerende skyldes det ikke en manglende interesse i at omfavne teknologien, men lovgivning og ekstra forsigtighed i det offentlige i forbindelse med brug af AI.

Og netop den problemstilling vakte interesse hos de to studerende.

“Jeg tror, vi syntes, at det var sjovt at skubbe lidt til og udforske, om samfundet er klar til, hvis den offentlige sektor begynder at omfavne AI mere – særligt i de mere psykisk belastende jobs,” fortæller Frida Skolmen.

Derfor undersøgte de to CBS-studerende, om kunstig intelligens kan hjælpe politiet med en af de mest belastende opgaver: efterforskningen af overgrebsmateriale af børn.

Ideen var at bygge en AI-baseret billedgenkendelsesmodel, der kunne hjælpe efterforskere med at sortere i den voksende mængde overgrebsmateriale.

Berøringsangst

Da de fortalte familie og venner, hvad deres speciale skulle omhandle, var reaktionen ofte den samme:

Skulle de virkelig sidde og se på overgrebsmateriale med børn?

“Nej, vi har ikke set data, men der kan sagtens være to andre 26-årige kvinder, der bare havde valgt at læse til politi i stedet for datascience, som skal se det her data,” understreger Claudia Bilberg.

Og netop dét er en vigtig pointe. For selv om de to studerende ikke selv har skullet se materialet, er der mange andre, der skal. Hver eneste dag.

Også på Frida Skolmens arbejdsplads blev specialets emne mødt med en vis forsigtighed:

“På mit arbejde fortalte de godt, at jeg havde skrevet speciale, men de nævnte ikke titlen, for den indeholder nogle ret vilde keywords. Og det forstår jeg egentlig godt,” fortæller Frida Skolmen.

Men selv om hun godt forstår, at det er et prekært emne, mener hun ikke, at berøringsangst er løsningen:

“Det er voldsomt, men vi bliver nødt til at se på de hårde sider af samfundet. Det her sker på daglig basis, og hvis vi ikke snakker om det, sker der ikke nogen ændring.”

Overraskende åbenhed hos politiet

Men hvordan får to specialestuderende fra CBS adgang til en af landets mest specialiserede politienheder?

For Claudia Bilberg og Frida Skolmen begyndte det igennem en personlig kontakt.

Gennem Claudias far, der tidligere havde arbejdet i politiet, blev de sat i forbindelse med politikommissær Sisse Birkebæk fra Nationalt Cyber Crime Center (NC3). Dette førte til et indledende møde med hende og en række kolleger.

Selv om kontakten var etableret, havde de to studerende ikke forventet, at processen ville gå så glat:

“Vi havde regnet med, at det ville blive megasvært. At vi skulle sikkerhedsgodkendes, og at de ville være skeptiske og meget hemmelighedsfulde,” fortæller Claudia Bilberg.

Men den bekymring viste sig hurtigt at være ubegrundet, tilføjer hun.

“De var meget åbne over, at der kom to studerende ind for at tale med dem og deres arbejde. De vidste godt, at de havde brug for hjælp.”

Det var faktisk også politiets ønske, at specialet skulle være offentligt tilgængeligt, fortæller hun. Håbet var, at specialet kunne skabe opmærksomhed om de udfordringer, politiet har med at gennemgå de store mængder overgrebsmateriale.

At samarbejdet faldt på plads, skyldtes dog ikke kun den overraskende åbne dør hos politiet. De to studerende havde nemlig allerede omkring et år forinden forsøgt at etablere kontakten:

“Vi gik i gang i rigtig god tid, fordi det var vores plan A. Det var det, vi allerhelst ville,” fortæller Frida Skolmen.

De vidste, at det kunne tage tid at få adgang til en travl offentlig organisation.

Stilhed på linjen

Specialesamarbejdet skulle vise sig netop at bære præg af dette: travlhed, lange svartider og pressede medarbejdere.

“Flere gange overvejede vi, om vi var nødt til at udskyde specialet, fordi der var perioder med stilhed på linjen. Og det er slet ikke organisationens skyld, da de har meget travlt og gjorde alt, de kunne for at hjælpe os,” forklarer Claudia Bilberg.

Men selv om travlheden gjorde processen vanskeligere, blev den samtidig en påmindelse om, hvorfor det var så vigtigt at beskæftige sig med emnet.

“Det gav os endnu mere respekt for det arbejde, som de laver. Det fik os til at gøre os endnu mere umage, fordi vi kunne se, hvor meget de egentlig råbte på en ny løsning,” tilføjer Frida Skolmen.

Og behovet for nye løsninger er til at få øje på.

Sisse Birkebæk, der er leder for sektionen for it-relaterede seksualforbrydelser i NC3, har i Weekendavisen sat ord på det voksende pres på efterforskerne.

”Mængderne bliver større og større, og det er en kæmpe opgave,” siger hun til avisen.

Gennemgangen af materialet kan i omfattende sager tage op til et halvt år, og ”det tærer altså på folk,” fortæller hun.

Juridisk barriere

Til de studerendes store overraskelse var det ikke i det tekniske i udviklingen af AI-modellen, at de blev mødt af en barriere.

For selv om modellen er trænet på såkaldte ’proxy-data’ – lovligt pornografisk materiale af voksne – blev den til sidst testet af NC3’s tekniske ekspert på reelt efterforskningsmateriale. Og til de studerendes store begejstring forløb testen ganske succesfuldt:

“Det var fedt at få en bekræftelse på, at modellen kører ret fint på ægte data også,” fortæller Frida Skolmen.

De to studerende har siden givet NC3 adgang til modellen. Og med en model, der også fungerer på ægte overgrebsmateriale af børn, skulle man tro, at det kun var et spørgsmål om tid, hvornår den kunne tages i brug. Så enkelt er det ikke.

“De har fået vores model, og de må gerne bruge den, som de vil, men det kan de ikke lige nu, fordi der er lovgivning på området, som siger, at alt skal gennemkigges af mennesker,” siger Claudia Bilberg.

Dette krav udspringer af Anklagemyndighedens officielle retningslinjer for, hvordan politiet skal efterforske i sager om overgrebsmateriale. Af samme grund forgår alt arbejde med at gennemse og kategorisere overgrebsmateriale stadig manuelt, forklarer Sisse Birkebæk fra NC3 til Weekendavisen.

Hun tilføjer, at en stor del af forsigtigheden med at implementere AI i politiets efterforskning af overgrebsmateriale skyldes et ønske om at undgå fejl – særligt i sager med børn som ofre:

”Når vi taler overgreb mod børn, så findes der næsten ikke en værre forbrydelse. Alle er bange for, at vi overser noget,” forklarer Sisse Birkebæk til avisen.

Et fravalg med en pris

Men som Claudia Bilberg og Frida Skolmen konkluderer i specialet, har forsigtigheden også sine ofre:

”Vi er meget optagede af, at AI ikke må begå fejl. Men vi bliver nødt til at sammenligne den med den proces, vi har i dag – og se på, hvad valget om ikke at bruge teknologien koster,” siger Claudia Bilberg og tilføjer:

”Valget om ikke at bruge AI er ikke neutralt, hvis man kunne have skånet flere ved at bruge det.”  

Selv om der lige nu står en juridisk mur i vejen for, at de to CBS-studerendes model kan blive implementeret i NC3's arbejde, er det vigtigste for dem, at specialet har været med til at åbne op for den samtale om AI, der efterlyses.

For nylig var Claudia og Frida blandt årets vindere af Djøfs specialepris, hvor juryen bl.a. roste dem for at have en ”stærk kobling mellem teknisk udvikling, organisatorisk forståelse og etisk ansvarlighed.”

Det er de taknemmelige for, men de ser først og fremmest anerkendelsen som en mulighed for at få endnu mere opmærksomhed på emnet.

”Jo mere den her debat kan hjælpe politiet, jo mere er vi tilfredse. Det har hele tiden været målet,” understreger Claudia Bilberg.