Dansk advokat får bøde for opdigtede domme

U.2006.2042V og U.2008.1166H. Siger det dig noget? Måske hvis du er jurist. Og så heller ikke alligevel.

Kombinationerne af bogstaver og tal ligner nemlig sagsnumre for to domme. Én fra Vestre Landsret og én fra Højesteret. Problemet er bare, at dommene aldrig er blevet afsagt.

Ikke desto mindre henviste en advokat til dem i en e-mail til et VVS-firma. Mailen handlede om mangler ved en VVS-ydelse. Da firmaets advokat så mailen, kunne han konstatere, at ingen af dommene fandtes.

I december kom Advokatnævnet frem til, at advokaten ”ikke har udvist den fornødne omhu” ved at henvise til to forkerte domme. Nævnet fandt det ”ikke godtgjort, at der alene var tale om en tastefejl”, som advokaten ellers hævdede. Nævnet hæfter sig ved, at ”der er fejl i begge henvisningerne, og at de ”korrekte” domme afviger både i årstal, sidetal, domstol og indhold,” fremgår det af kendelsen.

Advokaten skal betale 10.000 kroner i bøde til statskassen for at have tilsidesat god advokatskik.

Fransk forsker er ikke i tvivl

Der står intet i Advokatnævnets kendelse om kunstig intelligens. Og over for mediet AdvokatWatch har advokaten afvist at have brugt kunstig intelligens.

”Det er mig selv, der er en klaphat. Det gik for hurtigt. Jeg lægger mig fladt ned. Det var en fejl, og det beklager jeg. Jeg er superærgerlig over det,” siger advokaten.

Men når nu Advokatnævnet afviser forklaringen om, at det var en tastefejl, kan der så være tale om såkaldte AI-hallucinationer, hvor kunstig intelligens opdigter fakta?

Den franske seniorforsker og jurist Damien Charlotin er ikke i tvivl. Han forsker og underviser i jura og AI på businessskolen HEC Paris. For et år siden oprettede han Hallucinations Case Database. I skrivende stund indeholder databasen 1.456 juridiske afgørelser fra hele verden, hvor AI har genereret falsk indhold og forkerte argumenter.

Da Djøfbladet sendte Advokatnævnets kendelse til Damien Charlotin, registrerede han den straks som første danske sag i databasen.

”Den rammer plet,” skrev han til os, så vi ringede til Paris for at høre hvorfor.

95% sikker

Hver dag bliver databasen opdateret med omtrent fem nye sager.

”Der er tre hovedtyper: Falske sager, falske citater fra eksisterende sager og forkert fremstilling af eksisterende sager,” fortæller Damien Charlotin.

Det mest hyppige er netop, at der bliver henvist til juridiske afgørelser, som slet ikke findes. Før kunstig intelligens blev allemandseje, skete den slags ikke særligt ofte, forklarer han.

”Jeg kan ikke sige, at den danske advokat brugte AI til at producere et tilfældigt tal og kalde det en dom. Men jeg kan sige, at der kommer flere og flere af den slags sager i forhold til for fem år siden.”

Så længe advokaten ikke direkte har indrømmet at have brugt kunstig intelligens, er det umuligt at være helt sikker på, at det er tilfældet, siger Damien Charlotin.

”Men den type hændelse er så usandsynlig. Hvis der ikke er tale om bevidst bedrageri fra advokatens side, er sandsynligheden for, at der er brugt AI, meget høj.”

Han skyder på, at der er 95% chance for, at kunstig intelligens frembragte sagsnumrene på dommene.

Netop advokater står for lidt over en tredjedel af sagerne i databasen. 16 af sagerne involverer dommere. Resten stammer primært fra personer, der ikke er jurister, men som prøver at føre deres egne sager.

AI laver fejl

Damien Charlotin underviser i faget 'Large Language Models and the Future of the Legal Profession'. Hvordan ser han egentlig fremtiden for jurafaget?

”Advokaterne vil ikke forsvinde, men de vil udføre andre opgaver end i dag. De skal stadig bruge deres dømmekraft og deres ekspertviden, men de vil nok researche og skrive mindre.”

De vil i stedet skulle diktere, hvad en kunstig intelligens skal skrive for dem, og så redigere og faktatjekke det bagefter.

For AI laver fejl, siger Damien Charlotin.

”Du vil have et mindretal af sager, hvor AI bare finder på ting.”

Han tror ikke, der kommer et tidspunkt i den nære fremtid, hvor kunstig intelligens bliver helt fejlfri, og derfor vil det altid være nødvendigt at tjekke, at alt giver juridisk mening i en given tekst.

”Hovedproblemet er, at folk stoler for meget på AI og derfor ikke faktatjekker den.”

Overbevisende vås

Formand for Djøf Advokat Rasmus Thingholm er enig i, at de to falske domme i kendelsen næppe er en tastefejl.

Han sidder også i Advokatrådet, men udtaler sig kun om sagen i funktion af sit hverv i Djøf.

”Når jeg læser kendelsen, får jeg indtryk af, at det meget vel kunne være den første afgørelse i Danmark, som har en direkte kobling til brugen af AI i advokatbranchen,” siger han.

Rasmus Thingholm understreger, at kendelsen viser, at det altid er advokaten selv, der har det fulde ansvar for sin rådgivning – uanset hvilke værktøjer vedkommende bruger.

”AI kan tage fejl på en måde, der lyder overbevisende. Det er præcis det, der gør det farligt. Derfor skal man også aktivt ind og vurdere, om det output, der kommer, holder,” siger han.

Og det kræver en faglig ballast og en kritisk tilgang, som man har som jurist.

En ballast og en tilgang, som Rasmus Thingholm godt kan være bekymret for forsvinder, hvis AI overtager studentermedhjælpernes og de nyuddannedes arbejdsopgaver. Fx den vigtige læring med at vurdere, om domme og anden jura kan bruges i en aktuel sag.

”Man tilegner sig jo ikke dømmekraft ved bare at bruge et værktøj. Dømmekraft opstår i mellemregningerne, i den tunge research, i de mange timer med at finde kilderne selv og få sin argumentation pillet fra hinanden af nogen med mere erfaring,” siger Rasmus Thingholm.

AI fylder ”enormt meget” i advokatbranchen lige nu. Det er derfor afgørende, at firmaerne bruger kunstig intelligens på en måde, der styrker den juridiske faglighed i stedet for at underminere den, siger han.

”For der er ingen tvivl om, at AI vil få kæmpe indflydelse på advokatbranchen på sigt.”