Der drysser konstant data ud af dig, og det forvrider samfundets magtbalance

De store tech-giganters omfattende høst og anvendelse af data fører til stadig større asymmetri i forhold til den enkelte borger. Vi ved meget lidt om, hvilke data der fx høstes, når vi bruger en smartphone. Og det kan føre til, at magtbalancen i samfundet tipper.

Sådan lyder advarslen fra Rikke Frank Jørgensen, der er seniorforsker på Institut for Menneskerettigheder og for nylig har udgivet bogen 'Human Rights in the Age of Platforms'.

”Hver gang du er i nærheden af noget, der er smart, drysser der data ud af dig. Det er, som om du går rundt på et glasgulv, og neden under dig bliver dine data opsamlet og brugt til alt muligt, som kun fantasien sætter grænser for. Det skaber nogle grundlæggende ændringer i vores samfund,” siger hun og påpeger, at virksomheder som Facebook, Google, Microsoft og Twitter i stigende grad påvirker, hvordan brugerne danner sig en mening og udtrykker deres holdninger på internettet.

Techgiganternes magt

Rikke Frank Jørgensen har selv besøgt Facebook og Google i både Californien og i Irland. Hun oplever, at en væsentlig del af techgiganternes egen fortælling er, at de hjælper med at sætte information – og derigennem mennesker – fri. Frihedsfortællingen er en del af virksomhedernes DNA og også knyttet til kulturen i det californiske tech-miljø. Men det har også været en meget begrænset og ensidig historie om, hvordan platformene styrker frihedsrettigheder.

Hertil kommer den magt, som virksomhederne har, fordi de indsamler store mængder data om den enkelte bruger. Både data, den enkelte selv afgiver, og data, der udledes af hver en handling, vi foretager os online. Brugeren har meget lidt indflydelse på dette, for de fleste siger rutinemæssigt ja til alle de betingelser, de bliver præsenteret for, fordi det er en forudsætning for at bruge smartphone, apps, websites, osv.

Ifølge Rikke Frank Jørgensen virker det dog næsten helt uskyldigt at samle data om indkøbsvaner, sammenlignet med Cambridge Analytica-sagen, hvor man brugte detaljerede data til at påvirke stemmeafgivningen ved det amerikanske præsidentvalg i 2016.

”Der brugte man oplysninger om brugerne til at identificere og påvirke, fx ved hjælp af sårbarheder, og var på den måde inde og manipulere den demokratiske proces ved hjælp af data,” siger hun.

Hun mener, at vi generelt har sovet i timen de sidste 10 år, fx ved at acceptere en forretningsmodel, som er baseret på at høste data bag om ryggen på os. Rikke Frank Jørgensen betegner det som dybt problematisk, at den model nu er blevet så cementeret, at det vil kræve stor politisk vilje at ændre den.

Og hvorfor har det så udviklet sig sådan?

Ja, én forklaring er ifølge forskeren, at Google på et tidspunkt opdagede, at virksomheden sad på en guldgrube af data om deres brugere, som de ikke brugte, og som de egentlig bare regnede for affald. Ret hurtigt blev det klart, at virksomheden faktisk kunne udvinde værdi af de mange data, og efter at Google begyndte at sælge målrettede annoncer, steg indtjeningen kraftigt, og andre virksomheder som Facebook fulgte trop.

En af bogens medforfattere, Shoshana Zuboff, påpeger ligeledes, at der efter terrorangrebet i 2001 i New York opstod et momentum for overvågning og for samarbejde mellem tech-virksomheder og staten, ikke mindst i USA. Dermed tog udviklingen en drejning væk fra regulering af tech-sektoren, selvom man i starten af 00’erne faktisk var ved at forberede regulering.

Begejstring i det offentlige

Og det er ikke kun de store tech-giganter, der giver problemer i forhold til menneskerettigheder, mener Rikke Frank Jørgensen. Det er hendes opfattelse, at teknologi-begejstringen også er udbredt i den offentlige sektor i Danmark, hvor mange har været ivrige efter at samarbejde med de amerikanske tech-giganter, og hvor data kan bruges til at træffe beslutninger om den enkelte borger. Eksempelvis om der er risiko for at blive langtidsledig eller til at identificere særligt sårbare børnefamilier.

”Det er muligt at indsamle så kolossalt meget data – og ikke kun det, man ved, at man afgiver, fx hos lægen eller ved at poste på sociale medier. Den store del er alt det, som kan udledes på baggrund af det, du gør, fx netværk, køb, søgninger og præferencer,” siger Rikke Frank Jørgensen.

”I Danmark har der været en stor og noget naiv begejstring. Alle offentlige institutioner skulle på Facebook og have Google Analytics, men det er ikke givet, at det behøver være teknologi fra Silicon Valley, der bruges,” siger hun og tilføjer, at der burde have været sat mere systematisk ind på at udvikle europæiske alternativer – i stedet for at man nu løber efter noget, der har kørt i mange år, og forsøger at inddæmme den syndflod, der efter hendes opfattelse hærger flere dele af det demokratiske liv.

En udvikling, der også præges af, at mange skoler og smart-by-projekter samarbejder med virksomheder som fx Google uden at sætte spørgsmålstegn ved den grundlæggende forretningsmodel.

Efterlyser alternativer

Rikke Frank Jørgensen er dog ikke udelukkende pessimistisk i forhold til menneskerettigheder og de store tech-giganter.

”Der er masser af fordele. Jeg er ikke dystopisk, men faktisk meget optimistisk af natur. Men der er så mange, som synes, at kunstig intelligens og big data er fantastisk, så der er mere brug for stemmer, der fastholder, at vi skal sikre beskyttelsen af den enkeltes rettigheder,” siger Rikke Frank Jørgensen.

Hendes skepsis hænger også sammen med, at hun synes, der er så meget teknologi-begejstring – ja, næsten teknologi-determinisme. Vi løber efter teknologien og bliver helt forpustede, fordi vi skal være med på den sidste nye AI-bølge i stedet for at tænke på, hvad det betyder i forhold til velfærd på skoleområdet, sundhed, udsatte grupper osv.

Hun efterlyser også mere transparens og alternativer til den forretningsmodel, der har hersket i de senere år. Det kunne være europæiske alternativer, der er forankret i vores værdier og normer. Fx søgemaskiner, platforme og tjenester, hvor man betaler et mindre beløb, og hvor der til gengæld ikke bliver indsamlet data om brugerens adfærd.

”Hvis man for år tilbage havde spurgt folk, om de ville betale ekstra for mælk, der stod økologi på, havde mange svaret nej. Men nu er vi i vores del af verden blevet vant til, at økologiske varer koster lidt ekstra. På samme måde kunne vi nok vænne os til at betale for en bæredygtig søgemaskine,” mener Rikke Frank Jørgensen. En anden mulighed kunne være, at man ulovliggjorde dele af den datahøst og handel med personprofiler, der foregår.

Hun tror ikke, at udfordringen kan løses på nationalt niveau. Det må som minimum ske på EU-niveau, ligesom der allerede er truffet markante beslutninger om databeskyttelse i EU.

”Jeg tror, der kommer til at ske noget, for det er ikke længere sådan, at man spørger, om der skal reguleres, men mere om hvordan der skal reguleres,” mener Rikke Frank Jørgensen og henviser til, at der mange steder i USA begynder at dukke forskellige forslag op, og at det er et spørgsmål, Margrethe Vestager vil tage op på sin nye post.

Foreløbig håber hun, at bogen kan påvirke nogle af beslutningstagerne. Og at den vil bidrage til de mange regulerings-diskussioner, som kører i forhold til tech-giganter og menneskerettigheder – herunder det kompleks af grundrettigheder, som angiveligt er under voldsomt pres i de her år:

”I mange år har der været en tro på, at de store virksomheder ville regulere sig selv, men nu er tiden kommet til, at vi ikke længere kan klare det med selvregulering. Nu må man kigge på en mere forpligtende regulering.”