Topforsker

Sådan muterede IT-giganterne kapitalismen og gjorde dig til varen

8.2.2019

af

Foto: Zef Nikolla/AFP/Ritzau Scanpix

Foto: Zef Nikolla/AFP/Ritzau Scanpix

Facebook og Google har skabt et monster, som truer demokratiet. Sådan lyder Harvard-professor Shoshana Zuboffs analyse af overvågningskapitalismen. Her fortæller hun, hvordan Silicon Valley-mastodonterne orkestrerede deres ”markedsdrevne kup” – og hvad der kan redde os.

Du bliver bestjålet.

Kapitalismen er indtrådt i en ny æra, hvor private oplysninger stjæles fra os og bruges som råstof til ”forudsigelsesprodukter” om vores tilbøjeligheder. Forretningsmodellen breder sig fra it-giganter til andre økonomiske sektorer, og den er en trussel mod den individuelle selvbestemmelse og selve demokratiet på grund af skævheden i adgangen til viden.

Sådan lyder pointen i en bog, som landede med et brag i USA i midten af januar. 'The Age of Surveillance Capitalism' er det første videnskabelige værk, der tegner det store og brede billede af den digitaliserede økonomi, som firmaer som Google og Facebook står i spidsen for. Og bogen kommer på et tidspunkt, hvor Silicon Valley-firmaerne i stigende grad er genstand for kritik på grund af deres forretningspraksis, og hvor EU anklager flere af dem for at optræde konkurrenceforvridende.

Kvinden bag er ikke en fru hvem-som-helst. Shoshana Zuboff er professor emerita fra Harvard Business School. Hun har som forsker fulgt den digitale revolution fra sidelinjen siden første fløjt og har skrevet to indflydelsesrige bøger om emnet. De seneste syv år har hun arbejdet på bogen. Her behandler hun de økonomiske, sociale, politiske og teknologiske konsekvenser af den digitale kapitalisme, hvor den dominerende variant er, hvad hun kalder overvågningskapitalismen.

”Jeg er meget interesseret i det strukturelle,” siger Shoshana Zuboff til Djøfbladet, da hun er nået til Bruxelles på en foredragsturné, hvor de fleste stop er i USA.

Hendes 700 sider lange bog udløste straks begejstret omtale i førende internationale medier såsom New York Times, Wall Street Journal, Financial Times og The Observer.

Bogen kan både læses som en grundig analyse og som et opråb til handling. Den er, fordi den er et klassisk studie om transformation, blevet sammenlignet med Thomas Pikettys 'Kapitalen i det 21. århundrede', der kom i 2013 og satte fokus på økonomisk ulighed i verden.

Og for god ordens skyld: Når Zuboff taler om kapitalisme, er det ikke i en marxistisk farvet tolkning som i de ideologiske slagsmål i 1970’erne. Hun bruger betegnelsen nøgternt om det nuværende samfundsøkonomiske system, der er baseret på privat ejendomsret og markedsøkonomi.

Adfærd bliver handelsvare

Hver gang vi er forbundet med nettet, bliver vi fulgt uden at få klar besked om det, og vores personlige oplysninger bliver tappet ud fra kommercielle motiver. Det er udgangspunktet for den nye økonomi.

”Overvågningskapitalismen ligger i forlængelse af kapitalismen ved at gribe ud efter noget uden for det eksisterende marked, som det skete under den europæiske kolonisering af andre kontinenter, og indlemme det i markedsdynamikken,” siger Shoshana Zuboff via en Skype-forbindelse fra EU-hovedstaden.

”Men overvågningskapitalismen er samtidig en tøjlesløs mutant af kapitalismen, fordi den gør ensidigt krav på noget ikke-håndgribeligt, menneskelig erfaring, som et gratis råstof og således udnytter informationsteknologi til egen vinding,” siger Zuboff.

Hun introducerer begrebet ’adfærdsoverskud’ om den nye handelsvare. De indhentede data om adfærd bliver akkumuleret og afkodet ved hjælp af computerkraft og maskinlæring. Processen gør det muligt at fremstille forudsigelige mønstre for adfærd, som bliver pakket som ’forudsigelsesprodukter’.

”Jeg kalder det et ’adfærdsoverskud’, for disse data bliver ikke primært brugt til at forbedre servicen, men bliver udskilt og solgt videre til erhvervskunder, som er interesseret i at kende vores tilbøjeligheder og få et varsel om, hvad vi vil foretage os i fremtiden, så de kan tilpasse og målrette deres egne produkter og ydelser efter det,” siger Zuboff.

Hun erklærer, at overvågningskapitalismen er ”magtens nye grænseland”, og advarer om, at den er en trussel mod det enkelte menneskes autonomi og mod selve demokratiet. Umiddelbart en drastisk konklusion – hun lover at sætte detaljer på senere i samtalen.

Til en indvending om, at internetsøgning, sociale medier og apps og andre digitale faciliteter har beriget og lettet vores tilværelse gennem at give adgang til hurtig viden og udvidet social kontakt, svarer hun:

”Vi fortjener alle de digitale kapaciteter, som vi nyder godt af. Men i øjeblikket kan vi kun nyde goderne i en meget skæv udveksling med private virksomheder, som har kapret den digitale teknologi og har etableret en dominans i samfundet. Det er ikke rimeligt.”

Google viste vejen

Overvågningskapitalisme blev opfundet i et nystartet firma omkring årtusindskiftet, siger Shoshana Zuboff.

Firmaet hed Google, og dets opdagelse var det store potentiale, der lå i at udnytte den eksklusive adgang til hidtil ignorerede data om brugernes online-søgning og anden aktivitet på nettet. Google forfinede måden at indsamle data, som brugerne betragtede som private, uden at fortælle brugerne om det. At der var tale om en guldgrube, stod klart, da firmaet lod sig børsnotere i 2004. På meget få år var Googles omsætning steget med over 3.500 procent.

Hensigten med operationerne rakte for længst videre end at forbedre brugeroplevelsen. Google solgte data om adfærd til andre virksomheder, som kunne lave målrettet annoncering. De behøvede ikke længere at skyde med spredehagl.

Forretningsmodellen blev overtaget af Facebook, som blev stiftet i netop 2004.

Den aktuelle status er, at ni ud af 10 internetsøgninger i verden bliver foretaget med Googles søgemaskine, mens Googles Chrome er den foretrukne browser på to tredjedele af klodens computere. Læg hertil andre populære Google-produkter som Gmail, Android, Maps og YouTube, som blot øger gigantens muligheder for sporing af personlige oplysninger.

Facebook har cirka 2,3 milliarder brugere verden over og er blevet den mest besøgte hjemmeside overhovedet.

Hertil kommer, at Amazon og Microsoft i stigende omfang følger Googles opskrift, som nu sætter standarden for håbefulde iværksætterfirmaer i Silicon Valley.

Shoshana Zuboff har brugt de seneste syv år på sit nye mammutværk om overvågningskapitalismen.
Asymmetri af viden og magt

Shoshana Zuboffs udpeger it-giganterne som en trussel mod demokratiet, fordi de har skabt en institutionel ramme for samfundet med en ekstrem asymmetri om viden, som også indebærer en ekstrem asymmetri om magt. Hvilket afskærer os andre fra at varetage vores rolle i et demokrati som fuldt oplyste samfundsborgere.

”De ved alt om os, og vi ved næsten intet om dem. De bruger den opsamlede viden til at fremme egne formål. Derved har vi fået en hel ny dimension af ulighed (end den økonomiske ulighed, som Thomas Piketty henleder opmærksomheden på, red.). Det er en social ulighed, og årsagen er forskydningen af magt og myndighed i informationssamfundet. Fordi de kontrollerer hovedkanaler for samfundsengagement, kan it-giganterne styre, hvem der skal vide hvor meget, og hvem der skal bestemme, hvem der skal vide hvor meget,” siger Zuboff.

Hun kalder forløbet de seneste to årtier for et markedsdrevet kup fra oven, hvor en trojansk hest, forklædt som digital teknologi, bruges til at sætte befolkningen skakmat.

”Faktisk afsætter it-giganterne en stor del af deres kapital til at understøtte processer, der skal gøre det usynligt for os, hvordan de opererer,” siger Zuboff.

Eksemplerne er mange: Facebooks tilladelse til, at annoncører kan læse brugernes private beskeder. Facebooks indsamling af data om brugeres aktiviteter på andre hjemmesider, selv når brugerne ikke var logget ind på Facebook, hvilket øgede annoncørers mulighed for at skræddersy reklamer. Googles indsamling af ikke-krypterede oplysninger fra folks hjem, når Google-køretøjer kører rundt på veje med intelligente kameraer for at lave interaktive kort med panoramabilleder.

Shoshana Zuboff vurderer, at it-giganterne handler med forsæt, fordi også de er bekendt med forskning, der viser, at jo mindre folk ved om noget, desto mindre er sandsynligheden for, at de yder modstand imod det.

Det automatiserede menneske

Ud over at være en trussel mod demokratiet – hvilket Cambridge Analytica-skandalen om at høste Facebook-data til fordel for Donald Trump forud for præsidentvalget i 2016 er det seneste graverende eksempel på – antaster it-giganterne ifølge Zuboffs analyse vores personlige integritet.

”De bruger også deres magt til at påvirke og ændre på vores adfærd, fordi de har opdaget, at hvis de former vores adfærd, kan de fremstille og sælge endnu flere ’forudsigelsesprodukter’ og derved tjene deres kommercielle interesser endnu bedre. Målet er at automatisere os,” siger hun.

Et par af hendes eksempler er her Facebooks omfattende psykologiske eksperiment med næsten 700.000 brugere, hvis nyhedsstrøm blev manipuleret med henblik på at lære om deres følelsesmæssige reaktioner, og Pokémon GO-mobilspillet, hvor Google hjalp firmaet bag spillet til fuld indsigt i brugernes reaktioner, når de bevægede sig rundt i ’den udvidede virkelighed’.

Hvis vi ønsker at engagere os seriøst i udformningen af samfundet, er vi henvist til at benytte overvågningskapitalismens kanaler. Vi har intet reelt valg. Og det er kanaler, der er indrettet til at hæmme mulighederne for kritik.

Shoshana Zuboff

Ford lærer af Facebook

En væsentlig pointe hos Shoshana Zuboff er, at nok er overvågningskapitalismen udsprunget af it-sektoren, men den breder sig nu til andre økonomiske sektorer – forsikring, underholdning, finans, sundhed og flere endnu.

”Virksomhedsledere i andre sektorer har lagt mærke til den markante fortjeneste, som genereres ved disse ensidige, selvbestaltede operationer, og de ønsker at komme op på samme fortjeneste i deres egen virksomhed. Derfor indfører de også ’adfærdsoverskud’ i deres model. I så godt som alle sektorer, hvor ordene ’smart’ eller ’personaliseret’ anvendes til at beskrive en ydelse, er det efter inspiration fra it-sektoren. Resultatet er lige så problematisk,” siger Zuboff.

Hun ser det som yderst illustrativt for kapitalismens udvikling, at Ford Motor Company, som opfandt masseproduktion i fremstillingsindustrien, har sat et mål om at udvikle egne ’forudsigelsesprodukter’. Der kører i omegnen af 100 millioner Ford-biler rundt på verdens veje. Idéen er, at hvis der kan indhentes en vifte af data ved hjælp af digital teknologi om Ford-ejere og deres kørsel, kan det bruges som en ny kilde til fortjeneste. Hvordan du kører, hvor du kører, hvem der kører med dig, og hvad I taler om – det er informationer, som potentielt kan sælges videre til forsikringsselskaber, sundhedsvirksomheder, detailhandel og hotel- og restaurantbranchen, erklærer Fords ledelse.

Fravær af samfundsansvar

Zuboff siger, at et andet transformativt aspekt ved overvågningskapitalismen er, at der til forskel fra industrikapitalismen ikke længere er nogen ”strukturel gensidighed”, som hun kalder det. It-giganterne og deres følgere i Big Business blæser på den form for samfundsansvar, som hidtidige producenter af varer og tjenesteydelser har været nødt til at efterleve.

”Traditionelt har forudsætningen for massefremstillingen været, at der var ansatte, som tjente en løn og således kunne blive forbrugere og aftage de fremstillede produkter. Det betyder ikke, at alt var kønt. Der var uretfærdighed. Der var vold. Men i det mindste kunne kapitalisterne ikke tillade sig at ignorere folket, fordi folket havde et pressionsmiddel – deres arbejdskraft og forbrug – og kunne udfordre virksomhedernes interesser. Denne ligevægt er væk. It-virksomhederne bruger stort set ingen ansatte ud over it-professionelle, og de betaler ikke for den komponent, der giver dem mulighed for fortjeneste, nemlig vores personlige data,” siger Zuboff.

Kanaler til debat tilhører it-giganter

Hvordan kunne it-giganterne slippe af sted med deres opførsel, som der først det seneste par år er blevet sat fokus på i offentligheden og blandt politikere? Dette spørgsmål forsøger Shoshana Zuboff også at give svar på i sin bog.

”De fleste af os har travlt og har svært ved at overskue det hele, og vi får kun ringe hjælp til at forstå det. Og hvis vi ønsker at engagere os seriøst i udformningen af samfundet, er vi henvist til at benytte overvågningskapitalismens kanaler. Vi har intet reelt valg. Og dette er kanaler, der er indrettet til at hæmme mulighederne for kritik,” siger Zuboff.

Hun tilføjer, at it-giganterne samtidig med kløgt har holdt sig til talepunkter om, at de sandelig muliggør spredning af viden og fremmer demokratisk deltagelse – og at deres fremgangsmåde i øvrigt er en uadskillelig del af digital teknologi.

Zuboff fastslår, at det er muligt at etablere en digital teknologi, som er transparent, demokratisk og respekterer den enkeltes frie vilje. Man skal ikke forvente, at forvandlingen kommer fra Facebook og Google og den slags, selv om Mark Zuckerberg på det seneste har fremsat løfter om mere åbenhed under indtryk af et øget politisk pres.

”Det vil være et eventyr, et farligt eventyr, at forlade sig på det. Og I kender jo til eventyr i Danmark – Hans Christian Andersen,” siger Zuboff og bryder ud i et smil via Skype (som i øvrigt er ejet af Microsoft).

Forandring kommer fra folket og EU

Shoshana Zuboff forestiller sig, at forandringsprocessen kan begynde med en folkelig erkendelse om tingenes tilstand, og at hendes bog måske kan være et bidrag. Hvilket kan føre til et folkeligt krav til politikere og myndigheder om skrappere regulering af anvendelsen af digital teknologi.

”Når der sat navn på, hvad der foregår, kan det måske fremme det skifte i den folkelige opinion, som allerede er undervejs, og så får den politiske debat om emnet et andet indhold. Politikerne er omsider begyndt at se mulighederne for lovgivning og anden regulering, som kan forstyrre eller ligefrem afskære it-giganternes operationer. Samtidig kan politikerne medvirke til at skabe plads til konkurrerende løsninger – måske alliancer af virksomheder, der rykker ind i tomrummet og tilbyder alternative digitale økosystemer. For vi vil gerne have et smart hjem. Vi vil gerne have telemedicin. Men det skal være på betingelser, der er forenelige med frihed og demokrati,” siger Zuboff, som vurderer, at hvis det gøres rigtigt, vil der være masser af potentielle kunder i denne anderledes model.

Shoshana Zuboff har i Bruxelles haft møder med medlemmer af EU-Kommissionen og Europa-Parlamentet. Mens der endnu ikke er appetit blandt politikere i USA på at røre ved it-giganternes magt, og Kina har sin egen skræmmende model for overvågnings-statskapitalisme, har Zuboff stor tillid til, at EU kan vende udviklingen. Det beviser sagerne om konkurrenceforvridning mod flere it-giganter. Hun betegner videre persondataforordningen GDPR som ”en stor præstation”, men konstaterer, at der skal meget mere til for at tæmme overvågningskapitalismen.

”EU er verdens sidste og bedste håb for at gøre fremskridt på dette område. EU legitimerer, at værdier om frihed og demokrati skal være bestemmende for håndtering af data. I takt med, at befolkningerne i de europæiske lande bliver optaget af, hvordan den nuværende situation er utålelig og kræver handling, er det EU, der har den nødvendige pondus til at gøre noget afgørende ved det,” siger Shoshana Zuboff.

 

Shoshana Zuboffs 'The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power' strækker sig over 704 sider og udkom på forlaget PublicAffairs i januar 2019.

Djøfbladet har 6/2 kontaktet Google og Facebook i Danmark for at få en kommentar til Zuboffs analyse, men har ikke modtaget et svar inden publiceringen af denne artikel.

Shoshana Zuboff

Professor emerita fra Harvard Business School

Født i 1951

Ph.d. i socialpsykologi fra Harvard University

Blev i 1981 en af Harvard Business Schools første fastansatte kvindelige videnskabelige medarbejdere

Forskningsområde: Konsekvenserne af den digitale teknologis udbredelse for individ, organisationer og samfund samt forholdet mellem den digitale teknologi og kapitalismens historie og fremtid

Har tidligere udgivet to indflydelsesrige bøger:

'In the Age of the Smart Machine' i 1988, der introducerer begreber om viden og magt på arbejdspladser med informationsteknologi, som både informerer og automatiserer

'The Support Economy' i 2004 (sammen med James Maxmin), der påviser behovet for et skifte væk fra masseproduktion og central styring til en ”uddelegeret kapitalisme”, hvor varer og tjenesteydelser er tilpasset individuelle ønsker og behov

CBS-professor: En grundig analyse – med lidt opskruet retorik

"Shoshana Zuboff er en grundig dame, der gør sig umage med at blotlægge, hvordan den såkaldte overvågningskapitalisme er til stede i mange sammenhænge i samfundet og også har bredt sig til andre økonomiske sektorer end it-sektoren.”

Det siger Mikkel Flyverbom, der som professor på CBS forsker i krydsfeltet mellem viden og teknologi i den digitale tidsalder.

Han er medlem af TechDK Kommissionen, som Djøf nedsatte for nyligt for at udarbejde strategier, der forener teknologi og samfundsinteresser.

Mikkel Flyverbom er meget langt med at læse Zuboffs 'The Age of Surveillance Capitalism'. Han kender hende fra tidligere bidrag og roser hende for at være ”velforankret i forskningsfeltet”.

”Men nogle steder skruer hun lidt for meget op for retorikken,” bemærker han om den nye bog.

Han indvender også, at det ikke er samtlige observationer i bogen, der er friske længere.

Mikkel Flyverbom advarer imod en situation, hvor kritikken af it-giganterne måtte føre til en afvisning af digital teknologi.

”Det er at foretrække at lave spilleregler for, hvilken form for samfund med digital teknologi vi ønsker os – og så arbejde videre derfra,” siger han og tilslutter sig Shoshana Zuboffs idé om at fremme opbygningen af alternative digitale strukturer – og ikke nødvendigvis statslige – der kan tilbyde mere transparente platforme og samtidig udfordre it-giganternes dominans.

Artiklen fortsætter efter annoncen

Ledige stillinger

ANNONCE

Kommentarer

Hans Find Andersen
5 år siden
Det er uhyre interessant, at det ser ud til, at det så småt er ved at gå op for menneskeheden, at den teknologiske udvikling har taget alvorlig og faretruende overhånd i forhold til den menneskelige bevidtshedsudvikling, som jeg anser som den primære faktor i forbindelse med menneskehedens overlevelse og humane udvikling.