Hvis det skulle have forbigået nogens opmærksomhed, så er teknologibranchen nu officielt i samme klub som Sorte Slyngel, Darth Vader og Lord Voldemort. Alene denne sommer er Google og deres Chromebooks blevet sparket ud af de danske folkeskoler, dagbladet Politiken har kørt en omfattende kampagne om skyggesiderne af den offentlige digitalisering, og regeringen har nedsat en 12-personers ekspertgruppe, som skal tage hånd om truslen fra de store udenlandske tech-virksomheder (denne forfatter er én af de 12).

I Bruxelles har man også kørt de store kanoner frem. I foråret 2021 præsenterede kommissionen en AI-forordning, der skal regulere brugen af algoritmer og kunstige intelligenser, og i sommeren 2022 vedtog EU-Parlamentet Digital Services Act og Digital Markets Act, som kommer til at regulere indhold og konkurrencevilkår for de store teknologivirksomheder, der opererer i Europa.

Ikke desto mindre kan man stadig savne – særligt i Danmark – en kvalificeret debat om, hvorfor man overhovedet bør regulere digitale teknologier, og hvordan det i så fald bør gøres. Danske politikere og debattører kaster sig ofte over enkeltsager, og de enkelte teknologiselskaber og deres founders bliver ofte hængt ud i stedet for at diskutere de strukturelle årsager bag råddenskaben i den digitale verden.

En forvirret og forvirrende debat

Jamie Susskinds nye bog, Digital Republic, er et velkomment indspark i denne forvirrede og forvirrende debat. Bogen er et forsøg på at diagnosticere de politiske problemer, som er opstået i kølvandet på de seneste 30 års digitalisering, og ikke mindst at bruge denne diagnosticering til at udstikke retningslinjerne for konkret og tidssvarende offentlig regulering af tech-branchen.

Susskind griber helt tilbage til demokratiets rødder i det antikke Athen og Rom og genopliver begrebet republikanisme og tænker det ind i en digital tidsalder. Ordet republik kommer fra det latinske res publica, som betyder folkets ting eller sag. Og republikanisme handler i sin reneste form om, at folket har ret til at bestemme over alle de sager/ting, som har afgørende betydning for deres eksistens. Republikanere (ikke at forveksle med det politiske parti i USA) afskyr alle former for uretfærdig magt, som kommer i vejen for folkets ret til at regere sig selv. Det kan være politisk magt som konger, fyrster og kejsere, men det kan også være økonomisk magt fra monopoler, rigmænd og lobbyister. Den sande republikaner er ikke interesseret i at angribe personer (læs: Mark Zuckerberg, Elon Musk mv.), men derimod de strukturer, som muliggør, at folk som Zuckerberg og Musk får uretfærdig indflydelse på republikkens affærer.

”Frihed handler ikke om at have en retfærdig hersker, men om slet ikke at have en hersker”, skrev den romerske statsmand og filosof Cicero, som levede hundrede år før vor tidsregning.

Republikken vs. markedet

I modsætning til republikanisme står, ifølge Susskind, det langt mere moderne begreb markedsindividualisme. Og problemet med tech-verdenen er, at den fra starten har været gennemsyret af den markedsindividualistiske filosofi. Digital teknologi er blevet reguleret og opfattet som noget, der bedst blev varetaget af enkelte virksomheder og af markedets love om udbud og efterspørgsel. Digital teknologi var ikke en res publica – det var ikke en sag, der var relevant for offentligheden. Og her ligger kernen til alle vores problemer med firmaer som Facebook, Google, Twitter og så videre. Den markedsindividualistiske filosofi har afskåret os fra overhovedet at opfatte den digitale verden som et politisk spørgsmål, og derfor står vi hjælpeløse og bovlamme tilbage, når det faktisk viser sig, at digitale teknologier er i gang med at omkalfatre ikke alene vores dagligdag, men også vores arbejdsliv, vores offentlige servicer og vores demokratiske systemer.

Susskind har bl.a også skrevet den anmelderroste bog Future Politics: Living Together in a World Transformed by Tech. Foto: Getty

Susskinds gentænkning af republikanisme for en digital tidsalder fører til seks diagnoser af tingenes tilstand:

1.       Digital teknologi udøver magt.

Når du søger i Google udøver Googles algoritme magt, fordi den definerer, hvad der findes, og hvad der ikke findes. Og når du taler med folk på Twitter, har Twitter magten til at sætte rammerne for denne samtale. Det er meget muligt, at teknologiselskaberne selv forsøger at nedtone deres magt, men den er til stede allevegne og spiller en stigende rolle i alle aspekter af vores liv.

2.       Teknologi er ikke neutral, objektiv eller apolitisk.

Susskind nævner et eksempel med to iPhone-apps. Den ene app er udviklet til beboerne i Hong Kong og kan tracke politiet, så demokratiaktivister kan undgå tåregas og gummikugler. Den anden app er også en tracking-app, men den tracker saudiarabiske mænds koner, så mændene kan overvåge og begrænse konernes fri bevægelighed. Besynderligt nok er den saudiarabiske app frit tilgængelig i App Store, mens appen fra Hong Kong er blevet fjernet fra App Store.

3.       I det nuværende system styres teknologi af det markedsindividualistiske system

Teknologi opfattes ikke som en res publica, men som et spørgsmål, der styres af virksomheder og forbrugere på et frit marked.

4.       Der er intet naturligt ved dette regime

Der er ingen naturlov, der dikterer, at teknologi bør være adskilt fra politik. Det er et resultat af politiske kampe gennem de sidste 50-100 år, hvor markedsindividualisterne løb af med sejren.

5.       Den eksisterende regulering af teknologi er primært baseret på den markedsindividualistiske filosofi

I USA, men også delvist i Europa, reguleres der ud fra præmissen om, at stærke individer kan tage hånd om sig selv, når bare der er tilstrækkelig fri konkurrence mellem teknologivirksomheder. Hvis vi ikke kan lide Facebooks databeskyttelse, kan vi finde en anden social platform. Og hvis vi giver tilladelse til, at virksomheder må bruge vores data, så er det, fordi vi rent faktisk er i stand til at forstå konsekvenserne af egne valg. Men det er simpelthen forkert, siger Susskind. Det enkelte menneske er hverken stærkt nok til at sætte sig op mod teknologigiganterne eller træffe informerede valg. Vi har brug for mere beskyttelse end den, vi kan få fra de frie markedskræfter.

6.       Det nuværende system for regulering af teknologi er uholdbart

Den markedsindividualistiske tilgang til regulering af teknologi giver plads til alt for megen ukontrolleret magt. Vi er nødt til at bringe teknologi ind i den politiske verden. Vi er nødt til at gøre teknologi til en res publica.

Men hvordan bringer vi teknologi ind i den politiske sfære? Hvordan river vi digitale teknologier ud af markedets klør og gør det til et spørgsmål for folket?

Det kræver, at vi bygger vores lovgivning på fire principper:

1.       Bevarelsesprincippet, som siger, at vores teknologier ikke må udfordre vores grundlæggende rettigheder til at debattere, kritisere, protestere og vælge de mennesker og regler, som bestemmer over vores liv.

2.       Dominansprincippet, som siger, at vi så vidt muligt skal minimere ukontrollerbar magt fra digitale platforme.

3.       Demokratiprincippet, som siger, at designet af teknologiske platforme så vidt muligt skal afspejle etikken og værdierne hos de mennesker, som påvirkes af deres magt.

4.       Begrænsningsprincippet, som siger, at også statens regulering bør begrænses. Regulering bør altid begrænses til et minimum, for staten kan lige så vel som tech-virksomhederne udvikle sig til en ukontrolleret magt.

På grundlag af de fire principper kommer Susskind med en lang række mere eller mindre konkrete forslag til regulering af tech-verdenen. Det er helt klart bogens stærke side, at den, i modsætning til de fleste andre bøger, tør blive meget konkret. Men det er også i denne del, at bogen bliver en smule vævende og usammenhængende. Der er dog adskillige interessante forslag – nogle af disse er allerede en del af EU's kommende forordningspakker, mens andre er mere banebrydende og modige.

Her følger nogle af de mest interessante forslag:

Teknologitribunaler er uafhængige offentlige eller semi-offentlige instanser, hvor borgere kan gøre indsigelser over for uretfærdige beslutninger fra de store teknologivirksomheder.

Certificering er udbredt inden for mange andre brancher og ville betyde, at man f.eks. kunne certificere typer af produkter som f.eks. ansigtsgenkendelsesalgoritmer. Men det kunne også betyde certificering af personer, som man ser det hos jurister eller læger. Det lyder måske skørt i dag, men ville det ikke give mening, at folk, der programmerer og træner vigtige kunstige intelligenser, faktisk var uddannet og certificeret i at undgå diskrimination og bias?

Inspektører. Der vil blive behov for inspektører, som kan kigge ned i teknologivirksomhedernes algoritmer og processer. Det behøver ikke være statsansatte bureaukrater, men kan sagtens være brancheudnævnte inspektører, som arbejder for statsligt certificerede kontrolorganer. Det fungerer, når man skal have sin bil synet, så hvorfor ikke også, når Twitter eller Facebook skal kigges under motorhjelmen?

Transparens og åbenhed. Teknologivirksomheder bør have en ”pligt til åbenhed”, hvilket betyder, at de altid skal kunne svare på de to spørgsmål: ”Hvad?” og ”Hvad er du?”. Med andre ord bør borgere altid kunne få svar på, hvorfor de får vist dén reklame, eller hvorfor de får afslag på deres låneansøgning (Hvad?), og de bør altid informeres, når de interagerer med en algoritme og ikke et menneske (Hvad er du?). Og hvis almindelige mennesker ikke har mulighed eller evner for at stille disse spørgsmål, bør de stilles af professionelle inspektører.

Bekæmpelse af monopoler. Der er behov for at gøre op med 40 års praksis i amerikansk monopollovgivning, hvor man primært har lovgivet for at optimere forbrugervelfærd. I stedet bør der fokuseres på at bekæmpe ukontrollerbar magt. Alle de store tech-virksomheder bidrager til forbrugervelfærd med deres gratis og brugervenlige produkter, så på overfladen kan det virke, som om monopoler fungerer fint. Men problemet er ikke, at de skader forbrugerne. Problemet er, at de udøver ukontrollerbar magt – og denne magt er usynlig for både forbrugere og lovgivere.

Beskyttelse af data. Vi har brug for et opgør med idéen om, at vi selv kan beskytte vores data. Cookie-pop-ups, hvor vi giver virksomheder tilladelse til alskens misbrug af vores data, er meningsløse, fordi ingen læser teksterne eller forstår konsekvenserne af deres klik på ”accept”. Der er brug for en dybere beskyttelse af data, hvor man anerkender, at det ikke kan være op til individet at beskytte sig selv mod de store tech-virksomheder.

Positiv beskyttelse af ytringsfrihed. Der er brug for et nyt syn på ytringsfrihed og et opgør med free speech-fundamentalismen. Traditionelt har man – særligt i USA – beskyttet ytringsfrihed ved at fjerne alle begrænsninger for fri tale. Men det stammer, ifølge Susskind, fra en tidsalder, hvor det var svært at komme til orde, og hvor den største fare for ytringsfriheden kom fra staten. I dag lever vi i en verden, hvor alle kan komme til orde, og hvor det er private virksomheder, som regulerer, hvem der bliver hørt, og hvem der ikke bliver hørt. Det betyder, at ytringsfrihed ikke bare bliver beskyttet ved at give ordet frit. I en moderne digital verden fyldt med sociale medier er man nødt til proaktivt at kultivere de rette forudsætninger for den frie samtale. Samtalen kan ikke være fri, hvis den er fyldt med trolls, fake news, bots og manipulerende algoritmer. Derfor bør de store sociale medier reguleres aktivt for at skabe forudsætningerne for en fri samtale. Staten bør bestemt ikke stikke sin snude i de enkelte ytringer på sociale medier, men den bør regulere og sætte retningen for, hvordan de sociale medier kultiverer den frie samtale.

Tilbage til rødderne

Mange vil sikkert betragte Susskinds diagnose og forslag til konkret lovgivning som utopisk eller måske endda som dræbende for innovation og konkurrenceevne. Men i virkeligheden er Susskind ikke særligt nytænkende. Tværtimod handler hans bog om at gøre op med 30 års tech-exceptionalisme og bringe digitale teknologier ind i en 3000 år gammel politisk tradition, hvor vi diskuterer ting som skatter, luftfart, klima, sundhed og så videre. Så længe den digitale branche ikke er en res publica – en sag for folket – vil den uundgåeligt løbe af sporet og ende med at komme i selskab med banditter som Sorte Slyngel, Darth Vader og Lord Voldemort.