Prøv at tænke på en vaskemaskine. Hvad er det for et apparat; hvilken type teknologi er det? Og ikke mindst: hvilken indvirkning har den på mennesker og på samfundet generelt?

Der findes mange perspektiver på mulige svar.

Man kan sige, at vaskemaskinen er et fremskridt, som gør det nemmere at få vasket tøj for den enkelte. Man kan også svare i retning af, at det er en del af en frigørelsesproces for dem, der har haft ansvaret for tøjvask, hvilket vil sige kvinderne. Vaskemaskinen kan her indgå i et narrativ om øget lighed, kvindefrigørelse og så videre. Man kan også sige, at vaskemaskinen kom til at betyde, at kvinder kunne frigøre tid fra husarbejdet, så de også kunne være udearbejdende. Det blev lettere at overkomme dobbeltarbejde, blandt andet fordi vaskemaskinen indgik i en helhed, hvor det samlede arbejdsudbud blev udvidet.

Pointen er her, at vaskemaskinen som teknologi kommer med et politisk indhold; en politik. Den konkrete politiske betydning af vaskemaskinen afgøres af den måde, hvorpå den interagerer med andre forhold som blandt andet de mennesker, hvis liv påvirkes af, at der findes vaskemaskiner. Teknologier indgår i sammenhænge, som er en del af den måde, et samfund udvikler sig på.

Det gælder naturligvis også med (generativ) kunstig intelligens, der ligeledes indgår i forskellige sammenhænge med konsekvenser for det levede liv. Mark Coeckelbergh har i sine seneste bøger brugt formuleringen “AI is political through and through”, og det er også denne pointe, som føres frem af Henrik Skaug Sætra i Hvordan redde demokratiet fra kunstig intelligens, dog uden henvisning til Coeckelbergh. I Sætras udgave: “Vel, jeg vil hevde at teknologien alltid er politisk” (s. 49).

Gennem 11 små kapitler fører Sætra os igennem en lang række refleksioner, som har en betydning for, hvordan samfundet fungerer eller ikke fungerer på en demokratisk måde.

Kapitlerne handler blandt andet om, hvordan Big Tech udfordrer national suverænitet, fordi deres platforme og tjenester er trans- og multinationale. Og der er kapitler om, hvem der egentlig bestemmer, hvilke teknologier, der skal være tilgængelige i et samfund, og hvad demokrati overhovedet betyder. Sætra kommer også ind på, hvordan menneskers verdenssyn kan påvirkes af kunstig intelligens, ligesom de bliver påvirket af så meget andet kommunikation og informationsstrømme. Men kunstig intelligens fremmer måske et verdenssyn frem for et andet. Hvad er det for former, der præger de herskende diskurser i et samfund?

  Sætra skriver også om de kunstige intelligenser som noget, der ofte kommer imellem os som mennesker ved selve den måde de fungerer og bliver brugt på. Det kan være, at Facebooks algoritme fungerer, så du kun ser nyheder, der på den ene side interesserer dig og på den anden ikke støder dig ved at udsætte dig for noget, du ikke er enig i. Eller i hvert fald noget, der ikke får dig til at forlade Facebook. Den kunstige intelligens, der styrer dit feed, bliver optimeret efter, hvad der kan holde din opmærksomhed fanget længst muligt.

Når dette er et problem for demokratiet, hænger det sammen med, at dette kan betyde, at du ikke bliver konfronteret med mennesker, der ikke deler dine holdninger. Demokrati handler blandt andet om at udveksle synspunkter mellem folk, der er forskellige og uenige på en række områder. Hvis de forskellige og personaliserede algoritmer betyder, at mennesker i mindre og mindre grad oplever at leve i en verden med forskellige opfattelser, så vil det føre til udviklingen af filterbobler og ekkokamre.

Selvom forskning har vist, at dette ikke er tilfældet i så stor udstrækning, som det blev hævdet i Eli Parisers bog The Filter Bubble: What the Internet Is Hiding from You fra 2011, så er tendensen med alle mulige former for personaliseringer, at mennesker i mindre grad konfronteres med nyheder og andet i deres feeds, som de er uenige i. Parisers bog nævnes heller ikke af Sætra, selvom han skriver en del om filterbobler og ekkokamre.

Problemet med filterbobler og ekkokamre forstærkes af, at mennesker har en ´naturlig´ tendens til at søge mod det, der bekræfter deres egne holdninger, meninger og viden. Dette kaldes confirmation bias og er meget udtalt. Vi vælger nyheder efter, om vi kan se vores eget verdensbillede afspejlet i disse. Hvorfor følge Fox News eller Berlingske Tidende, hvis du har en opfattelse af verden, der er mere centrum-venstre end decideret borgerlig - eller hvorfor holde Information, når de nu skader den naturlige orden med, at skat og arveafgifter er noget onde eller i hvert fald misundelige mennesker har fundet på for at holde de succesfulde mennesker nede?

I kapitel 4 med overskriften: Når KI blir et filter mellom oss skriver Sætra: “Alt i alt er kombinasjonen av KI og menneskets natur en god kombinasjon for å unngå individuelt ubehag, men en elendig kombinasjon for demokratiet… Vi unngår diskusjoner og konflikter, synspunkter som avviker fra våre egne, noe som er essensielt for et velfungerende politisk system tuftet på respekt, toleranse og åpen deliberasjon og jakt etter gode løsninger for fellesskapet” (s. 72).

Præcis forestillingen om deliberation er vigtigt i et borgerligt liberalt demokrati, som vi kender det fra Vesteuropa. Denne form for demokrati er vokset frem i oplysningstiden og bygger på en tredeling af magten mellem den lovgivende, dømmende og udøvende magt. Dette system får sin legitimitet ved, at alle forhold kan diskuteres i den såkaldte borgerlige offentlighed, som blandt andet finder sted i medierne, men også i forsamlingshuse og gennem offentlige debatter (igen typisk formidlet gennem medierne). Folkemødet på Bornholm kan siges i hvert fald ideelt at være en inkarnation af en ´borgerlig offentlighed´.

Gennem de debatter, hvor alle i princippet kan deltage, kan der etableres institutioner, der varetager samfundets funktioner på måder, der er legitime set ud fra borgernes perspektiv, fordi de har været inddraget. I den helt minimale form sker dette også gennem valg til de lovgivende og udøvende samfundsinstitutioner. Men det deliberative demokrati kræver mere end blot at afgive en stemme med jævne mellemrum. Her handler det mere om at gøre sin stemme gældende, hvilket Sætra også skriver om. Og han peger på noget af det helt afgørende for det deliberative demokrati. Nemlig det forhold, at man indgår i debatter på en åben måde, hvor man lader sig påvirke af andre menneskers syn på verden. Argumenter er med til at flytte holdninger i offentligheden.

Ligesom Hal Koch definerer Sætra demokrati som samtale (deliberation), hvorfor det bliver vigtigt, at folk mødes for at udveksle synspunkter og argumenter. Pointen er måske ikke, at de skal blive enige, men at de skal få en større forståelse for hinandens måde at se verden på. De skal forstå, at der findes andre måder at leve og tænke på. Og de skal argumentere for det, de selv mener vil være det bedste - både for dem selv, men måske i højere grad for det samfund, som de er fælles om, selvom det kan være vanskeligt at se på helheden, når man selv har noget i klemme.

Den videre pointe, som Sætra meget flot formulerer er, at “deliberasjon bidrar til at vi forandrer og utvikler oss” (s. 43). Han gentager pointen i et tænkt fremtidsscenarie, hvor han beskriver en kvinde, der har en digital tvilling, der deltagere i politiske samtaler, så hun kan bruge tiden på noget andet. Men på et tidspunkt finder hun ud af, at hun derved mister noget, der er vigtigt for den demokratiske involvering. Når hun tidligere deltog i demokratiske samtaler, så skete der noget: “Hun kom, hun snakket, og hun dro hjem som en litt annen” (s. 86)

At der er mulighed for at ændre opfattelse - at blive en anden - er et enormt vigtigt element ved et demokrati. Det enkelte menneske har en begrænset horisont, som kan udvikles i udveksling med andre mennesker. Vi kan finde noget fælles - eller i hvert fald forstå hinanden bedre i forhold til, at vi har et samfund tilfælles. Vi er sammen om at have regler for vores samvær - vi har skoler, veje og love, der skal gælde os alle sammen og være retfærdige for os alle sammen. Det kræver, at vi anvender vores moralske og demokratiske kompas for at samstemme, men ikke nødvendigvis være enige.

Endnu en demokratisk udfordring ved ikke mindst generativ kunstig intelligens er, at den sætter spørgsmålstegn ved, hvad vi kan stole på. Ikke alene deep fake, men faktisk alle genererede udtryk, hvor man kan blive i tvivl om, hvem afsenderen er - eller om afsenderen er troværdig og ægte - udfordrer demokratiet. Hvis vi ikke kan stole på, at der er en ´rigtig´ afsender bag et budskab, hvad skal vi så stille op med det? Hvis vi ikke ved, om et billede forestiller det, det ligner, kan vi så stole på billeder overhovedet? Og hvis vi ikke ved, om den der taler, er et menneske eller en bot, hvad vil det så gøre ved vores tillid til andre mennesker?

Disse spørgsmål er vigtige, fordi de indikerer, at der er en risiko for, at vores relationer bliver underminerede og det vil nære en grundlæggende mistillid til repræsentationer, til mennesker og til de institutioner, som et demokratisk samfund også bygger på og er afhængig af. “Hvis du ikke vet om et bilde er ekte eller ei ved å se på det, blir du litt mer skeptisk til alle bilder… Men hva om KI-agenter - for eksempel chatboter som utgir seg for å være mennesker - gjør noe av det samme med vår innstilling til mennesker?” (s. 80)

Som tidligere nævnt, så er den nationale og digitale suverænitet udfordret af, at techgiganter går på tværs af nationale grænser. Da ChatGPT blev offentligt tilgængelig den 30. november 2022, var det faktisk ikke et tilbud, som nogen i Norge, Danmark eller andre steder havde forholdt sig til. Den måde, generativ kunstig intelligens påvirker samfundet, var ikke noget, der havde været diskuteret, hverken i Folketinget eller i offentlige debatter om, hvad vi vil med vores samfund.

Pludselig en dag var det muligt at anvende generativ kunstig intelligens, og det var der en masse mennesker, der så gjorde. Men konsekvenserne; betydningen for vores relationer, for det politiske liv, for nyhedsstrømme og for uddannelser, var der ingen, der fik mulighed for at tage stilling til, så man kunne have overvejet, om det ville være en god eller en dårlig ting, at alle skulle have adgang til ChatGPT. Og det er klart ikke en demokratisk måde at afgøre det fælles samfundsmæssige liv på. “Vi kan, og må være villige til å si “Nei takk!” til noe teknologi om det strider mot våre mål, verdier, ønsker og interesser” (s. 128)

Henrik Skaug Sætra har skrevet en god bog, der rejser mange interessante problemstillinger i forholdet mellem udvikling af kunstig intelligens og demokrati. Bogen kunne være endnu bedre, hvis Sætra var gået i dialog med den eksisterende akademiske litteratur om samme emne. Det bliver også tyndt, når han skal pege på redningen af demokratiet, hvor han forståeligt nok peger på pressen og uddannelsessystemet og ikke mindst på reguleringer gennem EU. Men det bliver også meget overordnede udpegninger, der ikke siger så meget om, hvordan disse instanser kan gøre noget andet, end de allerede gør.

Men en god debat kan rejse sig med Sætras bog i hånden og ånden. Det handler om, at vi skal være parate til at ændre os - og at vi ikke skal lade os føre ved næsen af alle mulige teknologiske nyskabelser, hvor vi ikke også er inddraget i at vælge, hvad vi gerne vil have teknologier til at gøre - og betyde - i vores demokratiske samfund.