Den kunstige intelligens er efterhånden allestedsnærværende og gennemsyrer mange moderne menneskers liv. Og det uanset om man tænker på arbejds- eller fritidslivet. I mange forhold bliver vi tilbudt maskinel støtte til at tage beslutninger om, hvordan ord skal skrives, hvilke film der skal ses og musik høres. Forslag til hvad vi også skal købe, når vi har købt et eller andet, eller forslag til hvordan vi skal komponere et mailsvar eller skrive en klage.

Kunstig intelligens anvendes til at finde ud af, hvem vi skal ansætte og fyre, hvem der er i fare for at droppe ud af studiet og derfor har brug for en samtale med en studievejleder.

Hvad gør det ved os som mennesker og som samfund, at vi integrerer anbefalinger og støtte til beslutninger skabt af systemer, som de færreste - om nogen - kan gennemskue? For sådan er det med kunstig intelligens: den er uigennemskuelig. Ud fra massevis af data kan man få den til at foreslå, anbefale, beslutte osv. alt muligt, uden at vi helt kan forklare, hvilke overvejelser og begrundelser, der ligger til grund; hvilke præmisser beslutninger, anbefalinger, vurderinger osv. bygger på.

Selv de dårligste menneskelige beslutninger kan principielt begrundes af beslutningstageren, der også kan gøres ansvarlig for beslutningen. Men den bil, der drejer til højre og derved kører et barn ihjel, kan ikke umiddelbart stilles til ansvar - ligesom det ikke er så nemt at afgøre, hvad der førte til beslutningen om at dreje til højre.

Hvis man tager et mere overordnet blik på anvendelsen af kunstig intelligens, er det så noget der støtter eller begrænser demokratiet? Det er det spørgsmål, Mark Coeckelbergh stiller i sin seneste bog Why AI undermines democracy and what to do about it. Som man kan høre ud fra titlen, så er udgangspunktet, at kunstig intelligens først og fremmest er en udfordring for demokratiet. Men den efterhængte sætning om, hvad man kan gøre ved det demokratiske underskud, lover, at der måske er en mulighed for en positiv slutning på eventyret om den kunstige intelligens.

I sit forord stiller Coeckelbergh spørgsmålet: ”Do we go with the current situation or do we try to make sure that advanced technologies help us to work towards the common good” (s. vii)? Denne modstilling mellem den nuværende situation og det fælles bedste er helt afgørende for Coeckelberghs analyse af den samfundsmæssige betydning af kunstig intelligens. Og som han efterfølgende siger: “This book argues that AI as it is currently developed and used undermines the fundamental principles and knowledge bases on which our democracies are built and does not contribute to the common good” (s. 5).

Det er således ikke kun den måde, AI bruges på, der er et problem. Det er også selve udviklingen af AI, der er politisk, som forfatteren flere gange slår fast: “AI is political through and through” (s. 10). Coeckelbergh arbejder med en såkaldt relationelle teknologiforståelse, hvor teknologi ikke kan tænkes og beskrives i sig selv. Alle teknologier indgår i relationer med en række forskellige kontekster og kan kun beskrives ved at se på de relationer, der dannes i konteksterne. Udviklingen af AI må ses i forhold til, at de er meget omkostningstunge og derfor kræver massive investeringer, hvilket også betyder, at beslutninger om udviklingen - måden der udvikles på, hvad der udvikles osv. - ligger hos store virksomheder, der er helt uden for demokratisk indflydelse og kontrol.

Så her ligger der et grundlæggende udemokratisk element ved AI, der er forbundet med senkapitalismens strukturer. Når teknologier, som ligger til grund for sociale medier og kunstig intelligens, udøver en stor indflydelse på mange samfundsmæssige niveauer, så er der noget grundlæggende problematisk ved den måde, virksomhederne styres på. Et fundamentalt princip i de fleste former for demokrati er, at styringen af samfundet baseres på og legitimeres af folket. Men den teknologiske udvikling, som påvirker dette folks liv, har de stort set ingen indflydelse på og slet ingen styring med.

Man kan selvfølgelig som enkeltperson nægte at anvende AI og andre teknologier. Men for det første er det næsten umuligt, da mange elementære livsfunktioner er bundet op på tekgiganternes teknologier. Jeg kan ikke gennemføre mit arbejde uden, at jeg anvender Microsofts produkter, jeg kan ikke få min løn, hvis jeg ikke har en konto, som banken styrer med brug af teknologier, jeg end ikke kender til, men hvori der helt sikkert ligger kunstig intelligens. Og hvis man kører i en elbil, så er den koblet op på digitale systemer, som overfører data fra mig til jeg ved ikke hvor.

For det andet så er individuelle valg og fravalg ikke et udtryk for demokrati. Demokrati handler netop ikke om, hvad jeg som privatperson vælger at gøre, men hvad vi som kollektiv og som samfund beslutter. Her kan man tilføje, at vi som samfund i mange år har besluttet, at vi skal have et udemokratisk samfund, da vi har overladt afgørende beslutninger med stor betydning for samfundet til private virksomheder uden at forlange, at de skal underlægges en demokratisk proces. “The role AI currently has in our society has not been decided by citizens or democratically elected governments” (s. 12).

Forfatteren diskuterer også selve begrebet demokrati, og her henviser han til den afgørende forskel, der er mellem en liberal(stisk) demokratiforståelse, hvor forskellige ideer på et frit marked konkurrerer om støtte og opbakning, og en republikansk demokratiforståelse, hvor det er diskussioner og afvejninger af det fælles bedste, der er kernen – Res Publica (det fælles samfundsanliggende).

Den republikanske demokratiforståelse er langt mere krævende end den liberale, der ser borgere som forbrugere af politiske ideer. Overfor en sådan passiv forståelse af borgeren kræver republikansk demokrati, at borgere aktivt engagerer sig i, hvilket samfund vi skal have. Borgere er her forpligtet til at forholde sig aktivt til udviklingen. Og det er denne såkaldte deliberative udgave af demokrati, som vi ikke mindst kender fra Jürgen Habermas, forfatteren argumenterer for. Og her bliver misforholdet mellem udviklingen af AI og demokrati endnu større.

Coeckelbergh demonstrerer på mange forskellige måder, hvordan AI indgår i processer på måder, så den underminerer det demokratiske - og det både ift. en liberalistisk og republikansk forståelse. Men det helt grundlæggende og principielle i argumenterne er, om borgere udsættes for dominans. At blive udsat for dominans betyder, at man bliver frataget den fundamentale borgerret til autonomi (frihed), som moderne samfund fra oplysningstiden og frem bygger på (i hvert fald i visse dele af verden). Den europæiske og nordamerikanske selvforståelse er, at samfundet bygger på, at borgere er frie, lige og indgår i fællesskaber (Liberté, Égalité, Fraternité). Dominans underminerer jo også ligheden mellem borgerne, som er grundlaget for fælles anerkendelse.

Neo-republikanismen, som Coeckelbergh argumenterer for, er en teori for non-dominans. “[The] idea is that everyone who could potentially be subject to domination by a public power should have the capacity to control that power” (s. 41f). Dermed angiver han det, der også er indeholdt i Habermas beskrivelse af diskursetikken, uden at han dog henviser til denne etiske retning.

Det demokratiske svar på at undgå dominans er, at alt af betydning for det fælles bedste underkastes en rationel diskussion, hvilket kræver en fri borgerlig offentlighed. Her abonnerer Coeckelbergh også på Habermas’ ide om det deliberative og debatterende demokrati. Ideen stammer bl.a. fra Immanuel Kant, der talte om, at fornuften kræver at blive mødt med argumenter og modargumenter. Borgeren er forpligtet på at bruge sin fornuft offentligt, så den kan blive modsagt og derved løbende blive skærpet. Ikke nødvendigvis med henblik på at opnå konsensus, selvom det er idealet for Habermas. Den rationelle dialog kan fastholdes uden dette ideal, da der sagtens kan være forskellige opfattelser af, hvad det fælles bedste består i. Et solidt demokrati handler også om at indeholde forskelligheder og diversitet. ”One also needs to account for some degree of pluralism when it comes to political values and principles” (s. 104), siger forfatteren med henvisning til Chantal Mouffe.

Men den borgerlige offentlighed er blevet undermineret af den ligegyldighed, der har udviklet sig i forhold til sandt og falsk; rigtigt og forkert inden for henholdsvis en videnskabelig og moralsk kontekst. Den offentlige samtale er ødelagt af sociale medier, medier generelt, politisk spin osv., hvor det afgørende ikke længere er, hvad der er sandt og rigtigt, men udelukkende at få indflydelse til eget bedste uden hensyntagen til det fælles gode; almenvellet. Deliberation er erstattet af manipulation.

Og dette har store konsekvenser for demokratiet: “Under these conditions, we cannot make a common world” (s. 64). Verden falder fra hinanden og livet individualiseres uden mulighed for demokrati. Det fælles bedste kræver som minimum en opfattelse af, at vi lever i en fælles verden og ikke opdelt i ghettoer og filterbobler.

Som lovet kommer Coeckelbergh også med en redningsplan, og heri kan kunstig intelligens spille en positiv rolle. Det kan evt. foregå ved, at man anvender kunstig intelligens til faktatjek og generelt til at understøtte befolkningens adgang til redelig information. En del af den gatekeeper-funktion forskellige eliter har haft historisk set kan overlades til kunstig intelligens, som derved vil bidrage til en demokratisering af gatekeeping.

Han foreslår også at udvide de demokratiske institutioner. Helt i tråd med Habermas’ forestilling om at styrke de procedurale elementer ved demokratiet - altså de institutioner og procedurer, der skal sørge for, at ting foregår demokratisk - skal der udvikles demokratisk støtte til den politiske stillingtagen, hvorved det fælles gode styrkes. “We need to transform our political institutions into a more participative and communicative direction. ‘Open mini-public’ ”(s. 71), foreslår han. Dette er en ide, der har eksisteret siden 1980’ne, hvor James Fishkin foreslog udpræget brug af deliberative meningsmålinger og nedsættelse af rådgivende forsamlinger ud fra tilfældigt udvalgte “almindelige” borgere. Disse minipopuli skulle have adgang til eksperter og videnspersoner. Og så skulle de diskutere spørgsmål og ud fra et informeret grundlag og derved kunne man mime principperne i Kants offentlige fornuft og borgerlige offentlighed.

Meget underligt nævner Coeckelbergh slet ikke Fishkin og hele den institution, som er bygget op omkring minipopulus, selvom den har haft en vis politisk betydning og er indgået i demokratiske beslutningsprocesser rundt om i verden.

Bogen afsluttes med fire overordnede anbefalinger til politikere, hvis de vil bidrage til at styrke demokratiet, så dominans fra store privatejede virksomheder kan undgås. Forslagene er kendt gods fra oplysningstraditionen og handler om øget undervisning i demokrati; mere kontrol og regulering af virksomheder, når de har betydning for det fælles bedste; øget opmærksomhed over for det fælles bedste i politisk beslutningstagen og styrkelse af de demokratiske institutioner ved at gøre dem mere deliberative.

Jeg synes alle med interesse i den samfundsmæssige og teknologiske udvikling skal læse denne bog. Dens redningsforslag er himmelråbende naive, men måske er det netop denne naivitet, der skal til, medmindre vi vil lade AI og store privatejede virksomheder underminere vores egen autonomi og vores fælles ansvar for almenvellet, som jo også gælder klimaet og miljøet foruden mere lighed, frihed og fællesskab.