Hvis man spørger om, hvad kunstig intelligens eller sprogmodeller som ChatGPT er for noget, så vil man typisk få enten et svar på teknikken bag eller et svar om, hvad man kan bruge sådan en til. Det første svar vil handle om programmering, maskinlæring, algoritmer og den slags. Man vil muligvis også få historien om udviklingen af kunstig intelligens som historien om fantastiske forskere og ingeniører, der har konstrueret ‘tænkende maskiner’. Det andet svar vil handle om modellernes overmenneskelige kræfter og evner, øget effektivitet i arbejdet, smarte løsninger på komplicerede problemstillinger, eller om hvordan mange jobs vil blive nedlagt og mennesker derfor vil ende som uden arbejde.

Begge typer af svar vil være vigtige og kunne rejse gode problemstillinger, men vil måske alligevel ikke få fat i det vigtigste, når vi taler om kunstig intelligens eller en hvilken som helst anden form for teknologi i det hele taget.

Det hævder Simon Lindgren i hvert fald i sin nye bog Critical Theory of AI. Problemet med de tekniske og snævre spørgsmål om KI (jeg vælger den danske forkortelse for kunstig intelligens frem for den engelske AI), er, at de kommer til at se teknologien som noget enkeltstående. Det er faktisk et grundlæggende problem ved mange diskussioner om teknologi, at den bliver set på som en ting, der er i verden; en ting man så kan vælge at bruge eller ikke. Det er en meget udbredt opfattelse af teknologier, at de, når de først er produceret, blot er tilstede og kan bruges. Teknologien opfattes som noget bestemt med en given brug.

Overfor dette syn på teknologi trækker Lindgren på den kritiske teori og på poststrukturalistisk magtteori i sin bestemmelse af kunstig intelligens. Med Michel Foucault ser han på, hvordan teknologi altid indgår i viden- og magtforhold, hvor der etableres særlige privilegerede forståelser som rigtige og sande, hvilket har effekter for, hvordan den enkelte kan leve sit liv.

I de sammenhænge, teknologier indgår i, bliver individet positioneret eller tiltalt på en bestemt måde, hvilket er en del af den måde, den enkelte bliver til et subjekt på. Det er Althussers opfattelse af ideologisk bestemt og bestemmende tiltale, der her er på spil. Teknologien bliver en del af en diskurs, hvor man kan kæmpe og forhandle om ‘sandheden’. “Discourse is power and knowledge embedded in language and social practice” (s.130).

For at forstå kunstig intelligens som andet end bestemte værktøjer foreslår Lindgren at forstå den som en samling (assemblage). Teknologier vil altid indgå i en lang række forskellige relationer med andre ting og forhold. Der er mennesker, der bruger teknologierne på bestemte måder, og disse teknologier spiller en betydning som økonomiske instrumenter, ligesom de også får tillagt ideologiske betydninger, der bliver en del af relationen mellem menneske og maskine placeret i en kontekst, hvori der indgår et spind af magt og mening.

En teknologi (som eksempelvis en kaffemaskine, en fyldepen eller en sprogmodel) er aldrig inden for denne forståelse et tillæg til mennesker. Som Latour (en anden inspirationskilde for Lindgren) har udtrykt det, så er pistolmand mere end pistol + mand. Og når man så tænker pistolmand ind i en kontekst, hvor også andre former for magt og viden eksisterer, bliver det endnu mere komplekst. Men det er netop denne kompleksitet, der er afgørende for at forstå KI i et kritisk teoretisk lys.

Lindgren anvender forskellige betegnelser for KI som en samling. Han trækker blandt andet også på Foucaults begreb om det sociale som et apparat eller dispositif, som angiver, hvordan alle ting og forhold er forbundet gennem viden, magt og organisering. Samlingen eller apparatet er en heterogen totalitet, hvor love, magtforhold, institutioner, bygninger, organiseringer, moral, viden(skab) osv. er forbundet med hinanden. “[We] can conceive of AI and humans as entities that are interconnected in a more broadly encompassing ‘machinery’, that is ‘the social’” (s. 86).

Kunstig intelligens og alle andre teknologier må forstås i relation til den måde, hvorpå de indgår i etablerede økonomiske, politiske og sociale strukturer. Teknologi er derfor ikke noget, der står ved siden af eksempelvis de økonomiske forhold, hvor de så kan inddrages eller ikke. Teknologier har i sig selv en agens (en handlekraft), der virker tilbage på de sammenhænge, de indgår i. Men teknologier determinerer ikke de samfundsmæssige forhold, hvilket er en anden ideologisk forståelse af teknologi, som når der bliver argumenteret for, at man som samfund bliver nødt til at inddrage teknologien, når den nu er her. Teknologi bliver her forstået som en uopsættelig drivkraft for samfundsmæssig forandring. Men den kritiske teori peger hele tiden på, at det kan være anderledes; at der er rum for politisk handling og dermed at ændre de tekno-økonomiske forhold og vilkår.

Når det hævdes, at den teknologiske udvikling har konsekvenser, så er det en specifik ideologisk brug af teknologi, som indgår i et magtspil. Den teknologiske udvikling som henvisning giver magt til nogen på bekostning af andre, hævder Lindgren med hele den kritiske teoris vægt. “[Tech] must be understood in relation to political economy, and that it is not an autonomous force. [...] This means that AI must be seen from the theoretical perspective of the social shaping of technology” (s.9 og 14).

I øjeblikket fejres KI og sprogmodeller som disruptive teknologier, der vil ændre fremtiden for rigtig mange. Dette er sikkert rigtigt. Ikke mindst vil det bidrage til den igangværende klimakatastrofe, fordi energiforbruget ved træning, vedligeholdelse og anvendelse af digitale teknologier i det hele taget udleder ufattelige mængder CO2.

En anden konsekvens er de underbetalte arbejdere i det globale syd, der sidder og giver menneskelig feedback til billedgenkendelsesprogrammer. Og hele platformsøkonomien, som også hænger sammen med udviklingen af KI, betyder et tilbageslag for de rettigheder og vilkår, som arbejderbevægelser verden over har tilkæmpet sig, fordi platformsøkonomi gør arbejdet til løsrevne “opgaver” som private aktører kan udføre: madbude, taxachauffører, programmører osv. KI betyder også prekariat - løsarbejdere og daglejere med minimale rettigheder. Der er tale om “algorithmically driven digital capitalism”, som Lindgren siger (s.23).

Men det er ikke denne form for disruption, der trækkes frem i den ideologiske bestemte opfattelse af teknologi som fremskridt. Her indgår teknologien i en diskurs, der trækker på en oplysningsfilosofisk opfattelse af, hvordan historien gennem menneskers udvikling af nye teknologier og organisationsformer bevæger sig frem- og opad. Men i virkeligheden er teknologier som KI ufatteligt konservative, hvis man kigger på den måde, hvorpå de reelt fungerer, hævder Lindgren. “For all its celebration of disruption and innovation, the tech industry has always tended to serve existing power relations” (s. 65).

Når man kigger på den eller de ideologier, der er programmeret ind i KI, så er de fuldstændig traditionalistiske - eller måske endda værre end det. Lindgren går så langt, at han inddrager Yarden Katz’ Artificial Whiteness, der blandt andet “argues that AI must be understood as a ‘technology of whiteness’, because it mimics and serves a logic of white supremacy” (s. 138).

Pointen er den, at det ikke er nok at forlange etisk KI, da problemet ikke er den måde, vi som mennesker kan forholde os til teknologien. KI er systemisk forbundet til en bestemt socialiseringsform, som bidrager med algoritmisk undertrykkelse.

Interessant nok peger Lindgren på Habermas’ diskursetik som en mulig vej til en anderledes måde at se og forstå teknologi på. Idealet bliver det deliberative demokrati med dens fokus på at centrere udvikling, beslutninger og afgørelser ud fra de mennesker, der bliver berørt af udviklingen, beslutningerne og afgørelserne. Det er en grundlæggende basisdemokratisk forståelsesform omsat til det, Habermas kalder for diskursetik: “Only those norms can claim to be valid that meet (or could meet) with the approval of all affected in their capacity as participants in a practical discourse. [...] Translated into the AI domain, this means that the moral architecture that underlies algorithmic systems must be grounded in the practical participation of those that are affected by the systems” (s.159).

Når jeg kalder denne henvisning til diskursetikken for interessant, skyldes det, at den på en fundamental måde bryder med den analytiske ramme, som Lindgren har sat op ved hjælp af den oprindelige kritiske teori og poststrukturalismen. Det er ikke tilfældigt, at Habermas forholder sig meget kritisk til poststrukturalistisk tænkning, da den bryder med den oplysningsfilosofiske og kantianske optimistiske forestilling om fornuften som den reddende faktor. Habermas holder fast ved Kants forestilling om, at fornuften i sidste instans vil finde frem til sandheden - og hans moralfilosofi pegede ligeledes på moralitetens mulighed. Habermas’ forestilling om den kommunikative handlen trækker på, at den fornuftige samtale leder til det fælles rigtige: almenvellet.

Men de poststrukturalistiske tænkere, Lindgren trækker på, afviser, at der skulle gives en sådan fornuft. Derfor betyder diskurs noget helt andet for dem. Denne modsætning mellem den analytiske ramme og den løsning, Lindgren peger på, kunne godt have været trukket frem af forfatteren selv. Der er en uforløst dobbelthed hos Lindgren, hvilket også ses af hans brug af begrebet ideologi. På den ene side betyder ideologi de værdier, der cirkulerer i sammenhæng med viden og magt (Foucault). Men på den anden side betyder ideologi for Lindgren falsk bevidst, hvilket trækker på en marxistisk forestilling om, at borgerne bliver snydt gennem borgerlig ideologi. Disse to ideologi-begreber står, så vidt jeg kan bedømme, side om side i bogen uden at blive trukket frem som modstridende.

For mig at se, er dette skønhedspletter i en rigtig god bog, der giver et anderledes og kritisk syn på den teknologiske udvikling. Lindgren ser på KI som assemblage (samling) ud fra en række forskellige dimensioner, og vi kommer således godt omkring med et kritisk teoretisk blik på den feterede teknologi.

Der er gode og indsigtsfulde analyser og diskussioner gennem hele bogen. Og Lindgren skriver virkelig godt, så bogen er også let at gå til for den, der er interesseret i et sammenhængende blik på KI - et blik, der ikke begrænser sig til at kigge på teknologien som enten god eller dårlig, men som forsøger at dykke ned i de forskellige sammenhænge, teknologien indgår i - og som er med til at ændre menneskers sociale forhold og det enkelte menneskes forhold til sig selv.