Hvem er det, der har ringet og bestilt teknologien generativ kunstig intelligens (GenAI)? Er fremkomsten af GenAI et udtryk for, at der har været en efterspørgsel efter den type af teknologi? Næppe.

Og giver det overhovedet mening at tale om kunstig intelligens?

Hvad er det for en intelligens, der henvises til og som man åbenbart kan fremstille som kunstig.

Hvis man følger argumentationen i Emily M. Bender og Alex Hannas bog The AI Con, så er der langt fra tale om intelligens. De omtaler GenAI som “text extruding machines” - altså en maskine, der bare presser tekst ud. Det gør den baseret på en række komplicerede processer, hvor en masse tekst er blevet behandlet og gjort til matematiske forhold mellem forskellige ord. Det er en proces, hvori ordenes betydning og mening fjernes og erstattes af sandsynlighedsberegning tilsat en del tilfældighed. Dette er også baggrunden for at tale om “stokastiske papegøjer”, som siger, at der ikke findes intentioner og menneskelige erfaringer bag et udtryk, der genereres. På forunderlig vis er resultatet af processen dog en tekstlig sammenhæng, der kan give mening for den, der læser det. Meningen er ganske vist noget, som læseren tillægger outputtet og ikke noget, der kommer fra maskinen.

Men det er ikke sådan, tek-industrien, journalister og andre i hurra-koret (boosters) - eller kritikere (doomers) for den sags skyld – beskriver disse “text extruding machines”. De beskriver dem tværtimod som kunstige intelligenser, hvorved de gør teknologien til noget, der kan sammenlignes med menneskelig intelligens. Cirkulationen af fantasier og narrativer om kunstig intelligens er et problem, hævder forfatterne, fordi det for brugerne skjuler den måde, teknologien i virkeligheden fungerer på. Fortællingen om kunstig intelligens er et fupnummer skabt for at sælge en masse produkter. Formålet er udelukkende at gøre nogle rige mennesker endnu rigere og samle og centralisere den magt, der følger med rigdommen, uden tanke for alle de skader, de samtidig forvolder.

“Artificial intelligence, if we’re being frank, is a con: a bill of goods you are being sold to line someone’s pockets. … To put it bluntly, “AI” is a marketing term. It doesn’t refer to a coherent set of technologies” (s. 4f). Derfor er det bedre at tale om “automation” og at se præcist på, hvad der bliver automatiseret. Hvilke processer automatiseres og med hvilket resultat?

Det er en meget mere nøgtern måde at tale om teknologien på, hvor det ikke bliver en del af en hype, der er skabt i et billede fra utopisk science fiction. I betegnelsen “extruding machines” ligger der en automatisering af skrivning med den effekt, at den afkobles fra menneskelige erfaringer og derfor heller ikke lever op til den almindelige forventning af et skriftligt udtryk.

Ligesom man ikke kan tale om intelligens i den kunstige intelligens er det også et spørgsmål, om man kan tale om sprog i de store sprogmodeller, som GenAI bygger på? For hvad er sprog egentlig for en størrelse? “When we encounter speech or text or sign in a language we know, we interpret it reflexively and immediately. We can’t help ourselves! Partly because it is so immediate, it is easy to believe that the form of language that we perceive … directly carries the meaning we have interpreted” (s.29). Vi opfatter mening som noget, der ligger i ordene selv, fordi vi er så vant til at omgås sprog, at processen med forståelse er mere eller mindre automatiseret.

Men sproglige tegn bærer ikke sin egen betydning, hvilket sprogteorien i løbet af det meste af det 20. århundrede har vist på mange forskellige måder. Men det er stadig sådan mange vi mennesker opfatter sprog i den daglige omgang med det. Bender og Hanna går til sprogforståelsen ud fra en lingvistisk og psykologisk forskningstradition. Her kan man se, at de ord og sætninger, som vi hører, bliver brugt som tegn, vi anvender for at finde ud af, hvad den anden forsøger at få os til at forstå.

Dette ser man også i sprogindlæringen, hvor barnet lærer sprog gennem interaktion med en sprogbruger. Det at lære et første sprog kræver en “joint attention with a caregiver, in which the child and the caregiver are both paying attention to the same thing and mutually aware of this fact. Joint attention supports “intersubjectivity”, or the experience of being engaged with someone else’s mind” (s. 30). Dette er en psykologisk måde at sige, at sproget er indfældet i en livsverden (Wittgenstein), hvor ord og sætninger giver mening, fordi flere mennesker deler en verden med hinanden. Det er kun herved, at ytringer får mening. Sprog er derfor altid noget relationelt og noget kontekstuelt.

Så når vi ser sammenhængende tekst, der er blevet genereret, så er det meget svært ikke at tillægge dette sprog en mening og forstå det som et udtryk for en bevidsthed. Men dette er ren projektion. Betydningen og meningen er noget, som kommer fra læseren. Det er læseren, der tillægger et givet output mening.

Automatiseringen af tekstproduktion kan have en række negative konsekvenser, og bogen er fyldt med eksempler på disse. Det er blandt andet et problem, hvis man anser tekstgenererede output som et udtryk for viden. Der findes ingen viden i GenAI.

Der ligger også et problem i at automatisere det, man gerne vil skrive. Når man skriver noget, så er det en bearbejdningsproces. Det er ikke sådan, at man først ved noget, som man derefter kan sige eller skrive. Ens viden og ens fremstilling af denne viden er noget, der foregår som en dialogisk proces, selvom man godt kan have en opfattelse af, at det sagte blot er en eksternalisering af det tænkte. Det, man siger, og den betydning, det kan tillægges, afhænger også af den sammenhæng, man siger eller skriver det i. Der er således en masse elementer, der indgår i en skriveproces.

Og set i en læringssammenhæng er skrivning og andre eksternaliseringer en del af processen - ikke dens resultat, hvilket man sommetider kan få opfattelsen af inden for uddannelsesverdenen. Vi, siger forfatterne, “would argue that the act of writing itself is co-constituent with thinking critically and creatively. … Pedagogically, writing something in our own hand or in our own words encourages understanding, rather than rote memorization. Writing is intertwined with the act of thinking, not separate from it” (s. 50). At automatisere (sin) skrivning vil dermed være med til at erodere tænkeevnen og den kritiske sans.

Men ikke kun jobs, hvori der indgår skrivning og skriftlighed, bliver påvirket af GenAI. I mange forskellige sammenhænge indgår GenAI i en sammenhæng, hvor effektivisering bliver nævnt. En nylig rapport fra regeringens ekspertgruppe peger blandt andet på, at 30.000 ansatte i den offentlige sektor kan frigøres af kunstig intelligens. I argumentationen for GenAI bliver der ofte peget på, at frigørelsen af tid i arbejdet vil betyde, at der kan bruges mere tid på det, der er vigtigt. Hvis lærere skal bruge mindre tid på at vurdere opgaver, lave materialer og lignende, får de mere tid til eleverne. Hvis socialrådgiveren kan automatisere mange journaliserings- og behandlingssager, så er der mere tid til det borgernære arbejde.

Men det er ikke sådan, det typisk fungerer. Det er tvivlsomt, om der spares arbejdskraft. Meget af træningen af de kunstige intelligenser beror på såkaldt ghost work; arbejde der ikke foregår i vestlige lande. Her er arbejdskraftbesparelse snarere en forskydning af arbejdsprocesser fra en dyre til en billigere og mindre kvalificeret arbejdskraft. Desuden betyder automatiseringer, at der bliver mange flere opgaver med at overvåge - babysitte kalder forfatterne det - de automatiserede output og sikre, at der ikke sker fejl. Det betyder, at en del af socialrådgiverens arbejde dekvalificeres, og så kan de måske overtages af andre. “In the vast majority of cases, AI is not going to replace your job. But it will make your job a lot shittier” (s.  42), fordi ansatte i mange tilfælde enten skal være "babysitters" eller også skal bistår text extruding machines med at producere tekster på samlebånd i en lind strøm, hvor der ikke er mulighed for at gå i dybden.

Bender og Hanna beskæftiger sig meget med den hype, der omgærder GenAI. En del af denne hype kommer fra tek-industrien, som har massive økonomiske interesser i, at offentligheden køber fortællingen om, hvordan GenAI er en del af et uundgåeligt fremskridt, der vil bringe lykke og rigdom til alle - samtidig med, at det vil fjerne en masse af det besvær, der hænger sammen med at arbejde og i det hele taget det at være menneske. Sammen med andre AI boosters som investeringsselskaberne holder de gang i fortællingen om det Utopia, GenAI vil bringe verden. Og her får de langt hen ad vejen støtte fra en alt for svag presse, der ukritisk gengiver fortællingerne om den lykkebringende teknologi.

Men hypen opretholdes også af de såkaldte ´doomers´, der hævder, at teknologien truer menneskers og klodens eksistens. Doomerne fremhæver, at teknologien risikerer at blive mere og mere selvstændig og til sidst overtage styringen med verden. Et kendt eksempel på en doomer-narrativ er Nick Brostrøms metaforiske fortælling om papirklips. Hvis en kunstig intelligens får at vide, at den skal optimere produktionen af papirklips, så vil den fjerne alle de forhindringer, der kan være for produktion af papirklips. Alle ressourcer vil blive omdirigeret til fremstillingen, som også vil kunne varetages af robotter, og mennesker bliver en unødig omkostning, som derfor kan elimineres.

Der findes mange andre tilsvarende fortællinger, som viser, hvad der kan ske, hvis kunstig intelligens får selvstændig agens, så den kan overtage styringen af samfundskritisk infrastruktur. En superintelligens vil ikke kunne se nogen nytte af mennesker, som derfor vil blive neutraliseret. En anden udgave handler om, at menneskelig intelligens smelter sammen med den kunstige i en singularitet, hvor det kun er den menneskelige krop, der er overflødig. Uanset hvad, så er disse fremstillinger bagsiden af boosternes fremstilling af en fremtid, hvor kunstig intelligens er menneskers tjenere, der serverer kolde drinks og opfylder alle andre menneskelige behov, uden at man behøver at røre en finger.

Men disse to narrativer er egentlig et udtryk for den samme forestilling om, hvad kunstig intelligens er. De bidrager begge til hypen og til at oversælge teknologien og bidrage til, at de superrige bliver endnu rigere, mens almindelige menneskers liv gøres fattigere og dårligere. “These groups are, counterintuitively, two sides of the same coin: the substance of the coin is the belief that the development of AI is inevitable and that that resulting technology will be both autonomous and powerful, and ultimately beneficial, if we play our cards right… Doomerism/Boosterism serves to obscure, rather than illuminate, what’s at stake when it comes to the current AI boom” (s. 138f).

Men der er også håb, som kan aktiveres imod hypen. Håbet består dels i de aktivister, der kæmper mod tek-industriens forsøg på at eje historien om, hvad generativ kunstig intelligens er. Men der er også håb i de traditionelle medier og ikke mindst “librarians, libraries, and library science. … This means that supporting libraries is an important means of individual and collective resistance” (s. 173). At sikre public service og gode nyhedsmedier kan være et bolværk mod hypen. Disse vil styrke videnskredsløb og information, der er filtreret gennem menneskelige intelligenser, så der kan gives grunde til, hvorfor netop disse informationer er valgt.

Dette håb forekommer ikke helt at stå mål med de udfordringer, som udgøres af den centraliserede økonomiske og politiske magt, der støtter hypen om GenAI. Det bliver som også hos andre kritiske forfattere, vi tidligere har anmeldt (f.eks. Sætra, Coeckelbergh og Narayanan & Kapoor, et spagt håb, der også primært peger tilbage på, hvad der kunne være godt ved de institutioner, der tidligere er blevet bygget op med udvikling af demokrati og velfærdskapitalisme. Institutioner som mere og mere undermineres af den udvikling, som de skulle være bolværk imod.

Men det er stadig en rigtig god og vigtig bog, Bender og Hanna har skrevet. Den er letlæst og bærer præg af, at den bygger på deres fælles podcast. Stilistisk læner bogen sig op af en mundtlighed. Det vælter frem med eksempler på forfærdeligheder, og det ville måske have klædt bogen med noget mere nuancerigdom. De peger selv på, at de er ludditter (maskinstormere) i den forstand, at de ikke er imod teknologien, men snarere den måde, den bliver anvendt på og indgår i et undertrykkende kapitalistisk system. Men fremstillingen er mere vrængende og sarkastisk end åben og diskuterende. Og det er også noget af bogens styrke.

Og så har jeg helt glemt at tale om den fantastiske forside, som vækker mindelser og Barbara Krugers kapitalismekritiske billeder – I shop therefore I am!