Hvad er det egentlig, der sker, når en chatbot spytter noget tekst ud? Her tænker jeg ikke på, hvordan en stor sprogmodel behandler et input gennem utallige processer med regler, mønstergenkendelse og tilfældigheder for til sidst at komme med et genereret output. Jeg tænker mere på, hvad outputtet gør i og ved verden og os.

Hvordan skal man forholde sig til et output, der ser ud som en ytring eller en række ytringer, som det kan være vanskeligt at skelne fra noget et menneske kunne have ytret? Har det nogen “sandhedsværdi” eller værdi i det hele taget? Hvis det har værdi, hvor kommer den værdi så fra? Er der nogen, der vil stå på mål for outputtet? Er der en autoritet bag eller forfatteren til et givet output? Og hvad kan store sprogmodeller (LLM: Large Language Models) og chatbots fortælle os om de sidste 2500 års filosofi om viden, erkendelse, sprog og verden?

Det er nogle af spørgsmålene, Mark Coeckelbergh og David Gunkel tager op i deres uhyre interessante bog Communicative AI. A Critical Introduction to Large Language Models. Bogen er en undersøgelse af, hvordan filosofi og ikke mindst sprogfilosofi kan “provide us with the critical resources and insights for investigating and making sense of the many challenges presented to us by recent innovations related to LLMs” (s. 3).

Men det er samtidig en videre undersøgelse af, hvad LLMs og relaterede teknologiske innovationer kan bidrage med til filosofien – og igen ikke mindst til sprogfilosofien og epistemologien. LLMs bidrager til at åbne for en større forståelse for, hvad tænkning, sandhed, sprog og erkendelse er for nogle størrelser. Denne undersøgelse betyder et fornyet møde med poststrukturalismens store koryfæer som Jacques Derrida, Michel Foucault og Roland Barthes, der alle bidrog til udviklingen af strukturalismen til det, man har kaldt en poststrukturalistisk tænkning.

  En særlig problemstilling, der især er blevet rejst af Jacques Derrida, løber som en rød tråd gennem bogen. Det handler om en kritisk fremstilling af logocentrismen, der går tilbage til Platon og Aristoteles. Logocentrisme betyder, at der er en særlig figur, der dominerer menneskelig tænkning, hvor én værdi på forhånd (a priori) har fortrin frem for en anden. Det kan være mand vs. kvinde, hvor filosofien, lovgivningen, sprogbrugen også videre historisk set har prioriteret det mandlige frem for det kvindelige. Og det er stadig sådan, at det mandlige er det, der ikke har noget mærke. Derfor kan man tale om en kvindelig statsminister, mens det vil lyde underligt at tale om en mandlig statsminister, medmindre præcist kønnet gøres til det, der er på tale.

Logocentrismens filosofiske udspring finder vi hos Platon og Aristoteles. I dialogen Faidros taler Platon via figuren Sokrates om forholdet mellem det talte og det skrevne sprog. Dialogen viser, at det talte sprog er tættere på sandheden end det skrevne, der betragtes som noget dødt eller promiskuøst overfor det levende og kyske talte sprog. Det talte sprog er en afspejling af tanken, hvilket man også ser hos Aristoteles. “In Politics, Aristotle writes that, while other animals have voice, only humans possess logos, speech, which enables them to communicate and reason about ethics and politics” (s. 2).

Logocentrismen har sin betegnelse for tale (logos), men som nævnt, så gennemsyrer dikotomien mellem ‘det gode’ på den ene side og ‘det dårlige’ på den anden hele den måde, man tænker på i den vestlige kulturhistorie.

Derridas filosofiske projekt bestod i at dekonstruere denne figur, og det er dette projekt forfatterne fortsætter nu her godt 20 år efter, at han døde og næsten 60 efter den skelsættende udgivelse Om grammatologi, som Derrida udgav i 1967. Forfatterne mener, at LLMs og dermed den måde chatbots fungerer på i sig selv kalder på eller fremkalder en dekonstruktion af logocentrismen.

En klar distinktion er den, man kan lave mellem ting og personer. Ikke alene er personer opfattet som mere værdifulde end ting, men denne skelnen kan også pege på det egentligt menneskelige, ligesom den forskel Aristoteles pegede på mellem mennesker og dyr. Men hvad så med LLMs? De kan måske opfattes som “ting”, men de har jo også et “sprog”. Så er LLMs dermed til at underminerer eller som minimum sætte spørgsmålstegn ved en grundlæggende skelnen i den vestlige filosofi.

Så kan man jo sige, at chatbots ikke virkeligt har et sprog, fordi der jo ikke er en tanke bag. Og derfor “ved” den ikke, hvad den “siger”. Det er en stokastisk papegøje, der blot følger nogle regler for mønstergenkendelse i sproglige data. Men dette vil ifølge forfatterne netop være et argument, der holder fast ved logocentrismen. Det vil være en gentagelse af Aristoteles argument for den særstatus, der er ved logos.

Man kunne i stedet kigge på analyser af Michel Foucault og Roland Barthes, der begge har arbejdet med forfatterbegrebet. Foucault har talt om forfatterfunktionen i stedet for en forfatter. Den handler om den instans, der fastholder en tekst. I en traditionel opfattelse kan en tekst ikke stå for sig selv, men kræver en forfatter. Teksten har ikke en egenværdi, og læserens opgave er at finde frem til “meningen med teksten”, som er den intention – den tænkning – en forfatter har lagt ned i teksten. Teksten kommunikerer blot de indre tanker en forfatter har. Men det er netop dette Foucault gør op med og derfor taler han om forfatterfunktionen. Dette videreføres af Barthes, når han taler om “forfatterens død”, hvilket er en pointe, som følger strukturalistisk tankegods, hvor man mere kigger på den struktur, der ligger i en tekst. En tekst er strukturen i de tegn, den består af og den måde, teksten står i forhold til andre tekster. Der er ikke et subjekt bag, som logocentrismen vil hævde.

“What does it matter who is speaking, someone said. What does it matter who is speaking” (s. 120), er bogens sidste ord.

Så hvis det ikke handler om den bagvedliggende intention, når vi taler om tekster, hvorfor skulle det så være tilfældet, når vi taler om generet tekst?

I stedet for at være interesseret i den tanke, der ligger bag en tekst, skal man se på den performance, som teksten udøver. En teksts værdi handler ikke om genialiteten hos en forfatter, men det teksten aktiverer hos læseren, der er den instans, der giver mening til en tekst. “”A text’s unity lies not in its origin but in its destination” (Barthes). Thus the meaning of text – whether it is written by a human author, generated by an LLM, or assembled from the productive interaction and collaboration of both – is situated (or happens) in the interpreting and meaning-making that is produced in and through reading… It is the reader, and not the author, who is the locus of meaning-making in writing” (s. 82f)

Tekstens værdi afgøres af dens originalitet og dens sandhedsværdi; ikke hvem der har skrevet den. Dermed aktiverer forfatteren også en forestilling om sandhed, der afviger fra det, de kalder korrespondensteorien; nemlig at der er en korresponderende forbindelse mellem sproget, og det sproget udsiger noget om. Sprog repræsenterer forhold i verden, og det er den måde, vi kender verden på.

Men hvis man følger strukturalistiske teorier om sprog, så består sprog af forskelle mellem af tegn. Sprog udgør en struktur, og det er strukturen i sproget, der gør, at sproget fungerer. Sprog henviser således til sprog, men ikke i første omgang til verden. Denne tænkning om sproget føres videre i poststrukturalismen, hvor forfatterne primært henter den fra.

I forlængelse af dette, så giver det ikke mening at omtale genererede output som en form for bedrag eller bullshit med Harry Frankfurts udtryk. ´Bullshit´ henviser til, at en forfatter ikke interesserer sig for sandhedsindholdet (eller det modsatte i en ytring). Men forfatteren er udelukkende interesseret i teksten som tekst, og den performance, den udøver.

De sammenligner også LLMs med de sofister, som Platon gjorde op med, blandt andet fordi de ikke interesserede for en universel sandhed (´Ideen´ eller ´Det Gode´ for Platon), men gav udtryk for sandhedens relativitet.

Det er en rigtig spændende diskussion, Coeckelbergh og Gunkel rejser. Men jeg synes også, at deres bog ind imellem bliver noget overfladisk. For det første er det forkert at hævde én lang filosofihistorie fra Platon til det 21. århundrede. Og sjovt nok har de en tendens til at dikotomisere (logocentrere) filosofihistorien i deres skelnen mellem logocentrismen og relationisme (sandhed er relationel). Den ene er det gode, og den anden afledt; sekundær i filosofihistorien.

De bliver endvidere stående ved det performative ved sproget med fokus på det kreative ved teksten. Men når de samtidig hævder, at det er afgørende, hvordan man bruger sproget, så bliver den performative og æstetiske tilgang til sprog noget tvivlsom:  “Whatever the relation between output, LLMs, and what is framed as truth or reality might be, these phenomena and their related truth performances have ethical and political consequences” (s. 101).

Her kunne det være interessant, hvis de havde inddraget en pragmatisk position. De nævner selv den sene Wittgenstein, Dewey og Rorty, men de inddrager ikke deres position, men ser den snarere som udtryk for poststrukturalisme, hvilket forekommer at være helt forkert. I modsætning til poststrukturalismen (som dårligt nok kan være en samlebetegnelse), så hævder en pragmatisk tilgang, at det handler mere om, hvad sproget gør i konkrete kontekster. Toulmins argumentationsteori sammen med etablering af forskellige vidensdomæner, ville have været en forfriskende tilføjelse til deres analyser.

Forfatterne hævder: “Without knowledge, both the citizens and those who represent them cannot engage in successful (self-)rule” (s. 102). Men hvis denne viden skal være andet end performance, må der være nogle regler for, hvordan den etableres. Og det er det, man kan bruge Toulmins teori – eller lignende pragmatiske procedurer for etablering af noget, man kan stå på længe nok til, at man kan bygge videre på det.

I forlængelse heraf kan man sige, at de jo også hos Aristoteles kunne have fundet et begreb som ´fronesis´: praktisk fornuft, som netop hævder, at man må tage bestik af den konkrete situation. Dette begreb kan ses som eller i det mindste aktiveres som en modsætning til logocentrismen.

Deres egne forestillinger om, hvordan man må begrænse tech-industrien og de autoritære bevægelser, som de er en del af, lader heller ikke til at kunne begrundes i deres tekstteori, som netop ikke har et sted at etablere værdier fra ud over det æstetiske, hvilket kan være særdeles vanskeligt at oversætte til en politisk tænkning, som ellers også ligger i tekstens tilgang. (Hvis jeg siger forfatternes tilgang, som jeg tidligere har gjort, er jeg allerede fanget ind af logocentrismen).

Der er mange herlige filosofiske diskussioner, der ligger gemt i denne lille tekst. Det er en stor fornøjelse at blive inviteret ind i en tekst, der både vidende og forstandigt er i stand til at kaste nye perspektiver på, hvad generativ kunstig intelligens betyder for vores tænkning, erkendelse og opfattelse af sprog.

Jeg kan kun anbefale bogen. Jeg synes, de har fat i noget virkelig centralt i vores tænkning, selvom jeg ikke er enig i alle deres pointer. Men en pointe vil jeg tilslutte mig, nemlig: “LLMs may well not think for themselves, but they are certainly things to think with” (s. 73). Og jeg får lyst til at sige: Denne bog tænker nok ikke af sig selv, men den er bestemt en bog til at tænke med.