Når vi taler sammen, så skaber vi også en verden sammen. Samtalen er grundlæggende en måde at komme overens med hinanden om, hvordan vores mere eller mindre fælles verden er på. “Mere eller mindre”, fordi samtalen også opdeler verden i dig og mig, os og dem, her og der og så videre. Samtale samler verden, og samtale opdeler verden. Samtale giver os en forståelse af os selv, de andre og af verden som fælles eller som opdelt.

Hvorfor nu denne opstyltede indledning? Jo, den skyldes, at den omtalte samtale er blevet forstyrret af, at en samtale tilsyneladende ikke længere nødvendigvis er mellem mennesker, med de særlige kendetegn og særheder, som er en del af det at være (forskellige) mennesker. Nu blander maskinernes tale sig i koret, eller mennesker taler gennem maskiner eller omvendt: mennesker bliver bugtalt af maskiner.

Det er (vist nok) blevet meget almindeligt, at mails, pressemeddelelser og rapporter bliver skrevet i samarbejde med en chatbot. Der bliver genereret forslag, og ordlyden bliver forfinet gennem input og output mellem mennesker og chatbotter. Det er måske effektivt, men det forandrer også noget ved selve arbejdet med at kommunikere med omverdenen. Hvem er det, der taler, når en chatbot foreslår ordene? Hvem tænker, når svaret bliver beregnet gennem avancerede algoritmer og sandsynlighedsberegninger? Kort sagt: hvad gør generativ kunstig intelligens egentlig ved kommunikation og vidensarbejde?

Dette spørgsmål forsøger bogen Anvendt AI i kommunikation og vidensarbejde, der er skrevet af Hans-Christian Christiansen med bistand fra Gitte Rose, at besvare. Og det gør den langt hen ad vejen godt.

Bogen består af en rigtig god indledning og 6 selvstændige kapitler, der, efter denne anmelders opfattelse, varierer i kvalitet.

I indledningen fastslås den vigtige, men desværre alt for ofte negligerede pointe, at det ikke giver så meget mening at tale om “kunstig intelligens” som om, det er én ting. Når man mange steder læser om kunstig intelligens, kan man ofte få den opfattelse, at der findes én kunstig intelligens, men det er langt fra tilfældet. Der er store forskelle mellem så kunstige intelligenser som styring af selvkørende biler, medicinsk billeddiagnostik og chatbots, der kan generere billeder ud fra tekst. “AI er således ikke én enkelt teknologi, men en samling af metoder og systemer, der spænder fra simple algoritmer til avancerede neurale netværk, og der findes ikke én universel definition af AI, som alle opererer ud fra” (s. 9).

Kunstig intelligens består af forskellige elementer, der kan kombineres på forskellig vis. I bogen er fokus på naturlig sprogbehandling – eller ´natural language processing´ – maskinlæring, dybdelæring, store sprogmodeller og generativ kunstig intelligens. I indledningen beskrives disse processer på en måde, som vil kunne forstås af de fleste.

I bogens egen fremstilling bliver der dog sjældent skelnet mellem de forskellige aspekter af kunstig intelligens. Ofte bruges AI som betegnelse for generativ kunstig intelligens (GenAI), men heller ikke dette sker helt konsekvent. Bogen bidrager dermed selv til en forestilling om AI som én ting.

Bogens første kapitel handler om AI i et kommunikationsteoretisk perspektiv. Her er pointen, at teknologier ikke kan forstås som neutrale redskaber. Bogen præsenterer et socioteknologisk blik på kunstig intelligens, hvor teknologi tillægges en agens eller et værdimæssigt bidrag. Kunstig intelligens forstås i forlængelse heraf som noget, der “ikke blot fungerer som et passivt værktøj, men som en informationsagent, der ændrer sin tilstand i takt med den information, den modtager og behandler” (s. 30).

I dette kapitel kommer forfatterne også ind på forskellen mellem menneskelig intelligens og så den intelligens, der angiveligt er på spil som maskinens kunstige intelligens. Set i det perspektiv, er det i høj grad tvivlsomt, at man kan tale om kunstig intelligens. Den menneskelige intelligens er bundet op på kropslige og livshistoriske erfaringer, sansninger, følelser og meget andet. Alt sammen noget, som er fraværende i en maskine, der er designet til at spytte ord ud baseret på sandsynlighedsberegninger. Mennesker er placeret i en livsverden, hvilket er afgørende for det, vi kalder intelligens.

Forestillingen om intelligens i kunstig intelligens stammer fra Allan Turing. Han mente ikke, man meningsfuldt kunne definere intelligens. I stedet foreslog han en test, hvor mennesker og maskiner skulle svare på spørgsmål. Hvis man ikke ud fra svarene kunne sige, om det var et menneske eller en computer, der havde svaret, så måtte man anse computeren for intelligent. Så hvis man tænker på om en chatbot er intelligent eller ej, så kan man bede den om at danse og svare på, hvad dens morgenmad smagte godt.

En anden afgørende forskel mellem menneskelig og maskinel intelligens er sidstnævntes fravær af forestilling om sig selv; selvbevidsthed. Man kan diskutere, hvad selvbevidsthed betyder, og hvor det i givet fald skulle stamme fra, hvis det ikke er en ren fysisk-kemisk proces. Men det er afgørende, om en ‘bevidsthed’ har evnen til at sige ‘jeg’ og have en forestilling om, hvad dette ‘jeg’ henviser til, eller den ikke har. Og her er der ingen grund til at tro, at maskinen har en bevidsthed om sin egen bevidsthed; sin egen eksistens. I bogen henvises til Trond Kjærstad, som har sagt, at maskinen er designet til funktion; ikke til eksistens.

I det efterfølgende kapitel bliver der kigget nærmere forholdet mellem chatbots og kommunikation på et konkret niveau. Der trækkes rigtig fint løbende på eksempler fra kommunikation i praksis. I dette kapitel fremhæves et eksempel med en chatbot, der er udviklet til Rigshospitalet, som skal besvare spørgsmål fra patienter med skjoldbruskkirtelkræft. Botten er lavet med et chatbot-interface, og den bygger på et RAG-system (“Retrieval augmented generation”: en vidensbank, der skal forbedre de output, man får genereret fra en chatbot, så den ikke kun trækker på en stor sprogmodel). Botten er også knyttet op på overvågning fra sundhedspersonale, så man kan give svar på det, chatbotten ikke kan svare på. Det gælder eksempelvis, hvis patienten gerne vil have botten til at stille en diagnose.

Desværre er kapitlet noget upræcist. Det gælder blandt andet beskrivelsen af, hvordan et RAG-system fungerer. “RAG-metoden sikrer, at chatbotten først søger efter relevante oplysninger i hospitalets databaser eller autoriserede sundhedsinformationskilder, før den anvender en sprogmodel til at formulere et svar. [...] AI har sikret, at chatbotten trække på opdaterede og nøjagtige kilder, så patienterne modtager korrekte oplysninger” (s.67 og 69).

Men det er (som jeg forstår det) ikke sådan RAGs fungerer. En RAG behandler sprog på samme måde som en stor sprogmodel, hvilket betyder, at det semantiske element fjernes og erstattes af relationer mellem fragmenter af ord (word embedding). Disse blandes med den konkrete prompt (forespørgsel), der så sætter genereringen af et output i gang. Man kan således ikke sikre noget med en RAG. Og en RAG henter ikke informationer ud af en vidensbank med vektoriserede forbindelser mellem såkaldte tokens. Grunden til, at man får en forbedret generering af output (augmented retrieval) er, at de tekster, man har givet chatbotten, er med til at påvirke genereringen af svaret.

Kapitlet er også upræcist i præsentationen af Habermas’ kommunikative rationalitet, der bruges som en basis for at beskrive det kommunikationsteoretiske fundament. Habermas opererer med fire gyldighedskriterier for kommunikation: forståelighed, sandhed, rigtighed og oprigtighed. Habermas pointe med disse er, at de alle er sprogligt funderede. Men i bogen fremstilles gyldighedskriteriet ‘sandhed’ som udsagn, der “skal korrespondere med virkeligheden” (s. 64), hvilket er meget langt fra Habermas’ forståelse. Hos Habermas betyder gyldighedskriteriet ‘sandhed’, at et udsagn gør fordring på, at der kan argumenteres for udsagnet inden det eller de videnskabelige paradigmer, udsagnet forbinder sig til. Bag ethvert udsagn ligger Toulmins pragmatiske argumentationsmodel.

Efterfølgende får vi præsenteret en diskussion af, hvordan sprogmodeller lever eller ikke lever op til Habermas’ gyldighedskriterier: “Store sprogmodeller som ChatGPT kan simulere menneskelig kommunikation, men de kan ikke fuldt ud opfylde Habermas’ gyldighedskrav – særligt ikke kravene om oprigtighed og normativ korrekthed” (s. 65). Men dette udsagn giver ingen mening. Gyldighedskravene hos Habermas er bundet op en intention hos den, der ytrer noget. Så at stille spørgsmål om, hvorvidt en chatbot kan eller ikke kan leve op til gyldighedskriterierne er helt meningsløst. Dette vises også tydeligt i første del af bogen, så det virker underligt, at vi får denne diskussion.

Men ellers er der mange gode eksempler i kapitlet om, hvordan man kan bruge og nogle har brugt chatbots i deres eget kommunikationsarbejde.

Det tredje kapitel viser, hvordan man som kommunikatør kan anvende GenAI som en partner på tre niveauer. Man kan bruge chatbot til at automatisere trivielle opgaver. Man kan også anvende chatbots som assistent eller intelligent hjælper og endelig kan man samarbejde med chatbot for at forstærke den kreative proces.

I kapitel 4 knyttes GenAI til kommunikatørernes kreative proces. Her bliver der trukket på Kirby Fergusons tænkning om kreativitet som remix. Ferguson hævder, at kreativitet bygger på kopiering, ændring og kombination. Man tager noget velkendt, man ændrer det lidt og kombinerer det med noget andet. Det er kreativitetens formel ifølge Fergusons, hvilket han har lavet en fantastisk tv-serie om.

Men det betyder også, at man kan anvende GenAI i kreative processer, som i Fergusons forståelse netop ikke kræver guddommelig inspiration, men snarere hårdt arbejde. Da der samtidig indgår en klar professionel og kontekstuel bestemt dømmekraft i den kreative kommunikationsproces, så er det en opgave, der ikke kan overlades til GenAI. Her er ´Human in the Loop´ vigtig – det kreative arbejde skal sanktioneres og tilpasses ud fra en menneskelig vurdering; dømmekraft. Men i samarbejdet mellem menneske og maskine kan den menneskelige kreativitet styrkes, er påstanden i kapitlet. Her diskuteres også ophavsret. For hvem ejer et genereret billede, hvis det bygger på data om allerede eksisterende billeder? Denne diskussion er vigtig, men hvorfor stiller forfatteren ikke spørgsmålet om, hvem der har ophavsret til selve den funktion, der gør GenAI i stand til at generere billeder i det hele taget – uanset om et billede ligner en reproduktion af et kendt værk? Det er jo kun ved at have forbrudt sig mod andre menneskers ophavsret, at man kan få GenAI til at generere billeder.

Kapitlet om at bruge GenAI som sparringspartner i indholdsproduktion er bogens længste, og her præsenteres mange gode eksempler på, hvordan man som kommunikatør kan bruge teknologien. Det kan man derimod ikke sige om kapitlet, der er dedikeret til “AI i vidensarbejde”, der primært er en fremstilling af, hvordan man kan anvende GenAI i en personlig branding af, hvad man ved. Her nævnes blandt andet, hvordan man kan bruge Perplexity til at finde gode videnskilder, som man kan behandle i NotebookLM. Man kan hurtigt få det til at se ud som om, man ved en masse. Og her glemmer forfatteren så helt, at der er noget, der hedder ophavsret, og at det ikke er tilladt at dele ophavsbeskyttet materiale med en chatbot som NotebookLM.

I samme kapitel får læseren at vide, at chatbots kan ”hallucinere”, som beskriver ”situationer, hvor kunstig intelligens – især sprogmodeller – genererer oplysninger baseret på statistiske mønstre og sandsynligheder i stedet for på verificerbare kilder” (s. 202). Men hvornår er det, at chatbots fungerer på andre måder, end ved at genererer outputs ”baseret på statistiske mønstre og sandsynligheder”? Det er jo den måde, chatbots fungerer på, som forfatteren jo også har vist tidligere i bogen.

Ligeledes er bogens kapitel om “Etik og AI” noget tyndt. Men det skal nu ikke dække for, at der er mange gode eksempler på konstruktivt samarbejde mellem mennesker og chatbots i kommunikative processer. Det gode er netop bogens meget konkrete og anvendelsesorienterede sigte. Så må man tage med, at der sine steder mangler præcision og konsistens.