De fleste har nok bemærket, at kunstig intelligens og ikke mindst sprogmodellen ChatGPT er over os. Det flyder over med lovprisninger og overdreven optimisme på vegne af denne teknologi. Men der er også mange, der udtrykker skepsis og direkte advarer mod, hvad kunstig intelligens kan gøre ved samfundet, demokratiet og den enkeltes liv. Vil maskinerne betyde massearbejdsløshed, og vil vi blive overskyllet med falske nyheder, deep fakes og forvrængede afbildninger af verden - eller vil vi omvendt se, at mennesker vil blomstre, når mange af de rutineprægede opgaver løses af maskiner, der angiveligt tænker og opfører sig intelligent?

Der er nok mange, der, ligesom jeg selv, har prøvet at anvende den gratis udgave af OpenAIs ChatGPT og stillet den nogle forholdsvis enkle spørgsmål. De fleste har givetvis også opdaget, at svarene er upræcise og i mange tilfælde helt uden forbindelse med virkeligheden. Jeg selv tjekkede et forholdsvis stort forfatterskab, men ChatGPT 3.5 var end ikke i stand til at nævne de vigtigste bøger uden at lave massevis af fejl. Man kan godt efter sådanne forsøg afvise, at der er noget som helst intelligent ved den kunstige og sludrende tekstgenerator, man møder med ChatGPT.

Men det vil være en stor fejl ifølge den norske journalist og teknologiekspert Per Kristian Bjørkeng, der har skrevet bogen Knekk ChatGPTkoden. Lær å tenke nytt og ta i bruk tidenes kraftigste dataverktøy. Bjørkeng har tidligere skrevet bogen Kunstig intelligens - den usynlige revolusjonen, der udkom i 2018, så det er et felt, han har beskæftiget sig gennem længere tid. Dette fremgår også med al ønskelig tydelighed, når man læser bogen om at knække koden til ChatGPT. Man møder en meget indsigtsfuld forfatter, der har masser af konkret erfaring at dele med læseren.

Bogen er henvendt til den, der gerne vil anvende kunstig intelligente sprogmodeller i sit arbejde (eller privat) - altså de fleste, der arbejder med vidensarbejde eller med at løse komplekse problemstillinger på daglig basis. For at komme i gang med at få noget brugbart ud af en kunstig intelligens som ChatGPT er det afgørende, at man lærer, hvad teknologien er, og hvad den ikke er. Den er ikke et orakel, der ved alt om alt. Tværtimod er sprogmodeller kendetegnet ved, at de ikke ved noget om noget - overhovedet.

Sprogmodeller er fordret med og trænet i at se og genkende mønstre i kæmpestore tekstmængder. Ikke på den måde, at de lagrer informationer om dette og hint. De anvender faktisk ikke informationerne i de indlæste tekster, men prøver i stedet at etablere mønstre mellem ordene eller blot dele af ordene i teksterne. De “svar” man får fra sprogmodellen bygger på, at den først reagerer på det, den bliver bedt om (prompt), og derefter sætter den ord sammen ud fra, hvad det mest sandsynlige næste ord er ud fra tusinder eller millioner af forskellige parametre. Det er noget, som kan være vanskeligt at forstå - og endnu mere vanskeligt at forstå, at denne teknologi derved kan generere tekst, som kan være brugbar for os mennesker i de opgaver, som vi varetager dagligt. Men det kan de, viser forfatteren meget overbevisende i bogen.

Bogen består af 21 korte kapitler, der alle er viet til et begrænset problemområde. Både i opbygningen og stilen mærker man tydeligt, at Bjørkeng er journalist. Som kapitlerne er sætningerne ofte korte, og teksten er hele vejen igennem meget transparent og langt hen ad vejen befriet for tekniske forklaringer, selvom disse ikke helt kan undgås. Bjørkeng beskriver enkelt og skridt for skridt, hvordan han selv har arbejdet med og anvendt ChatGPT og en række andre værktøjer, der kan være med til at forbedre brugen af ChatGPT.

Bogen er først og fremmest en guidebog, der hjælper brugeren til at blive bedre til at bruge kunstig intelligens i sit eget arbejde og liv. Forfatteren beskriver selv bogen som en “slags håndbok, nærmest. Likevel inneholder den i liten grad steg-for-steg-oppskrifter som forteller deg at du skal klikke her eller der. I stedet er målet mitt å gi deg en ny måte å tenke på” (s. 11). På trods af, at Bjørkeng ikke anvender manualens “skridt for skridt”, så er den faktisk fyldt med gode tips til, hvordan man gør i forskellige sammenhænge.

Eksempelvis beskriver han, hvordan han konkret har brugt GPT til at skrive en klage til en amerikansk teknologivirksomhed, hvor han har følt sig vildledt til at købe et produkt. Her tildelte han GPT rollen som advokat med ekspertise i amerikansk lov, og han bad om at få et bud på, hvordan han i juridisk sprog kunne formulere sin klage. Svaret var så overbevisende, at han sendte det uredigeret til virksomheden - og han fik sine penge tilbage: plus et bedre tilbud, hvis han ville købe deres produkt alligevel!

Normalt skal man dog ikke sende noget videre uden at tjekke fakta, når man anvender de svar GPT giver, da den som sagt ikke ved noget; ikke behandler ord som noget, der refererer til den verden, vi almindelige mennesker bebor. I eksemplet kunne Bjørkeng således ikke vide, om henvisningerne til konkrete paragraffer i den amerikanske købelov var korrekte. Det burde han klart nok have tjekket, inden han sendte sin klage. Men han er som de fleste andre mennesker også ind imellem doven, og her satsede han på, at det nok alligevel ville gå.

Den bedste brug af GPT får man ikke ved at anvende den som et opslagsværk eller på samme måde, som man laver netsøgninger. Det skyldes igen det forhold, at man ikke får adgang til leksikalsk viden - eller andre menneskers forsøg på at beskrive konkrete fænomener i verden. Derfor må man anvende GPT på en anden måde. Et vigtigt skridt er at etablere en ramme for de svar, man får genereret. Det kan man gøre ved for først og fremmest at skrive langt frem for at skrive kort. Den lange tekst (prompt), man skal fordre GPT’en med, skal angive de kontekstuelle forhold, der gælder for netop det, du vil bruge chatbotten til.

Det er også en god ide at spørge ind til svarene eller evt. at vende det helt om og spørge til, hvad man skal have med i et spørgsmål for at få et godt svar. “Legg ut stadig flere av brikkene for maskinen, fortell hva du liker og ikke liker. Er du ikke fornøyd, prøver du bare en gang til. Bare å trykke på knappen «regenerate» er ofte ikke nok, selv om teksten blir litt forskjellig hver gang. Om vi omformulerer instruksen og slik styrer modellen i nye retninger, blir effekten større” (s.114). Og så skal man skælde den ud, hvis den ikke kommer med brugbare svar. Den skal udfordres. Derfor har man ofte bruge for at instruere den flere gange og tilpasse sine instruktioner ud fra de svar, man får.

Man skal altså prøve at bruge den kunstige intelligens som en samtalepartner, man ikke kan fæste lid til, men som kan fordre en med en masse tekst, der kan anvendes kreativt af brugeren selv. “De beste instruksene skapes av dine personlige behov. Det er denne teknologiens evne til å tilpasse seg deg som ligger bak dens enestående suksess. I stedet for å tenke på hvilke teknikker du skal bruke, er det mye nyttigere å tenke: Hva trenger jeg nå?” (s. 146).

Bjørkeng viser, hvordan han bruger GPT, når han har brug for inspiration, eller hvis han bøvler med en konkret udfordring. Eksempelvis vil han forklare, hvordan sprogmodeller udvælger de ord, den sætter sammen. Han prøver selv at forklare, hvordan forskellige ord og betydninger kan knyttes sammen ud fra forskellige parametre. Men han formår ikke at forklare det på en tilstrækkelig præcis og enkel måde. Når han instruerer den kunstige intelligens, kan han få den til at levere en tilstrækkelig god forklaring. I bogen viser han, hvordan han i andet forsøg får en forklaring, der fungerer.

Som sagt kommer bogen godt omkring mange forskellige elementer ved brugen af sprogmodeller. Og den kommer også ind på en række af de forskellige problemer, der kan være i anvendelsen, selvom det ikke er bogens primære sigte. Her lægger bogen mere op til at pege på, hvordan brugeren selv har et ansvar i sin brug - og på hvad det er, brugeren skal tænke på, når hun eller han anvender den.

Et særligt forhold gælder dog den meget omtalte bias, der kan ligge i sprogmodellerne, der jo blandt andet er blevet træner på sociale mediers kommentarspor og meget andet tekst skrevet af mennesker, hvor holdninger ofte har spillet en større rolle end faktuel viden. Der har været mange eksempler fremme, hvor det viser sig, at sprogmodeller hurtigt kan få politisk slagside, så de genererede tekster udtrykker både misogyne og racistiske holdninger. Her trækker Bjørkeng forskellige forskningsresultater frem, som viser noget meget interessant.

Sprogmodellerne har efter deres grundlæggende træning en klar højreorienteret tendens. Men en sprogmodel som ChatGPT lægges ikke bare ud til almindelig brug, uden at den er gennemset af mennesker - der ganske vist ikke kan gennemskue, hvordan svarene genereres. Den skal gennem en sekundær træning; en såkaldt Reinforcement Learning with Human Feedback (RLHF). Her sidder mennesker og giver feedback på de svar, sprogmodellen leverer, hvorved modellen gennem maskinlæringen også inddrager disse; den opdrages så at sige til at have gode manerer. Derfor bliver svarene både høflige og har en tendens til at være såkaldt politiske korrekte - en politisk tendens, der nærmere kan kaldes liberal eller endda venstresnoet. Forsøg i Tyskland og Holland har vist, at sprogmodeller ville stemme på Die Grünen.

Og som nævnt har det også stor betydning, hvordan brugerne konkret prompter eller instruerer sprogmodellerne. “Et aspekt som lett blir glemt, er at holdningene til en språkmodell også kan påvirkes av brukeren” (s.142).

Jeg synes, Knekk ChatGPTkoden er en rigtig god instruktionsbog, der vil kunne finde anvendelse for dem, der gerne vil anvende den kunstige intelligens både professionelt og privat. Men man kommer ikke udenom, at man selv skal arbejde med, hvordan man kan bruge den. Bjørkeng tror ikke på generelle råd til, hvordan man laver god instruktionsdesing (prompt engineering), men snarere på, at man må tage udgangspunkt i sig selv og i egne behov; det er en ny måde at tænke på, som han siger. Og så skal man prøve både at udfordre den kunstige intelligens og lade sig udfordre af den. Man skal således ikke bare forsøge at få svar på simple spørgsmål, fordi det simpelthen ikke er dens force. Dens force er, at den kan indgå som en upålidelig sparrings- eller dialogpartner, hvor man også kan få den kunstige intelligens til at udfordre sig selv. Hvis man bare prøver at tænke på en særlig måde, hvilket er det, bogen demonstrerer på eksemplarisk vis.

“Dette er kanskje den viktigste lærdommen jeg sitter igjen med etter å ha skrevet denne boken og jobbet med generativ KI i snart et år: Å ta i bruk språkmodeller handler overhodet ikke om å la maskiner ta over for oss. Isteden handler det både om å overlate rutinearbeidet til maskinene, og om å få hjelp når vi står fast med noe vanskelig” (s.161).