Dansklærerforeningen har netop påbegyndt en ny serie udgivelser. De kalder serien TENDENS. Serien består af korte bøger, som fokuserer på centrale tendenser inden for undervisning, og den henvender sig til undervisere og studerende, der er interesserede i didaktik, pædagogik og andre forhold, der har indflydelse på undervisningen.

Den første udgivelse i serien handler om en meget aktuel tendens. Den handler nemlig om kunstig intelligens og herunder primært generativ kunstig intelligens i danskundervisningen.

Forfatteren er Jeppe Bundsgaard, som i mange år har forsket i og skrevet om danskfaglige emner. Han hævder i forordet, at kunstig intelligens “er en af de tendenser, vi i hvert fald bliver nødt til at forholde os til, når vi beskæftiger os med skole, uddannelse og undervisning” (s. 5), og det er svært at være uenig i. Men så skruer Bundsgaard op for retorikken og fortsætter: “Kunstig intelligens er en kommunikationsteknologi med konsekvenser på niveau med opfindelsen af skriften, trykpressen, radioen og internettet”.

Men det kan være særdeles vanskeligt på nuværende tidspunkt at sige noget begavet om, hvilke konsekvenser for samfundet, for den enkelte og for uddannelsesverdenen, kunstig intelligens – generativ eller ej – vil få på lidt længere sigt.

At sammenligne det med de konsekvenser skriftsproget har haft virker for denne anmelder som en overmelding og bidrager snarere til den hype, som bogen gerne vil gøre op med.

Senere i bogen går Bundsgaard også selv i rette med de folk, der ikke balancerer deres vurderinger af, hvilke konsekvenser kunstig intelligens kan få. Det gør han i forhold til dem, der mener, at kunstig intelligens vil betyde en slags Guds Rige, der er en forestilling om menneskelig intelligens som et forstadie til en udødelig digital intelligens, Singularitet. Han gør det også i forhold til dem, der mener, at kunstig intelligens kommer til at betyde menneskehedens undergang. Han taler her om at være mere realistisk og afbalanceret i vurderingerne.

Bundsgaards perspektiv til generativ kunstig intelligens er teknologiforståelse. Der findes værktøjer og ressourcer i verden, og som en oplyst samfundsborger, er man nødt til at kunne omgås disse på en måde, der ikke underminerer den enkeltes myndighed. Myndighed betyder her, at man som borger kan træffe valg om at bruge eller ikke at bruge tilgængelige værktøjer og ressourcer. I tilfældet med AI betyder det også, at man har indsigt i, hvordan teknologien virker.

Forfatterne ser danskfaget som et oplagt sted for elever at arbejde med deres forståelse af tendensen til anvendelse af generativ kunstig intelligens, fordi der er tale om en kommunikationsteknologi. Dermed er vi inde i en af kernerne i danskfaget. Teknologiforståelsen skal vokse frem gennem de erfaringer, eleverne kan få ved at arbejde med teknologien. “Først og fremmest skal eleverne forstå, at sprogmodeller er maskiner, som skaber tekst ud fra mønstre i andre tekster, og at de derfor vil skrive ting, der er forkerte, uetiske, fysisk umulige, falske og socialt uacceptable. Det lærer man bedst ved at erfare det” (s. 47).

For at opnå dette peger Bundsgaard på fire færdigheder, som eleverne skal udvikle gennem undervisningen. De skal kunne interagere med generativ kunstig intelligens og de skal kunne vurdere de output, chatbotten generer. De skal også kunne forholde sig kritisk til sprogmodellers indbyggede skævvridninger af verden. Og endelig skal eleverne kunne vurdere konsekvenserne ved brug af store sprogmodeller.

Elevernes færdigheder i interaktion med chatbots handler om prompting og måder at bruge genererede output på. Man kan prøve at styre output ved at tildele dem en rolle, give kontekst, specificere sin opgave og definere genre, målgruppe og stilleje. Det kan være godt at arbejde med forskellige promptingstrategier for at finde ud af, hvordan selve promptingen influerer på output.

Kapitlerne om de fire færdigheder afsluttes alle med en række forslag til, hvordan man konkret kan arbejde med disse i undervisningen. Bogen kan derfor også i store stræk læses som en introduktion til en færdighed med efterfølgende forslag til konkrete undervisningsaktiviteter, hvilket gør den meget brugbar for lærere i grundskolen.

Det er afgørende, at elever forholder sig aktivt til output og ikke bare tager et output for gode varer. Risikoen ved at arbejde med generativ kunstig intelligens er nemlig, at man kan glemme at tænke selv, hvilket jo er formålet med undervisning. At interagere med en stor sprogmodel er noget andet, end at forsøge at forstå et emne ved at læse om det eller på anden vis at forsøge at tilegne sig et stof. En chatbot er ikke en kilde til viden. Derfor skal man forholde sig anderledes til output fra en chatbot, end når man skal lave kildekritik på en ‘rigtig’ videnskilde.

Som forfatteren også viser i et indledende kapitel, så genererer chatbots tekst på baggrund af en omfattende sandsynlighedsberegning af, hvad det næste ord skal være efter en forudgående række af ord. Det kræver derfor særlige færdigheder at vurdere de outputs, man får genereret. Nogle taler om, at chatbots hallucinerer, men det er egentlig noget vrøvl og er bare udtryk for, at brugeren ikke mener at kunne bruge et output, fordi det ikke repræsenterer en fremstilling, brugeren gerne vil have og kan stå inde for. At kalde et output hallucination er misvisende “fordi den giver indtryk af, at sprogmodellen for det meste er fornuftig… men så indimellem bliver forvirret, påvirket eller sågar momentant psykisk syg” (s. 22). Uanset om man mener at kunne bruge et output eller ej, bliver det produceret på samme måde. Men der er hverken mere eller mindre fornuft, viden, indsigt, forståelse eller følelser involveret i et output, hvad enten man finder det brugbart eller ikke.

Det er samme sag med bias, selvom det kan være lidt mere kompliceret, fordi der er flere forskellige steder i systemet, denne bias kan stamme fra. Bias kan være en del af en stor sprogmodels træningsdata, som bygger på mønstre i sprog, hvor mange forskellige bias har været nedlagt: kønsbias, etnisk bias, kulturbias osv. Men store sprogmodeller kommer også gennem en forstærkende træning med menneskelig – og semi-menneskelig – feedback. Her vil de værdier, som feedbacken gives ud fra, være med til at bestemme fremtidige outputs.

Disse ting skal eleverne vide, og de skal arbejde med chatbots for selv at finde ud af, hvordan det foregår. Eleverne kan eksempelvis arbejde prompte om noget de ved eller ikke og så efterfølgende undersøge mere autoritative kilder om samme emne. De kan også prompte chatbots, der bygger på forskellige store sprogmodeller, og så se, hvad der kommer ud af det. Forstås ”forældre” eksempelvis som en kvinde og en mand – eller er output evt. mere woke? Så kan eleverne arbejde vider med at svare på spørgsmålet om, hvorfor der er disse forskelle.

Det er ikke alene output, eleverne skal forholde sig til, men også selve teknologien. “Sprogmodellerne kan ikke undgå at formulere tekster, der repræsenterer et perspektiv, en holdning eller et verdensbillede” (s. 28), skriver forfatteren. Man kan diskutere, om det er rigtigt, at output “repræsenterer” noget som helst, men ved at sætte ord sammen i tilsyneladende meningsfulde sammenhænge, kan man læse en intention eller perspektiv ud af eller ind i de sætninger, som outputtet består af. Dette skal eleverne arbejde med, så de opnår en teknologiforståelse i forhold til generativ kunstig intelligens. Dette involvere også at arbejde med, hvilke konsekvenser, teknologien kan have for samfundet, for klimaet, for demokratiet, for den enkelte osv.

  I kapitlet Sprogmodeller i kontekst forholder forfatteren sig selv til en række af de konsekvenser den videre udbredelse og ibrugtagning af chatbots kan få. Kunstig intelligens, konstaterer han, “har ikke ret meget med menneskelig intelligens at gøre” (s. 42). Man kan argumentere for, “at sprogmodeller alene har formel lingvistisk kompetence. Det vil sige, at de kan producere sætninger, der er formelt korrekte, men de har ikke metoder til at sikre, at de også er funktionelt korrekte” (s. 45). En anden måde at sige dette på er, at man med maskinlæring kan lære en computer (eller den lærer det af sig selv) at følge nogle sproglige regler, men den har ikke krop, sanser, erfaringer osv., som mennesker får gennem deres livsverden. Den menneskelige intelligens er knyttet til en væren i verden (for at tale fænomenologisk), hvilket ikke er tilfældet med store sprogmodeller.

I kapitlet knytter Bundsgaard blandt andet generativ kunstig intelligens sammen med overvågningssamfundet og konsekvenser for demokratiet. Disse overvejelser kunne godt have fået mere plads, men det er naturligvis vanskeligt i et format, som netop har kortfattethed som en grundlæggende præmis.

Kunstig intelligens i dansk er en rigtig fin brugsbog for lærere, der vil arbejde med teknologiforståelse. Den henvender sig særligt til dansklærere, men mange af læringsaktiviteterne kan passe til mange andre fag – og naturligvis også til tværfagligt arbejde.

TENDENS er kommet godt fra start med denne lille udgivelse. Bogen er både hurtig- og letlæst, og den er samtidig meget informativ. Den lille indledende gennemgang af, hvordan små sprogmodeller fungerer, er en rigtig fin indgang til forståelsen af de store sprogmodeller.