Hvis man er interesseret i generativ kunstig intelligens og er på det sociale medie LinkedIn, så er man sikkert også stødt på navnet Leon Furze. Han skriver ofte på LinkedIn om egen forskning, ligesom han flittigt kommenterer det, andre skriver og publicerer om generativ kunstig intelligens. Hans blog er særdeles anbefalelsesværdig.

Her har han et masse indlæg om generativ kunstig intelligens. Nu har han ved hjælp af ChatGPT programmeret et lille stykke software, der har høstet det interessante i disse indlæg og samlet dem i bogen Practical AI Strategies. Engaging with Generative AI in Education. Jeg ved ikke, hvor meget mere man får ud af at have bogen frem for at læse alle hans inspirerende blogindlæg, men det er både praktisk og rart at have en sammenhængende fremstilling af, hvad han betragter som en praktisk tilgang til generativ kunstig intelligens på uddannelsesområdet.

Hans bog er delt op i seks dele. Den første handler om, hvad generativ kunstig intelligens er for en størrelse. Her giver han en letforståelig indføring i grundprincipperne for, hvordan generativ kunstig intelligens er lavet, og hvordan det fungerer. Han slår her også fast, at man som underviser ikke behøver at være ekspert i maskinlæring og neurale netværk, men man bør have en basal forståelse for, hvordan generativ kunstig intelligens fungerer, så man kan “understand the strengths and limitations of the technology”. Dette har man ikke mindst brug for for at forklare, hvorfor og hvordan man bruger det, og for at man kan have en dialog med elever eller studerende om, hvordan de kan anvende teknologien meningsfuldt.

I denne første del er han også inde på, at prompting (instruktioner) bliver mindre og mindre vigtig med udviklingen af teknologien. Han opsummerer de generelle tommelfingerregler for prompting, hvoraf en af de vigtigste er, at man skal være iterativ i sin tilgang. Generativ kunstig intelligens er ikke et orakel, man kan spørge om hvad som helst. Det kan man ikke, da man selv bliver nødt til at vide eller tjekke efter, om svaret er faktuelt korrekt eller ej. Men mest af alt handler det om, at man kan anvende teknologien som hjælp til egen refleksion. Generelt er det Fuzes pointe, at generativ kunstig intelligens skal anvendes til ens egen kognitive og vidensmæssige udvikling og ikke som erstatning for den. “We want to use the technology to support our own expertise and professionalism” (s.105).

Efter denne indledende del tager Furze for alvor fat med et af de emner, der er mest afgørende for ham, nemlig forholdet mellem generativ kunstig intelligens og etik. Det kan være et problem med den teknologiske udvikling generelt, hvis vi som mennesker ikke forholder os refleksivt til den som helhed. Det man kan kalde en socialøkologisk tilgang til teknologi er helt afgørende, hvis man vil agere som ansvarsfuld individ og samfund.

Der er mange forhold ved generativ kunstig intelligens, som kan være problematiske, hvis man ikke er opmærksom på dem. Det fylder nok en del i den offentlige samtale om teknologien, at den kan hallucinere og være fordomsfuld. Men hvad betyder dette i virkeligheden - og er der gode måder at forholde sig til disse problemer på? Hvis man bare tror, at det er nok at være klar over disse problemer, så forstår man ikke, hvordan teknologien fungerer. Både fordomme, misrepræsentation, fejl og så videre er forhold, der ligger i den måde, hvorpå teknologien fungerer på.

For der er mange forskellige måder, hvorpå eksempelvis fordomme kommer ind i teknologien. Dels er programmerne trænet på tekster og billeder, som er produceret af mennesker, som har holdninger. Dels er en del af materialet fra en tid med andre normer end de i øjeblikket herskende. Da meget af tekstmaterialet, der ligger til grund for generativ kunstig intelligens, er engelsk og produceret af midaldrende, hvide angelsaksiske mænd, har det også præget, hvilke svar man kan få genereret. Der ligger ganske enkelt en dominerende verdensopfattelse i det materiale, der generative kunstige intelligenser anvender som grundlag for den måde, den genererer tekst og billeder på.

Andre etiske problemstillinger er, at tekindustrien generelt medvirker til den globale opvarmning, da det er meget energitungt både at producere teknologien, anvende teknologien og producere alt det indhold og de forbindelser og services, der udgør teknologiens funktionsmåde. At producere generativ kunstig intelligens bidrager også til at øge produktionen af teknologi, der anvender jordens sparsomme metaller som lithium, der ikke regenereres.

Den generative kunstige intelligens er endvidere afhængige af forstærket læring - eller labelling og bedømmelse af forskellige output - hvilket udføres af underbetalte arbejdere i verdens mindre udviklede områder. Det kaldes “ghost work”, fordi det ikke er synligt, men vi bidrager alle til det, når vi anvender generativ kunstig intelligens og andre højtspecialiserede og “smarte” digitale produkter. Hele platformsøkonomien, som tekindustrien er en motor for, bidrager til udbytning af en global underklasse.

En tredje etisk problemstilling er, at vi som mennesker selv bliver gjort til produkter og data. Datafication er et selvstændigt emne i Fuzes bog, og han skriver blandt andet, at “89% of the educational technology products used globally posed potential risks to children’s privacy” (s.35). Menneskerettigheder bliver mere eller mindre konsekvent tilsidesat af tekindustrien.

I tredje del kommer Fuze ind på et andet af hans store interesseområder, nemlig hvordan vi i uddannelsessystemet vurderer og bedømmer elever og studerende. Hans generelle pointe er, at skole- og uddannelsessystemet fungerer ud fra en logik, der ikke er særlig hensigtsmæssig i forhold til at understøtte deltagernes lærende udvikling. Denne del er bogens længste, og der er virkeligt meget at hente for alle, der spiller en rolle i uddannelsessystemet.

Ikke overraskende mener Furze, at vores bedømmelsessystem ikke er i tråd med de ønsker, vi har til elevernes og de studerendes lærende udvikling. Men problemet er for så vidt ikke, at generativ kunstig intelligens gør det nemt at snyde. Problemet er, at vi har udviklet et system, hvor vi vurderer og bedømmer produkter gennem en selektionsmekanisme, som er afkoblet fra, hvad den enkelte kan bidrage med. Derfor peger han også på potentialet ved en lang række forskellige udprøvningsmetoder, der mere har fokus på, hvad man som studerende kan gøre - frem for blot at fokusere på, hvordan den enkelte kan demonstrere viden.

Mest radikalt - og kontroversielt - peger han på ´ungrading´ som en metode. Ungrading går ud på, at man ikke bedømmer den studerendes præstationer ved at rangordne dem, men at man i stedet understøtter de lærenes læringsprocesser blandt andet gennem grundig feedback. Når elever og studerende ikke løbende bedømmes ud fra udvendige bedømmelseskriterier vil de være mere optagede af at lære noget. “On the one hand, GenAI tools like ChatGPT can serve as learning aids, especially in assisting writing skills among students. On the other hand, these very tools can tempt students to circumvent the learning by outsourcing their thinking and writing tasks to AI. Pitts Donahoe labels an entrenched focus on grades as one of the core underlying issues driving students to engage in academic dishonesty” (s.66). Endvidere hævder han med henvisning til en konkret case, at studerende i højere grad anvender generativ kunstig intelligens konstruktivt i deres læringsproces, når de ved, at de ikke bedømmes for deres produkt. I stedet engagerer de sig “authentically with the material, without the temptation for misusing GenAI”, skriver han (s. 67).

Fjerde del handler om, hvordan man som underviser kan anvende generativ kunstig intelligens til praktiske opgaver som undervisningsplanlægning og produktion af undervisningsmaterialer. Denne del har masser af gode ideer, og ligesom i andre dele af bogen, giver Fuze masser af praktiske eksempler på, hvordan man kan prompte for at anvende teknologien, så den støtter ens arbejdsproces. Som det gælder hele bogen igennem er Furze primært interesseret i, hvordan teknologien kan anvendes til at forbedre arbejdet - og ikke så meget til at erstatte ens arbejde. Det er nok en hjælp, men teknologien kan ikke erstatte selvstændig kritisk tænkning. Det er op til brugeren.

De to sidste dele er viet til udvidet generativ kunstig intelligens i forhold til multimodalitet og til spekulationer over, hvad den nærmeste fremtid vil bringe.

Når man anvender generativ kunstig intelligens, så skal man være i stand til at forklare hvordan og hvorfor. Teknologien gør ikke i sig selv undervisning eller læringsprocesser bedre. Et helt særligt område er her noget af det, der ellers ofte fremhæves ved generativ kunstig intelligens, nemlig det forhold, at den kan understøtte personaliseret læring. Det er for mig at se en stor befrielse, at Furze her lægger afstand til denne tænkning. “Personalising learning using GenAI is one of the most talked about, but also one of the most problematic areas of the technology in education” (s. 119). Der er mange grunde til at være varsom med personaliseret læring, og Furze nævner primært, at den kan bidrage til marginalisering af den enkelte studerende. Han kunne også have nævnt det sociale aspekt, der generelt er ved læring, ligesom viden og kunnen aldrig eksisterer i et tomrum, men altid i en social sammenhæng.

Practical AI Strategies er som den lover en meget praktisk og anvendelig håndbog for den underviser, der har lyst til selv at kaste sig ud i at anvende generativ kunstig intelligens i sit eget arbejde og for at støtte elever og studerende i deres anvendelse, så teknologien kan understøtte deres læringsprocesser i stedet for at erstatte dem.