Den norske filosof Hans Skjervheim skrev i 1991: “Teknologi og teknologisk kompetence er et ligeså vigtigt kulturelt fænomen som litteratur og litterær evne, også for humanister". Denne pointe kan på mange måder siges at være en drivkraft i Rune Johan Krumsviks bog Digital kompetanse i KI-samfunnet. Et blikk på hvordan kunstig intelligens preger livene våre, som er genstand for denne anmeldelse.

Som titlen også indikerer, så er Krumsvik særligt interesseret i, hvordan den samfundsmæssige udvikling af og med ny teknologi kræver en særlig digital kompetence, hvis man som borger skal være et myndigt individ. I Danmark taler vi om denne kompetence som teknologiforståelse. Det kræver teknologiforståelse for os både som privatpersoner, professionsudøvere og som medborgere, hvis vi skal kunne overskue, hvordan forskellige teknologier og systemer indvirker på vores liv, arbejde og samfund.

Det giver derfor også god mening, at Krumsvik også fremlægger sin egen videnskabelige teknologiforståelse; altså den måde, hvorpå han generelt forstår teknologien i en samfundsmæssig, ontologisk og erkendelsesmæssig sammenhæng. Han betragter den generative kunstige intelligens GPT-4, som er er det gennemgående tema bogen igennem, som en kognitiv teknologi. Men det er ikke tilstrækkeligt at pege på, hvad den er eller hvilken type af teknologi, der er tale om. Forståelsen af GPT-4 er “avhengig av hvordan vi alle vever den inn i våre sosiale og situerte kontekster, og slik sett prøver boken å få frem dialektikken mellom dens kognitive egenskaper og den sosiale konstruksjonen av GPT-4” (s.12). Krumsvik tilslutter sig den retning, der kaldes “social construction of technology” eller blot SCOT, som betoner, at teknologien altid må forstås i sociale sammenhænge. Ydermere fremlægger Krumsvik sin egen vej ind i feltet ved at fortælle om sin baggrund og sit videnskabelige arbejde.

I bogen fremlægger Krumsvik betydningen af generativ kunstig intelligens indenfor uddannelses- og sundhedsområdet; to områder som formentlig vil blive radikalt berørt af den videre udvikling af generativ kunstig intelligens. Når elever og studerende tager teknologien i anvendelse, så bliver spørgsmålet om, hvad de lærer og har lært vanskeligt at adskille fra, hvordan de ved hjælp generativ kunstig intelligens er i stand til at formulere deres viden og indsigt.

Med udbredelsen af generativ kunstig intelligens er der opstået en “usikkerhet rundt hvor dette bærer hen for vår tradisjonelle forståelse av kunnskap, læring og danning” (s. 62). Når viden tilsyneladende kan genereres kunstigt, så får det betydning for, hvad vi opfatter som viden. Men her bliver det vigtige nok det lille “tilsyneladende”, hvor det kræver en vis teknologiforståelse at forstå forskellen på noget, der ligner viden og noget, der rent faktisk er eller baserer sig på viden.

Også på sundhedsområdet vil der ske en række ændringer, når den kunstige intelligens på mange områder viser sig at være den menneskelige sundhedshjælper eller læge overlegen. Eksempelvis viser et studie, som Krumsvik henviser til, generativ kunstig intelligens besvarede spørgsmål fra 195 patienter “på en måte som ble vurdert som gode 3,6 ganger hyppigere og 9,8 ganger mer empatiske enn legesvarene” (s. 217). Altså blev svarene fra en chatbot vurderet til at være faktuelt bedre end de svar, en læge havde givet, men også i forhold til at blive set og forstået som menneske, klarede chatbotten sig i dette studie bedre; mere menneskeligt!?

Bogen er struktureret i 6 kapitler, der har hvert sit fokus. I kapitel 1 introduceres feltet generativ kunstig intelligens ud fra, hvad det egentlig kan bidrage med samfundsmæssigt i almindelighed og inden for uddannelsessektoren i særdeleshed. Her som flere andre steder i bogen trækker Krumsvik en hel del på det arbejde, som Sebastien Bubeck og kolleger har offentliggjort i den lange artikel Sparks of Artificial General Intelligence: Early Experiments with GPT-4, der er offentliggjort i arXiv. Det glimt af generel intelligens, der henvises til i artiklen, spiller en afgørende rolle for Krumsvik egen forståelse af generativ kunstig intelligens. Han ser således en række indikationer på, at GPT-4 forstår menneskelige sammenhænge på en anden måde end blot ved at generere tekst ud fra matematiske formler, der ligger i (ro)bottens algoritmer.

For at forstå radikaliteten i dette argument skal man forstå, at en chatbot som GPT-4 genererer en tekst ud fra en menneskelig instruktion, og at den generede tekst bliver skabt gennem vægtede sandsynligheder for ordkombinationer, som hentes ud fra en analyse af tidligere skrevne tekster. Men denne forståelse, hævder Krumsvik delvist med belæg hos Bubeck og andre forskere, holder ikke.

Eksempelvis er der meget der ifølge Krumsvik tyder på, at GPT-4 forstår mennesker på et psykologisk niveau, så den ikke alene “svarer” ud fra, hvad den bliver instrueret om, men også ud fra, hvad den slutter om den, der formulerer instruksen. GPT’en har en forestilling om den, der instruerer den; den har en såkaldt “theory of mind”-lignende evne, noget som ellers kun tidligere er blevet tilskrevet mennesker. Mennesker kommunikerer på en måde, hvor de tager hensyn til en forståelse af, hvad samtalepartneren forestiller sig. Derfor kan man i en samtale tage højde for og hensyn til den andens opfattelse af verden. Det gør en matematisk model typisk ikke, da den ikke “forstår” implicit og tavs viden.

Det rent matematiske og fraværet af emotionalitet er da også noget af det, der i andre sammenhænge fremhæves ved den kunstige intelligens, når man f.eks. fremhæver, at den ikke har fordomme over for den, den kommunikerer med. At en generativ kunstig intelligens sagtens kan have mange andre fordomme, da den er trænet på menneskeligt, fremstillede tekster, er en anden sag. Men eksempelvis tilpasser den ikke sin diagnose af en patient ud fra en opfattelse af patienten, da den ikke har særlige hensigter eller forforståelser.

Men det er altså dette, Krumsvik delvist sætter spørgsmålstegn ved, når han trækker theory of mind frem. Og han bygger videre på denne forestilling ved yderligere at hævde, at GPT-4 forstår at indgå i forskellige sprogspil, som de fremstilles hos Ludwig Wittgenstein. Sprogspil er hos Wittgenstein en sprogfilosofisk fremstilling af, hvordan sproget giver betydning og mening ved, at det bliver brugt på en særlig måde afhængig af den sammenhæng, sproget anvendes i. Når man er på en byggeplads og kommunikerer om forskellige forhold, så vil en ´7 tommers´ henvise til noget, der giver mening for de øvrige på byggepladsen, ligesom det giver mening for alle, når man taler på en bestemt måde i skurvognen i frokostpausen. Ord og sætninger betyder ikke noget i sig selv, men de får betydning gennem den måde, de bliver brugt på i bestemte sammenhænge. Således er konteksten og situationen afgørende for, hvad ord og udtryk betyder, ligesom betoninger og kropssprog indgår i “ligningen”.

Men igen vil man formode, at en matematisk genereret tekst ikke vil kunne tage hensyn til andet end det, der ligger i dens “lager”, algoritmen og den instruktion, den modtager. Dette er dog ikke tilfældet ifølge Krumsvik. Det er tydeligt, siger han, “at GPT-4 mestrer evnen til språkspill, den genererer relativt lange og sammenhengende tekster og kan ha lengre dialoger med meg om detaljer rundt Witttgensteins språkspil” (s.45).

Metodisk er det interessant (og underligt) her som mange andre steder i bogen, at Krumsvik integrerer samtaler med GPT-4 om, hvordan man kan forstå dens måde at fungere på. Det forekommer på denne anmelder som en lidt tvivlsom fremgangsmåde at spørge GPT-4 om dens evne til at indgå i sprogspil, da man da allerede har foregrebet, at dette giver mening for sprogmodellen. Krumsvik tillægger GPT-4 en evne og tager dens svar for gode varer uden at overveje om svarene, han får, hænger sammen med præcis den information han fodrer den med, så konteksten kommer fra instruktionen snarere end fra GPT-4s evne til at indgå i et sprogspil.

Det er rigtig fint, når Krumsvik demonstrerer GPT-4s måde at fungere på ved, at han gengiver en prompt og den generede tekst. Dette giver et fint indblik i, hvordan man kan inddrage GPT i en dialog, hvor man kan bruge dens svar på forskellige måder. Men det forekommer underligt, når han begynder at tage dens svar for en art ‘sandhed’ om et vidensområde, da han jo ved, hvordan den fungerer.

Det andet kapitel, som er bogens længste, handler primært om uddannelsessektoren. Her trækker Krumsvik især tre elementer frem. For det første kigger han på, hvordan kunstig intelligens indgår og kan indgå i læringsanalyse, så man som underviser kan få et bedre indblik i, hvordan elever og studerende klarer sig inden for forskellige områder.

Vigtigere er de to andre områder som for det første handler om tilpasningsdygtige undervisningsprogrammer, som løbende tilpasser sig eleven eller den studerende. Dette element af personalisering af undervisning trækkes ofte frem i diskussioner af kunstig intelligens. Det underlige i denne bogs fremstilling er, at det faktisk ikke problematiseres at gøre undervisningen mere personcentreret, selvom Krumsvik udgangspunkt er en social læringsteori. For det andet peges der på, hvordan generativ kunstig intelligens kan indgå som en personlig tutor for den enkelte elev eller studerende. Her har den enkelte muligheder for at få hjælp og støtte uafhængigt af tid og sted - og om vedkommende er alene. Fordelen ved at udvikle personlige læringsassistenter er, at dette kan lægge op til en dialogisk læringsproces for den enkelte - og at denne proces også kan gøres til den del af den sociale læringsproces.

Det tredje kapitel er viet til børn og unges brug af skærme og sociale medier. Her kommer Krumsvik frem til, at der efter hans opfattelse er evidens for, at sociale medier er en betydelig medvirkende faktor for unge og især unge pigers psykiske mistrivsel, hvorimod der ikke er belæg for, at brug af digitale værktøjer og medier bidrager til dette. Det er ikke skærmene, men sociale medier, der er afgørende for de unges trivsel.

Det fjerde kapitel “Digital kompetanse i KI-samfunnet og implikasjoner for helsesektoren” er interessant ved at trække teknologiforståelsen ind i sundhedssektoren på mange forskellige måder. Der bliver i kapitlet peget på mange muligheder for, at sundhedsprofessionelle kan gøre deres arbejde bedre og mere effektivt ved at anvende forskellige former for kunstig intelligens. Men han viser også, hvordan generativ kunstig intelligens kan indgå både i sundhedsuddannelserne, i sundhedsprofessionen og hos borgere, der er brugere af sundhedsvæsenet.

I kapitlet kommer Krumsvik også ind på, hvad sundhedsmæssig teknologiforståelse betyder, og hvorfor denne er et vigtigt element i teknologiforståelsen for alle mennesker i dagens samfund. Som borger skal man forholde sig til egen sundhed, og det kræver, at man kan tilgå information, forstå sundhedsinformation, vurdere den og handle hensigtsmæssigt på den information, man får.

Kapitel 5 handler meget om, hvordan generativ kunstig intelligens kunne indgå som en måde, hvorpå man kunne have handlet anderledes under Coronaepedimien. Det handler blandt andet om den enkeltes risikoperception, men også om hvordan man forholder sig til misinformation og fake news. Også her bliver jeg forundret over, at Krumsvik spørger GPT-4, hvordan den kunne indgå, men mest af alt at han tager dens svar for at være korrekt. Sidste kapitel samler så op på de mange problemstillinger, bogen har præsenteret.

Efter min mening er det både en god og en dårlig bog, Krumsvik har skrevet.

Han kommer ind på rigtig mange spændende og interessante diskussioner i lyset af udviklingen af generativ kunstig intelligens. Nogle af diskussionerne som f.eks. om, hvad sundhedsmæssig teknologiforståelse består af, forekommer virkeligt vigtige og relevante. Også diskussionerne, hvor han trækker grænserne op for, hvad GPT-4 er i stand til, er superinteressante, selvom han nok trækker konklusionerne længere, end de kan bære.

På den anden side forekommer han til tider direkte naiv i den måde, han trækker genereret tekst ind som belæg for egen argumentation. Jeg har efterprøvet nogle af hans prompts, og når jeg går dem lidt på tænderne, kan jeg få dem til at modsige sig selv f.eks., når det gælder om theory of mind og det, at (ro)botten kommunikerer ud fra en forståelse af sprogspilsteorien.

Et andet forhold, der gør bogen mindre god, er, at den har utroligt mange gentagelser. Bogen er ikke særlig velredigeret og er tydeligvis blevet til ved at forskellige allerede publicerede artikler er anvendt som grundlag for de forskellige dele af bogen, hvilket går ud over helhedsindtrykket.

Men bogen er god som grundlag for at diskutere, hvad generativ kunstig intelligens betyder inden for uddannelses- og sundhedsområdet. Den har rigtig gode litteraturgennemgange - og hvis man ikke forstår dem i første omgang, så kan man berolige sig selv med, at pointerne nok skal blive gentaget.