Jeg går over vejen og bliver ramt af en selvkørende bil og dør. Hvem har så ansvaret? Er det producenten af bilen, firmaet der udlejer den, den der “kører” i den – eller er det måske mig, fordi jeg ikke har agtpågivende nok?

Det er ét af de dilemmaer, Thomas Telving trækker frem i sin bog til filosofiundervisningen i gymnasiet. Bogens hovedsigte fremgår klart af titlen: 10 ting du skal vide om filosofi og kunstig intelligens.

Bogen består af 10 kapitler, der hver diskuterer en påstand. I hvert kapitel er der “originaltekster”, så eleverne også møder “rigtige filosoffer” og deres fremstillinger. Disse tekster er typisk mellem en halv til halvanden siders længde, så det er overkommeligt for eleverne at overskue og læse.

Dilemmaet med den selvkørende bil finder vi i kapitel 3: Kunstig intelligens kan ikke bære et moralsk eller juridisk ansvar. Dilemmaet bygger på en konkret retssag efter en ulykke, hvor Elaine Herzberg døde efter at være blevet påkørt af en af Ubers selvkørende taxaer.

Aristoteles vil “sige, at tre ting skal være tilstede for, at nogen kan holdes moralsk ansvarlig for noget:
Frivillighed (man handler af egen vilje og er ikke tvunget af andre)
Kontrol (man har magt over sine handlinger og handler ikke i uvidenhed eller per refleks)
Viden om konsekvenserne (man forstår, hvad handlingen fører til, og hvem den påvirker)” (s.  41).

Ingen af de forskellige “mistænkte” kan hævdes at besidde alle de tre forudsætninger for ansvar, som fremgår af Aristoteles’ Etikken. (Telving henviser ikke konkret til Etikken, hvilket jeg synes er en fejl i en bog om filosofi). Og helt generelt peger det på et grundproblem med kunstig intelligens: “Når en maskine er med til at træffe beslutninger, bliver det pludselig svært at finde en skyldig, der både handlede frivilligt, havde kontrol og kendte konsekvenserne” (s. 41).

For at arbejde længere ind i forholdet mellem moral og teknologi inddrager forfatteren også Sven Nyholms This is Technology Ethics, som blandt andet taler om ansvarskløfter, som opstår, når ingen lever op til at alle tre forudsætninger for ansvar. En maskine kommer ind i ligningen og etablerer en kløft mellem en hændelse og den, der kan tillægges ansvaret. Noget vi også kan se ved automatiske våbensystemer, som kan angribe uskyldige. Og man kan fremdrage mange andre eksempler.

Som alle kapitlerne slutter dette med hjælpespørgsmål, som eleverne kan bruge for at tjekke, om de har forstået kapitlet. Der er også hjælp til at reflektere over kapitlets indhold. Og endelig er der en elevaktivitet, hvor eleverne fælles skal forholde sig til kapitlets påstand.

I sin indledning lægger Telving op til, at man ikke skal lade sig forføre af, at bogen er bygget op af en række påstande. Det er ikke påstandene i sig selv, der er vigtige, men refleksionerne over dem.

Eleverne opfordres til at finde argumenter mod påstandene. Dette er en fin ambition, men i nogle af kapitlerne er fremstillingen ikke tilstrækkelig nuanceret til, at det helt giver mening. Fremmestillingen har en tendens til at være ret så normativ. Dette er en styrke, men kan også være en hæmsko, da det gør det vanskeligere for eleverne at gå imod autoriteten.

Et eksempel på dette finder er kapitel 8, som faktisk er et af de mest spændende og interessante kapitler. Men det lider efter min opfattelse af, at Telving ikke hjælper forskellige positioner på vej. Kapitlets påstand er, at tænkende maskiner skaber tankeløse mennesker (s. 79), som indledes således: “Digitale teknologier som smartphones påvirker vores hjerner i voldsom grad. Men i modsætning til f.eks. narkotika, som er forbudt ved lov, har politikerne taget let på teknologiske bivirkninger” (s. 80).

Dette fortsætter med historiske eksempler på, hvordan teknologi nedbryder menneskelige evner, som så rimelig manipulatorisk overføres til den nyere teknologi: kunstig intelligens. “Hvis vi er blevet dårligere til hovedregning af lommeregneren, dårligere til at finde rundt af GPS’en og dårligere til at huske af Google, hvordan påvirkes vi så af Chat GPT? ChatGPT tænker jo faktisk ofte for os. Risikerer vi dermed at blive dårligere til at tænke” (s.80)?

Efterfølgende kommer en meget fin redegørelse for forholdet mellem sprog og tænkning.

Men hele den normative rammesætning tilskynder ikke til megen refleksion, hvor man kan se både-og frem for enten-eller. Hvorfor nævner forfatteren GPS, men ikke landkort, som også har svækket menneskers evne til selv at finde vej? Landkort er en teknologi til kognitiv off-loading, ligesom skriften er en off-loading af hukommelsen, på en lignende måde som den søgemaskine, som Telving trækker frem. Man skal selvfølgelig passe på med what-aboutism, men i en filosofibog henvendt til elever, kan man hjælpe refleksionen frem ved at vise, at svarene ikke er så nemme, som forfatteren her lader forstå.

Og hvad er det for en forståelse af teknologi, der kommer frem her? Det lyder som om, det er teknologien, der afgør, hvordan den virker på sin bruger, mens brugen ikke på samme måde gøres til genstand for overvejelser. Lommeregneren har nok gjort, at mange har problemer med hovedregning. Men har det betydet, at elever samtidig har kunnet arbejde med mere komplekse matematiske problemer? Hvad afvikler brug af teknologi i forhold til, hvad den befordrer af nye muligheder?

Og når man skriver noter, så gør man det ofte for ikke at bruge energi på at huske noget. Man bruger skriftsteknologien som kognitiv off-loading for at bruge energien på noget andet. Men denne teknologi underkastes ikke samme kritik.

Her – og rundt om i bogen – lyder det ofte som om, det udelukkende er teknologien, der er årsag til en forandring; teknologideterminisme. Men teknologi eksisterer jo aldrig i et tomrum, men altid i forhold til situationer, hvori den bliver brugt. Teknologi må bestemmes relationelt som noget, der indgår i sammenhænge med som minimum omverden og bruger.

Det skal dog retfærdigvis siges, at Telving i en note til kapitlet (læser elever noter?), at “det spiller en stor rolle hvordan vi bruger ChatGPT” eller andre chatbots (s. 151). Men netop nogle af de overvejelser af både-og ville have fremmet elevernes muligheder for at diskutere med hinanden og reflektere over, hvilke konsekvenser forskellige former for off-loading kan tænkes at have eller få. En inddragelse af aktiv og passiv brug af teknologien kunne have hjulpet til en nuancering af forholdet mellem teknologi og konsekvenserne af den(s brug).

Heller ikke den foreslåede aktivitet virker fremmende for egentlig refleksion hos eleverne: “Hver elever skriver ca. 30 ord om et valgfrit begreb fra kapitlet. Eleven bruger derefter et AI-værktøj til at forbedre samme tekst uden at ændre hovedpointen. Klassediskussion: "Tænkte I mest selv ved 1 eller 2” (s. 91)? Hvor mange vil nævne 2; og vil det egentlig kræve refleksion at nå frem til dette resultat.

Som sagt er der også i kapitlet en virkelig fin fremstilling af forholdet mellem sprog og tænkning, og her inddrages Deweys pointe om, at sprog ikke er ren sansning. Sproget skaber i stedet betydning af det sansede. Interessant at Dewey behandles epistemologisk og sprogteoretisk.

Alle kapitlerne i bogen er glimrende som optakt til refleksion og diskussion af forholdet mellem teknologi, omverden og den enkelte. Der er kapitler om bevidsthed og kropslighed (det sidste kunne fylde mere, men sådan er det, når der skal vælges ud), om erkendelse og omverden, om superintelligens i relation til menneskelig intelligens, om teknologiens implicitte moralfilosofi osv. Godt stof til gymnasieelever.

Jeg har også været inde på, at Telvings fremstilling er præget af hans egne normer. Det er rigtig fint, at han relativt tydeligt toner frem som et holdningsmenneske; en eksistentialistisk etiker, der anser teknologisk modernitet som en forfaldshistorie. Det sidste kommer meget tydeligt til udtryk i kapitlet om modernitet og medier, der blandt andre trækker på Neil Postman. Men sommetider gør hans valg af fremstilling det også for nemt at være enig med ham. Fremstillingen savner til tider nuancer og tankemæssige udfordringer. Disse kunne komme frem også uden at kræve mere plads. Især når formålet er at få elever til at forholde sig filosofisk, reflekterende og ikke bare lære om filosofiske positioner.

Bogen anvender mange genererede billeder, som alle er holdt i samme 50’er-stil. Men billederne er grimme og fremmer efter min mening ikke fremstillingen.

Et andet irritationsmoment er, at bogen både anvender fod- og slutnoter. Det er ikke fremmende for læsningen. Jeg er bange for, at ikke mange læsere vil få fat i indholdet i note 7, som ellers er en vigtig nuancering af fremstillingen, som jeg ovenstående har peget på.

10 ting…  er en rigtig god undervisningsbog til gymnasiet og andre ungdomsuddannelser på trods af de indvendinger denne sure og gamle anmelder har bragt til torvs.