Hvad vil det sige at være et menneske? Det er et spørgsmål, der ikke kun egner sig for diskussioner og refleksioner i sene nattetimer, på dunkle værtshuse. Det er også et spørgsmål elektronistaværten Christiane Vejlø stiller i den tankevækkende udgivelse Argumenter for mennesker. Vejlø er fremtidsanalytiker og ekspert i forholdet mellem mennesker og teknologi, så man er i gode hænder, når hun fører læseren med på en rejse i refleksioner over, hvordan teknologi, der indeholder kunstig intelligens, kan være en udfordring for os mennesker. Det er netop menneskers menneskelighed, der er på spil, når man overlader vurderinger og beslutninger til maskiner, som man dybest ikke ved, om det er værd at stole på.

Et andet relateret spørgsmål, forfatteren stiller, er, hvad det er, der er unikt ved mennesker, så det slet ikke kan varetages af maskiner? Det er det helt særegne ved mennesker, som vi må værne om, der er selve motoren (for nu at bruge en maskinmetafor) i Vejløs gode overvejelser.

Forestillingen om det særligt menneskelige er noget, der har optaget mennesker i det mindste lige siden antikken. Platon gør sig overvejelser over, hvad der vil ske, når mennesker udvider deres software i forhold til erindringen med hjælp af skriftsproget. Platon gør i Faidros klart, at han opfatter skriften som skadelig for det menneskelige, fordi det gør argumenter og erindring til noget, der er lagret i et medie uden for mennesket og derfor uafhængig af situationen - og af sjælen. Og det menneskelige er for Platon knyttet til den mundtlige udveksling, hvor man kan spørge ind til betydninger og sammen undersøge forskellige udsagn. Men skriften er en skøge, fordi den ukritisk forbinder sig med hvem som helst uafhængig af, om den, der læser den, har samme forståelse som den, der har skrevet teksten.

Skriftsproget var for Platon en kunstig intelligens, han dog ikke opfattede som særlig intelligent, da den ikke kan kontrolleres, og det er vel den samme opfattelse, man kan have i forhold til den kunstige intelligens, vi konkret møder i øjeblikket med tekstgenererende maskiner, der spytter “mere eller mindre tilfældige fraser ud” (s.81) som svar på hvad som helst, men helt uden, at man kan vide, om svaret har noget med virkeligheden eller med viden helt generelt at gøre.

Vejlø er nok begejstret for nogle af de muligheder, som den kunstige intelligens giver, men hun forholder sig også meget skeptisk til en overdreven optimisme om, hvordan den kan bidrage til en bedre verden. Dels er optimismen overdrevet i forhold til, hvad kunstig intelligens rent faktisk kan komme til at bidrage til. Dels er de værdimæssige valg, der foretages af kunstig intelligens, afhængig af den programmering, der bliver foretaget af mennesker og de værdier, der nedlægges i programmerne - også selvom disse kan være uoverskuelige. Dels er der værdi i at fastholde det menneskelige for sin egen skyld. Endelig fastslår Vejlø, at det er mennesker, der kan bestemme over den teknologiske udvikling, selvom det kan være svært på grund af globaliseringen og den internationale konkurrence. Men teknologisk udvikling og implementering er op til politiske og dermed menneskelige valg. Dette kræver også, at medborgerne har en reel indsigt i, hvad teknologi gør, når vi anvender den - og når vi lader meget af udviklingen være om til techindustrien, der jo ikke er demokratisk valgte.

Argumenter for mennesker består af to dele. Den første kridter banen op og fortæller kort om, hvordan teknologi generelt og kunstig intelligens i særdeleshed er ved at ændre den måde verden og samfundet ser ud og fungerer på. Den lærer, man kan uddrage af de sidste ca. 200 års historie er, at teknologisk udvikling ikke nødvendigvis entydigt fører til fremskridt for menneskeheden. “Historien viser med al tydelighed, at der med ny teknologi altid følger utilsigtede konsekvenser” (s.56), skriver Vejlø. Hun fremdrager eksemplet med de sociale medier og web 2.0, der blev set som en udvikling af det globale forsamlingshus med masser af “demokratisk debat”, men som i virkeligheden udviklede sig til at man kan tjene masser af penge ved “at spekulere i had, afsky og distraktion” (s.59).

I anden del gennemgår Vejlø forholdet mellem kunstig intelligens og mennesker gennem ni forskellige særegne menneskelige egenskaber. Det er disse egenskaber, hun rent konkret kalder for argumenter for mennesker. Mennesker er særegne ved, at de tænker, føler, er sociale, sanser, gør det gode, fejler, skaber, tror og dør, skriver Vejlø, selvom "tænkning" i den senere behandling helt uden kommentarer er skiftet ud med “elsker”. - Og man skulle mene, at der er forskel på at tænke og at elske; de kan jo nærmest forstås som hinandens modsætninger.

Selvom man ved første øjekast godt kan sige, at disse ni egenskaber ikke er særegne for mennesker, kan de alligevel godt give mening, når de sættes i relation til den teknologiske udvikling. Nogle af egenskaberne er ganske vist mere relateret til forholdet mellem det organiske og det ikke-organiske. Planter eksempelvis dør jo også. Mennesker er så kendetegnet ved, at det ved, at de skal dø - men så er vi vel snarere ovre i bevidsthed eller tænkning. Jeg savner her lidt mere refleksion over kategorierne og deres udvælgelse.

“Den helt særlige egenskab, vi besidder som mennesker, som ikke alene adskiller os fra dyrene, men også fra maskiner, er vores evne til at gøre os overvejelser om, hvad det vil sige at være det, vi er. Vi er dermed den eneste art, som er bevidste om os selv” (s.71). Denne egenskab er den overordnede bestemmelse ved mennesker, må man forstå - og de ni egenskaber, der følger efter står i et særligt forhold til menneskers selvbevidsthed, selvom det spontane og ikke-bevidste og ikke mindst det irrationelle og tilfældige også er en del af det særligt menneskelige

. I anden del gennemgår Vejlø hver af de ni argumenter for mennesker ved at sætte dem i forhold til enten konkrete historiske tildragelser, hvor man kan vise forskellen mellem, hvordan mennesker og maskiner “agerer”, eller ved at henvise til forskellige eksperters udsagn om denne forskel.

Eksempelvis henviser hun gentagne gange til en samtaler mellem mellem et menneske og henholdsvis chatbotten LaMDA og chatbotten Sidney. Pointen i begge er, at chatbotten siger noget tilsyneladende menneskeligt, hvilket mennesker så kan reagere forskelligt på. En googlemedarbejder påstår således, at LaMDA har udviklet en form for bevidsthed, og Sidney erklærer både at være ked af det, bange for at dø og forelsket i sin samtalepartner. Vejlø advarer meget imod, at man fortolker chatbotternes - og andre former for kunstig intelligens - ud fra menneskelige parametre. Det er vigtigt at holde fast ved, at den kunstige intelligens kun udtrykker enorm beregningskapacitet krydret med en smule tilfældighed, der også er styret af et computerprogram.

En kunstig intelligens gør kun det, den er programmeret til ud fra de input, den får eksempelvis af at trække på data og inddrage de spørgsmål (prompt), mennesker giver den. Det får Vejlø til at sammenligne kunstig intelligens med den banale ondskab, som Hannah Arendt har beskrevet. Den banale ondskab er kendetegnet ved, at ondskaben ikke er villet ud fra en ond vilje, men alene skyldes, at den, der udfører det onde, ikke gør sig egne overvejelser og tager ansvar over egne handlinger.

På tilsvarende måde kan en computer ikke tage ansvar over for egne handlinger, selvom dens output kan få store konsekvenser for konkrete mennesker. Vejlø henter denne sammenligning fra lingvisten Noam Chomsky, men jeg synes ikke, den fungerer særlig godt. Forskellen mellem Eichmann (Arendts case) og en computer er jo den indlysende, at Eichmann besidder menneskelige egenskaber, og derfor kan stå til regnskab. Hvis vi følger Arendt, er hans handlinger et eksempel på banal ondskab, fordi han har evnen til at tænke, men ikke bruger den. I modsætning til den kunstige intelligens, der netop ikke har denne evne - og derfor ikke kan være ond i det hele taget - hverken banalt eller bevidst. Det er selvfølgelig mennesker, der må bære ansvaret for det, de får maskiner til. Derfor er den etiske dimension ved anvendelse af komplicerede teknologier uhyre vigtig - hvilket også er Vejløs pointe. “Den store svaghed i computerens arbejde er det komplette fravær af evnen til at evaluere sit eget værk” (s.186).

“Vores livskvalitet er ligefrem proportionel med vores evne til at være menneske i fællesskab med andre mennesker” (s.234), skriver Vejlø i det afsluttende afsnit. Og det er en meget fin pointe for bogen.

I afsnittet, der bærer titlen Fundament for fremtiden skriver hun også, at vi står ved en skillevej, hvor vi skal vælge mellem to forskellige måder at gå ind i fremtiden på. Den ene vej kalder hun “Fri, frygtløs og hurtig”. Her overlader man den teknologiske udvikling til den fri konkurrence mellem virksomheder og lande. Den anden kalder hun “Reflekteret, kontrolleret og langsom”. Og som man nok allerede har gættet, argumenterer hun for den sidste. I dette politiske valg er det afgørende, at vi ikke vælger “en vej, vi kaster os hovedløs efter uden at overveje, hvad den form for udvikling betyder for det at være menneske og for samfundet overordnet” (s.232).

Hvis man skal være lidt fræk, er det interessant, at Vejlø selv har valgt den hurtige vej i forhold til udgivelsen af bogen. Hun var ikke tilfreds med det tempo for udgivelse, et forlag kunne tilbyde. Derfor har hun selv sammen med Elektronista stået for udgivelsen. Til gengæld tror jeg faktisk, at den langsomme vej kunne have gjort bogen bedre.

Selvom det er en rigtig god og tankevækkende bog, så er det også en bog, der kunne bruge en dygtig fagredaktør. Bogen kunne strammes op flere steder - eksempelvis fylder de lange samtaler mellem mennesker og chatbotter alt for meget i forhold til pointerne. Der er relativt meget fyld med frithængende citater og lommefilosofiske betragtninger over, hvad et menneske er. Der er flere steder, hvor jeg har tænkt, at her kunne forfatteren godt have været udfordret noget mere.

Mennesker er gode hedder kapitel 10. Andre steder står der, at mennesker gør - eller har evnen til at gøre - det gode. Men er et værensudsagn det samme som et handlingsudsagn; eller hvad betyder forskellen mellem at bestemme noget ved et substantiv over for at gøre det gennem et verbum? Og hvorfor er det ikke netop evnen til at gøre det onde, der kendetegner mennesker?

Når det er sagt, så formår Vejlø på en interessant og reflekteret måde at gøre diskussionen af forholdet mellem mennesker og teknologi i et medborgerperspektiv både nærværende og konkret. Så det er bestemt en bog, den interesserede borger bør læse for at skærpe blikket på de politiske implikationer af den teknologi, de fleste omfavner uanset om de vil det eller ej - det er der nemlig nogle andre, der har bestemt.