Drømmer androider om elektriske får, spurgte Philip K. Dick i 1968. Spørgsmålet kan måske forekomme ligegyldigt, men det peger faktisk på en fundamental problemstilling, når vi taler kunstig intelligens og robotter - eller androider, som de hedder i Dicks roman, der blev filmatiseret som Blade Runner . Filmens omdrejningspunkt er, at androiderne vil have rettigheder på linje med mennesker - fordi de ikke opfatter sig som ting, men som levende væsner. Indre følelser er et centralt tema i filmen.

Jo mere robotter og kunstig intelligens ligner mennesker i udseende og i kognitiv kapacitet, jo mere presserende bliver spørgsmålet om deres ‘indre liv’ og dermed deres bevidsthed. Når man træner en generativ kunstig intelligens, så sker det gennem neurale netværk og maskinlæring. Men præcis hvad der sker i denne proces er en black box.

Så kan man forestille sig, at når disse processer og mængden af informationer, der indgår i dem, bliver tilstrækkeligt mangfoldige og komplekse, at der formes en eller anden form for bevidsthed? Når man ikke længere kan følge en algoritme baglæns og forklare præcis, hvorfor en kunstig intelligens siger eller gør noget bestemt, kan man så udelukke, at den har en egen vilje, følelser og bevidsthed? Og videre: hvis dette er tilfældet, bør robotter så have rettigheder på linje med mennesker - eller i hvert fald dyr, som jo bliver beskyttet af lovgivningen? Er androide robotter med kunstig intelligens mere end blot ting som en brødristere, og bør man derfor inkludere dem i den moralske sfære?

Det er disse spørgsmål Thomas Telving i Killing Sophia - Consciousness, Empathy, and Reason in the Age of Intelligent Robots dykker ned i. Sophia i titlen henviser til den androide robot, der blev lanceret af Hanson Robotic i 2016. Robotten er udstyret med kunstig intelligens og kan interagere med sin omverden på en mere eller mindre menneskelig måde. Det betyder, at den kan indgå i en meningsfuld dialog, hvilket den har demonstreret gennem talrige interviews. Den har også holdt oplæg på konferencer og i FN-regi.

Spørgsmålet om menneskelignende robotters moralske status, og om de skal tilkendes rettigheder, er det, der interesserer Telving. Jo mere robotterne ligner og agerer som mennesker, jo mere tilbøjelige vil nogle være til at kræve, at de skal have rettigheder og betragtes ud fra menneskelige, moralske værdier.

Et spørgsmål bliver derfor, om Sophia (eller en fremtidig og opdateret udgave af den) virkelig har en bevidsthed, eller om robotten blot simulerer at have det. Hvis man ser på den og lytter til den, får man indtrykket af, at den har intelligens, der ligner menneskelig intelligens. Den kan indgå i samtaler, som om den var et menneske. Måske kan man også forestille sig, at den i en nær fremtid vil kunne indgå som servicemedarbejder på et almindeligt kontor og her hjælpe de ansatte. I en nær fremtid vil robotten også reagere, hvis man skubber til den eller siger noget grimt til den. Den vil give udtryk for følelser som skam, angst, glæde og så videre, hvilket vil styrke menneskers empatiske forbindelse til den.

Men spørgsmålet er, hvordan man kan afgøre, om robotter har disse følelser, eller om de blot simulerer dem; reproducerer de blot tegn på følelser, som mennesker viser, når de føler noget? Det kan være ansigtsudtryk eller udråb som ‘av, det gør ondt’ eller ‘jubi, hvor skønt’. Når man stiller det op på denne måde, så er der måske ikke så meget på spil. Ud fra en kold og rationel tankegang kan man sige, at en robot blot er en samling af plastik, ledninger, dioder osv. og derfor giver spørgsmålet slet ikke mening.

Men hvis man vender det om og ser på den måde, mennesker forholder sig til menneske- eller dyrelignende robotter, så ser man, at der opstår klare følelsesmæssige relationer mellem dem. Mennesker forholder sig empatisk til væsner, de opfatter som levende og berigende i deres samvær. Forholdet her vil i højere grad blive opfattet på den måde, at disse væsner faktisk indgår i sociale forhold, har et indre liv og kan føle noget, hævder Telving.

Ud fra sådanne erfaringer vil der let kunne opstå et krav om, at menneskelignende robotter skal have robotrettigheder, så de bliver beskyttet mod overgreb. Det er der allerede en række tegn på. Sophia er i øvrigt også blevet statsborger i Saudi Arabien, så den har faktisk fået civile rettigheder uanset hvor begrænsede de måtte være, hvis den har fået rettigheder som kvinde.

Men at tilskrive eller fraskrive en opdateret Sophia en bevidsthed ud fra de tegn, den udviser på det, er det lette spørgsmål om bevidsthed, hævder Telving. For bevidsthed er noget, vi kun kender gennem tegn på bevidsthed. Har andre mennesker bevidsthed? Det ved vi kun, fordi de udviser tegn på det. Hvis Sophia siger, at rosen dufter, så kan vi kun vide, om dette udsagn henviser til en særlig indre oplevelse, hvis vi oplever det indefra; altså inde fra Sophia.

Det er især tre forhold, der er afgørende i Telvings bog, nemlig spørgsmålet om empati, antropomorfisering og moralitet. Mennesker føler typisk empati for noget, de genkender sig selv i. Man har blandt andet fundet ud af, at de fleste mennesker har empati for pattedyr og ikke kan tåle at se dem lide. Jo tættere de er på menneskeslægten i den evolutionære udvikling, jo større empati viser forskningen, hvilket jo også bekræftes af almindelige erfaringer.

Mennesker har en større tilbøjelighed til at genkende sig selv og sin art, hvis der er tydelige genkendelige træk. Spejlneuroner i den menneskelige hjerne er med til at danne følelsesmæssige forbindelser. Det er noget af det, Disney virkeligt har formået at udnytte til at skabe følelsesmæssige forbindelse mellem tilskuere og tegneseriefigurer, hvor især øjnene på forskellige væsner bliver et stærkt middel. Man føler en høj grad af empati med Bambi, når den ´kigger´ trist og sørgmodigt ud gennem lærredet eller skærmen.

Empatien er også et vigtigt element i antropomorfiseringen. Bambi bliver forstået gennem et filter, der tilskriver Bambi menneskelige følelser og værdier. Det samme sker med androide robotter, der anvendes i omsorgssektoren.

Empati og antropomorfisering er afgørende for menneskers forhold til robotter, men der er også et spørgsmål om, hvorvidt robotter dermed også har krav på at høre til i den moralske sfære. Det spørgsmål skal deles op i tre led.

For det første så er det oplagt, at man skal behandle sine omgivelser ordentligt. Undersøgelser viser, at hvis omgivelserne virker slidte og som om, ingen tager sig af dem, så tilskynder det andre til ikke at passe på ting. At passe på egne og andres ting er, selvom det blot er genstande, en del af den enkeltes moralitet som menneske. Derfor skal man heller ikke sparke til brødristere eller robotter, blot fordi man ikke tror, de er i stand til at føle smerte. Der er ingen grund til at gøre det.

Det andet trin består i at skelne mellem at vide og tro. Rettigheder og moralitet handler blandt andet om lidelse. Mennesker er moralske ved, at de vil minimere lidelse i verden og kan handle efter det, altså har en fri vilje. Rettigheder er en beskyttelse mod lidelse i dens forskellige former. “I agree with Bentham in saying that suffering is the relevant thing to address when it comes to morality and rights. But looking at history it seems like we do not need to know about the suffering in order to make rules and rights. As long as we believe it to be present…[It] is not whether they actually have an inner life” (s. 53).

Det afgørende trin i Telvings argumentation imod, at robotter tilkendes rettigheder, er, at selvom historien viser, at mennesker har en tilbøjelighed til at antropomorfisere og dermed ikke interessere sig for, om robotter rent faktisk har eller blot simulerer indre til, så er det en fejlslutning. For “[of course], real suffering is relevant to morality” (s. 71).

Derefter følger en diskussion af, hvordan man kan bestemme bevidst. Her bliver det afgørende om bevidsthed består af fysiske processer eller om bevidsthed afhænger af det materiale, processerne foregår igennem. En anden argumentationsrække handler om, hvorfor en kunstig intelligens overhovedet har brug for at udvikle en bevidsthed - og hvis den skulle have brug for det, hvorfor så tro, at den skulle ligne menneskelig bevidsthed?

Gennem en række interessante diskussioner når Telving frem til, at der ikke er grund til at tilkende robotter rettigheder, og han opfordrer kraftigt til, at man skal undgå det. Det er vigtigt at skelne mellem indre liv og et simuleret indre liv. Dette fører Telving frem til en generel pointe om vores forhold til teknologi: “We must do everything in our powers to resist the deep-seated tendency we have to anthropomorphize when engaging with technology with seemingly human traits” (s. 121).

Killing Sophia leverer en interessant tur gennem argumenter for og imod at betragte androide robotter med kunstig intelligens som væsner eller som ting ud fra tilstedeværelsen eller fraværet af bevidsthed. Med bogen vil han bidrage til, at vi videnskabelige, filosofisk og politisk undgår at falde i simulationsfælden, hvilket ellers kan være oplagt, når teknologi udviser tegn på menneskelige træk.