Maskiner der tænker er titlen på den norske partikelfysiker og forsker i forståelig kunstig intelligens Inga Strümkes virkeligt vidende og velskrevne bog. Bogen er nok den bedste populærvidenskabelige bog, jeg nogensinde har læst - og jeg vil gerne anbefale bogen til alle, der er interesserede i maskinlæring og kunstig intelligens.

Strümpkes sprog er langt hen ad vejen dagligdags og lettere humoristisk, som i en hyggelig samtale, men det er samtidig skarpt i forhold til definitioner og faglige indsigter. Det giver rigtig god mening, at hun har deltaget i en række podcasts og skriver om teknologi for et dagblad. Hendes bog er virkelig eksemplarisk i videnskabelig formidling til en interesseret offentlighed.

Bogen er opdelt i tre dele. Først får læseren en introduktion til den kunstige intelligens historie. Anden del handler om ‘state of the art’ inden for kunstig intelligens, som også kommer ind på alle de moralske og etiske overvejelser, der dukker op, når mennesker udliciterer en del af sit tænke- og beslutningsarbejde til maskiner, man dybest set ikke ved, hvordan fungerer, og som man heller ikke kan kontrollere. Tredjedelen bevæger sig ind på spørgsmål om kreativitet, bevidsthed og fremtiden for kunstig intelligens.

Spillet skak spiller en afgørende rolle i udviklingen og videreudviklingen af kunstig intelligens, da det er et spil, der kan siges grundlæggende at handle om anvendelsen af intelligens som det afgørende element. Spillet er komplekst og indeholder ingen elementer af tilfældighed. Derfor vil den, der bedst er i stand til at analysere en stilling og den måde, den kan udvikle sig på, altid vinde - eller i det mindste ikke tabe. (At psykologi i praksis også spiller en rolle, ser vi her bort fra).

Udviklingen af kunstig intelligens er forløbet i en række af udfordringer mellem mennesker og maskiner i skak. De første skakcomputere klarede sig ret dårligt, men med IBMs Deep Blue blev regnekraften så tilstrækkelig stor, at den i 1997 vandt over den regerende verdensmester Gari Kasparov. “Den 11. maj 1997 blev en mærkedag for AI-historien: For første gang måtte menneskene overlade skaktronen til maskinerne” (s.31).

Men kan man kalde Deep Blue intelligent? Ja, det kan man, hvis man måler intelligens på evnen til at løse komplicerede og komplekse opgaver, der kræver stor regnekraft. Dens intelligens adskiller sig ikke fra menneskers i løsningen af konkrete opgaver. Menneskelig intelligens handler også om andet og mere end rå regnekraft, nemlig evnen til at forstå en helhed i et blik, så man ikke behøver at regne alt ud. Man kan her måske tale om intuition.

Udviklingen af regnekraft er ikke det, der virkelig gør kunstig intelligens til noget helt særligt. Så længe det drejer sig om regnekraft, kan mennesker i princippet tjekke, hvordan en kunstig intelligens er kommet frem til sit resultat. Man kan gå alle mellemregningerne igennem. Men i det næste skridt i udviklingen af kunstig intelligens sker der noget kvalitativt anderledes. Her forlader man så at sige den menneskelige intelligens og udvikler en maskinintelligens, der langt hen ad vejen er den menneskelige intelligens overlegen.

Dels gør maskinlæring det muligt for et program at lære af sig selv. Programmet skal selvfølgelig programmeres til det, men i princippet lærer et maskinlæringsprogram sig selv, hvordan opgaver skal løses. I tilfældet skak kan programmet lære af at spille med sig selv. Ved at det spiller tilstrækkeligt mange partier, laver fejl og finder ud af at undgå disse fejl, bliver det støt og roligt bedre og bedre til at spille skak. I modsætning til det regelstyrede program finder det også ud af at spille på måder, som mennesker ikke ville gøre. Det bliver altså en mere selvstændig - eller ikke-menneskelig - intelligens.

Når vi bevæger os væk fra symbolsk AI og over i maskinlæring, neurale netværk og subsymbolsk AI bliver det hele meget komplekst og svært fatteligt. Her er det rart at have en som Strümpke i hånden. AI bevæger sig væk fra menneskelig forståelse, da den kan arbejde med mange forskellige parametre og dimensioner, som ikke giver mening for den menneskelige forstand.

Vi kan nok forstå, at noget er éndimensionalt og ligger på en linje. Et to- og tredimensionelt rum giver også mening, og til nød kan man koble tiden som en fjerde dimension på. Men kunstig intelligens kan lægge uendeligt mange flere dimensioner til, hvilket ikke giver mening for os mennesker. Og det betyder samtidig, at “vi mennesker ikke kan se på parametrene og dermed ikke kan få indblik i, hvad netværket har antaget om den verden, det skal fungere i” (s.71). Når der er flere dimensioner, svarer det til et koordinatsystem med uhyggeligt mange talpositioner. Hver dimension svarer til et datapunkt, der repræsenterer noget i virkeligheden, hvilket den menneskelige hjerne ikke kan kapere.

Sagt på en måske mere forståelig måde: “Vi kan tænke på de programmer og ekspertsystemer, der udspringer fra symbolsk AI, som akvarier. Hvem som helst kan gå hen og se, hvad der foregår derinde. Når vi taler om subsymbolsk AI, må vi tænke omvendt; den viden og den mening, maskinlæringsmodeller opdager, ligger under symbolerne og kan ikke forstås direkte af mennesker” (s.118).

Og dette giver oplagt et problem, når vi anvender kunstig intelligens i forhold til at gøre noget i verden, hvor beslutninger har mærkbare konsekvenser for rigtige mennesker. Og det giver også et kritisk indblik i anvendelsen af store sprogmodeller som eksempelvis ChatGPT, fordi vi netop ikke ved, hvorfor de svar, vi får ud af at anvende ChatGPT, ser ud, som de gør.

Vi ved, at ChatGPT er trænet på uendelig meget allerede skrevet tekst. Ud fra dette materiale vælger sprogmodellen så tilfældige ord til at stå efter hinanden som svar på et spørgsmål. Men der er tale om en vægtet tilfældighed, hvori der måske indgår millioner af parametre. Dette har fået nogle til at omtale sprogmodeller som stokastiske papegøjer, fordi de genererede tekster ikke bunder i nogen som helst former for viden om et emne, men om tilfældige (stokastiske) ordsammensætninger valgt ud fra, hvordan et vægtet gennemsnit af andre tekster har sat ord sammen.

Sprogmodeller giver derfor ikke i sig selv svar på et spørgsmål, men hvis man stiller spørgsmålet tilstrækkelig præcist kan den hente tekst ind, der muligvis er et brugbart svar, da den trækker på tekster, der (muligvis) beskæftiger sig med det samme, som der er blevet spurgt til.

Hvis vi derfor anvender kunstig intelligens i vores arbejde, er det ligesom at udføre arbejdet med bind for øjnene - og det er også derfor, man bliver nødt til at anvende sin kritiske sans i afgørelsen af, hvorvidt og hvordan man vil bruge kunstig intelligens til noget i det virkelige liv.

Helt generelt lægger brugen af digitalt manipuleret - eller digitalt behandlet information - op til, at brugerne skal have en forståelse for, hvad de arbejder med. Det ved vi også fra søgninger på nettet, hvor man bliver nødt til at kunne forholde sig kritisk til det, søgninger viser. Men det bliver endnu mere komplekst, når vi får computere til at anvende informationer og udføre kompleks problemløsning. Problemet bliver større, fordi vi netop ikke har adgang til en bestemt kilde for en bestemt information eller et bestemt svar. I en søgning på nettet kan vi anvende kildekritik, men det kan vi ikke på kunstig intelligens, fordi der ikke er kilder i gængs forstand. “Visheden om, at al digital information i princippet kan være vildledende, giver os et kraftigt incitament til at udvikle en kritisk tankegang” (s.167).

Samtidig kan anvendelsen af kunstig intelligens paradoksalt nok føre til, at vi bliver dårligere til at anvende vores egen kritiske sans, fordi “vores evne til selv at foretage vurderinger mindskes, jo mere vi bruger intelligente systemer, der træffer beslutninger for os” (s.238).

Strümke kommer ind på mange forskellige muligheder og udfordringer ved forskellige former for kunstig intelligens. Og udfordringerne kan være alvorlige. Det er nemlig ikke givet, at selvlærende programmer, selvom de er programmerede til at gavne mennesker, vil gøre det i sidste ende. Netop fordi programmer bliver instrueret i deres maskinlæring at optimere noget, kan optimeringen betyde, at programmet udvikler sig imod de oprindelige intentioner, der var programmeret ind i programmet. Dette er en følge af, at mennesker ikke kan følge ‘logikken’ i den måde, som et maskinlæringsprogram udvikler sine svar eller output på.

Strümke kommer med et meget godt tænkt eksempel. Hvis man programmerer en robot til at gøre rent og optimere på dette, så kan det være, at programmet efterhånden ‘finder ud af’, at der bliver beskidt, når mennesker gør noget i huset. Derfor bliver den optimale måde at sørge for, at der er rent, at robotten ‘fjerner kilden’ til, at der bliver beskidt. Eksemplet er simpelt, fordi man nok kunne tænke så langt, men hvis opgaven bliver meget kompleks - at udvikle svar på klimakrisen eksempelvis - så kan man ikke på forhånd vide, hvilke output modellen kan komme op med.

Der er meget, meget mere at hente i Maskiner der tænker. Som allerede nævnt er det en fremragende bog, som alle, der interesserer sig for samspil mellem mennesker og teknologi, bør læse. Jeg har nydt at læse bogen. Det er ikke alt, jeg har forstået, men heldigvis kan jeg læse den igen, så jeg får fat i flere dimensioner af de udfordringer, kunstig intelligens byder menneskeheden.