Mange, der er interesserede i generativ kunstig intelligens, vil kende Ethan Mollick for hans mange indlæg om emnet, især gennem hans blog, One Useful Thing https://www.oneusefulthing.org/ , der ofte bliver fremhævet som en kilde til både indsigt i og holdninger til alle ting relateret til generativ kunstig intelligens.

Mollick har nu samlet mange af sine overvejelser i bogen med titlen Co-Intelligence: Living and Working with AI. Bogen er let at læse og dækker et bredt spektrum af emner, men fokuserer særligt på, hvordan man kan anvende generativ kunstig intelligens som en samarbejdspartner, der styrker ens eget arbejde, næsten uanset hvad man laver. Titlen antyder arbejde, der involverer tænkning, refleksion, ræsonnement og kreativitet.

Fremkomsten af generativ kunstig intelligens er særlig, fordi den, i modsætning til meget anden teknisk og teknologisk udvikling, primært retter sig mod processer, der har at gøre med menneskelig intelligens, selvom det ikke står klart, hvad der kendetegner menneskelig intelligens og derfor heller ikke, hvad hverken det kunstige eller intelligente betyder, når vi taler om kunstig intelligens.

“Where previous technological revolutions often targeted more mechanical and repetitive work, AI works, in many ways, as a co-intelligence. It augments, or potentially replaces, human thinking to dramatic results” (s. xvii), siger Molick i bogens introduktion.

Han peger her på, at anvendelsen af generativ kunstig intelligens både kan forstærke menneskelig formåen gennem samtænkning og også udgøre en risiko for at erstatte tænkning ved den måde, hvorpå den anvendes. Dette kan ske, hvis man overforbruger de genererede outputs uden at anvende sin egen ekspertviden, kritiske sans og sunde fornuft.

Han henviser her blandt andet til en undersøgelse fra MIT “The MIT study [..,] found that ChatGPT mostly serves as a substitute for human effort, not a complement to our skills” (s.120). Dette fremhæver en væsentlig bekymring ved anvendelsen af generativ kunstig intelligens, som også andre har omtalt som en dovent brug. Hvorfor anstrenge sig yderligere, når man nu kan få genereret output, der er ”gode nok”? Man kan vænne sig til, at middelmådighed er tilstrækkeligt.

Men dette kan faktisk være dybt problematisk, hvilket også fremgår af en anden undersøgelse, hvor Dell´Acqua undersøgte, hvordan rekrutteringskonsulenter arbejdede med og uden kunstig intelligens. Det viste sig, at de konsulenter, der anvendte højtspecialiseret kunstig intelligens, præsterede dårligere i deres job sammenlignet med dem, der ikke havde adgang til sådan teknologi. De stolede for meget på teknologien, hvilket dulmede deres opmærksomhed og kritiske sans.

Dette eksempel illustrerer klart en stor udfordring ved brugen af generativ kunstig intelligens til beslutningsstøtte. Tænk på alle de medarbejdere, der skal træffe beslutninger med konsekvenser for borgere, som i sager om boligstøtte og visitering til hjælpemidler. Ved brug af kunstig intelligens kan arbejdsbyrden måske reduceres, men hvad med kvaliteten af beslutningerne og borgernes indsigt i grundlaget for disse beslutninger? Her er der virkelig brug for regulering af teknologien.
Mollick påpeger en række potentielle problemer, når man outsourcer tænkning og analyse til tænkende maskiner, men han fokuserer især på de muligheder, der ligger i co-intelligence eller samtænkning. Hans pointe er, at man primært bør anvende generativ kunstig intelligens til at støtte ens egne svagheder inden for intelligens. Det gælder eksempelvis idégenerering. Mange mennesker har svært ved at finde på gode ideer. De fleste kan kun komme op med et fåtal ad gangen og har en tendens til at gentage de samme ideer.

Generativ kunstig intelligens er imidlertid fremragende til idegenerering, så når der er behov for mange ideer, eller når man blot ønsker at kunne vurdere dem, man selv kommer på, kan det være meget fordelagtigt at anvende generativ kunstig intelligens. "At generere mange ideer er ikke korreleret med intelligens; det synes at være en færdighed, nogle mennesker har, og andre ikke. Indtil for nylig fandtes der ingen hjælpemidler eller metoder, der kunne hjælpe dem, der ikke var gode til at generere mange ideer, med at gøre det bedre. ... AI er fremragende til at generere en lang liste af ideer. Fra et praktisk synspunkt bør AI inviteres til enhver brainstorming-session, man afholder" (s. 105f).

Det kan være, at en studerende står over for at skulle besvare en opgave eller skrive et essay. Emnet er givet på forhånd, men der er mange muligheder for at vælge et underemne. Hvad skal det være? Her ville det være en god idé, hvis den studerende først tænker sig om, kommer med egne ideer og måske også udforsker underemnet. Efter en tids overvejelse kan den studerende så instruere kunstig intelligens til at generere ideer, som den studerende efterfølgende kan vurdere. Er der nogle, der lyder mere interessante? De mest lovende ideer kan undersøges nærmere i en proces, der fører den studerende dybere ind i emnet.

Udfordringen er dog: Hvorfor ikke blot trykke på knappen? Hvordan motiverer man studerende til at engagere sig i en proces, der tydeligvis er mere krævende end blot at anmode om et par ideer og derefter vælge en af dem? Hvordan undgår man tendensen, som mange har, til simpelthen at 'trykke på knappen' for hurtigt at blive færdig? Det kræver betydelig tilpasning i undervisningsaktiviteterne at få studerende til at benytte hjælpemidler på en måde, der fremmer forståelse, frem for blot at færdiggøre et produkt.

Uddannelsessystemets fokus på præstationer udgør her en udfordring for at udvikle gode studievaner. Underviserne må derfor kompensere ved at lægge større vægt på læringsprocessen og designe deres undervisning, så den opmuntrer til hensigtsmæssig anvendelse af værktøjer.

Mollick giver mange inspirerende eksempler på, hvordan både undervisere og studerende kan anvende generativ kunstig intelligens. Han argumenterer for fire principper i bogen:

• Always invite AI to the table.

• Be the human in the loop.

• Treat AI like a person (but tell it what kind of person it is).

• Assume this is the worst AI you will ever use. (s. 47ff).

Det første princip handler om at inddrage generativ kunstig intelligens i så mange opgaver som muligt. Dette skal gøres for at vænne sig til, hvordan man kan samarbejde med værktøjet, så man undgår fristelsen til blot at ´trykke på knappen´. Med sin 'medtænker' ved siden af kan man altid få præsenteret ekstra perspektiver på det, man arbejder med, eller få modargumenter til egne antagelser. Derved udfordres ens egen tænkning, og perspektivet udvides.

En potentiel negativ sideeffekt ved dette kunne dog være, at man udvikler sit eget ekkokammer, som Mollick også påpeger: “[Soon] we will each have our own perfect echo chambers. It’s possible that these personalized AIs might ease the epidemic of loneliness that ironically affects our ever more connected world - just as the internet and social media connected dispersed subcultures. On the other hand, it may make us less tolerant of humans, and more likely to embrace simulated friends and lovers” (s. 90). Dette er en væsentlig overvejelse at være opmærksom på.

At være "mennesket i loopet" indebærer, at man skal anvende generativ kunstig intelligens med omhu og aldrig miste grebet om sin egen dømmekraft. Mollick påpeger, at selvom outputs kan være "forkerte" og ikke matcher autoriseret viden, er det ikke nødvendigvis et alvorligt problem. Generativ kunstig intelligens producerer ord, men den refererer ikke direkte til viden. Problemet opstår, fordi genererede outputs ofte kun afviger i detaljer, hvilket kan være svært at opdage, hvis man ikke besidder tilstrækkelig indsigt. Det er derfor afgørende altid at kontrollere outputtets detaljer. Det kræver menneskelig ekspertise at anvende — eller i det mindste at udnytte potentialet i — generativ kunstig intelligens. Det centrale er at have fokus på, hvordan generativ kunstig intelligens kan understøtte ens egen tankeproces, snarere end blot at producere "svar" på spørgsmål, da dette kræver omfattende efterarbejde med faktatjek.

Antropomorfisering, altså det at tillægge ikke-menneskelige objekter menneskelige egenskaber, har været kritiseret som et problem ved generativ kunstig intelligens. Men Mollick udfordrer denne opfattelse og hævder, at man opnår de bedste resultater med generativ kunstig intelligens, hvis man behandler den som om den var et menneske. Det er vigtigt at overveje, hvilken type 'person' AI'en skal forestille, for at maksimere de muligheder, der følger med at anvende en sådan 'medtænker'.

Mollick anbefaler, som sagt, at man altid har generativ kunstig intelligens ved hånden. Man skal lære at bruge den, så den understøtter ens egne tankeprocesser som en form for co-intelligens, snarere end at erstatte ens egen tænkning.

Generativ kunstig intelligens bør anvendes som en forstærkning, ikke som en erstatning.

Han skelner mellem to typer opgaver: kentauer- og cyborgopgaver. Den første type indebærer en klar arbejdsdeling mellem menneske og maskine, hvor den kunstige intelligens udfører en opgave, og man derefter integrerer dens resultater i sit eget arbejde. Men det største udbytte opnår man, hvis man anvender generativ kunstig intelligens som en co-worker og kombinerer det menneskelige og det maskinelle. Mollick illustrerer, hvordan han har implementeret dette i sit arbejde med at skrive bogen.

Selvom jeg har visse forbehold, som f.eks. fremhævningen af personaliseret læring, som jeg mener er en misforståelse af læringsbegrebet, synes jeg, at bogen er både god og inspirerende. Den er letlæst og dækker et bredt spektrum af emner. Bogen styrke ligger især i de konkrete eksempler på co-intelligence, som Mollick præsenterer gennem hele værket.

Forrige anmeldelse
« Birgitte Gøye - en biografi «

Næste anmeldelse
» Hovedstaden bag facaden – Mø... »

Flere sagprosaanmeldelser