I Staten beskriver Platon sin teori om erkendelse ved hjælp af et billede, som de fleste nok kender som Platons hule. Allegorien beskriver mennesker, der er fastspændte på en sådan måde, at de ikke kan vende sig om og se, hvad der er bag dem. De ser op på hulevæggen det, de opfatter som virkeligheden. Men på hulevæggen ser man kun skygger af nogle genstande, der bæres forbi et bål, som er lyskilden for skyggerne.

For Platon er det et billede på, at den verden, vi går rundt i, ikke viser den sande verden, som man kun kan få et glimt af, hvis man vender sig bort fra det umiddelbare. Virkeligheden er ikke det synlige, men det, der er årsag til det synlige. (Det er heller ikke bålet, kan jeg afsløre, da den er en sølle erstatning for solen, der igen er en erstatning for ”Det Gode”)

Selvom man skal passe på med at bruge billeder og metaforer, så kan man måske sammenligne skyggerne på hulevæggen med output fra chatbots. Ud fra et input kan man få en chatbot til at komme med et svar eller en beskrivelse af et fænomen i den virkelige verden. Men en chatbot har ingen forståelse for den virkelige verden, og dens output står derfor heller ikke i en menneskelignende relation til viden eller erfaring om denne verden.

Det er en pointe, som Naomi S. Baron fremhæver i sin bog om chatbots; Reader Bot. Hvor hun tidligere i Who Wrote This (anmeldt i Kulturkapellet) har beskæftiget sig med chatbots output; altså som en maskine, der skriver noget, så er fokus i den nye, “What happens when AI reads and why it matters”, som også er undertitlen på bogen.

Når vi mennesker læser om noget, så forsøger vi at få det til at give mening i vores relation til verden og sætte det ind i en sammenhæng med vores nuværende viden og erfaringer. Uanset hvad vi laver, og hvor vi er, så er vi hele tiden i færd med at skabe mening i vores tilværelse; vi forsøger at forstå os selv i sammenhæng med vores omgivelser. For at kunne handle; gøre noget, bliver vi nødt til at have forståelse for den sammenhæng, vi indgår i. Men sådan fungerer chatbots ikke. Heller ikke når de “læser” eller bearbejder input. “AI-as-reader is not in the sense-making business. It just executes statistical predictions. When humans read, the whole point is to derive linguistic meaning” (s. 8).

Man skal derfor også være varsom med, hvordan man bruger outputs fra chatbots, selvom det baserer sig på noget, den har ”læst”. For hvis der ikke ligger en forståelse af det, outputtet handler om, bag de formuleringer, der bliver produceret, hvad kan man så egentlig bruge dem til?

Mange har sikkert en erfaring med, at de har fået genereret output, som har været umiddelbart brugbare og relevante. Det kan være et synonym, man leder efter, eller spørgsmålet om, hvem der nu var i krig med hinanden om hvad under svenskekrigene. Chatbots beskrives ofte som maskiner, der kan levere viden og information. Ja, ChatGPT lancerede en af deres modeller som det at have en ph.d.-grad i lommen. Man ville få adgang til viden på ph.d.-niveau ved at bruge botten, måtte man forstå.

Med flere erfaringer af brugbarheden af output kan man føle en vis tillid til chatbots. Baron hævder selv, at man kan bruge chatbots til mange forskellige ting, og at det i mange tilfælde kan være en god ide at få den til at læse for sig, så man selv slipper for opgaven. Men selvom man i visse tilfælde kan have tillid chatbots, så bliver man samtidig nødt til at fastholde sin skepsis, sin sunde fornuft og kritiske tænkning. “The ideal solution is a balancing act of sorts, reminiscent of the Russian proverb “Doveyay, no proverjay”, which translates as “Trust but verify”” (s. 20). Eller man kan også henvise til Stalin “Tillid er godt, men kontrol er bedre”. Hvordan kan man vide om det, der står om svenskekrigene er rigtigt eller ej? Her bliver man nødt til at slå efter og søge vidensbaserede kilder, hvis man ikke ved det i forvejen.

Men hvad betyder det at overlade sin læsning til chatbot? For at komme ind til dette spørgsmål diskutere Baron forskellige former for menneskelig læsning. Som mennesker læser vi blandt andet for at følge med i nyheder, vi læser af pligt i forhold til uddannelse og arbejdsrelaterede tekster, og vi læser for vores fornøjelses skyld for blot at nævne nogle hidtil meget udprægede former for læsning.

Sådan har det ikke altid været, så læsning bliver også sat ind i en historisk kontekst. Læsning er en måde at relatere sig til verden på. Men det er også en måde, der indgår i det at blive en person. Du bliver, hvad du læser, er et mundheld, som forfatteren også henviser til. “Reading has the power to shape who we are, what we aspire to, and who we become” (s. 21). Og selvom man kan have en opfattelse af, at litteratur kan fungere formativt på læserens opvækst, så er der ingen garanti for, at man bliver et etisk set godt menneske, selvom perspektivskift er en del af, man kan lære af læsning. Både Hitler og Stalin var store læsere, og de læste også gerne meget forskelligt litteratur.

Men hvordan bliver man opdraget (educated), hvis man overlader læsning til en chatbot? Når det gælder skønlitteratur og bibliografier, så giver det nok ikke så meget mening at udlicitere det til en chatbot. Alligevel finder Baron muligheder også inden for dette felt. Hun nævner forskellige platforme, hvor man evt. kan diskutere en bog med en chatbot, hvilket kan være udviklende for ens forståelse af et givet værk, og hvem ved? Måske også for ens personlige udvikling. Hun peger også på tjenester for social annotering af bøger, som også kan være meningsfuld.

Bogen er bygget op med to dele. I den første handler det om, hvad læsning overhovedet er for en størrelse. Hvad lydbøger? Tæller de med som læsning? Hvor lang skal en tekst være, før man taler om, at man er en læser? Der er mange kulturteoretiske og -historiske indsigter gemt i overvejelser som disse.

Anden del har overskriften Why Read? og her behandles de fire grundlæggende begrundelser for læsning: At dømme om verden (holde sig orienteret), pligtlæsning (fx lektier), fornøjelseslæsning og læsning som en social aktivitet (fx læseklubber).

Den første grund kalder Baron “passing judgement”, fordi det at holde sig orienteret handler om at være et myndigt individ, der kan forholde sig til sin omverden. Selvom vi alle har al viden til rådighed, så har vi ikke en chance for at forholde sig til det. Vi kan ikke sætte os ind i alle politiske, kulturelle og videnskabelige spørgsmål, ligesom vi ikke kan læse flere aviser og følge med i en omfattende nyhedsdækning. Vi må derfor under alle omstændigheder vælge noget ud. Og hvis vi bruger chatbots, så kan det være med til at dække et større område med brug af færre ressourcer. Eller kan det?

Baron diskuterer en række grunde til, at det kan være problematisk at udlicitere sin læsning til chatbots, når det gælder om at være velorienteret. Store undersøgelser har eksempelvis vist, at selvom chatbot har adgang til nyhedsartikler, laver de enormt mange fejl, når de skal gengive disse nyheder.

Dermed er vi inde på det, der ofte kaldes ´hallucinationer´. Chatbots gengiver ikke vidensressourcer, men fabrikerer tekst på baggrund af sandsynlige sammenhænge mellem orddele. Så det er nok forkert at tale om hallucinationer. Baron henviser til Will Douglas Heaven, der hævder, at alle outputs er hallucinationer. ““Making stuff up is exactly what these models are designed to do… It’s all hallucination, but we only call it that when we notice it’s wrong”” (s. 95). Og så er vi tilbage ved, at tillid er godt, men kontrol er nødvendig, hvis man skal bruge et output til noget, der har betydning for en selv eller ens omgivelser.

En anden problemstilling gælder, hvad der sker med evnen til at tænke, hvis man udliciterer læsning til chatbots. Det er sådan med evnen til at tænke og reflektere, at man træner det, ved at gøre det. Refleksionsevnen sløves af ikke at blive brugt på samme måde som med kroppen. “ We know that in learning to read, our brain’s wiring changes… use it or lose it” (s. 4).

Det er ikke alene det kognitive som er på spil. Ligesom Baron beskrev det at overlade skrivning til chatbot som en form for identity theft i Who Wrote This?, beskriver hun konsekvenser for ens personlighed, hvis man udliciterer for meget læsning og tænkning til chatbots. Man mister sin personlige stemme, som ellers er en stor del af ens identitet. “The challenge with AI, for bot reading and subsequent writing, is that it can silence our inner voice, which we rely on to drive our own interpretations” (s. 9)

Og så er der problemerne med, hvilke data store sprogmodeller (LLM) bliver trænet på. Menneskelige udsagn er en mangelvare i træningen af LLM, og der produceres nu langt mere kunstigt genereret skriftligt sprog end menneskeligt. Derfor bliver LLM trænet på syntetisk tekst, hvilket truer modellerne gennem indavl. “In the AI world, the consequence of recursively using synthetic AI data is known as model collapse… inbreeding” (s. 78)

Under alle omstændigheder, så betyder cirkulation af genereret tekst, at den sproglige variation og kreativitet daler. For folk, som ikke er gode til at skrive og formulere sig, kan det være en god ting, fordi de kan forbedre deres kommunikation i forhold til en modtager. Det er fx en stor hjælp for mennesker, der har vanskeligt ved at formulere sig, at de kan få hjælp af chatbots. De kan derved lettere gøre deres indflydelse gældende ved fx at skrive indlæg i avisen eller skrive en klage til kommunen. Men for dem, der skriver rigtig godt, så kan det være underminerende at lægge sig for tæt op ad outputs og deres måde at sætte ord sammen på.

På et kulturelt plan kan det have store konsekvenser, at brugen af chatbots bliver almindelig praksis. Igen handler det om, at de evner, man ikke bruger, de forgår mere eller mindre. Hvad der træder i stedet er et stort spørgsmål, som ikke ligger inden for bogens rammer at besvare.

Hvis vi som mennesker overlader dele af vores læsning til chatbots, hvad sker der så meget demokratiet? Forestillingen om et demokrati hænger sammen med selvstændige og myndige individer, der kan forholde sig til det, vi har sammen som menneskelige samfund. Som Baron skriver: “What happens to democracy? At its core is citizens’ ability to make reasoned choices when supporting candidates, who then render decisions on voters’ behalf” (s. 208).

Det eneste tidspunkt, man spiser mere end mellem jul og nytår, er mellem nytår og jul. Denne morsomhed kunne man godt give til Baron i forhold til den forståelse af demokrati, hun her giver udtryk for. Det vigtigste i demokratiet er ikke periodiske valg, men den måde, hvorpå vi organiserer vores fælles liv mellem valgene. Selvfølgelig er det vigtigt, at vælgere i en eller anden forstand er vidende, følende og myndige, men det er vigtigt ikke at reducere demokrati til en hændelse hver fjerde år.

Det er en superspændende og vidende bog, Baron har skrevet. Hun skriver med en intellektuel lune, man ikke finder mange steder i faglitteraturen. Så når det kommer til hendes bøger, så følger man virkeligt, at man vil tabe noget, hvis man ikke selv læser dem. Jeg nyder i hvert fald at læse Baron, for her er jeg i godt selskab med en person, som generøst deler ud af indsigter og perspektiver, jeg aldrig vil kunne møde hos en chatbot, som blot kaster skygger på en væg uden at bekymre sig om vores fælles verden og væren.