Vad kan gamla romaner om stängda bibliotek lära oss om utvecklingen av artificiell intelligens? Rätt mycket, menar Eric Luth och varnar för en habsburgsk AI.
En vacker dag går du in i ditt bibliotek. Världen äcklar dig, böckerna välkomnar dig. Du lämnar aldrig biblioteket.
Du slår dig ner i en fåtölj, kanske med en whisky och en cigarr, en varm filt, en brasa. Du ser ut över boksamlingen. I bokhyllorna finns några tusen volymer: romaner, lyrik, fackprosa. Ett tvärsnitt av världens kunskap. Du lämnar aldrig fåtöljen.
Du läser en bok om dagen, kanske två. Efter några år har du hunnit igenom biblioteket och omfattat en stor del av världens vetande. Du har tillgodogjort dig bibliotekets samlade kunskap.
Biblioteket öppnar inte, till skillnad från i Borges kända novell, ständigt upp sig i nya gångar. Det finns inga valv bakom valv oändligt. När du har läst allt i biblioteket är böckerna slut. Kunskapen är uttömd.
Någonstans här befinner sig den unge adelsmannen Jean Floressas Des Esseintes i J K Huysmans dekadensbibel Mot strömmen (1884, nyutgiven av Alastor på svenska 2002 och i omarbetat format 2013). Han drar sig undan från omvärldens äckel. Likt en munk, ”insvept i klosterstämning”, låser han in sig i sitt lilla hus i utkanten av staden. Blott uppassad av sina betjänter.
Snart uppenbarar sig dock utmaningarna med att ställa sig utanför samhället. I sitt stängda rum får han ingen ”ny näring för själen”, han är ”utan färska intryck, utan nya tankar”, utan de ”yttre förnimmelser man får genom att involvera sig i världen, i vänner och samhälle”. Allt han kan veta är vad som finns i bokhyllornas volymer. Böckerna som var fördämningen mot meningslösheten blir till slut, utlästa och omlästa, en del av meningslösheten. Han börjar ”leva på sig själv”, ”suga näring ur sin egen substans”, i hans själs sorgehav flyter bagateller som ”värdelöst vrakgods”.
Nyligen satte Uppsala stadsteater upp Umberto Ecos Rosens namn. I en scen ropar den unge novisen Adso från Melk, spelad av Beata Hedman, högt: ”Biblioteket är världen!” Den gamle munken Alinardo har nämligen just fått honom att inse att biblioteket i det franciskanerkloster som utgör skådeplatsen för Ecos roman är format som en världskarta i labyrintform. Kunskap öppnar ny kunskap, ända till världens ände.
Men biblioteket är också farligt i Ecos roman. I Rosens namn dödar böcker bokstavligen – en särskilt eftertraktad bok som bär på djupa insikter om människan och Gud (no spoiler) har kletats in med dödligt gift. Alla som försöker hitta sanningen i boken, det vill säga snudd på varje munk, dör.
Ett bibliotek där omvärldens ljus inte förmår tränga in är dödligt farligt. Stora risker uppstår i hermetiskt tillslutna kunskapskammare.
Det som gör biblioteket i Ecos roman särskilt farligt är att det är stängt för tillträde. Bibliotek ska tillgängliggöra kunskap för allmänheten. I det norditalienska franciskanerklostret stängs i stället kunskapen in för att undanhålla den från människor. Kunskapen är farlig. Ett bibliotek där omvärldens ljus inte förmår tränga in är dödligt farligt. Stora risker uppstår i hermetiskt tillslutna kunskapskammare.
Des Esseintes och Adso kan tänka hur snabbt de vill. Utan nya böcker och omvärldens ljus går tankegångar i stå, degenererar. Således Des Esseintes: ”Hans naturvidriga isolering fick alla frågor, som han glömt under sin sejour i Paris, att träda fram på nytt som irriterande problem.” När han stänger in sig själv i biblioteket ploppar gamla bortglömda defekter upp igen där man minst anar det. Om man aldrig får in nya böcker i sitt bibliotek kommer man med tiden bli dummare. Alla ens tidigare problem, som man trodde att man hade lämnat bakom sig, bubblar upp till ytan igen. Som ett sådant där spel där man ska slå ner gubbar som ploppar upp ur hål.
Det är faktiskt imponerande att Huysmans i Mot strömmen lyckades beskriva artificiella intelligensers problem nästan ett och ett halvt sekel innan de var uppfunna.
Något annat som ploppar upp om vartannat verkar vara gamla idéer, för liknar inte Huysmans Mot strömmen något? Det är faktiskt imponerande att Huysmans i Mot strömmen lyckades beskriva artificiella intelligensers problem nästan ett och ett halvt sekel innan de var uppfunna. Romanen är egentligen en dekadent science fiction-roman som fångar vad som händer när en AI-maskin inte matas med ny data.
Samtidigt är det som en modern AI-maskin William av Baskerville, Adsos läromästare, lyckas lista ut vad det är för bok som dödar munkarna. I upphovsrättslig mening kallas en vanlig metod för att träna AI-modeller ”text and data mining”, eller ”text- och datautvinning”. I upphovsrättslagen § 15 a definieras text- och datautvinning som en ”teknik som används för att analysera text och data […] i syfte att generera information”, särskilt – (enligt (EU) 2019/790, art. 2.2) – ”mönster, trender och samband”.
I essän Comment parler des livres que l’on n’a pas lus? (2007, ”Hur man talar om böcker som man inte har läst”) drar den franske litteraturprofessorn Pierre Bayard slutsatsen att William i Rosens namn har kommit fram till en av de bästa strategierna för att tala om böcker som man inte har läst. William inser nämligen att genom att placera in en bok i världens samlade bibliotek kan man skaffa sig en god bild av vad den handlar om, även om man inte har läst den. Således inser han vad det är för bok och vad den vill säga, utan att någonsin öppna den – och därmed överlever han.
William av Baskervilles strategi är en sorts text- och datautvinning. Hans hjärna fungerar som en teknik för att analysera text och data i syfte att generera information, särskilt ”mönster, trender och samband”. Han är i praktiken en AI, en intelligent maskin som lyckas skapa kunskap ur intet, som kan läsa en bok han aldrig kan öppna.
Problemet är bara att när han når insikten om den dödliga bokens innehåll har fem munkar dött och franciskanerklostret fattar eld. Ett årtusende av unika skrifter går upp i rök. Det tillslutna biblioteket tålde inte omvärldens luft. Det enda sättet att rädda biblioteket på hade varit att i god tid förse det med bättre data.
En artificiell intelligens tillförlitlighet bygger, mycket förenklat, på tre v: velocity (snabbhet), volume (datamängd) och variety (datatyp). Det behövs mycket data av många olika sorter och dessa behöver processas snabbt, för att en AI ska fungera tillfredsställande.
Stora språkmodeller som Chat GPT och copilot tränas på material som har skrapats från nätet, såvida inte metadatan – alltså datan om datan – uttryckligen säger att det inte får ske. Ju fler som säger att material inte får användas, desto sämre AI. Risken är att aktörer som av väldigt specifika anledningar – som exempelvis desinformationsspridning – vill att deras material ska återanvändas, oavsiktligt får en tung vikt i AI-modellen. Eller för all del rasistiska flashback-diskussioner och konspiratoriska reddit-poster.
En habsburgsk AI. En inavlad mutation med överdrivna, groteska drag.
För att låna informationsteknologen Jathan Sadowskis liknelse: En habsburgsk AI. En inavlad mutation med överdrivna, groteska drag.
Om AI-modellen, vi kan kalla den Des AIssentes, vill undvika en habsburgsk utveckling måste den se till att köpa in nya böcker. Det ligger på OpenAI, Microsoft och de andra stora internetutvecklarna att se till att de som förser modellerna med kunskap faktiskt också får rimlig ersättning.
Annars kanske allt i värsta fall, som i Rosens namn, skapar stor förödelse och ond bråd död. Eller så blir det som i Mot strömmen, ett sorgehav av bagateller som flyter omkring som värdelöst vrakgods.
Eric Luth
Gillar du det du läste? Stöd Liberal Debatt genom att teckna en prenumeration!