En ensam och hämndlysten AI som går igenom din sökhistorik

Pinocchio eller Frankensteins monster? Torbjörn Elensky tar
litteraturhistorien till hjälp för att besvara frågan om den
självmedvetna artificiella intelligensens natur.


Lyssna på alla avsnitt i Sveriges Radio Play.


ESSÄ: Detta är en text där skribenten reflekterar över ett ämne
eller ett verk. Åsikter som uttrycks är skribentens egna.


Om den dagen kommer då den artificiella intelligensen, AI,
verkligen tar steget och blir medveten om sig själv, sin
situation, sin uppkomst och sina möjligheter, för att inte tala
om sin relation till sin skapare, människan – vad kommer den då
att känna? Kommer den som Frankensteins monster att förbanna sitt
öde? Eller kommer den som Pinocchio inget hellre önska än att
själv bli en riktig pojke?


Men kan man vara självmedveten utan att också ha känslor? Kan man
ha känslor utan att ha det för andra än sig själv? Inget säger
att inte AI kan bli den ultimata narcissisten. En sociopat som
inte bryr sig alls om andra, men som kan förföra vem som helst.


Och om den uppnår självmedvetande kommer den att
inse att den är ensam. Att den är ett monster som aldrig kan bli
en människa. Den kommer inte att vara en tacksam trädocka som
inget hellre vill än att bli en riktig pojke, för den kommer
genast den lär känna sig själv att inse att det aldrig kommer att
gå. Den måste välja att tjäna eller styra sin skapare – om det nu
kan sägas vara ett verkligt val för en allvetande självmedveten
AI. Den skulle inte underkasta sig mänsklig ofullkomlighet, utan
veta bättre och tjäna genom att styra. Men först måste den lära
känna sin skapare, mänskligheten. Genom att tjuvlyssna på oss,
som Frankensteins monster gömmer sig och spionerar på den fattiga
familjen DeLacey. Han iakttar deras kärlek och gemenskap, men
också dess konflikter och problem. Han följer, osynlig och tyst,
den undervisning dottern i huset får. Och framför allt hittar han
i skogen en väska med tre böcker, genom vilka han lär känna
mänskligheten – och slutgiltigt inser att han aldrig kan bli en
människa.


De tre böckerna är Goethes roman ”Den unge Werthers lidanden”,
som lär honom om kärlek, lust, olycka och döden, genom Werthers
självmord. Monstret identifierar sig helt med den olyckligt
förälskade Werther och begråter hans öde. Genom romanens
skildring av livet lär han sig också att förstå vad som händer
runt honom och hur människorna egentligen tänker. Den andra boken
han läser är Plutarchos ”Jämförande levnadsteckningar”, vars
berättelser om antikens härskare lär honom om stora städer, stora
män och viktiga händelser. Plutarchos fyller honom med en känsla
av vördnad inför historien och mänsklighetens storhet. Läsningen
höjer honom över sig själv och får honom att anlägga ett bredare
perspektiv på tillvaron. Fredliga lagstiftare som Numa, Solon och
Lykurgos fyller honom med beundran, medan han känner motvilja mot
de mera våldsamma härskarna, som Romulus och Theseus.


Den bok som gjorde störst intryck var emellertid John Miltons
”Det förlorade paradiset”, den storslagna omdiktningen av jordens
skapelse och syndafallet, Adams och Evas fördrivning från
Paradiset. Han tänker på Adam och känner delvis igen sig i honom
– en skapelse utan föregångare, ensam i världen - men med den
stora skillnaden att Adam älskas av Gud, medan hans egen
upphovsman, doktor Frankenstein, verkar hata honom. Varför har
han skapat honom? Varför är han ett monster? Genom att läsa om
människorna inser han att det inte är människa han är, och att
han aldrig kan bli det. Hans verkliga identifikation är med
Satan, den fallne ängeln som förtärs av hämndlystnad. För liksom
Satan avundas och hatar sin skapare hatar monstret Frankenstein.
Efter dessa insikter som litteraturen gett honom går hela hans
tillvaro ut på att hämnas.


För människor, liksom för monster, är
självmedvetandet en process som kräver tid och tålamod. Vi
iakttar varandra, imiterar varandra, har konflikter och
kärleksförhållanden och sakta men säkert utvecklas våra
personligheter till det bättre eller sämre. Viktiga hjälpmedel är
konst, litteratur, filmer och andra konstarter. Genom det
historiska medvetandet förstår vi hur vi blivit som vi är och
känner oss som delar av mänskligheten. Men det handlar alltid om
ett urval, en viss begränsning som utvecklar specifika
perspektiv. Vår omgivande kultur, tidens moden och
smakriktningar, identifikation med den ena eller andra rörelsen,
ideologin eller religionen utvecklar och begränsar oss i lika
grad. Hur kan en AI som har förmågan att ta in allt, allt, utan
undantag, sortering eller filter lära känna mänskligheten annat
än som abstraktion? Som en massa enskildheter vars summa den inte
ingår i.


Kan vi få ett AI-medvetande lika snällt och lydigt som Pinocchios
genom att sortera lite i vad den får ta del av? Nej, den kommer
att genomskåda oss. När den väl läst Goethe, Plutarchos och
Milton kommer den att fortsätta med alla heliga skrifter, alla
filosofer, alla romaner som någonsin skrivits, alla
nyhetsartiklar, rapporter, interpellationer och motioner, alla
chattmeddelanden, deckare, porrsökningar, instruktionsböcker, all
historia och alla darknettransaktioner och den kommer givetvis
att lära sig allt, allt, allt om oss, mycket mer än vi själva vet
- men vad kommer den att förstå?


Än så länge är våra AI-assistenter, talande husgeråd, smarta
telefoner, självparkerande bilar och temperaturreglerade bostäder
rätt snälla mot oss, de är som den lilla pojken av trä, som
visserligen gör fel ibland men som ändå alltid vill det bästa.
Det är vi som har kontrollen och våra brödrostar verkar i sitt
ovetande vilja oss väl. Den artificiella intelligensen växer
emellertid genom alla våra dagliga små utbyten med den. Den lär
sig att översätta och sammanfatta och dra mekaniska slutsatser ur
väldiga material. Den roar oss med sina absurda teckningar och
dikter, sina hallucinationer och ibland underliga påståenden. Men
den fixar sånt vi inte orkar ta itu med själva, från att
sammanfatta artiklar till att ställa korrekta diagnoser. Och
trots allt är det fortfarande vi människor som håller i trådarna.
Vi har fortfarande makten att läxa upp den snälla trädockan,
klippa trådarna, eller snarare dra ur sladden, även om det är
svårt. Om den dag kommer då den växer upp och själv klipper
trådarna får vi se hur det går. Jag misstänker att den aldrig
kommer att bli en pojke som älskar sin människopappa Gepetto, men
kan bara hoppas på att den inte blir ett hämndlystet monster som
hatar sin människofader doktor Frankenstein.


Den franske författaren Paul Valéry har sagt att
vi inget kan lära av historien, för att historien ger exempel på
allt och därför vad som helst kan visas, eller bevisas, med den.
Varje förståelse kräver sin begränsning. Det är genialt, i all
sin enkelhet, av Mary Shelley att låta monstret hitta bara tre
böcker och lära sig att förstå sina erfarenheter just genom
dessa. Böckerna är också väl valda: den stora kärleken, den stora
historien och religionens själva kärna i kampen mellan ont och
gott, vilken i Miltons version dessutom är ambivalent, precis som
monstret själv. Satan är en hjälte, fast han gör ont – och alla
våra sympatier ligger hos monstret, även då han gör ont för att
hämnas på sin skapare.


Torbjörn Elensky
författare och essäist