av Bjørn Are Davidsen
Opprinnelig publisert i programboka til Norcon 2025, gjengitt med tillatelse
Han slo på bryteren som koblet alle systemene med kunnskapen fra alle planeter i alle galakser. Første spørsmål gikk rett på sak: «Finnes en Gud?». Svaret var like direkte: «Ja, nå finnes en Gud!». Han kastet seg frem for å koble ut. Et lyn fra klar himmel traff ham og smeltet bryteren i vranglås.
Fredric Browns 70 år gamle novelle Svaret understreker dilemmaet. Kan mennesket overleve om det utvikler kunstige intelligenser?
Tenkende maskiner er ikke noe nytt
I gresk mytologi bygger smedguden Hefaistos monstre, dyr og mennesker som går for egen maskin, kan reprodusere seg selv, tenke og føle. Daidalos får statuer til å bevege seg, «gull til å føle». I jakten på det gyldne skinn slipper Jason med nød og neppe unna bronsekjempen Talos som vokter Kreta.
Selv om Aristoteles i motsetning til Platon ikke så sjel og tenkning som noe immaterielt, men som uttrykk for egenskaper i kroppens form, ble ikke greske statuer levende straks de lignet mennesker.
Løsningen var ingeniørtricks. Heron av Alexandria programmerte små dampmaskiner og roboter, ved tau, akslinger og vekter. Han påvirket oppfinnere i det stadig mer greske Østromerriket, det latinske vesten og det arabiske kulturområdet som også ble kjent med oppfinnelser fra det fjerne Kina.
I år 949 forteller den italienske sendemannen Liutprand om syngende metallfugler i Konstantinopels keiserpalass. Ved tronstolen brøler mekaniske løver med dirrende tunger, mens halene pisker mot gulvet. Brått løfter stolen seg og skjuler keiseren som iføres enda mer praktfulle klær før han vender ned fra oven. Målet er tydelig: Robotene skal spakne erobringslystne barbarer.
Middelalderens roboter
Slik Elly R. Truitt viser i Medieval Robots manglet ikke drømmer om talende statuer, mekaniske dyr og jernsoldater. I et teknologisk kappløp dukket de opp i seremonier og skuespill, liturgi, fabler og vers. Først Konstantinopel i spissen, så Bagdad, før Vest-Europa for alvor kom på banen. Ur tårnet
over torgene, figurer spilte tromme og trompet, gikk i ring og bukket for keiseren. I 1377 kronet en mekanisk engel Rikard II. Da Ferdinand I av Aragon ble kronet i 1414, seilte en sky gjennom festsalen og ut steg Døden med lasso. En hoffnarr ble heist opp og hylte av skrekk. Kongen moret seg stort.
Automatene fikk tannhjul og fjær. Klokker viste planetbevegelser tiår fremover. Ifølge middelalderen og renessansens tenkere styrte Gud naturen ved egenskapene han hadde lagt inn i den, iboende prosesser og geometri. Nå ble naturen gradvis en maskin dyttet frem av mekaniske årsaker, et urverk uten mening, og ikke bare fordi det var deterministisk.
Metaforen fikk sitt eget liv. Hvis naturen egentlig var en maskin, var ikke mennesket det også? Kunne vi være bevisste, tenke, føle og erkjenne, måtte maskiner også kunne.
Nærmest automatisk, bare de ble komplekse nok.
Andre tenkte motsatt. Er vi egentlig bevisste – og hva er dette dyret vi kaller bevissthet? Hvis alt dyttes frem av lover vi ikke kan påvirke, må det jo også gjelde tanker og følelser. Kan vi da være frie? Er selvrefleksjon og fri vilje kun en illusjon, siden et urverk bare tikker i takt med tannhjulene?
Diskusjonen gikk i filosofi, vitenskap – og fortellinger. I 1868 skrev Edward S. Ellis ikke om Hjortefot, men om en mekanisk kjempe på prærien, drevet av damp. Carlo Collodi ga Pinocchio liv i 1883. Karel Čapek introduserte robotbegrepet i 1920. Få år senere blir roboter surrogater for mennesker, når et maskinmenneske i storfilmen Metropolis (1927) erstatter oppfinnerens kjæreste.
Maskiner eller guder
Mange slet likevel med å tro at noe drevet av damp og data kunne bli levende i mer enn filmer og fortellinger. Tvilen gjorde at mange på 1960-tallet i stedet begynte å snakke om kyborger, maskiner med kunstige lemmer og biologiske implantater – eller motsatt: mennesker med kunstige organer.
Men er ekte tenkende maskiner mulige? Turingtesten fra samme tid som Browns novelle åpnet for et pragmatisk svar. Kan du ikke skille en maskin fra et menneske, bør du tro den kan tenke.
Mens Brown tenkte at snakker den som Gud, bør du slå den av.
Generell kunstig intelligens som ligner eller overgår menneskelig fungerer bra i film og TV-serier, selv om det ofte blir dystopisk som i Terminator eller Westworld. For drømmen om tenkende maskiner kan fort bli et mareritt, noe som fikk flere enn Asimov til å se behov for robotlover.
Hvem skal – eller kan – kontrollere dem? Hvilken rolle skal de ha? Hvordan kan vi vite om deres løsninger og svar er rett eller bra, hvis vi ikke klarer å gå dem etter i sømmene?
Må vi bare gjøre som de sier? Bør vi gjøre opprør? Kan vi gjøre opprør?
Kyberiadens krumspring
Polakken Stanislaw Lem (1921-2006) nølte ikke med å lage helt nye sjangere. Imaginary magnitudes (1973) er en samling forord til imaginære bøker, som det om den tenkende maskinen Golem XIV med taler den holdt før den ble for intelligent til å forstås. Kyberiaden er en samling eventyr om roboter som konstruerer roboter. En gang kobler de to fiendtlige styrker i et bevissthetsnett. Våpen gjøres klare, «kanoner og atomer pusset og fiffet opp til høyeste standard». Men i stedet for å utslette hverandre, ender det i eksistensielle diskusjoner, mer fredelig enn fotballkamper mellom filosofer.
Noe som nok forteller mindre om maskiner, enn om Lems humor.
Lems roboter er metamaskiner av høyeste orden, følelsesladde og reflekterende over sin eksistens. At slik var mulig, var selvsagt i det kommunistiske Polen. Er vi kun materie, kan maskiner bli som oss. Kyberiaden er skrevet en generasjon før det David Chalmer kalte the hard problem of consciousness: Hvordan kan materie ha intensjoner, være bevisst sine følelser eller handle om noe?
Selv om ingen vet hva bevissthet er eller hvordan den blir til, kan transhumanister drømme om å lastes opp i programvare, i et himmelrike til universet går under. Mens diktatorer kan drømme om å laste opposisjonelle opp i det motsatte.
Dagens viktigste tema?
Slik pave Leo XIV understreker i 2025, er kunstig intelligens kanskje det viktigste temaet i dag. Det overrasker dermed ikke hvor lenge det har vært behandlet i science fiction, de seneste årene hos forfattere fra Peter Hamilton og Adrian Tchaikovsky, til Ann Leckie, Martha Wells og Ursula Vernon.
Her møter vi ekte intelligente spørsmål om biologi og teknologi, etikk og empati, virkelighet og verdier. I Tchaikovsky’s Children of Time blir en KI stadig mer ensom og desillusjonert når den skal utvikle en art over årtusener. Leckies Ancillary Justice utforsker identitet, makt, kjønn, kropp og ansvar når et romskips KI lever videre i en soldat som sliter med minner fra tusenvis av «jeg».
I Wells’ Murderbot Diaries er en sikkerhetsrobot så skremmende menneskelig at den mest av alt ønsker å se TV-serier i fred. Den utvikler en moralsk sans, ønsker frihet og finne seg selv, uten å ha hørt om Finn Kalvik.
I tillegg til å utforske KI-generert kunst i den post-apokalyptiske tegneserien A Different Aftermath, har Ursula Vernon under pseudonymet T. Kingfisher skrevet Metal Like Blood in the Dark i beste Kyberiade-stil. I en parallell til Edens hage-fortellingen lokkes en av KI-søsknene Brother and Sister til et syndefall og lærer å lyve, men får en ny forståelse hva det er å være bevisst, fri – og farlig.
Kybernetisk konklusjon
Tross utforskningen i myter og eventyr, metafysikk og science fiction, er spørsmålene mange, svarene få. Er tenkende maskiner mulige? Kan de bli bevisste? Etiske? Hvilken etikk?
Det mangler ikke på planer i Kina og Russland, USA og Europa, Israel og Iran, Saudi-Arabia og Dubai, eller krav om internasjonale avtaler, oppfølging og overvåkning, som for atomvåpen.
Spørsmålene er mange, men vi får håpe svaret ikke blir som hos Fredrick Brown.
Foto: Miroslav Boljevic
Bjørn Are Davidsen er sivilingeniør og har lest science fiction i 60 år, og deltatt på SF-kongresser siden 1980-tallet. I samme tiår var han redaktør for det uhøytidelige kulturtidsskriftet LHST og ga senere lenge ut fanzinen Juveler. Etter over 30 års arbeid med innovasjon i Telenor, jobber han i dag som redaktør for Fagsjekk og rådgiver i tankesmien Skaperkraft.