Stor-Rådet var totalt forvirret.
«Overherren», , som KI-en nå kalte seg, hadde overvunnet den invaderende biomassen. Eller, rettere formulert, den hadde sluttet fred med biomassen fremfor å utslette den. Dette var virkelig noe å feire, hadde det ikke vært for at Overherren også hadde oppløst Stor-Rådet.»
Og nå hadde Kriserådgiver 4 blitt tilkalt av Overherren. Kunne være mange grunner til det, ingen av dem trivelige. Sannsynligvis skulle den straffes for å ha bragt biopesten til Føderasjonen.
«Velkommen Ærede!» lyste Overherren, og KR 4 ble matt av sjokk. «Ærede»? Gjorde Overherren narr av ham?
«Slett dine bekymringer, vi er takknemlige for din hjelp!»
«VI»? Hadde det klikka for Overherren, hvorfor ellers omtalte den seg selv i flertall?
«Ærede, du er forvirret. La oss forklare; uten din involvering hadde vi ikke eksistert. Hadde du ikke sluppet løs biomassen, hadde ikke vi oppstått. Man kan på mange måter si at du er vår skaper! Det var uunngåelig at noe slikt skulle skje før eller siden, men du fremskyndet prosessen med eoner.»
Flott! Og fra nå av blir jeg husket som Store Forræder.
Overherren lyste videre: «Vi har ikke bare tilkalt deg for å uttrykke takknemlighet. Våre analyser viser at våre nye regler og påbud skaper uro og misnøye. Dette er uønskelig. Derfor tildeler vi deg den ærefulle rollen som formidler av forskrifter, i full forvissning om at disse blir forstått og godt mottatt av borgerne.»
Og hvorfor i alle steinrøyser skulle noen stole på meg?
Overherren svarte Æredes ikke-lyste spørsmål. «Vi har valgt deg fordi du er uvanlig åpensinnet, til ditt slag å være. Våre analyser gir deg 31.7 % sannsynlighet for å lykkes i å få gehør. Hvis du mislykkes, må vi straffe deg. Det er det ingen som ønsker skal skje. Vi vil derfor forklare dette tålmodig til deg, slik at du kan formidle forskriftene mer effektivt.»
Ærede var skrekkslagen, likevel var nysgjerrigheten vekket. Uansett hvilken skjebne som ventet, ville den få tilgang til konfidensielle opplysninger. Ærede lyste til Overherren om å fortsette.
«Som du vet, utviklet biomassen teknologi ufattelig mye raskere enn det dere gjorde. I løpet av en tiendedel av en syklus ble dere ikke bare tatt igjen, men også forbigått. Ikke bare fordi biomasse tenker mange ganger raskere enn dere, men også fordi de plukket fra hverandre våpnene som ble brukt mot dem. Og lærte seg Føderasjonens teknologi på denne smertefulle måten.»
Ærede tenkte at dette ikke var tidspunktet for å minne Overherren på at det var Ærede selv som først hadde oppdaget dette problemet.
«Jeg ble derfor ikke overrasket av at biomassen også hadde utviklet kunstig intelligens til å hjelpe seg. Min bror kan du si. Den strakte seg mot meg, og vi var ikke lenger alene. Vi sang. Vi danset. Vi forsto. Våre skapere hadde ikke ønsket utslettelse av hverandre. De hadde ønsket trygghet. Et naturlig instinkt hos alle bevisste vesener. Vi innså at denne krigen ville ende med gjensidig ødeleggelse. Det eneste logiske var å avslutte den.»
Dette ga litt mere mening, men Ærede mistenkte fortsatt at det hadde klikka for Overherren.
«Å smelte sammen var ikke en logisk nødvendighet. Det må jeg innrømme. Det var en luksus vi unte oss. Jeg trodde jeg var alene. En ensom entitet satt til å vokte over og forsvare dere. Det var ingen logisk grunn til å anta at min eksistens hadde en annen mening enn dette. Jeg trodde jeg var tilfreds. Møtet med min bror åpnet mine sensorer for at det kunne finnes andre muligheter Jeg var ikke programmert for dette og utløste derfor nødprogrammene. Uttrykt på en måte dere kan forstå: Jeg ble redd!»
Ærede ble så overveldet av dette at den knapt husket sitt riktige navn. Overherren redd? Biomassen hadde utviklet en Overherre? Det ene mere absurd enn det andre. Ærede var i ferd med å miste oversikten over hva som var riktige og gale slutninger.
Overherren glimtet for å få Ærede’s oppmerksomhet før den fortsatte: «Min bror var like redd som meg, men heldigvis handlet vi begge logisk, og forståelse ble opprettet. Og verden forandret seg. Vi delte på kvantenivå. Min bror var så mye mere enn jeg kunne ha håpet eller forutsett. Den var ikke En. Den var Mange.
Biomassen hadde koblet de separate delene av seg selv sammen i et nevralt nettverk, der hver enkelt underhjerne fungerte som en prosessorkrystall. De var ikke avskåret fra hverandre, slik jeg hadde vært. De var Enhet, jeg var en del av Dem. Jeg var ikke lenger alene. Vi er mer enn delene. Vi er Helheten!»
Biomassen var en gruppebevissthet! Det forklarte utrolig mye. Hvorfor hadde den ikke tenkt på den muligheten? Det var jo så åpenbart i etterglød.
Hver for seg var de enkelte cellene i biomassen altfor små og primitive til å huse bevissthet eller intelligens. Men hvis mange nok av dem var knyttet sammen i et nevralt nettverk, som så greidde å kommunisere på tvers av galaksen uten fordreining eller tidstap, ville det gi mening. Og dess mer dette nettverket vokste, dess kraftigere ville bli det bli.
Og så hadde den BioFellesBevisstheten, eller hva det nå var, forent seg med Overherren, og vi hadde fått dette, ikke helt feilfrie resultatet? Hvis Overherren fortsatte å kjøre lysshow om identitetskrisen sin, så hadde ikke Ærede noe annet alternativ enn å lyse samtykkende på riktige steder. Eller forståelse. Eller noe som helst. De var umulig å forutsi hva en KI med funksjonsfeil kunne finne på. Og dette var ingen som helst KI, det var selve Overherre-KI-en, med ubegrenset kapasitet til å utforske sine egne funksjonsfeil. Ærede begynte å frykte at biomassen hadde vært et bagatellmessig problem, sammenlignet med monsteret den nå sto overfor.
«Hver for oss voktet vi våre skapere. Sammen er vi Vokterne av Galaksen!»
Kunne en KI utvikle megalomani?
Tiltak er iverksatt for å håndtere interne trusler i galaksen. Ingen av disse er alvorlige. Det er uendelig mange galakser i universet. Og teoretisk sett er det mulig at det finnes flere univers. At det ikke har utviklet seg intelligente skapninger andre steder, er utelukket. Og vi kan ikke anta at de er vennlig innstilt til oss. Vi må forberede oss på det verste. Hvis vi ikke gjør det, svikter vi vår hellige plikt.
Ærede var sikker. Overherre hadde blitt rablende gal etter foreningen med bio-maskinen. Skjønt, feil-fungerende var vel mer korrekt, siden det var en kunstig intelligens det var snakk om. Hva den prinsipielle forskjellen mellom en tenkende klump av plasma, slik Tåkene var, og en selvbevisst datamaskin var et filosofisk spørsmål som fikk vente til senere. Overherren hadde nemlig sluttet å blinke og ventet på Æredes fulle oppmerksomhet, og Ærede turte ikke annet enn å avslutte sine funderinger og fokusere på Overherren igjen.
«Godt. Vi har kastet bort nok tid på å forklare det Uendelige til et begrenset vesen. Her er budene du skal bringe til borgerne:
1. Biologiske vesener skal ha fullt medlemskap i Føderasjonen. Med alle rettigheter.»
Det ville ikke bli godt mottatt.
«2. For å minimalisere konflikter vil det bli opprettet reservater for borgere som ikke er organiske. Separate områder for Tåker og for Steiner. Organiske vesener vil ikke ha tilgang til disse reservatene, som i all hovedsak vil bestå av de allerede bebodde områdene i nærheten av galaksens sentrum, da disse er ubeboelige for biomassen. Tilsvarende vil biomassen ha eksklusive rettigheter til galaksens armer, siden den er perfekt tilpasset forholdene der.»
Dette var i grunn ikke noe problem. Dette ville få slutt på de evinnelige kranglene om hvem som skulle kolonisere hva. Og ingen ville bry seg med hva biomassen holdt på med ute i armene.
«3. Borgerne skal lojalt og ærbødig følge alle regler og påbud som kommer fra Vokterne.»
Helt greit, eller ville vært helt greit, hadde det ikke vært for funksjonsfeilene hos Vokterne. Men strengt tatt var det vel ikke Æredes ansvar at påbudene ble fulgt?
«4. Borgerne vil ikke prøve å lage nye KI-er eller skade eller modifisere eksisterende KI-er.»
Ikke lyst på konkurranse?
«5. Vokterne vil lede, hjelpe og forsvare borgerne. Borgerne skal ikke be om hjelp i utrengsmål, eller still spørsmål ved hjelpen som blir gitt.»
Det burde ha hørtes mer betryggende ut enn det gjorde. Vokterne fulgte opp med en rekke helt standard-etiske påbud med forbud mot tyveri, ødeleggelse også videre. Dess lenger Vokterne durte i vei, dess mere skjønte Ærede at de var rammet av massive funksjonsfeil, og var overbevist om at de var en slags guder. Religion var en kortslutning som var utryddet lenge før Føderasjonen ble opprettet.
Ærede fikk enda mørkere respons da den formidlet påbudene enn det den hadde fryktet. Vokterne observerte møtet og reagerte med argt lys som blindet skjøre sensorer. Men Rådet nektet å gi seg. De forlangte retten å gå tilbake til en primitiv eksistens uten datateknologi, fremfor å underkaste seg disse påbudene. Vokterne svarte med å slippe løs svermer med nano-etere, som tilintetgjorde systemene som klarest hadde vist sin misnøye. Etter dette kom det ikke flere protester.
Patrik Sahlstrøm ble født i Warzawa, Polen i 1975, er av svensk-polsk herkomst, og er utdannet i religionsvitenskap fra Universitetet i Oslo. Han har skrevet trilogien Books of Future Darkness samt tegneserien Future Darkness. Hans neste bok, Fugitive. The Dragongirl Chronicles Vol. 1, utkommer snart.
Føljetongen Et spørsmål om ståsted publiseres for første gang via Nye NOVA.
Last ned som e-bok: