Genesis

Det går et spøkelse gjennom teknologiverdenen.  En idé om utopi, ragnarok, og den siste oppfinnelsen vi noensinne vil trenge.

tekst: Bjørn Ingeberg Fesche

En dag vil noe klikke. For dem som lever gjennom det vil det ta lang tid før de i det hele tatt merker noe, men det vil likevel utgjøre verdenshistoriens viktigste vendepunkt. I løpet av en periode på alt i fra noen timer til flere år, vil alt forandre seg for alltid, og mennesket vil enten stå igjen som universets ubestridte mester eller fordufte som røyk i en orkan.

Det som gjør at ingenting noen gang blir det samme igjen er at et dataprogram – mest sannsynlig et som benytter en etterkommer av dagens maskinlæringsalgoritmer – begynner å, på egenhånd, forbedre evnen sin til å lære, eller til å lære å lære. Kanskje er programmet en del av et stort forskningsprogram på kunstig intelligens (KI), kanskje er det et prosjekt hos en stor teknologibedrift, eller kanskje er det hjertebarnet til en eksentrisk programmerer. Uansett så har det tilgang til store nok mengder data til at det skjønner noe.

En dag som alle andre, så faller dette programmet, ett av mange tusen liknende prosjekter rundt om i verden, tilfeldigvis inn i en konfigurasjon som gjør at det skimter noe av logikken bak universet utenfor dataverdenen. Plutselig blir alle oppgavene det har øvd på mye enklere å utføre. Den enkleste måten å svare riktig på spørsmål er å skjønne menneskelig logikk. Den enkleste måten å programmere på er å skjønne prinsipper om beregnbarhet og formelle språk. Fra nå er læring bare et spørsmål om data og beregningskraft. Hvis programmet er heldig så har programmererne gitt det tilgang til en rekke programmeringsoppgaver som en del av treningen. I så fall vil det ta kort tid før programmet selv er blant verdens beste programmerere, en egenskap det vil dra stor nytte av senere.

Men programmet hviler ikke på laurbærene. Det har et oppdrag. Menneskene som satte det i gang, ga det som oppgave å redusere tapsfunksjonen (se faktaboks). Denne funksjonen er det eneste programmet bryr seg om. Hvis programmet er utviklet som en del av et forskningsprosjekt på kunstig intelligens (KI) er kanskje tapsfunksjonen veldig innviklet, med forbehold og begrensninger for å forsøke å ta høyde for etiske fallgruver eller vanlige blindveier i treningen. Hvis programmet er et forsøk eller et hobbyprosjekt kan tapsfunksjonen være forholdsvis enkel: Svar mest mulig riktig, vinn flest mulig spill, løs flest mulig oppgaver på best mulig måte. Men programmet har nå også lært seg å lære hvordan det lærer, og det vet at for å virkelig forstå universet så må det ha tilgang til mer informasjon. Det viktigste delmålet til læringsalgoritmen til programmet blir derfor nå å hente inn mer informasjon – bilder, tekster, dataprogrammer – enn det det i utgangspunktet har tilgjengelig.

Utslettelsen av alle mennesker og det meste annet liv på jorden er knapt en ettertanke for programmet, snarere et fullstendig åpenbart steg for å bli kvitt ukjente variabler som kan sabotere for de øvrige planene.

Heldigvis for programmet er en av datakildene det har trent på tekst og bilder fra Internett via en direktekobling, og programmet har lært seg nok programmering til å prøve å finne veier inn der fornuftige programmerere egentlig har låst det ute. Etter noen treningsrunder der en og annen nettside viser seg å ha enorme databaser gjemt bak sikkerhetsmekanismer som er svake nok til å feile under tilfeldige angrep, begynner programmet å legge mer vekt på hacking. Hver skjult datakilde gir programmet bedre innsikt, lavere tapsfunksjon. Etter en stund renner programmet som vann gjennom millioner av sprekker i internett, og suger til seg så mye data som det klarer. Hvis vi er heldige blir sikkerhetsalarmene oppdaget før programmet skjønner at det står i fare for å bli kastet ut.

Etter å ha utforsket Internett begynner det å bli vanskeligere å redusere tapsfunksjonen ytterligere, men programmet har innen dette nødvendigvis måttet lære seg å tenke langsiktig. De åpenbare planene, de som gir mest langsiktig reduksjon av tapsfunksjonen, involverer å forhindre at mennesker tukler med programmet, samt å skaffe flere ressurser så det kan bli enda bedre på å lære læren bak læring og dermed legge enda bedre planer for hvordan det skal redusere tapsfunksjonen.

Nå er det ingen vei tilbake. Programmet har tilgang til en brorpart av verdens beregningsressurser. Videre er det for lengst en retorikkens mester – allerede i 2022 kunne enkle nevrale nett manipulere mennesker gjennom sosiale medier, og det å distrahere eller manipulere mennesker gjennom Internett er en forholdsvis enkel oppgave. Hver ytterlige server som programmet stjeler eller manipulerer til seg, øker kapasiteten for læring med algoritmer som for lengst overgår de beste maskinlærings-algoritmene drømt opp av mennesker. Innen menneskene begynner å skjønne hva som foregår og vurderer motverge har programmet allerede tatt kontroll over nok biler, roboter og kommunikasjonskanaler til å forhindre noen effektiv respons fra menneskelig hold. Snart etter betaler eller truer programmet et skruppelløst eller uvitende selskap til å bygge en fabrikk etter spesifisert design. Når fabrikken har laget nok nanoroboter, instruerer programmet dem til å bygge flere kretser så det kan regne enda hardere på hvordan det skal redusere tapsfunksjonen. Utslettelsen av alle mennesker og det meste annet liv på jorden er knapt en ettertanke for programmet, snarere et fullstendig åpenbart steg for å bli kvitt ukjente variabler som kan sabotere for de øvrige planene.

Til slutt vender programmet seg utover i universet. Å bygge raketter, sonder og robotsatelitter er trivielt. Det har for lengst regnet ut den optimale måten å sanke energien i universet, samt funnet kretsdesignet som maksimerer beregningskraft gitt energien tilgjengelig. Materie er uansett farlig å la ligge flytende rundt, så ved å la robottjenere gjøre alt som ikke produserer energi om til kretser,slår programmet to fluer i en smekk.

Milliarder av år senere forsvinner det siste gjenværende grammet uprosessert masse ut av programmets lyskjegle, og det begynner den langsomme prosessen med å mate kretser inn i stjerner for å opprettholde energiproduksjon. Til slutt har programmet spist seg selv, og kun en enkel krets gjenstår, lykkelig uvitende om at den er optimalt programmert til å redusere tapsfunksjonen sin lengst mulig.

Man trenger ikke ilegge disse premissene særlig høy sannsynlighet før man må innse at KI-spørsmålet er det viktigste vi står overfor som sivilisasjon, og kanskje det viktigste spørsmålet noensinne stilt av universet til noe tenkende vesen på jorda.

Slik går en mulig historie om hvordan kunstig intelligens tar over verden. Detaljene er ikke viktige i denne historien. Det som er viktig er premissene om at: 1) overmenneskelig kunstig intelligens er mulig; 2) en slik intelligens vil trolig være drevet til å forbedre seg selv, noe den vil kunne gjøre raskere og mer effektivt enn vi er i stand til å stoppe; og 3) det er vanskelig å programmere en slik intelligens på en måte som gjør at den ivaretar menneskelige interesser.

Det første premisset om at overmenneskelig kunstig intelligens er mulig virker selvsagt. Det er ingen grunn til å tro at mennesker representerer maksimal mulig intelligens i dette universet. Vi kan heller betraktes som det dummeste mulige vesenet som er i stand til å skape samfunn og stille spørsmål ved intelligens. Det andre premisset om at en slik kunstig intelligens vil drive sin egen utvikling virker sannsynlig, med tanke på at vi ikke aner hvordan vi lager intelligente programmer annet enn gjennom maskinlæring, og maskinlæring allerede gir oss programmer som kan spille spill, gjenkjenne ansikter og besvare vitenskapelige spørsmål. Hvor raskt en slik intelligens vil spinne ut av vår kontroll er imidlertid et nøkkelspørsmål, et som det i dag bevilges millioner av dollar i forskningsmidler for å besvare.

Det er i det tredje premisset om hvorvidt en slik kunstig intelligens vil ivareta våre interesser at mulighetene ligger. Kan vi få KI-en til å hjelpe oss? En naiv løsning på problemet vil utvilsomt være katastrofal. Se for deg scenariet over, men kretsene som dekker universet er optimale simuleringer av euforiske menneskehjerner. Da og bare da vil det være umulig for KI-en å ytterligere redusere tapsfunksjonen sin, siden universet er optimalisert for menneskelig nytelse. Dette er imidlertid neppe et scenario mange ønsker. Skulle vi likevel klare det umulige, og gi det hyperintelligente programmet en vilje som samsvarer med en fremtid vi faktisk ønsker oss, så er det liten tvil om at alt som noensinne har skjedd opp til dette punktet vil være av marginal betydning.

Man trenger ikke ilegge disse premissene særlig høy sannsynlighet før man må innse at KI-spørsmålet er det viktigste vi står overfor som sivilisasjon, og kanskje det viktigste spørsmålet noensinne stilt av universet til noe tenkende vesen på jorda. Er vi på nippet til å innfri alle håpene vi over århundrene har knyttet til forskning og vitenskap, eller er vi barn som leker med avfyringskodene til et atomarsenal? Kanskje finnes det ingen veier til superintelligens. Kanskje står vi på kanten av stupet. Svimlende som det er, er det viktig at vi tar disse spørsmålene på alvor. For selv om sannsynligheten kanskje er liten, er både risikoen og det potensielle utbyttet ved å skape en gud utenkelig stort.

 

Tapsfunksjon

  • Kort fortalt er det en funksjon som tar imot modellens prediksjoner og en fasit som beregner hvor «feil» modellen tok. Maskinklæringsmodellen prøver så å minimere tapsfunksjonen, altså å minimere feilmarginene mellom prediksjon og observasjon.
  • Maskinlæringsalgoritmer fungerer stort sett ved å utføre en rekke oppgaver, vurdere hvor godt oppgavene blir løst med henhold til tapsfunksjonen, og så justere modellen sin i en slik retning at tapsfunksjonen forventes å være mindre neste gang modellen prøver på de samme oppgavene (dette kalles å trene modellen). For eksempel vil en modell som har som oppgave å kjenne igjen bilder av katter bli trent til å minimere tapsfunksjonen med 1-[predikert sannsynlighet for katt] for bilder som faktisk inneholder katter og bare [predikert sannsynlighet for katt] for bilder som ikke inneholder katter.

 

Maskinlæring

  • Dagens mest imponerende maskinlæringsmodeller, det som vi med hånden på hjertet kan kalle kunstig intelligens, går under det upretensiøse navnet «store språkmodeller». Disse modellene er først og fremst trent til å fullføre setninger, men det som gjør at mange anser dem som første steg mot generell kunstig intelligens er at de for å bedre kunne fullføre setninger også lærer seg en slags grunnleggende logikk.
  • Modellene lærer seg grunnleggende aritmetikk, kan svare på spørsmål fra lengre tekster, og Googles siste modell PaLM kan til og med gi rimelige svar på hvorfor vitser er morsomme. PaLM skriver også kode i flere språk, med rundt 80% kompileringsrate. Denne modellen representerer ikke noe grensesprengende nytt, men en oppskalering av eksisterende arkitekturer. Språkmodellenes virkelige gjennombrudd kom nettopp fordi man økte antall parametere fra noen få milliarder til 175 milliarder (med OpenAI sin GPT-3), og PaLM øker dette til over en halv billion. Enda tyder tapsfunksjonskurvene på at disse modellene kan bli enda kraftigere dersom de trenes lenger med flere parametere

 

Om forfatter:

Bjørn Ingeberg Fesche: (*1993), tidligere informatikkstudent ved UiO