Når jeg vil orientere meg på andre fagfelt enn mitt eget, liker jeg å lese denne type bøker: Populærfremstillinger skrevet av forskere med dyp innsikt og omfattende kunnskaper innen faget, og som evner å fremstille det på en måte som gjør det forståelig for oss som ikke behersker faget. Inga Strümkes “Maskiner som tenker” er en slik bok. Den er godt skrevet, basert på solid faglig innsikt og fremstår som edruelig. Og den er så grundlig som man med rimelighet kan vente av en bok som dette. Da det er en bok langt utenfor eget fagfelt, har jeg ikke forutsetninger for å vurdere det faglige innholdet. Her må jeg bare stole på at hun vet hva hun skriver om. Med de forbeholdene er det en bok jeg anbefaler til alle som er opptatt av eller i alle fall nysgjerrige på kunstig intellingens.

I mitt eget forskningsmiljø var mange på 1980- og 1990-tallet opptatt av “ekspertsystemer”, og disse skulle kunne erstatte ordentlige eksperter som leger, jurister, osv. Jeg var skeptisk da, og jeg er skeptisk nå. Og disse systemene ble aldri det optimistene trodde at de skulle bli. Inga Strümke vier et underkapittel til ekspertsystemer, og skriver følgende på s. 49:

“Hver gang du setter deg på et fly, legger du livet ditt i hendene på et ekspertsystem. Sykehusene og bankene våre er fulle av dem, og faktisk har ekspertsystemer blitt så vanlige og utbredt at vi ikke tenker på at de er der, eller tenker på dem som kunstig intelligens lenger. Nå er de “bare” dataprogrammer.”

Jeg mener at Inga Strümke et sted i boken skriver at om ti år vil vi ikke lenger snakke om kunstig intelligens, men bruke andre betegnelser på systemer basert på det vi i dag kaller kunstig intelligens. Dessverre markerte jeg ikke det avsnittet i boken, og finner det ikke igjen — så jeg kan ikke sitere. Dette er bare gjengitt etter hukommelsen, med alle de feilkilder det innebærer.

Når jeg var skeptisk til det vi hørte om ekspertsystemer for noen tiår siden, og det vi hører om kunstig intelligens i dag, henger det sammen med det Inga Strümke på s. 244 skriver om som grunn nr én til det hun kaller AI-vintre: Teknologien kan ikke leve opp til de skyhøye forventningene vi har til den. Det er stort sett teknologene som har skapt disse skyhøye og urealistiske forventningene, og slikt skaper salgbare overskrifter i media. Politikere som er redde for ikke å være fremoverlent nok, hiver seg så langt fremover at de går på trynet. Og de opptrer gjerne som papegøyer som gjentar det deres rådgivere har fortalt dem at de skal si, uten at de har forstått særlig mye av det de snakker om.

På s. 279 refererer hun en spørreundersøkelse blant 170 av AI-forskningens fremste eksperter. Det er stort sett enige om at AI-systemene vil nå menneskelig intelligens i 2040-2050, og superintelligens 30 år etter det. Slike optimistiske uttalelser har vi sett mange av. Rundt år 2000 mente forskere hos British Telecom at vi i 2032 ville få de første, datamaskinbaserte kunstige hjerner. (Hentet fra Arild Haraldsen: Den forunderlige reisen gjennom datahistorien, s. 261). Jeg ser ingen grunn til at vi skal stole mer på fremtidsoptiminsmen (?) til dagens AI-forskere, enn til de som ville skape kunstig intelligens på 1950-talllet.

Min skepsis til ekspertsystemene på 1980-tallet gjaldt først og fremst den naive og overdrevne optimismen. Teknologien kunne ganske sikkert gi leger, jurister og andre eksperter bedre verktøy slik at de kunne utføre sine oppgaver bedre og mer effektivt. Men den ville ikke erstatte dem. Datasystemene har overtatt mange støttefunksjoner. Om de ikke erstatter dommerne, så har de erstattet mange saksbehadlere. Skatteetaten og NAV ville ha vært gigantiske institusjoner om ikke mange oppgaver kunne overlates til datasystemer. På tilsvarende måte tror jeg at dagens systemer basert på kunstig intelligens vil gi kraftigere verktøy, og en del relativt enkle oppgaver som i dag utføres av mennesker vil kunne gjøres bedre og mer effektivt av datasystemer.

Sjakk nevnes ofte som eksempel, både i denne og andre fremstillinger om kunstig intelligens. På s. 33 gjengir hun sjakkmesterens Garri Kasparovs uttalelse om at sjakk er resonneringens bananflue, en organisme som har vist seg å være nyttig for genforskere. Jeg pleier å bruke sjakk som eksempel på hvor kort den kunstige intelligensen har kommet, selv om datasystemer nå klarer å slå de beste menneskelige sjakkspillerne.

Sjakk er et enkelt, lukket univers. At noe er enkelt er noe helt annet enn at det er lett. Jeg antyder ikke på noen måte at det er lett å spille sjakk på et høyt nivå. Johann Sebastian Bach sa en gang at det var lett å spille orgel. Man må bare trykke på riktig tangent på riktig tidspunkt, så gjør instrumentet resten. Jeg tror ikke lett er det rette ordet her, men vi kan kanskje si at det i prinsippet er enkelt. Sjakk er et lukket univers med 64 felt, det er 32 brikker som har helt klare og entydige regler for hva de kan gjøre, og spillet har et entydig mål: Å slå motstanderens konge, samtidig som man unngår at egen konge blir slått. Det burde være som skapt for datasystemer og kunstig intelligens. Å overføre dette til den virkelige verden med mange motstridende hensyn og interesser, uklare mål og målkonflikter, osv, vil i alle fall være et gigantisk sprang.

Vi får også historien om det i dag ledende sjakkprogrammet AlphaZero, beskrevet på den sedvanlige måten (s. 35-37) med ett vesentlig hull i forklaringen. Det står at systemet kunne ingen ting, derav navnet Zero, før den begynte å spille mot seg selv og i løpet av et døgn hadde utviklet seg til å bli verdens beste sjakkspiller. Den må enten ha blitt programmert til (mest sannsynlig), eller blitt veiledet til hva som er spillets mål, og hva som er lovlige (og derav ulovlige) trekk i spillet. Hvis AlphaZero virkelig hadde startet fra null, ville det ha kommet opp med et helt annet spill enn sjakk, om det ikke bare hadde blitt kaos.

Jeg kunne ha pirket en del i det Inga Strümke skriver når hun beveger seg inn mot jusen. Det skal jeg ikke gjøre. Men på et punkt bommer hun så grovt at det må nevnes, nemlig når hun skriver om personvern. På s. 139 skriver hun at den europeiske personvernforordningen fra 2016 var den første lovteksten med dette formålet. Det er feil. I Norge fikk vi den første personregisterloven, den første norske loven med det formål å verne folks personvern, i 1978. Da hadde man allerede hatt slik lovgivning i Sverige noen år, uten at jeg har gått tilbake for å sjekke når den ble vedtatt. Den norske loven ble erstattet av en ny personopplysningslov i 2000.

EU vedtok det første personverndirektivet i 2002, direktiv 2002/58/EC. Dette ble erstattet av personvernforordningen, GDPR i 2016, og vi fikk i Norge en ny personopplysningslov i 2018, hvor personvernforordningen ble gjort til norsk lov. Det materielle innholdet, altså om behandling av personopplysninger, ble ikke vesentlig endret fra 2002-direktivet til GDPR. Den viktigste forskjellen er at GDPR i art 83 nr 4 gir hjemmel for overtredelsesgebyr på inntil 2% av den globale omsetningene foregående regnskapsår. Da oppdaget toppledelsen i selskapene at det kunne koste dem veldig mye dersom de ikke hadde orden på sin behandling av personopplysninger, og da fikk personvernreguleringen stor oppmerksomhet, på en måte som kunne gi inntrykk av at en slik regulering var noe helt nytt. (Jeg har ikke arbeidet mye med personvern de senere årene og er ikke helt oppdatert, så det kan være noe her jeg har oversett).

Dette er en viktig lærdom her for de som skal utforme politikk og rettsregler på dette og beslektede områder. Jeg henter her fram en kjepphest som jeg har ridd i omtrent 30 år: Den som kontrollerer sikkerheten (i vid forstand) i et system, må også ha risikoen for at sikkerheten er god nok, og ansvaret når sikkerheten svikter. Vi ser litt for ofte at både politikere om rettshåndhevere legger seg flate for teknologien, og tenker at slik er teknologien, og den risikoen må vi (som borgere/forbrukere) bare akseptere og finne oss i. Rettsregler er ikke så velegnet for å redusere risiko, men de er godt egnet til å plassere risikoen og ansvaret der de bør være.

Det er fristende å prike litt i noen eksempler som ikke har noe å gjøre med rettslig regulering, men som faller sammen av helt banale grunner. På s. 276-277 bruker hun de første togene som eksempel, og skriver at noen som så på maskinrommet ville se at togets fremdrift kom av en flamme som varmet opp vann, som igjen fikk damp til å presse sammen et stempel. Da ville det vært nærliggende å tenke at jo varmere flamme, desto raskere ville toget bevege seg. Hvis man kunne lage en flamme med mange millioner grader, kunne toget gå en million kilomter i timen. Ekesmpelet er selvfølgelig helt urealistisk. Inga Strümke begrunner det urealistiske med vanskelighetene ved å bryte lydmuren. Min første tanke var at lokomotivet ville smelte ned lenge før man var i nærheten av dette. Og litt videre: Hva ville skje først av at dampkjelen eksploderte eller lokomotivet smeltet ned? I tillegg kommer alle de mekaniske utfordringene med tog i ekstremt høye hastigheter. At det skulle være lydmuren som var problemet her, falt i alle fall ikke meg inn.

På s. 285 omtaler hun et “superintelligent AI-program med formål å produsere binders for oss”. Min første tanke var at dette ikke høres ut som et veldig intelligent system. På s. 280 omtaler hun Elon Musk som en av våre toneangivende tenkere — noe som i alle fall jeg er uenig i at han er.

Så noen egne refleksjoner:

Lærere frykter at elever skal bruke språkmodeller som ChatGPT for å løse oppgaver, og dermed gå glipp av det som oppgaveløsingen skal gi: Læring. Og systemene kan brukes til å jukse under eksamen. Vi som underviser og noen ganger lager eksamensoppgaver, står foran noen utfordringer som det vil ta tid å finne ut av. Men problemstillingen gir meg assosiasjoner til Sokrates, som var skeptisk til at man skulle skrive. For skriving ville ødelegge folks hukommelse. Vi må lære å utnytte de nye verktøyene i vår undervisning, og å teste elever og studenter på måter som gjør at de ikke kan slippe unna ved å bruke språkmodeller. Det blir nok ikke enkelt, men vi vil nok få et til. Skjønt for egen del kan jeg lene meg tilbake og tenke at jeg er pensjonist før vi for alvor møter dette.

Noen som utfører relativt enkle inellektuelle oppgaver, kan nok ha grunn til å frykte at jobbene kan bli overtatt av datasystemer basert på kunstig intelligens. Vi kan sikkert få kunstig intelligens til å skrive enkel underholdsningslitteratur, sammedrag av artikler mm, synteser av flere artikler, musikk som spilles som bakgrunn på kjøpesentre mm for å være en lydkulisse vi helst ikke legger merke til. Oversettere av enkel sakprosa, som f.eks. bruksanvisninger, kan også ha grunn til å føle seg truet, selv om vi også i bruksanvisninger kan finne “interessante” eksempler på at maskinoversetting kan bomme stygt.

Når vi skaper kreative verk, hva enten det er litteratur, billedkunst, musikk eller noe annet, må vi først ha den kreative idéen, som vi utvikler tankemessig. Så må vi kunne realisere idéen innefor den uttrykksform vi arbeider med. Dette dreier seg i stor grad om å beherske et håndverk, skjønt grensen mellom håndvek og kunst er ikke særlig skarp. Jeg har alltid vært dårlig til å tegne og male. Om jeg skulle ha noen gode idéer til bilder, kan det hende at programmer som DALL-E kunne hjelpe meg med å realisere ideen. Tilsvarende kan det også være for andre kunstarter.

Jeg har ingen tro på at kunstig intelligens kan skrive gode bøker eller artikler, verken skjønnlitteratur eller sakprosa. Jeg har ingen tro på at Inga Strümkes bok kunne ha vært skrevet av kunstig intelligens. Vi har lenge hatt stavekontroll når vi skriver med tekstbehandling. Vi har også fått hjelp med grammatikk og til å unngå tungt språk. Jeg har sett reklame for programmer som skal hjelpe med dette når man skriver på engelsk (som Grammarly), men jeg har ingen erfaring med dem selv. Her tror jeg språkmodeller av typen ChatGPT kan gi viktige bidrag. Språkvaskere og korrekturlesere kan kanskje ha grunn til å føle seg truet. Det kan nok fjerne det verste av dårlig språk. Men det kan også bidra til en forflating av språket. Journalist og forfatter Bjørn Bjørnsen sa det omtrent slik (gjengitt etter min hukommelse), da bruk av tekstbehandling fortsatt var noe ganske nytt:

“Når jeg skriver på skrivemaskin, går jeg kanskje gjennom teksten 15-20 ganger. Når jeg bruker tekstbehandling går jeg kanskje gjennom den 80-90 ganger. Om teksten blir bedre, er ikke så sikkert. Det blir omtrent som destillert vann: Helt sterilt, men også helt uten smak.”

Jon Fosses sriftspråk ville vært sjanseløst mot et språkprogram basert på kunstig intelligens.

Hjerneforskere sier gjerne at hvis vår hjerne hadde vært så enkel at vi hadde kunnet forstå den fullt ut, da hadde vi ikke vært i stand til å forstå den fullt ut. Når vi sammenligner kunstig intelligens med vår naturlige hjerne, er det fristende å se på hardware og ressursbruk. Kraftige systemer basert på kunstig intelligens kjører i gigantiske datasentre med et energiforbruk tilsvarende en middels stor by. Vår hjerne veier ca 1,4 kg, og har et energiforbuk på ca 20 watt.