Kunstig intelligens (KI) er ikke en ny app. Ei heller en fersk duppeditt for gøyal lek i hjemmet. I manges øyne er dette vår tids mest transformerende teknologiske kraft. Og som kjent er ikke dette noe nytt. KI har i flere tiår vært pekt ut som en teknologisk revolusjon med potensiale til å kunne, på lag med oss mennesker, løse et bredt spekter av verdens mindre og større problemer. Eller, på eget initiativ, utrydde alt liv på kloden.
Den KI-bølgen vi nå befinner oss i ble utløst av Open AI sin nylige lansering av ChatGPT, en KI-basert tekstgenerator som over natten har blitt allemannseie. Det er utbredelsen, eller demokratiseringen, av KI-verktøyene som er det nye. Siden vi alle nå har muligheter til å eksperimentere med KI i egne liv, har den offentlige samtalen om KIs faresignaler og fremtidsvyer nådd nye høyder av engasjement uten sidestykke.
Kunstig intelligens smartere enn mennesker?
Den 2. mai kunne vi lese følgende overskrift i Aftenposten: “Gudfaren av kunstig intelligens advarer: Få trodde dette var noe som kunne bli smartere enn mennesker”. Geoffrey Hinton advarer her mot fallgruvene ved KI, etter å ha forlatt Google for å kunne snakke fritt om KI-utviklingen. På tross av sin posisjon som gudfar, er han eksistensielt bekymret for at KI kan brukes til å forsterke autoritære regimer og manipulere valg, samt i siste instans, sørge for enden på sivilisasjonen i løpet av knappe 20 år. Han kaller KI for en “akselerende monsterteknologi”, sluppet løs av en rivalisering mellom teknologigiganter som Google og Microsoft. Det etterlatte inntrykket er at maskinene nå utvikler seg urovekkende raskt og ukontrollert.
Uavhengig av synet på risikoen forbundet med kappløpet om utviklingen av KI, er det uansett ingen tegn til at utviklingen settes på pause frem til vi får mer kontroll. I finansmarkedene ser vi snarere en større tilførsel av kapital til KI-prosjekter enn noensinne. Bare i løpet av de tre første månedene i 2023 har det strømmet inn langt mer penger til KI-selskaper enn i hele 2022. Ifølge The New York Times ble det paniske tilstander i Google da det ble kjent at Samsung vurderte å bytte ut Google med Bing på sine Android-baserte mobiler. Microsoft, som finansierer utviklingen til ChatGPT, har nemlig tatt i bruk KI fra ChatGPT i sin søkemotor Bing. Og Alphabet, som eier Google, svarer med å fremskynde KI-utviklingen i et annet datterselskap, DeepMind. Det er denne rivaliseringen, særlig mellom Microsoft og Google, Hinton advarer mot.
Den kunstige intelligensen er nettopp det – kunstig
Kan det hende en del av debatten rundt KI-utvikling er misledende? I ChatGPTs tilfelle er det ingen inne i maskinen, ingen indre aktør med tanker om verden, ikke engang et langtidsminne. Den kunstige intelligensen bak slike tekstgenererende chatboter er nettopp det – kunstig. Det er systemer kjent som språkmodeller som emulerer statistiske strukturer i språket; de beregner sannsynlighet i sekvenser av ord, og har ingen menneskelig forståelse av verken teksten eller konteksten.
På tross av dette er tendensen til å personifisere disse systemene sterk. Som KI-eksperten Gary Marcus påpeker, er alle KI-forskere klar over dette. Og han nevner Hintons nylige kommentar om at forsterkende læring (reinforcement learning, en form for maskinlæring) er som “å oppdra et overnaturlig veslevoksent barn”. Slike kommentarer kan være kvikke og vittige, men er fundamentalt misledende. Marcus og flere andre KI-forskere oppfordrer til å slutte å behandle KI-modeller som mennesker: “Nei, de har ikke bestemt seg for å lære seg noen ting, de elsker deg ikke tilbake, og de er fremdeles ikke engang litt levende.”
Smart nok til å være farlig
Men KI trenger ikke å være så intelligent for å volde skade. Nylig anklagde søkemotoren Bing en advokat for seksuell trakassering. Bing baserte seg på et debattinnlegg som faktisk beskrev nøyaktig det motsatte. Vi frykter feil ting: ChatGPT er ikke for smart, men for dum – ikke engang i stand til å forstå et debattinnlegg, og heller ikke i stand til å holde munn om det den ikke forstår. Siden den ikke er i stand til å filtrere ut feilaktig informasjon, blir den i praksis akkurat smart nok til å være farlig, å generere og spre desinformasjon – og ChatGPTs enorme popularitet hjelper ikke.
Kontinuerlig utvikling av robust forståelse av de flytende grensene mellom menneskelig intelligens og maskinell intelligens blir det springende punktet etter hvert som KI fortsetter sin himmelferd. De som abonnerer på kognitiv læringsteori er opptatt av hvordan mennesket husker og bearbeider kunnskap. Slikt hodearbeid på sitt beste – dybdelæring – innebærer for eksempel at eleven utvikler mer robuste kunnskapsstrukturer i fagene. Men sosiokulturell læringsteori, selv om den inkluderer kognitivt ladet læring, løfter i tillegg fram hvordan læring skjer eller ikke skjer i det sosiale samspillet på skolen. Kognisjon og sosial samhandling forenes. Vi lærer med og via andre, særlig de vi har tillit til, i sosialt ladde situasjoner. Det er kvaliteten på den sosiale interaksjonen og samarbeidet mellom elevene, og mellom læreren og elevene, som fremheves blant alle de ingrediensene som anses for å være viktige i arbeidet med å spenne opp fundamentet for bra læring og trivsel.
Elevene skal få kjennskap til KIs muligheter og begrensninger
Når vi tar inn det sosiale landskapet rundt kognitiv læring, befinner vi oss plutselig milevis unna hvordan maskinell dyp læring fungerer i dag. Vi snakker om sosial læring med et rikt lag av lesing av andres intensjoner, antagelser om hva som er relevant for gruppen, rollereversering, etablering av felles mål, antagelse om grad av samarbeidsvillighet, gruppeforventninger og så videre. Barn og unge i skolen modnes og utvikler gradvis større kapasitet for delt intensjonalitet (shared intentionality). Samtaler kan ses på som felles oppmerksomhet rettet mot relevant mentalt innhold. Menneskelig tenkning og læring er improvisasjon i et mangfoldig sosiokulturelt landskap. Som utviklingspsykologen Michael Tomasello er opptatt av, handler ikke begrepslæring bare om å bli bedre på å sette ord på ting, men om å utvikle konvensjonelle midler til å bli i stand til å dele oppmerksomhet med andre i en variert meny av sosiale kontekster.
Til sammenligning er maskinenes læring best på det kvantitative. Språkmodeller som ChatGPT har tilgang til massive mengder med kvalitativ informasjon og kunnskap på nettet. Men de forvandler disse kvalitative tekstene til noe kvantitativt (tokens) som kan telles, aggregeres og analyseres statistisk. Med kalkuleringens kraft regner de seg fram til hva det neste ordet sannsynligvis bør være. Akkurat som ordkorrigering (autocorrect). Akkurat som at kalkulatoren er overlegen i hoderegning enn de fleste av oss. Akkurat som sjakkmaskinen som har høyere rating enn Magnus Carlsen.
Som regjeringen og KS skriver i sin nye felles strategi for digital kompetanse og infrastruktur i barnehager og skoler, trenger skolene støtte for å håndtere KI. Dagens elever møter et samfunn og arbeidsliv med større innslag av KI. Elevene skal få kjennskap til KIs muligheter og begrensninger, inkludert etiske problemstillinger. Forutsetningen er at skoleeiere og skoler vet noe om hvilke konsekvenser KI får for opplæringen.Tempoet i utviklingen av KI medfører at dette er et ansvar som må forvaltes over tid, for grensene flytter seg stadig. Spørsmålet om personvern er allerede høyaktuelt.
Men kan vi snu KI til å bli et læringsverktøy, ikke bare i betydningen “å ta i bruk KI-verktøy i praksis” som et eksperiment for blant annet å fremme kritisk tenkning, men å bruke KI som et konsept i en pedagogisk-filosofisk læringskontekst? KI ligner tilsynelatende på menneskelig læring, men ser vi under panseret er den veldig annerledes. Kan KI sine måter å lære på bli gjort om til et verktøy som kan brukes i klasserommene for å stimulere til undring om hva som er læringens natur, hva som er unikt menneskelig? Vi har alle fått tilgang på maskinlæring nå, og det kan være interessant og nyttig å undersøke de flytende grensene mellom maskin- og menneskelæring. Det kan også hjelpe oss til å finne den rette plassen til KI i skolen – men om litt må vi finne en ny plass til den igjen.
Den norske KI-forskeren Inga Strümke sier at det «viktigste med lanseringen av ChatGPT var at alle fikk øynene opp for at nå er AI en del av livene våre». Hun legger til at det var «komplett uansvarlig å gjøre ChatGPT tilgjengelig uten å gi utdannelsessektoren – og mange andre – en sjanse til å møte denne revolusjonære kraften.» Så kan vi undre oss over hvorvidt KI rullet ut til skolen også kan revitalisere den eldgamle debatten om læringens natur. Vi kan også se framover og utforske – i den glade amatørens ånd – mulige retninger å gå for å utvikle nye KI-systemer, som blander informasjon om fortiden med verdier som representerer fremtiden vi ønsker oss. Er det mulig å finne ut hvordan det kan bygges en KI som kan representere og resonnere rundt verdier, i stedet for å bare videreformidle gamle, historiske data? Heretter må vi ikke bare tilpasse oss KI og ta den passivt i bruk, men forsøke å bidra aktivt til å utvikle perspektiver for å forme den. Det er maktpåliggende.