KI - verktøy eller tjener?

I det jeg begynner å skrive på dette kommer jeg fra et møte med en følelse av uro, og medansvar. Medansvar for HVLs retningslinger for KI, om enn med et forbehold om at dette er prisen en betaler for å sitte i en komite.

Uro, fordi jeg ikke tror på det jeg selv har navnet mitt på, som f eks siste punkt i retningslinjene:

Som eit kvart anna verktøy!
KI-baserte verktøy er ikkje ulike andre digitale verktøy og hjelpemiddel. Hugs at eventuelt fagleg innhald som blir generert alltid må sjekkast opp mot ei truverdig kjelde.

Noe som blir stadig tydeligere for meg, er at KI ikke er som andre verktøy. Den tydeligste definisjonen på verktøy er kanskje: "redskaper som er spesialisert til en bestemt bruk". Lenge før si kan snakke om noen form for generell kunstig intelligens kan vi allerede en nærmest uendelig rekke av eksempler på hvordan KI kan brukes på måter som ikke er spesialisert. Et eksempel kan være hvordan språkmodeller kan brukes for å styre autonome roboter. Et enklere eksempel er alle de ulike måten vi kan anvende generativ KI kan skape så ulike uttrykk, at det ikke gir særlig mening å tenke at det handler om at løsningene er spesialisert  til en bestemt bruk.

Jeg tenker derfor at det gir mer mening å tenke på KI som en form for partner (en som tar del i, medvirker i noe), eller veileder. Om ikke lenge vil agent trolig være en egnet metafor, straks KI begynner å utføre oppgaver på våre vegne, uten spesifikke instruksjoner.

Jeg finner veileder-metaforen nyttig i eget virke, fordi jeg som veileder av studenter, som skal levere noe til vurdering (eksamen),  må tenke gjennom grensegangen mellom å vise vei og legge konkrete formuleringer til en tekst. Ofte handler det om å vise vei i en tekst, gjennom å skrive begynnelsen på noe ... og overlate fortsettelsen til studenten. KI er ofte glimrende til dette, men kan lett være en veileder som gjør for mye.

Jeg tror KI på kort sikt trekker i retning av avvikling av hjemmeoppgaver, (dessverre) mer skoleeksamen, men også en revitalisering av praktiske oppgaver, reell problemløsning og fysiske materialer.

Samtidig kommer vi til å bruke KI til svært mange oppgaver, og studenter og elever må lære om bruk og teknologiens egenskaper.

Digitaliserings- og forvaltningsminister, Karianne Tung, og Forsknings- og høyere utdanningsminister, Sigrun Aasland, spør i Khrono: Kan KI svekke likestillingskampen. De tar opp et viktig spørsmål, knyttet til hvordan KI vil gjenspeile fordommer og forutinntatthet (bias) i treningsdataene. De viser til et eksempel der de ba Chat GPT lage et bilde av en toppleder. Tilbake kom et bilde av en mann i mørk dress. En kan argumentere med at det gjenspeiler virkeligheten, men jeg tar noen av poenget.

I forsøket på å komme med en løsning, går det imidlertid litt over styr:

Så la oss heller snu eksempelet fra Chat GPT: I stedet for å la KI gjenspeile gamle fordommer, kan vi programmere den til å utfordre dem. Tenk deg en KI som genererer bilder av mangfoldige toppledere, kvinnelige leger og mannlige sykepleiere. Dette kan bidra til å bryte ned stereotypier og skape nye forbilder.

Det kan gå riktig galt. Googles tidligere tabbe med Gemini er et karikert eksempel, men illustrerer hvor galt det kan gå dersom en forsøker å legge inn funksjoner som forsøker å korrigere for de problemene som de to ministrene adresserer. 

Jeg tror derfor forslaget fra ministrene er en særdeles dårlig ide. Det er mye annet å være enig i i innlegget, men akkurat dette synet gjør meg oppriktig bekymret. Først og fremst fordi det kommer fra de to som for tiden har størst påvirkningskraft på bruken av KI i utdanning.