Det som sparker tankene i gang denne morgenen er Jill Walker Rettbergs innlegg i Aftenposten, Nå er det nok. Stopp bruken av kunstig intelligens til kunnskapsarbeid. Samtidig sitter jeg på Sikt-konferansen 2025 og lytter til innlegg som nettopp handler om bruk av KI i kunnskapssektoren.
Jeg liker Wilhelm von Humboldts forståelse av av dannelse, slik denne er formulert av Lars Løvlie: der "det selvstendige individet som av egen kraft setter scenen for sin danningsprosess som en selvskaping i møtet med verden, kulturen og lærestoffet. " Humboldts dannelsesbegrepet tok utgangspunkt i "selvets kraft og utrykk" og hvordan dette samvirket med kulturens makt og påvirkning (Løvlie, i Teknokulturell danning 2003:347).
I en intervjusamtale med Morten Søby formulerer Løvlie Humboldts forståelse av dannelse slik: "danning dreier seg om “å knytte selvet til verden i den mest allmenne, rikeste og frieste vekselvirkning”. Jeg lot meg sterkt inspirere av Løvlie, da jeg skrev essayet Digital dannelse, i 2004.
Jeg skrev den gangen som avslutning om en "digital" dannelsesprosess der den enkelte gir sine bidrag til kollektivet gjennom sine handlinger" på nettet. Handlinger ble knyttet tydelig til egenproduserte tekster (jeg holdt på med avhandlingen om personlige publiseringsformer), og samlinger av referanser som en selv har lest og vurdert.
Danning forstås som en prosess der individet gjennom selvinnsikt også oppnår innsikt, i møter med et kollektiv. I stor grad handler dette om å finne sin egen (faglige) identitet, og ikke minst en plass i samfunnet. Denne prosessen inkluderer alle våre handlinger, møter med mennesker og teknologi, og de (teknologiske) sporene vi etterlater oss.
Det er her KI raskt kan bli et problem. Om mye av det vi kommuniserer blir sterkt preget av KI, vil vi raskt utvikle en kultur som i liten grad er formet av mennesker som bryner sine meninger på hverandre.
Jill adresserer dette i form at tre problemer:
- Språkmodeller gjør mange feil og på en måte som kan være vanskelig å oppdage. De mislykkes også i enkle kontoroppgaver. 95 prosent av bedrifter som har tatt i bruk KI, har ikke sett noen produktivitetsvekst. Det er kanskje fordi språkmodeller gjør det så lett å produsere dårlige produkter som ser greie ut ved første øyekast, men skaper merarbeid for andre enn oss selv.
- Når vi bruker språkmodeller, svekkes vår egen evne til å tenke kritisk. For eksempel viser studier at leger blir dårligere til å gjenkjenne kreft når de bruker KI, og at studenter som bruker ChatGPT, over tid blir dårligere til å skrive selv. Språkmodellene /../ er kommersielle produkter som er designet for å være avhengighetsskapende.
- Problemet med KI-bias er ikke løst. Vi kjenner allerede godt til kjønnsfordommene i språkmodeller. /../ Det at en kvinne byttes ut med en mann, er en gjenganger i språkmodeller. Det vi ikke har vært like oppmerksomme på, er mer subtile ideologiske forskyvninger, som ikke å nevne krig og geopolitiske konflikter. /../ Språkmodellen genererer tekst som er sannsynlig gitt treningsdataene, ikke tekst som [nødvendigvis] er riktig.
KI er nyttig for de som forholder seg til en tekstkultur, uten egentlig å interessere seg for sammenhengen mellom kultur og mennesker. Konklusjonen min, fra essayet i 2004, står seg dermed ganske godt, også i møte med helt ny teknologi: vi bygger vår (digitale) dannelse gjennom individuelle bidrag til (den digitale) kulturen. Om teknologien i seg selv får for stor plass, slik det lett kan bli med KI, svekkes forbindelsen mellom individ og uttrykk, og vi setter i mindre grad "scenen" for vår egen danningsprosess.
Takk for gode tanker. Har du forslag til hvordan faktisk få til balansen mellom at språkmodeller i noen tilfeller kan brukes på kreative, kritiske måter, f.eks. av kunstnere - men at de aller fleste bruk i praksis gir dårlige resultater og arbeider imot dannelse som du beskriver det her? Jeg stusser veldig på hva vi faktisk bør gjøre her. Mer digital kompetanse, joda, men trolig en annen type kompetanse. Jeg tror i hvert fall ikke dagens situasjon med intenst press på at all skal bruke det mer og det fort er fornuftig. Et totalt forbud er urealistisk og kanskje heller ikke så lurt.
SvarSlettTakk for et godt og tankevekkende innlegg i Aftenposten.
SlettJeg er også genuint i tvil om hva som er konstruktive veier videre. Personlig ser jeg jo at jeg har åpenbart nytte av KI-verktøy, men først og fremst på områder der jeg er i stand til å vurdere resultatene skikkelig. I en researchfase finner jeg LLM-verktøyene nyttige, ikke minst de verktøyene som kombinerer tekstgenerering med søk, og dermed linker til kilder. Det virker på meg som at verktøy som Google Notebook LM holder seg til det som faktisk finnes i de dokumentene som lastes opp. Det introduserer imidlertid helt andre problemer, gitt at en kommer svært langt med lite innsats, i forhold til å generere tekster med solid forankring i pensumtekster. Skal jeg være ærlig hadde nok heller ikke jeg brydd meg om å lese pensum nøye, ut over å sjekke de referansene som KIen kommer med. Det er åpenbart et problem med hensyn til å opprettholde og videreutvikle akademiske skrifttradisjoner.
Der jeg selv har hatt mest glede av å bruke språkmodeller i kombinasjon med bildemodeller. På bilde- og videofeltet finner jeg løsninger som er mer interessante, også i form av generert innhold som ikke forsøker å være naturalistisk. Her blir generert innhold først virkelig interessant (for meg) når det blir “herjet med”, gjerne i en form som tilfører analoge kvaliteter. Når det er sagt: video som genereres med de store GAN-modellene er virkelig imponerende, og det er lett å se hvordan dette vil transformere film- og reklamebransjen.
Vi får henge med som best vi kan. Ting skjer raskt og en viss konservativ tilbakeholdenhet er bra.
Jeg leste innlegget ditt mens jeg satt på Utsikt-konferansen i Trondheim. Jeg snakket med litt ulike folk om dette temaet, og de fleste synes å være enige om at det ikke er klokt å ligge lengst fremme i feltet. Midt i, der vi fremdeles har kontakt med og kontroll på teten er trolig det beste stedet å være. Jeg tenker at en viss bekymring er alltid bra, så lenge den ikke tar overhånd og fører til handlingslammelse.
Jeg opplever på sett og vis at jeg er heldig som underviser i et fag som er solid forankret i fysiske materialer. På et annet vis enn litteratur, der forankringen i bøker blir noe annet. At studentene faktisk må lage noe fysisk gjør det lettere å peke på hvordan KI kan brukes i idefasen, og det er relativt tydelig hvor dette stopper. Samtidig ser også vi hvordan grensene flyttes, f eks der 3D-design kan gjøres ved hjelp av KI, og deretter danne fysiske objekter ved hjelp av maskinell hjelp. Også grensene for håndverk flyttes.