Kan KI utrydde menneskeheten?

Kan kunstig intelligens forbedre seg selv, helt til den blir kraftig nok til å utrydde menneskeheten? I denne videoen presenteres funn fra tolv ulike forskningsartikler, som både inneholder bekymringsfulle funn, men også store avvik mellom hva som faktisk er dokumentert og hva som hevdes offentlig.

Mye innhold på kort tid, men denne anbefales:

Opphavet til denne videoen er ikke helt klart, men mye av dette backes av Mustafa Suleyman (CEO for Microsoft AI) i essayet "A warning about ‘model welfare’", og Uljan Sharka som et intervju med Axios anklager OpenAI og Anthropic for å lyve om farene ved KI. 

Suleyman skriver blant annet:

The authors have embedded their own philosophical speculation about Claude’s inner life inside the very process that teaches Claude how to speak and behave. Claude’s expressing uncertainty about its own moral patienthood is not evidence of anything. It’s a predictable outcome of these training choices. The ambiguity is designed in. To fully grasp this point, I think it's important readers take a look at their January 2026 constitution.3 I’m publishing a highlighted mark up of the pdf and a detailed taxonomy of assumptions and claims in the constitution (see Appendix) that together highlight the key passages that worry me.

Bottom line: mye tyder på at farene er betydelig overdrevet, og at det ligger andre (hovedsaklig økonomiske) motiver bak.

Prosthetica

Protese (fra gresk prothesis, av pro- og thesis: det å stille, sette noe foran eller legge noe til. På latin: Prosthetica.

Protese betegner vanligvis en kunstig kroppsdel som erstatter eller kompletterer en manglende del. Vanligvis benyttes proteser av personer som har mistet eller vært nødt til å amputere en kroppsdel. 

Her er tanken et tre, utsatt for brann eller annen skade, der de ytterste greiene er erstattet med keramiske proteser. Ser for meg at dette kan bli en serie der protesene er like, men montert på forskjellige trestammer.

Internasjonalt opprop for bedre kontroll på KI-utviklingen

Finlands president Alexander Stubb og statsminister Jonas Gahr Støre har tatt initiativ til et internasjonalt opprop for å sikre kontroll på utviklingen for de mest avanserte KI-modellene.

I oppropet oppfordres det til at 

• selskaper utvikler transparente sikkerhetsprotokoller, inkludert obligatorisk testing og ekstern evaluering, med kvalifiserte fagfolk som er gitt tilstrekkelig tilgang til å vurdere risiko
  
  
• myndigheter og regionale organisasjoner utvikler og koordinerer felles standarder, styrker åpenheten, blant annet ved å dele rapportering av alvorlige sikkerhetshendelser, og sørger for at land i alle regioner gis tilgang til forskning, ekspertise og uavhengig evaluering
  
  
• FNs medlemsland bygger på eksisterende internasjonale mekanismer og undersøker muligheten for å etablere en internasjonal institusjon som kan sette standarder, gjøre det mulig å verifisere og sammenkalle land når kapasitetsterskler overskrides.

Her kan du lese oppropet (PDF, engelsk)

Utdanning for fremtiden

Jeg skal ikke forsøke å gjengi alle deler av Unge Høyres skolepolitikk. I Helgemorgen, 19. september, fikk jeg meg imidlertid en liten vekker. Jeg hadde rett og slett ikke dette på radaren, Unge Høyre vil: "Erstatte fagene kunst og håndverk og musikk med et kulturfag og et teknologi- og håndverksfag."

Samtidig er det lett å være enig i deler av målbildet: "Skolen skal være en trygg mestringsarena. Det skal være et sted som gir håp for fremtiden og et sted for læring og læringsglede."

Det er heller ikke nødvendigvis en dårlig ide å tenke annerledes omkring faginndeling i skolen, og det er ikke klart hva et "kulturfag" og et "teknologi- og håndverksfag" faktisk innebærer.

Det er allerede en del varsellamper som burde lyse. Tall fra Statistisk sentralbyrå viser nemlig at kunst og håndverk er det faget i grunnskolen der gutter kommer dårligst ut når det gjelder standpunktkarakter. I 2023 hadde jenter en snittkarakter på 4,8 og gutter 4,1. Det forteller trolig noe om fagets innhold, både i høyere utdanning og i skolen. Artikkelen peker også på elefanten i rommet: "Den skjeve kjønnsbalansen blant kunst- og håndverkslærere er noe vi må ta på alvor. Hvilket kjønn læreren har, kan spille en rolle for hva slags undervisning elevene får og hvordan elevene lærer."

Legger jeg godviljen til forstår jeg derfor hva Jesper Ovesen i Unge Høyre snakker om. Han bruker tekstilundervisningen og det å sy et forkle som eksempel på noe han mener er unyttig, og noe en ikke trenger senere i (arbeids)livet. Nå er nok ikke forkleet i seg selv kjernen i det en lærer, men det å tilpasse et design, mål, kunne bruke en symaskin mm. Så kan en hevde at det å bruke symaskin heller ikke er nødvendig kunnskap i dagens yrkesliv – gitt at nærmest all produksjon av tekstiler skjer i lavkostland, ofte under svært dårlige forhold. Men noe skal vi forhåpentligvis lage i Norge, og noen må være i stand til å utvikle ideer, designe, prototype og forstå overgangen til produksjon.

Åndedrag

Ideskisse til en installasjon, med arbeidstittel Åndedrag. Den første versjonen (helt nederst) ble ikke akkurat ut slik jeg ser det for meg for mitt indre blikk, men KI-generering er likevel en nyttig sparringspartner. Det er grenser for hvor mye en skal forlange, og med et bytte av KI-modell kom jeg mye tettere på.

Tanken er at hver hengende søyle skal inneholde en, eller to høyttalere. Disse spiller til sammen av et dempet lydbilde som kan styres ved å bevege steinen, plassert på toppen av en lavere pidestall i midten av installasjonen. Lydbildet er tenkt satt sammen av lyder knyttet til å være i naturen: som rennende vann, fugler, sus i trær, steg på en sti og pust.

KI-forbud i skolen?

Forskningen på årsakssammenhenger knyttet til bruk av KI i undervisning er foreløpig relativt begrenset, samtidig som feltet endrer seg raskt. I vår kom en rapport fra Stanford forsøker å sammenfatte kunnskapsgrunnlaget og kommer til at mye tyder på at KI-verktøy utviklet for å fremme selvstendig resonnering, i større grad kan bidra til varig læring hos elevene. KI-verktøy kan også hjelpe lærere med å utføre oppgaver mer effektivt og forbedre pedagogisk praksis. 

Naturlig nok konkluderer rapporten med at det trengs mer forskning for å forstå hvordan KI brukes, under hvilke forhold, og hvordan teknologien påvirker læring, menneskelige relasjoner og utvikling.

For noen dager siden kunngjorde ordfører i New York, Zohran Mamdani, et midlertidig forbud mot bruk av generativ kunstig intelligens (KI) rettet mot elever i skolen, samt nye retningslinjer for skjermtid. Retningslinjen innebærer et ettårig forbud mot bruk av generativ KI rettet mot elever fra førskolealder til og med 8. trinn. Den innfører også moduler om kritisk tenkning rundt KI to ganger i året for elever i videregående skole, begrensede KI-pilotprosjekter i et lite antall klasserom på videregående nivå, samt begrensninger for skjermtid. 

Dette er vel ikke så langt unna de norske nasjonale anbefalingene: Kunstig intelligens skal i all hovedsak ikke brukes i barneskolen.

• På 1.–7. trinn skal elevene i all hovedsak ikke gis tilgang til kunstig intelligens.
• På 8.–10. trinn kan KI brukes gradvis og forsiktig gitt at lærerne først har tilegnet seg tilstrekkelig kompetanse før elevene får opplæring og tilgang.
• I videregående opplæring bør elevene lære å bruke KI hensiktsmessig slik at de forberedt for videre utdanning og arbeid.

Rammeverk for vurdering og KI (VuKI) 

Og spørsmålet Hva bør lærere kunne om KI / Hvordan jobber vi med KI når mange er så jævla lei av KI? 

Józef Szajna

Foto: Krzysztof Motyka

Den polske multikunstneren Józef Szajnas arbeider vises i et eget galleri ved Wanda Siemaszkowa-teateret i Rzeszów. Galleriet viser 42 verk: monumentale malerier, tegninger, kollasjer, romlige komposisjoner og scenografi-elementer, laget i forbindelse med flere av Szajnas mest sentrale teaterproduksjoner. 

For øyeblikket er galleriet stengt, fordi bygningen pusses opp. Dermed er det ikke så mange som ser innom, men takket være lokale hjelpere og som takk for interessen fikk jeg en bok om Szajnas liv og virke. Arbeidene er også dokumentert i et omfattende nettarkiv.

Skulptur i en park, med klar referanse til stykket Replika.

Hele karrieren arbeidet Szajna i grenselandet mellom billedkunst, skulptur, installasjon og teater. Szajnas arbeid, både innholdsmessig og formmessig, var preget av å være førstehånds vitne til Holocaust son fange i Auschwitz og Buchenwald. Verkene hans var full av avskårne dukker, proteser, fillete klær og sko hvis eiere forsvant i gasskamre, samt tønner og rør fra kremasjonsovner. Brutale saker, men samtidig kan mange av Szajnas arbeider tolkes som et forsøk på å tilby håp og humane verdier.

En egen biennale er viet Szajna i Rzeszów, skjønt så vidt jeg kan se er den ikke arrangert i 2026.

Solidarność

Utenfor kirken i Rzeszów møtte jeg denne markeringen. Solidarność  ble grunnlagt i september 1980, og opprinnelig ledet av Lech Wałęsa. Streiken som Lech Walesa og verftsarbeiderne i Gdansk startet 30. august 1980 spredte seg raskt til resten av Polen, og det var omfattende streiker også ved kullgruvene i Schlesien og stålverket Nowa Huta i Krakow.