Internasjonalt opprop for bedre kontroll på KI-utviklingen

Finlands president Alexander Stubb og statsminister Jonas Gahr Støre har tatt initiativ til et internasjonalt opprop for å sikre kontroll på utviklingen for de mest avanserte KI-modellene.

I oppropet oppfordres det til at 

• selskaper utvikler transparente sikkerhetsprotokoller, inkludert obligatorisk testing og ekstern evaluering, med kvalifiserte fagfolk som er gitt tilstrekkelig tilgang til å vurdere risiko
  
  
• myndigheter og regionale organisasjoner utvikler og koordinerer felles standarder, styrker åpenheten, blant annet ved å dele rapportering av alvorlige sikkerhetshendelser, og sørger for at land i alle regioner gis tilgang til forskning, ekspertise og uavhengig evaluering
  
  
• FNs medlemsland bygger på eksisterende internasjonale mekanismer og undersøker muligheten for å etablere en internasjonal institusjon som kan sette standarder, gjøre det mulig å verifisere og sammenkalle land når kapasitetsterskler overskrides.

Her kan du lese oppropet (PDF, engelsk)

Dette kom noen dager etter at Barak Obama snakket om KI i dette intervjuet, der kortversjonen er at han tar til orde for at KI-industrien må gå frem med forsiktighet, samtidig som myndighetene raskt bygger opp sterke institusjoner som kan stå for regulering. Dette krever politisk vilje til å styre teknologien i samfunnets interesse:

Jeg spurte en "venn" om hva som vil være mulig for en privatperson i fremtiden, gitt videre utvikling av prosessorkraft, minne og smartere metoder. Det må tas med en solid klype ...

Periode	Hva en privatperson realistisk kan gjøre hjemme
I dag (2026)	Kjøre svært kapable åpne modeller lokalt (70B+ via kvantisering/fellesminne). Finjustere (LoRA/QLoRA) eksisterende modeller. Trene små modeller (under 3B parametere) fra bunnen av.
2028 – 2031	Trene spesialiserte modeller fra bunnen av i 7B–14B-klassen på optimaliserte datasett ved hjelp av neste generasjons FP4-akselerasjon og samlet minnearkitektur (f.eks. videreutviklet Apple Silicon / unified memory).
2035 – 2040	Dagens toppnivå hjemme: Gjennom en kombinasjon av 10 års maskinvarevekst (~30–50x) og akkumulert algoritmisk effektivisering (~500–1000x), vil en kraftig lokal arbeidsstasjon kunne matche kapasiteten til dagens GPT-4 fra bunnen av.