JON HOEM

Førsteamanuensis ved Institutt for kunstfag, Høgskulen på Vestlandet – Bergen.

Underviser i kunst og håndverk, og forsker på og med nye kunst- og medieformer. Leder forskergruppen MaTecSus.

Jeg er interessert i forholdet mellom medier og fysiske materialer: i 2021 kom boken Digitale medier og materialitet med en grundig diskusjon av denne tematikken. Jeg er særlig interessert i det haptiske (berøring og bevegelse) knyttes til lyd.

Fremover jobber jeg særlig med den telematiske operaen Zosimos (2023-26) og (støy)instrumentet Sonic Greenhouse.

Nylig avsluttede prosjekter er Sonus (2023), Sampling av lyd og bærekraft (2022-), "Auditomosjon" (2021-23) og "Aquafoni" (2022).

Videre sfæriske medier, ulike former for roboter, mm.

Min Dr.-avhandling om personlig publisering (2009).

Siterte artikler og publikasjoner i Cristin.

18. desember 2021

God jul med Krampus

Årets "julekort", på samme vis som i fjor bygget rundt mytologien omkring Krampus.


Krampus kommer til de som ikke har vært snille gjennom året, mens Julenissen – St. Nikolas – kommer med gaver til de som har oppført seg pent. Les mer om St. Nikolas og Julen.

16. desember 2021

Simulering og digital materialitet

I Digitale medier og materialitet kommer jeg innom flere eksempler på VR i fiksjon. Et av eksemplene  som hører hjemme i den sammenhengen er Matrix fra 1999, nettopp fordi denne fiksjonsfilmen så tydelig peker på mange av de filosofiske sidene ved (kommende) perfekt audiovisuell simulering. Jeg diskuterer mange forhold ved dette, ikke minst i et eget kapittel om haptiske representasjonsformer,

Det er trolig mest et spørsmål om tid før vi alle har tilgang til tekniske løsninger der skillet mellom det som representeres direkte og det som genereres av datamaskiner blir svært vanskelig, nær umulig  å observere. Og vi kan med høy sannsynlighet gå ut ifra at de som er barn i dag vil benytte slike løsninger store deler av sin fritid og yrkesliv.

Vi bør derfor for alvor diskutere og forholde oss til tekniske løsninger som muliggjør utvidet og virtuell virkelighet i forhold til formidling. Forholdet mellom det som oppfattes som virkelig og det som forstås som kunstig mediert kan utfordres allerede av dagens medieteknologier. Legger vil til grunn at fremtidens representasjonsformer vil bli adskillig mer integrert med hvordan vi fysisk sanser våre omgivelser vil dette forholdet påvirke hvordan vi forstår oss selv i verden. 

Sjekk Matrix Awakens traileren / spillvideoen nedenfor, samt en sammenligning av den originale filmen og dagens versjon via Unreal Engine 5. Å lage spill og/eller film smelter for alvor sammen:


Det er mange ting som møtes her, som Metahuman Creator som ble lansert for halvannet år siden og ikke minst spillmotoren som holder den simulerte byen "levende" i sanntid.  Den virtuelle byen dekker et areal på knappe 16 kvadratkilometer, det er 260 km med veier og 1 248 veikryss. Legg til 45073 parkerte biler, hvorav 38146 er kjørbare. 7000 bygninger og 35000 simulerte MetaHuman fotgjengere.

9. desember 2021

Jon Hopkins - Spatial Mix

Jeg er interessert i 3D-lyd / spatial audio og ble derfor mer en middels nysgjerrig da jeg oppdaget at Jon Hopkins har fått mikset et knippe låter med tanke på binaural lytting – Digitale medier og materialitet har forresten et eget kapittel om sfærisk lyd.

Alt fungerer ikke like godt her sammenlignet med en tradisjonell stereomiks. Faktisk synes jeg Singularity er vesentlig bedre i liveversjonen, her embeddet nederst. Det skyldes riktignok at denne versjonen blir adskillig mer spennende på grunn av forvrengninger og småfeil som oppstår live. 

Problemet er kanskje at når teknikken gjør det enklere å bevege lyder i miksen ender en litt for ofte opp må gjøre litt i overkant mye av dette, uten at det er noe spesielt poeng. Dermed kan vandrende lyder forstyrre der en ellers ville lyttet til små detaljer.

Ikke helt overbevist altså, men Jon Hopkins' elektroniske musikk er uansett verd å få med seg.


28. november 2021

Hverdagsroboter og interaktivitet

Everyday Robots ledes av den utflyttede nordmannen Hans Peter Brøndmo. Det får meg til å se tilbake til det som virkelig fikk øynene mine opp for potensialet i datamaskiner: en fremtidsdokumentar som science-fictionforfatteren Douglas Adams laget for BBC, kalt "Hyperland" – en dokumentar som fremdeles er vel verd å se i sin helhet. I denne dokumentaren møter vi nevnte Brøndmo som den gangen forklarte det han kalte "micons" – Moving Icons – som en del av hypervideo, eller interaktiv video.

Sammen med konkrete erfaringer med Apples banebrytende programvare Hypercard var det nettopp Hyperland som fikk meg til å endre kurs, fra film- og fjernsynsstudier til fullt og helt å satse på "interaktive" medier. Brøndmos arbeid på den tiden var så definitivt en inspirasjonskilde.

Uten at sammenligningen skal strekkes særlig langt har jeg også fattet interesse for roboter, dels i enkle formater, dels noe mer avansert. Roboter er et konkret møte mellom det programmerbare og det fysisk materielle, og dermed et viktig omdreiningspunkt for boken Digitale medier og materialitet. I boken diskuterer jeg blant annet romlige og haptiske representqasjonsformer.

Everyday Robots lager åpenbart mer avanserte roboter, men de skal i første omgang løse enkle oppgaver i Googles kantine, langt på vei samme typer oppgaver som Tesla ser for seg med sin varslede Teslabot. I videoen nedenfor snakkes det mye om hvordan maskinlæring er en forutsetning for at roboter skal lykkes. Det er dermed en nær sammenheng mellom roboter som navigerer i en kantine og en selvkjørende bil.

23. november 2021

VR som metode i skolen

Sitter og følger med på NKULs seminar om VR. Spørsmålet er hvilke oppgave som elevene arbeider med og hvordan disse kan forbedre undervisningen.

Vi fikk en demo av Framevr.io/galleri6trinn, og straks eleven som presenterte kom til sfæriske bilder ble jeg umiddelbart dratt videre og begynte å se på videoen nedenfor. Jeg er jo ikke superglad i å lage 3D-miljøer, siden dette tar tid, samtidig som jeg for min egen del opplever at sfæriske bilder gjør jobben i de fleste tilfeller. Å kunne ha flere brukere inne i samme sfære er imidlertid noe jeg savner, og her synes FrameVR å tilby en interessant løsning.

Interessant nok synes eleven å legge vekt på de sfæriske bildene som spennende, og da åpner det seg en liten verden av ulike prosjekter.


15. november 2021

Robotdans

Jeg har vært inne på å danse med roboter tidligere, men denne gangen er dette noe som har oppstått uten inngripen fra mennesker.

Vi har for annen gang gjennomført "Auditolocomotiv", denne gangen sammen med elever på 5. trinn. Impulsen var denne gangen «Doktor Proktors sensasjonelle samling av Dyr Du Skulle Ønske Ikke Fantes».

Jeg skriver en del om dette i forbindelse med teknologifikling og koding av tredimensjonale objekter, i Digitale medier og materialitet, noe som gir anledning til et lite foto med det som kan bringe inn nye bevegelsesmønstre – Mecanum-hjul, en smått genial oppfinnelse av svensken Bengt Ilon. 

Dermed ligger veien åpen for et prosjekt ala dette, men i mitt tilfelle basert på BBC Microbit, dvs. noe ala Omni:bit.

15. oktober 2021

AR, eller er det bedre med litt mer "low tech"?

NRKBeta har en lengre artikkel om AR i lærebøker. Artikkelen kan nesten fremstå som tekstreklame for det norske selskapet Ludenso. Det får så være, det er all grunn til å heie på norske teknologiselskaper.

Jeg har syslet ganske mye med AR de senere årene, da fortrinnsvis som innholdsprodusent. I den sammenhengen har jeg ofte tydd til lyd, da det fremdeles er for mange problemer med den visuelle siden av AR. Noen tjenester har jeg vært godt fornøyde med, men felles for dem har dessverre vært at enten har de opphørt, blitt kjøpt opp og endret modellen, eller de har blitt kun betalingstjenester. Alle må selvsagt tjene penger et sted, men det er vanskelig å promotere tjenester med mindre de i det minste tilbyr begrenset funksjonalitet og kapasitet gratis. Altså en form for freemium-modell.

Ludenso synes å ha funnet en middelvei, som jeg håper de kan tjene penger på, der enkeltbrukere kan anvende tjenesten med modeller designet i selskapets egen editor. Kommersielle brukere, som forlag, inngår derimot avtaler mot betaling, men kan til gjengjeld publisere mer komplekse og animerte modeller - jmf. NRK-saken. 

Det er nok mye godt å si om det de gjør. Editoren er riktignok basal, men dermed også såpass enkel å bruke at de fleste elever på mellomtrinnet og oppover bør kunne beherske dette. Men, denne formen for modellering tar jo tid og savnet av kjappere verktøy, som f.eks. Tinkercad eller Sketchup, blir noe en kjenner på.

Den nevnte NRK-saken viser til at de tjenestene som beskrives er tilgjengelig for de 55.000 elevene som bruker Aschehoug sine bøker iPraksis eller Solaris. Et problem gjenstår riktignok: det er sannelig ikke alle enheter som aksepterer Lundensos app. For min del er faktisk dette en showstopper, og jeg har ikke tenkt å hive meg utpå og kjøpe ny telefon av den grunn. Ikke er det mulig å få appen i gang på noen av Chromebookene heller.

Jeg forstår jo hvorfor det er slik. Skal en løse plassering av AR-objekter med fast plassering i "omgivelsene" krever dette en nyere mobil enhet. Når det er sagt: jeg levde tidligere godt med funksjonaliteten i apper som Augment og Aurasma (senere HP-Reveal). Noe enklere, men fungerte godt.

Jeg skriver forresten en god del om ulike former og bruksområder for AR i Digitale medier og materialitet (Kapittel 6.4).

13. oktober 2021

Kopierbarhet og transformerbarhet

I Digitale medier og materialitet avgrenser jeg digital materialitet på grunnlag av noen felles egenskaper, da særlig kopierbarhet, transformerbarhet og multilinearitet. Boken diskuterer en rekke eksempler på den fleksibiliteten som digital informasjon og programvare gir, og hvordan den kan komme til uttrykk på svært forskjellige måter.

Siden jeg liker praktiske, konkrete eksempler: her er en liten remiks av bokens omslag. Omslaget er i utgangspunktet designet ved hjelp av Google Tegninger. Boken er forøvrig satt i Google Dokumenter – ikke fordi dette er det beste verktøyet for å sette en bok, men fordi dette er et verktøy som er lett og gratis tilgjengelig. Det fungerer dessuten aldeles utmerket.

Fra Tegninger er veien kort til en kopi i Google Presentasjoner der de enkelte elementene kan flyttes og endres. Kombinasjonen av å kunne håndtere punktgrafikk sammen med vektorgrafikk gjør presentasjonsverktøy til et effektivt verktøy, selv for oppgaver det nok aldri var beregnet for.


Prosessen beskrives i mer detalj her, men kort fortalt lastes presentasjon ned som en PDF. Dette bevarer det som måtte være av vektorgrafikk. Deretter konverteres pdf-filen til en animasjon via tjenesten EZGif

Kopierbarhet og transformerbarhet i mange ledd og slik sett et enkelt eksempel på hvordan digitale uttrykk og produksjonsmåter er transmediale (påtvers av medier), om enn i en litt annen form enn det Henry Jenkins definerte i 2007.

Vi kan forresten fint jobbe med multilinearitet i et presentasjonsprogram også, for eksempel slik Gro og jeg har gjort med bøker og AR, eller slik Sarah og jeg har gjort med mer komplekse hypertekster, som utmerket godt kan realiseres i et presentasjonsprogram.

12. oktober 2021

A Brief History of Computer Music

Anders Norås gir en introduksjon til musikk laget av og med datamaskiner:

30. september 2021

Lafuba under Setersprell

Kjekk dag på Setersprell ved Helgeseter. Forestillingen Lafuba tar i bruk de samme lydskapningene som brukes for Auditomosjon, men ble satt inn i en annen, dramaturgisk ramme.

Fire barnehager med til sammen drøyt 75 barn og et godt knippe voksne fikk en auditiv opplevelse i flotte lokaler. Helgeseter har faste beboere, gårdsdrift og en rekke verksteder, samt et stort lokale som brukes til ulike arrangementer som også er åpne for besøkende. Under årets Setersprell fikk dermed lydskapningene innta veksthuset.

Stinn brakke inne i lokalet, men det gikk overraskende fint med mer en 60 personer inne i installasjonen samtidig. Også overraskende gode akustiske forhold, gitt betonggulv og store vindusflater. Gode lydfeller i resten av lokalet gjør tydeligvis susen.


24. september 2021

Ny bok: Digitale medier og materialitet

En variant av presentasjonen av boken Digitale medier og materialtet. presentert på nettsidene til forskergruppen Materialitet, teknologi og berekraft

En vesentlig del av bakgrunnen for boken er hvordan gjennomgripende digitalisering påvirker oss alle, nærmest uavhengig av hvilke fagfelt vi jobber innenfor og hvilke uttrykksformer vi tar i bruk. Svært mye av det som omgir oss i hverdagen skapes og styres ved hjelp av datamaskiner og blir dermed til og må forstås under nye betingelser.

Spørsmålene om hvordan det digitale får konsekvenser blir stadig viktigere, ikke minst fordi så mange av de artefaktene som omgir oss er svært påvirket, ofte fullstendig avhengige, av det digitale.

Vannfolk

Ikke for annet enn at jeg synes det lett surrealistiske bildet av studenter som plukker skjell ble et spennende grafisk uttrykk.



21. september 2021

På denne dagen for 37 år siden

var jeg 17 år og Talk Talk snurret ofte på platespilleren. Samme høst, tror jeg, fikk en nabo den første CD-spilleren og Talk Talk var selvskreven.

Den elegante poprocken ble etter hvert byttet ut med mer eksperimentell musikk – Spirit of Eden (1988) anbefales varmt. Det som kunne fortsatt som et enormt spennende band opphørte noen år senere da hovedmannen Mark Hollis brøt tvert av.

CD-spilleren er historie, så er dessverre også Talk Talk og ikke minst Mark Hollis.

Jeg var nok for pysete som tenåring og ville nok aldri funnet på å skulke skolen og reise til Rotterdam, for dermed å kunne minnes denne konserten, den 21. september 1984.

Videoen er jo et tidsbilde, men noen må ha stått optimalt plassert med skikkelig utstyr under denne konserten: her er et liveopptak som i ettertid gir mye lytteglede.

18. september 2021

Haptisk lydkunst i Tårnsalen?

Spekulerer bare ....

Ideskisse
Men etter at en vakt på KODE plantet ideen har jeg ikke fått tanken om Auditomosjon i Tårnsalen ut av hodet.

Museet har i alle fall hatt et program for Takeover av KODE4.

Eller kanskje Auditopentaet. Jeg og Johannes har begynt å spekulere på hvordan vi kan styre de 20 høyttalerne gjennom at publikum manipulerer forskjellige objekter i rommet. på et vis beslektet med Auditomosjon, men omvendt – på en måte...

Tanken er her å flytte objekter, som ikke selv avgir lyd, men der forflytningen påvirker lydbildet som sendes fra den sentrale, rundstrålende høyttalersøylen. Jeg likte termen "soundbuckets", men ikke overraskende er dette allerede en merkevare. Men jeg kan jo like grene spinne videre på det latinste "audito" og dermed er Auditobuckets født.


Hver "beholder" skal kunne flyttes på og kommuniserer med høyttalere i det sentrale Auditopentaet. Brukeren kan dermed høre konsekvensen av forflytningen, i samspill med andre brukere og beholdere. Samtidig gir hver enkelt Auditobucket / Audiobeholder en visuell tilbakemeling via innebygget LED.


Det kjekkeste hadde vært om vi kunne holde det skikkelig low cost og med ditto lavt strømforbruk. F.eks med microbits i lydbeholderne. Johannes har sett på Lilygos TTGO som så langt virker lovende som lydavspiller, også de koblet til hver sin microbit som sørger for radiokommunikasjon med sine respektive lyd beholdere. Er vi heldige kan styrken på radiosignalene også benyttes for enkel proximity.

17. september 2021

Tredyr, tempera og "nearest neighbor"-algoritmen

Det går fra det "små" til det "store" i dag. Først en økt med barnehagelærerstudenter der vi laget temperamaling med både egg og kasein. Jeg har et lite miljøprosjekt gående, der jeg vil akrylmaling til livs. Maling basert på naturmaterialer er en helt annen, og mer miljøvennlig historie. Kaseinmalingen gir et matt, eksklusivt uttrykk, mens eggtempera er det nærmeste vi kommer en maling for evigheten. Begge typer maling ble brukt til møbler og interiører før oljemalingene og etter hvert ulike polymerer overtok gjennom industriell produksjon av maling.

Her er det noe som må gjenerobres.

De små malte tredyrene henger også sammen med en litt større begivenhet for min del. I dag kom nemlig en sending fra trykkeriet med første utgave av Digitale medier og materialitet, boken jeg endelig er ferdig med, der jeg setter meg fore å utforske forhold og sammenhenger mellom det digitale og det fysisk materielle.

Hva er så sammenhengen med tredyrene? Jo, før vi bygget dyrene tok vi ut noen sekker med kapp fra tresløyden. Den første oppgaven til studentene var å kategorisere trebitene, slik et barn uten begreper som f.eks. rektangel, sirkel, sfære, omkrets, diameter osv. kunne gjort det. Da begynner vi med å sammenligne objekter og klassifisere de ut fra observerte, visuelle og taktile likhetstrekk.

Dette innebærer at studentene nærmer seg sorteringen på noenlunde samme måte som en "Nearest neighbor"-algoritme. De som kjøper boken vil blant annet kunne lese en spennende historie om legen John Snow, og hvordan han dokumenterte hvordan kolera smittet, i London på midten av 1800-tallet. Snow benyttet i praksis samme teknikk på et annet område. Han anvendte dermed nærmeste nabo-klassifisering, som i dag ligger til grunn for søketjenester, anbefalingssystemer, navigasjon, forskjellige former for maskinlæring, mm. 

De små henger her sammen med de store ...


16. september 2021

Artworks that don't exist

Thisartworkdoesnotexist.com er en variant av Thispersondoesnotexist.com som jeg har vært innom tidligere. Denne versjonen er ikke fullt så spooky, men ganske spennende denne også. Som mye annen kunst er det god spredning med hensyn til hvor interessant uttrykket blir, og det mest interessante oppstår trolig i interaksjon med et menneske som kan (vei)lede maskinen:

28. august 2021

"Digitale medier og materialitet" sendt til trykkeriet


Point of no return – Digitale medier og materialitet er sendt til trykkeriet.

En slags gjennomgang. Ikke for at dette skal leses, men videon gir et inntrykk av bokens innhold:


25. august 2021

Ture takkes av

Skrivekamerat og kollega Ture takkes av etter mer enn 30 år ved Bergen lærerskole / Høgskolen i Bergen / Høgskulen på Vestlandet. Det fortjener en slags oppsummering:

22. august 2021

Tesla AI Day Highlights

Jeg satt her om dagen og brukte noen timer på å se hele sendingen fra Tesla AI Day. Mye spennende, selv om jeg ikke har forutsetninger for å forstå mye av det. Mot slutten kom en kort smakebit på det som skal bli Tesla Bot, en robot som skal benytte mye av den samme maskinvaren og ikke minst systemene for autonomi som Tesla forsøker å løse for biler.

Steve Jobs sa i sin tid at Apple først og fremst er et programvareselskap. Det til tross for at de tjener de aller meste av pengene sine på å selge maskinvare. Det samme kan sies om Tesla. De selger biler, men deres store fortrinn er at de egentlig er et programvareselskap. 

Lex Fridman forklarer noen av implikasjonene:


Lex Fridman er til stede i mage kanaler, bl a. en podcast som graver ganske dypt. Et eksempel er Infinity is fake: The base layer of reality is discrete | Joscha Bach and Lex Fridman.

19. august 2021

Materie, materiale, materialitet

Bøygen – tvilen og usikkerheten må overvinnes. Ibsens litterære versjon er kanskje vel så illustrerende, men gitt at jeg vil ha et bilde liker jeg Paul Gauguins variant.

Bøygen i akkurat dette tilfellet er å endelig sende fra seg den ferdige boken Digitale medier og materialitet. En lang skriveprosess, en grundig review og masse korrektur er unnagjort. Ferdig arbeid med andre ord.

Men så kommer den da: tvilen. Er det godt nok?  Mangler noe? Ikke minst fordi Lovise Søyland nylig har disputert med en tematikk som så definitivt befinner seg i det samme landskapet, men selvsagt på et mer fokusert område. Mitt utgangspunkt, eksempler, begrepsforståelse og resonnementer er imidlertid annerledes. Med Digitale medier og materialitet forsøker jeg å finne ut av hvordan de digitale mediene møter fysiske omgivelser på tvers av sjangere og representasjonsformer. 

Beskrivelsen nedenfor er kanskje litt intrikat og i seg selv neppe tidenes salgspitch. Her kan imidlertid potensielle lesere ta det med ro. Bokens 342 sider er nemlig full av konkrete eksempler som jeg føler meg sikker på at vil være interessant for mange. Så får bokens innledning og avslutning være det som holder opp en videre, mer teoretisk orientert horisont.

Materialitet blir sett på som som særlig sentralt i de estetiske fagene, men jeg må innrømme at jeg lenge har slitt med å få ordentlig tak på begrepet. Samtidig er begrepet materialitet så absolutt relevant også innenfor en rekke andre fagtradisjoner, men der det gjerne blir snakket om på forskjellige måter.

I de estetiske fagene blir materialitet i høy grad knyttet til det haptiske (det som angår berøring, dvs taktilt [berøring av huden] og kinestetisk [bevegelse og forflytning av kroppen]). Mitt overordnede prosjekt er å se bak den (fysisk) materielle fasaden av materialitet. 

Først må vi rydde litt i begrepene. Jeg tenker her at vi innledningsvis må skille mellom materie, materiale og materialitet.

Materie tilhører først og fremst fysikken, og materie er ikke noe jeg diskuterer i boken. Men materie er det materialer består av, og jeg kommer så vidt inn på forhold knyttet til hvordan vi i økende grad blir i stand til å manipulere materie (f eks. ved hjelp av nanoteknologi) og dermed skape nye materialer.

Materiale defineres i ordbøkene som tilfang eller råstoff som skal bearbeides. Materialer tilhører estetikken, i den forstand at det er materialene som sanses.

Materiale er imidlertid flertydig. I forhold til design kan fysiske materialer være råstoffet (f eks ull), men også bearbeidet i ulik grad (tekstiler i ull). Artefakter (menneskeskapte objekter) består uansett av materialer.

Her aner vi samtidig hvor problemene rundt det digitale begynner. Vi kan nok snakke om digital materie i form av data, forstått som det Claude Shannon betegnet som bits (Binary digits). Men det blir vanskeligere å snakke presist om digitalt materiale. Her nærmer vi oss et komplekst forhold mellom innhold (innholdsdata) og programvare (instruksjonsdata).

Materialitet finnes imidlertid ikke i de offisielle ordbøkene. Vi må til Det norske akademis ordbok for å finne en betydning: "det å være materiell". Ordet brukes ofte slik, i betydningen at noe er materielt når det er laget med (fysiske) materialer.

Det er her jeg begynner på forsøket på å trenge bak fasaden. Det digitale anskueliggjør noe genrelt, nemlig at materialitet åpenbart handler om materialer, men også noe mer. Dermed holder ikke "det å være materiell", etter mitt syn. Vi må forsøke å holde materialiteten som et overordnet perspektiv, litt adskilt fra de konkrete materialene. Materialene kommer selvsagt alltid frem, gjennom det vi sanser, og ulike medietyper vil alltid ha spesifikke fysiske egenskaper som bidrar til deres estetiske potensial (Jeg kan forresten berolige de som her frykter nok en utledning om multimodalitet – begrepet nevnes knapt i boken). Men en snever oppmerksomhet rettet mot disse fysisk, materielle egenskapene (medienes overflate) kan ende med en begrenset forståelse for det aktuelle mediets materialitet.

Jeg bruker et bilde her, som kanskje er klargjørende:


Dersom vi kun vurderer den fysiske overflaten, blir det knapt mulig å forstå de underliggende forskjellene mellom en Tesla S og en tradisjonell Jaguar XF. Men dersom vi ser på de to bilene som noe mer enn ytre form, finner vi at de er del av to helt forskjellige teknologiske utviklingslinjer, med forskjellig logikk, økonomi, samfunnsmessige konsekvenser osv. Vi bør se på de digitale mediene på en lignende måte: Vi må så å si kikke under panseret og forsøke å forstå hvordan “maskinen” og "systemet" faktisk virker. Vi må da bak materialene.

Innledningsvis setter jeg derfor opp en foreløpig definisjon: "Digital materialitet kan kort forstås som et samspill mellom en rekke betingelser som påvirker hvordan estetiske uttrykk – det vi kan oppfatte med sansene – oppstår og representeres ved hjelp av digital teknologi". Det er disse betingelsene som boken setter seg fore å undersøke og eksemplifisere.

Boken er skrevet fra et faglig ståsted i et felt mellom mediedesign, medievitenskap og undervisningsvitenskap, fagfelt som  med det digitale møter mange av de samme mulighetene og utfordringene.

Og ja, jeg er i ferd med å skrive meg litt tryggere. Det skal holde godt vann dette.

15. august 2021

Cybernetic Serendipity

Kurator Jasia Reichardt introduserer her Cybernetic Serendipity, en utstilling ved Institute of Contemporary Arts, i London, 1968. Dette var den første utstillingen som tok for seg kunst skapt ved hjelp av datamaskiner.

Cybernetic Serendipity dealt broadly with the demonstration of how people can use computers and new technology to extend creativity and inventiveness. It was exhibited at the Institute of Contemporary Arts, Nash House, London, Aug. 2-Oct. 20, 1968.

Jasia Reichardt tar oss også gjennom "Cybernetic Serendipity, A Brief Tour" i forbindelse med utstillingens femtiårsjubileum. Fascinerende tatt i betraktning tiden dette ble laget:



14. august 2021

Skape ulike estetiske utrykk ved hjelp av verbalspråk

For mange år siden skrev jeg en liten tekst der jeg så for meg at det å skrive manus, lage et storyboard og faktisk redigere en film ville smelte sammen. Tanker var at mye av det jeg skrev i et manus og storyboard er instruksjoner som kan minne om et høynivå kodespråk. Videre at kodens som ligger bak dataspill da vil kunne smelte helt sammen med film, og at denne koden kunne skrives via et avansert grensesnitt der en verbalt beskriver hva som skal skje, i konstant dialog med maskinen.

Jeg har tenkt på dette fra tid til annen, men det ligger så langt unna hva jeg er i stand til å realisere at det har vært en utopi.

Det nærmeste jeg kom var kanskje en prototype som Johanens Ringheim og jeg laget, for å styre sfæriske bilder til et filmatisk uttrykk. Jeg presenterte dette på medieforskerkonferansen i 2018, og endte opp med noen tanker om hvorvidt medieforskere bør lære seg å kode (mange gjør jo faktisk det, så det er kanskje vel så mye snakk om at undertegnende må ta et tak). Prototypen var vellykket, men som litt for ofte ender jeg opp med å la prosjektet ligge, uten å publisere noe - dermed finnes kun en uferdig artikkel.

Dvs, det kommer straks noe i boken Digitale medier og materialitet – i det hele ble det følgende svært så relevant for bokens aller siste kapittel "Kybernetisk materialitet". Jeg må bare holde meg i skinnet, og ikke skrive noe om. 

Det som åpnet denne skuffen i hukommelsen var denne videoen om OpenAI Codex (om du synes "Hello world"-eksemplet er litt trivielt [det er ikke det], så spol litt frem til der de koder et enkelt spill). Med denne videoen fikk ideene fra mange år siden nytt liv. Det jeg i alle fall ser er at det å lage sfærisk stillbildefilm med ett kan bli mer tilgjengelig, og at i forlengelsen av dette blir utopien om å kunne skrive frem en film gjennom verbalspråk mer sannsynlig. Det er faktisk litt vanskelig å forestille seg hav dette ikke kan brukes til i fremtiden. Det handler mest om hvilke grensesnitt vi bruker mellom menneske og maskin og hvilke estetiske uttrykksformer vi velger å anvende det til.


Å skrive skolestil blir neppe helt det samme når vi reelt skriver sammen med en datamaskin ....

7. juni 2021

En hverdagsfortelling om den andre maskinalderen

Jeg leser for tiden The Second Machine Age av Erik Brynjolfsson og Andrew McAfee. Boken er på sett og vis en oppdatering av Race Against The Machine. Bøkene er lette i formen, men inneholder interessante og tankevekkende poenger knyttet til konsekvensene av eksponentiell vekst av datakraft. Når datakraft blir nærmest gratis vil det kunne endre mange bransjer i stort tempo. Forfatternes poeng er at vi er inne i en tid, ca 50 år etter at Moores lov begynte å virke (vi er halvveis på sjakkbrettet), der ting virkelig begynner å skyte fart.

I The Second Machine Age bruker forfatterne også en del plass på produktivitetsparadokset knyttet til at en ikke kan måle effekten av digitaliseringen av samfunnet. Poenget er at det finnes massive effekter, men at de tradisjonelle måtene å tenke omkring og måle produktivitet ikke fanger opp arbeid, tjenester og produkter som ikke synliggjøres gjennom ulike former for betaling.

Men så var det hverdagseksemplet som tar det store helt ned til det små:

30. mai 2021

Stemningsrapport fra Festspillene og Auditomosjon

Stor stas på Kronstad på fredag og lørdag, deretter på Rommetveit søndag og mandag. Her er Auditomosjon ganske fyldig presentert i Festspillenes dagsrapport:



Installasjonen slik den ble satt opp i Bergen. Sydd av Ragnhild Enger, programmert av Johannes Ringheim som dermed la grunnlaget for å bevege Jon sine lyder:


Sfærisk video der jeg går gjennom installasjonen i Bergen:


Lørdag kveld gikk luften bokstavlig talt ut av ballongene, men for så å bli fraktet til Stord og blåst til live igjen. Her er vi søndag og mandag.

24. mai 2021

Runder 80 med stil

Vi får feire dagen med et av høydepunktene fra fjorårets studioalbum, Rough and Rowdy Ways, Key West (Philosopher Pirate). Dylan holder grepet:

Auditomosjon – test og sfærisk opptak

Ting begynner å komme på plass og for første gang fikk jeg faktisk høre (nesten) det hele samlet. Noen småting gjord at det følgende kun er 12 lydskapninger som spiller, men inntrykket ble likevel reelt nok. 

Her er det bare å stille under Festspillene! Dette blir gratis moro for barn i alle aldre.

I tillegg til å teste oppsettet var formålet å gjøre et sfærisk video-opptak med tredimensjonal lyd. Jeg har fått låne et Insta360 X2 og er svært spent på hvor godt det fungerer.

Ragnhild gjorde et opptak med en iPhone og stereolyden gir et bra inntrykk den også. 



Synd med koronaen, for det å komme nær lydskapningene gjør definitivt en forskjell. Koronatiltaket er "vippepinner" og spriting, noe som skal sikre at det ikke blir noe tull med hensyn til smittevern. Her er det i alle fall pinner til store og små. Heldigvis fungerer det bra å flytte på lydskapningene ved hjelp av pinnene. Og enda bedre: denne koronapinnen slipper du å stappe i nesa :)

Det er tunge filer og tar lang tid å rendre, men på morgenkvisten er den klar:



Puppetmaster:



10. mai 2021

Koding, automatoner og medborgerskap

Mitt bidrag under Læringsfestivalen 2021: Koding, automatoner og medborgerskap

Læringsfestivalen er praktisk rettet og min tittel tilslører nok at det her er snakk om svært praktiske prosjekter: studenter, lærere og elever som bygger og koder roboter. Gjennom Dekomp-ordningen har jeg tatt med meg dette ut i en rekke skoler og begynner å få en viss erfaring med hvordan disse prosjektene arter seg i praksis. 

Gjennom forsknings og utviklingsarbeid og undervisning er jeg spesielt interessert i hvordan fysiske objekter kan styres ved hjelp av programkode. Jeg bruker betegnelsen automatoner, en litt videre kategori enn det mer brukte begrepet roboter.

Med utgangspunkt i prosjekter som er gjennomført i skoler ønsker jeg å invitere til en diskusjon omkring hvorvidt vi bør forstå automatoner i lys av en form for medborgerskap. Medborgerskap og livsmestring er tversgående tema som kommer med Fagfornyelsen 2020. Automatoner setter en rekke relevante spørsmål på dagsordenen, og min agenda er forsøksvis å bidra til gode og opplyste diskusjoner omkring teknologiens plass i samfunnet.

Med Kunnskapsløftet 2020 settes koding i sammenheng med begrepet algoritmisk tenkning. Algoritmer knyttes til systematisk problemløsing og kan slik sett sies å skille seg litt fra eksperimenterende teknologifikling. De to henger imidlertid sammen: teknologifiklingen kan være viktig for å avdekke et problemfelt, mens den algoritmiske tekningen er nødvendig når konkrete delproblemer skal løses.

Gjennom å bygge og kode roboter kan vi legge til rette for mange forskjellige møter mellom algoritmisk tankegang og teknologifikling. Elever vil håndtere dette på forskjellige måter, men i et samlet prosjekt vil en kunne ivareta differensiering. 

Prosjektene åpner for diskusjoner omkring hvordan automatoner får betydning for hver enkelt av oss og hvordan det påvirker oss på samfunnsnivå.

Jeg ble hengende litt igjen i Zoom-rommet etter presentasjonen og det er oppmuntrende å høre positive kommentarer om hvordan prosjekter som dette synes å appllere til nysgjerrighet og tverrfaglighet. Begge deler tenger vi mer av...

3. mai 2021

Auditomosjon i Festspillprogrammet


Auditomosjon beskrives her, og har nå kommet på plass i programmet for Festspillene / Småspill.

Auditomosjon er en del av Småspill, som er Festspillene i Bergen og Høgskulen på Vestlandets nye barnekunstfestival.

13. april 2021

Auditomosjon – første prototype og visning

Jeg fikk besøk av en skrivende og en fotograferende journalist fra Bergensavisen i dag. Veldig kjekt at avisen er på ting som skjer lokalt. Jeg skal linke til saken straks den kommer (her er den – krever abonnement hos BA/A-id).

Auditomosjon blir del av Småspill, en del av Festspillene i Bergen.

De to fra Bergensavisen fikk oppleve tre lydskapninger med simulert avspilling. Demonstrasjonen er dermed ikke helt slik dette vil oppleves når alt er på plass. 

Det endelige Auditomosjon-verket vil ha 15 automome lydavspillere som er bygget inn i hver enkelt lydskapning. Denne videoen gir dermed et bokstavelig talt forflatet inntrykk av hvordan opplevelsen av å være "inne i instrumentet" vil arte seg. Lydopplevelsen blir ganske annerledes, noe som kanskje kan gjenskapes med spatial lyd (se nedenfor), men som på ingen måte kommer til sin rett i denne videoen.

Noe av det som er gøy er at alle som har sett Auditomosjon så langt har blitt overrasket over hvor store lydskapningene er – det er en bra! Jeg herjer litt med skapningene her. De vil forhåpentligvis bli behandlet litt annerledes når alle avgir lyd, men de skal samtidig tåle en støyt.

 
◄ Free Blogger Templates by The Blog Templates | Design by Pocket