Ny bok: Digitale medier og materialitet

En variant av presentasjonen av boken Digitale medier og materialtet. presentert på nettsidene til forskergruppen Materialitet, teknologi og berekraft. 

En vesentlig del av bakgrunnen for boken er hvordan gjennomgripende digitalisering påvirker oss alle, nærmest uavhengig av hvilke fagfelt vi jobber innenfor og hvilke uttrykksformer vi tar i bruk. Svært mye av det som omgir oss i hverdagen skapes og styres ved hjelp av datamaskiner og blir dermed til og må forstås under nye betingelser.

Spørsmålene om hvordan det digitale får konsekvenser blir stadig viktigere, ikke minst fordi så mange av de artefaktene som omgir oss er svært påvirket, ofte fullstendig avhengige, av det digitale.

Vannfolk

Ikke for annet enn at jeg synes det lett surrealistiske bildet av studenter som plukker skjell ble et spennende grafisk uttrykk.

Haptisk lydkunst i Tårnsalen?

Spekulerer bare ....

Ideskisse

Men etter at en vakt på KODE plantet ideen har jeg ikke fått tanken om Auditomosjon i Tårnsalen ut av hodet.

Museet har i alle fall hatt et program for Takeover av KODE4.

Eller kanskje Auditopentaet. Jeg og Johannes har begynt å spekulere på hvordan vi kan styre de 20 høyttalerne gjennom at publikum manipulerer forskjellige objekter i rommet. på et vis beslektet med Auditomosjon, men omvendt – på en måte...

Tanken er her å flytte objekter, som ikke selv avgir lyd, men der forflytningen påvirker lydbildet som sendes fra den sentrale, rundstrålende høyttalersøylen. Jeg likte termen "soundbuckets", men ikke overraskende er dette allerede en merkevare. Men jeg kan jo like grene spinne videre på det latinste "audito" og dermed er Auditobuckets født.

Hver "beholder" skal kunne flyttes på og kommuniserer med høyttalere i det sentrale Auditopentaet. Brukeren kan dermed høre konsekvensen av forflytningen, i samspill med andre brukere og beholdere. Samtidig gir hver enkelt Auditobucket / Audiobeholder en visuell tilbakemeling via innebygget LED.

Det kjekkeste hadde vært om vi kunne holde det skikkelig low cost og med ditto lavt strømforbruk. F.eks med microbits i lydbeholderne. Johannes har sett på Lilygos TTGO som så langt virker lovende som lydavspiller, også de koblet til hver sin microbit som sørger for radiokommunikasjon med sine respektive lyd beholdere. Er vi heldige kan styrken på radiosignalene også benyttes for enkel proximity.

Tredyr, tempera og "nearest neighbor"-algoritmen

Det går fra det "små" til det "store" i dag. Først en økt med barnehagelærerstudenter der vi laget temperamaling med både egg og kasein. Jeg har et lite miljøprosjekt gående, der jeg vil akrylmaling til livs. Maling basert på naturmaterialer er en helt annen, og mer miljøvennlig historie. Kaseinmalingen gir et matt, eksklusivt uttrykk, mens eggtempera er det nærmeste vi kommer en maling for evigheten. Begge typer maling ble brukt til møbler og interiører før oljemalingene og etter hvert ulike polymerer overtok gjennom industriell produksjon av maling.

Her er det noe som må gjenerobres.

De små malte tredyrene henger også sammen med en litt større begivenhet for min del. I dag kom nemlig en sending fra trykkeriet med første utgave av Digitale medier og materialitet, boken jeg endelig er ferdig med, der jeg setter meg fore å utforske forhold og sammenhenger mellom det digitale og det fysisk materielle.

Hva er så sammenhengen med tredyrene? Jo, før vi bygget dyrene tok vi ut noen sekker med kapp fra tresløyden. Den første oppgaven til studentene var å kategorisere trebitene, slik et barn uten begreper som f.eks. rektangel, sirkel, sfære, omkrets, diameter osv. kunne gjort det. Da begynner vi med å sammenligne objekter og klassifisere de ut fra observerte, visuelle og taktile likhetstrekk.

Dette innebærer at studentene nærmer seg sorteringen på noenlunde samme måte som en "Nearest neighbor"-algoritme. De som kjøper boken vil blant annet kunne lese en spennende historie om legen John Snow, og hvordan han dokumenterte hvordan kolera smittet, i London på midten av 1800-tallet. Snow benyttet i praksis samme teknikk på et annet område. Han anvendte dermed nærmeste nabo-klassifisering, som i dag ligger til grunn for søketjenester, anbefalingssystemer, navigasjon, forskjellige former for maskinlæring, mm. 

De små henger her sammen med de store ...

Artworks that don't exist

Thisartworkdoesnotexist.com er en variant av Thispersondoesnotexist.com som jeg har vært innom tidligere. Denne versjonen er ikke fullt så spooky, men ganske spennende denne også. Som mye annen kunst er det god spredning med hensyn til hvor interessant uttrykket blir, og det mest interessante oppstår trolig i interaksjon med et menneske som kan (vei)lede maskinen:

"Digitale medier og materialitet" sendt til trykkeriet

Point of no return – Digitale medier og materialitet er sendt til trykkeriet.

En slags gjennomgang. Ikke for at dette skal leses, men videon gir et inntrykk av bokens innhold:

Ture takkes av

Skrivekamerat og kollega Ture takkes av etter mer enn 30 år ved Bergen lærerskole / Høgskolen i Bergen / Høgskulen på Vestlandet. Det fortjener en slags oppsummering:

Tesla AI Day Highlights

Jeg satt her om dagen og brukte noen timer på å se hele sendingen fra Tesla AI Day. Mye spennende, selv om jeg ikke har forutsetninger for å forstå mye av det. Mot slutten kom en kort smakebit på det som skal bli Tesla Bot, en robot som skal benytte mye av den samme maskinvaren og ikke minst systemene for autonomi som Tesla forsøker å løse for biler.

Steve Jobs sa i sin tid at Apple først og fremst er et programvareselskap. Det til tross for at de tjener de aller meste av pengene sine på å selge maskinvare. Det samme kan sies om Tesla. De selger biler, men deres store fortrinn er at de egentlig er et programvareselskap. 

Lex Fridman forklarer noen av implikasjonene:

Lex Fridman er til stede i mage kanaler, bl a. en podcast som graver ganske dypt. Et eksempel er Infinity is fake: The base layer of reality is discrete | Joscha Bach and Lex Fridman.

Materie, materiale, materialitet

Bøygen – tvilen og usikkerheten må overvinnes. Ibsens litterære versjon er kanskje vel så illustrerende, men gitt at jeg vil ha et bilde liker jeg Paul Gauguins variant.

Bøygen i akkurat dette tilfellet er å endelig sende fra seg den ferdige boken Digitale medier og materialitet. En lang skriveprosess, en grundig review og masse korrektur er unnagjort. Ferdig arbeid med andre ord.

Men så kommer den da: tvilen. Er det godt nok?  Mangler noe? Ikke minst fordi Lovise Søyland nylig har disputert med en tematikk som så definitivt befinner seg i det samme landskapet, men selvsagt på et mer fokusert område. Mitt utgangspunkt, eksempler, begrepsforståelse og resonnementer er imidlertid annerledes. Med Digitale medier og materialitet forsøker jeg å finne ut av hvordan de digitale mediene møter fysiske omgivelser på tvers av sjangere og representasjonsformer. 

Beskrivelsen nedenfor er kanskje litt intrikat og i seg selv neppe tidenes salgspitch. Her kan imidlertid potensielle lesere ta det med ro. Bokens 342 sider er nemlig full av konkrete eksempler som jeg føler meg sikker på at vil være interessant for mange. Så får bokens innledning og avslutning være det som holder opp en videre, mer teoretisk orientert horisont.

Materialitet blir sett på som som særlig sentralt i de estetiske fagene, men jeg må innrømme at jeg lenge har slitt med å få ordentlig tak på begrepet. Samtidig er begrepet materialitet så absolutt relevant også innenfor en rekke andre fagtradisjoner, men der det gjerne blir snakket om på forskjellige måter.

I de estetiske fagene blir materialitet i høy grad knyttet til det haptiske (det som angår berøring, dvs taktilt [berøring av huden] og kinestetisk [bevegelse og forflytning av kroppen]). Mitt overordnede prosjekt er å se bak den (fysisk) materielle fasaden av materialitet. 

Først må vi rydde litt i begrepene. Jeg tenker her at vi innledningsvis må skille mellom materie, materiale og materialitet.

Materie tilhører først og fremst fysikken, og materie er ikke noe jeg diskuterer i boken. Men materie er det materialer består av, og jeg kommer så vidt inn på forhold knyttet til hvordan vi i økende grad blir i stand til å manipulere materie (f eks. ved hjelp av nanoteknologi) og dermed skape nye materialer.

Materiale defineres i ordbøkene som tilfang eller råstoff som skal bearbeides. Materialer tilhører estetikken, i den forstand at det er materialene som sanses.

Materiale er imidlertid flertydig. I forhold til design kan fysiske materialer være råstoffet (f eks ull), men også bearbeidet i ulik grad (tekstiler i ull). Artefakter (menneskeskapte objekter) består uansett av materialer.

Her aner vi samtidig hvor problemene rundt det digitale begynner. Vi kan nok snakke om digital materie i form av data, forstått som det Claude Shannon betegnet som bits (Binary digits). Men det blir vanskeligere å snakke presist om digitalt materiale. Her nærmer vi oss et komplekst forhold mellom innhold (innholdsdata) og programvare (instruksjonsdata).

Materialitet finnes imidlertid ikke i de offisielle ordbøkene. Vi må til Det norske akademis ordbok for å finne en betydning: "det å være materiell". Ordet brukes ofte slik, i betydningen at noe er materielt når det er laget med (fysiske) materialer.

Det er her jeg begynner på forsøket på å trenge bak fasaden. Det digitale anskueliggjør noe genrelt, nemlig at materialitet åpenbart handler om materialer, men også noe mer. Dermed holder ikke "det å være materiell", etter mitt syn. Vi må forsøke å holde materialiteten som et overordnet perspektiv, litt adskilt fra de konkrete materialene. Materialene kommer selvsagt alltid frem, gjennom det vi sanser, og ulike medietyper vil alltid ha spesifikke fysiske egenskaper som bidrar til deres estetiske potensial (Jeg kan forresten berolige de som her frykter nok en utledning om multimodalitet – begrepet nevnes knapt i boken). Men en snever oppmerksomhet rettet mot disse fysisk, materielle egenskapene (medienes overflate) kan ende med en begrenset forståelse for det aktuelle mediets materialitet.

Jeg bruker et bilde her, som kanskje er klargjørende:

Dersom vi kun vurderer den fysiske overflaten, blir det knapt mulig å forstå de underliggende forskjellene mellom en Tesla S og en tradisjonell Jaguar XF. Men dersom vi ser på de to bilene som noe mer enn ytre form, finner vi at de er del av to helt forskjellige teknologiske utviklingslinjer, med forskjellig logikk, økonomi, samfunnsmessige konsekvenser osv. Vi bør se på de digitale mediene på en lignende måte: Vi må så å si kikke under panseret og forsøke å forstå hvordan “maskinen” og "systemet" faktisk virker. Vi må da bak materialene.

Innledningsvis setter jeg derfor opp en foreløpig definisjon: "Digital materialitet kan kort forstås som et samspill mellom en rekke betingelser som påvirker hvordan estetiske uttrykk – det vi kan oppfatte med sansene – oppstår og representeres ved hjelp av digital teknologi". Det er disse betingelsene som boken setter seg fore å undersøke og eksemplifisere.

Boken er skrevet fra et faglig ståsted i et felt mellom mediedesign, medievitenskap og undervisningsvitenskap, fagfelt som  med det digitale møter mange av de samme mulighetene og utfordringene.

Og ja, jeg er i ferd med å skrive meg litt tryggere. Det skal holde godt vann dette.

Cybernetic Serendipity

Kurator Jasia Reichardt introduserer her Cybernetic Serendipity, en utstilling ved Institute of Contemporary Arts, i London, 1968. Dette var den første utstillingen som tok for seg kunst skapt ved hjelp av datamaskiner.

Cybernetic Serendipity dealt broadly with the demonstration of how people can use computers and new technology to extend creativity and inventiveness. It was exhibited at the Institute of Contemporary Arts, Nash House, London, Aug. 2-Oct. 20, 1968.

Jasia Reichardt tar oss også gjennom "Cybernetic Serendipity, A Brief Tour" i forbindelse med utstillingens femtiårsjubileum. Fascinerende tatt i betraktning tiden dette ble laget:

Skape ulike estetiske utrykk ved hjelp av verbalspråk

For mange år siden skrev jeg en liten tekst der jeg så for meg at det å skrive manus, lage et storyboard og faktisk redigere en film ville smelte sammen. Tanker var at mye av det jeg skrev i et manus og storyboard er instruksjoner som kan minne om et høynivå kodespråk. Videre at kodens som ligger bak dataspill da vil kunne smelte helt sammen med film, og at denne koden kunne skrives via et avansert grensesnitt der en verbalt beskriver hva som skal skje, i konstant dialog med maskinen.

Jeg har tenkt på dette fra tid til annen, men det ligger så langt unna hva jeg er i stand til å realisere at det har vært en utopi.

Det nærmeste jeg kom var kanskje en prototype som Johanens Ringheim og jeg laget, for å styre sfæriske bilder til et filmatisk uttrykk. Jeg presenterte dette på medieforskerkonferansen i 2018, og endte opp med noen tanker om hvorvidt medieforskere bør lære seg å kode (mange gjør jo faktisk det, så det er kanskje vel så mye snakk om at undertegnende må ta et tak). Prototypen var vellykket, men som litt for ofte ender jeg opp med å la prosjektet ligge, uten å publisere noe - dermed finnes kun en uferdig artikkel.

Dvs, det kommer straks noe i boken Digitale medier og materialitet – i det hele ble det følgende svært så relevant for bokens aller siste kapittel "Kybernetisk materialitet". Jeg må bare holde meg i skinnet, og ikke skrive noe om. 

Det som åpnet denne skuffen i hukommelsen var denne videoen om OpenAI Codex (om du synes "Hello world"-eksemplet er litt trivielt [det er ikke det], så spol litt frem til der de koder et enkelt spill). Med denne videoen fikk ideene fra mange år siden nytt liv. Det jeg i alle fall ser er at det å lage sfærisk stillbildefilm med ett kan bli mer tilgjengelig, og at i forlengelsen av dette blir utopien om å kunne skrive frem en film gjennom verbalspråk mer sannsynlig. Det er faktisk litt vanskelig å forestille seg hav dette ikke kan brukes til i fremtiden. Det handler mest om hvilke grensesnitt vi bruker mellom menneske og maskin og hvilke estetiske uttrykksformer vi velger å anvende det til.

Å skrive skolestil blir neppe helt det samme når vi reelt skriver sammen med en datamaskin ....

En hverdagsfortelling om den andre maskinalderen

Jeg leser for tiden The Second Machine Age av Erik Brynjolfsson og Andrew McAfee. Boken er på sett og vis en oppdatering av Race Against The Machine. Bøkene er lette i formen, men inneholder interessante og tankevekkende poenger knyttet til konsekvensene av eksponentiell vekst av datakraft. Når datakraft blir nærmest gratis vil det kunne endre mange bransjer i stort tempo. Forfatternes poeng er at vi er inne i en tid, ca 50 år etter at Moores lov begynte å virke (vi er halvveis på sjakkbrettet), der ting virkelig begynner å skyte fart.

I The Second Machine Age bruker forfatterne også en del plass på produktivitetsparadokset knyttet til at en ikke kan måle effekten av digitaliseringen av samfunnet. Poenget er at det finnes massive effekter, men at de tradisjonelle måtene å tenke omkring og måle produktivitet ikke fanger opp arbeid, tjenester og produkter som ikke synliggjøres gjennom ulike former for betaling.

Men så var det hverdagseksemplet som tar det store helt ned til det små: