Din digitale skygge
Når mennesker og samfunnet datafiseres, blir alt og alle – personer, organisasjoner, trender, prosesser – representert i data. Vi får en dobbel verden: Den analoge, virkelige verden – og en digital versjon av denne, som et skjevt speilbilde.
I økende grad er det ikke det virkelige deg, men data-deg, andre vil møte på i ulike sammenhenger – enten det er snakk om en bank som skal gjøre en kredittsjekk, en algoritme som skal avgjøre hvilke søkeresultater som skal vises, eller en potensiell arbeidsgiver som «stalker» deg på nett. Interaksjonene og samhandlingen vår med verden og samfunnet forskyves over fra den analoge verden til den digitale, der vi i mindre grad har kontroll over hva som foregår eller hvordan vi fremstår.
Her er det mange etiske og filosofiske implikasjoner. Hva skjer når vi behandler mennesker som dataobjekter? Når våre digitale representasjoner bestemmer om vi inkluderes eller ekskluderes i samfunnet? Det kan endre hvordan vi ser på mennesker.
Betydningen av et individ er en udelelig enhet. Men det som skjer i den digitale verden er at vi får to sider: På den ene siden en analog fysisk representasjon med begge beina i bakken, og på den andre en digital skygge – med alle de digitale dataene som virrer omkring, som kan avgjøre om vi blir ansatt, om vi får adgang til noe eller ikke. Vi utvikler oss fra individ til dividium; det finnes flere versjoner av oss.
En skygge som følger deg
Ideen om en digital skygge kommer opprinnelig fra personvern-grupper. En skygge har negative konnotasjoner: Det er noe som forfølger oss, som skjuler ting, og som ikke nødvendigvis er noen god, tredimensjonal representasjon av hvem vi egentlig er.
En slik skygge er en virtuell representasjon av deg, som blir oppdatert hele tiden gjennom dine handlinger og interaksjoner, som et resultat av både aktiv og passiv datainnsamling. Både det vi deler bevisst og det vi ikke kan kontrollere selv.
Denne digitale representasjonen er ikke endelig og avsluttet, men utvikler seg, endrer seg og forfølger deg kontinuerlig. Ideen er en variant av konseptet digital tvilling.
Fakta
Digitale tvillinger
Digitale tvillinger er et konsept som foreløpig er mest utbredt i industrien. Det er en metafor for en digital representasjon av et system eller en prosess som finnes i virkeligheten – der den virkelige tingen og den digitale kopien ofte er koblet sammen og utveksler data. Den digitale tvillingen kan da i neste omgang brukes til å simulere ulike scenarioer, overvåke funksjoner og tilstand, eller prøve ut nye ting.
Digitale tvillinger kan lages av hva som helst, enten materielt eller immaterielt, et objekt eller et subjekt – fra en heisekran til en bankkunde eller økosystemet i Amazonas. Du vil lære mer om digitale tvillinger i neste kapittel.
Skal vi være redde for skygger?
Når ulike aktører tar beslutninger som direkte eller indirekte angår oss, er det altså i økende grad vår digitale representasjon de forholder seg til – enten beslutningen tas av et menneske eller en algoritme.
Dette er langt ifra bare negativt. Digitaliseringen gjør det for eksempel ekstremt mye mer lettvint enn tidligere å søke lån eller å levere skatten, der mye relevant informasjon hentes ut fra ulike kilder og fylles inn automatisk – i stedet for at vi frenetisk må lete etter gamle dokumenter, kvitteringer og regnskap. Dette er viktige fremskritt, og det er ikke aktuelt å skru klokken tilbake. Men det er viktig å være bevisst – og ta grep for å minimere de negative konsekvensene av – alle de problematiske sidene ved det som skjer.
Blant utfordringene er at dataene kan være mangelfulle eller ha dårlig kvalitet. Relatert til dette er at data er selvreferensielle; de kan bare peke på andre data. Dataverden er med andre ord avkoblet fra den reelle fysiske verden. Dataene lagres ulike plasser og utvikler til en viss grad «sitt eget liv», utenfor din kontroll. Dersom beslutninger tas automatisert og det ikke er transparent på hvilket grunnlag beslutningen er tatt – eller du mener det er gjort en feil – da er det veldig vanskelig å etterprøve det.
Dessuten vil behandlingen aldri være helt nøytral, men bevisst eller ubevisst være formet av verdiene, forestillingene og agendaene til dem som står bak og har utviklet den aktuelle tjenesten.
Hvis det handler om konkrete ting som inntekt og gjeld i en skattemelding, vil dette for det meste være både ryddig, transparent og mulig å rette opp. Det er imidlertid annerledes i tilfeller som involverer flere vurderinger og tolkninger, som kanskje er styrt av private aktører, og der du i mindre grad har noe innsyn eller kontroll over det som skjer.
Skulle slike feil og mangler føre til at du ikke får økonomisk støtte, blir ekskludert fra en utdanning eller lignende, sier det seg selv at det påvirker deg i den virkelige verden. For at dette ikke skal skje er vi til en viss grad beskyttet av lover som GDPR, som sier at alle har en rett til å ikke være gjenstand for en avgjørelse som utelukkende er basert på automatisert behandling. Her er det likevel mange gråsoner.
Innsikt
Hva vet plattformene om deg?
I Kina bruker de et poengsystem på hvor konformt mennesker forholder seg til reglene i landet. Det er ingen stor overdrivelse å si at vi egentlig har det samme i Vesten også – men her er det en kommersielt motivert poengsetting: Hvilken verdi vi har som kunde eller tjenestetilbyder (tenk på vurderingssystemet på Finn.no eller Airbnb). Vi vurderes ikke som borger etter verdisystemene i den norske Grunnloven, men etter hvilken kommersiell verdi vi har.
Spesielt de store plattformene ønsker gjerne å ha mest mulig detaljert og finkornet data om oss, slik at de kan profilere oss for datadrevet markedsføring. Det sies at det ikke skal så mange klikk til i sosiale medier-feeden din, før plattformen vet mer om deg enn dine egne venner gjør (eller du selv vet for den saks skyld). Det er en kjerne av sannhet i dette, ettersom våre handlinger – hva vi kikker på, klikker på, dveler ved, liker, unngår – gjenspeiler hvem vi er. Og alt blir fanget opp.
Dette brukes til å vise relevant innhold og annonser. Problemet er at de samme profilene kan brukes til å forutsi politisk tilhørighet, seksuell identitet og potensielle sykdommer.
Menneskelig autonomi og frihet utfordres i det datadrevne samfunnet. Hva gjør du hvis du oppdager at det tas avgjørelser der det er vanskelig å forstå eller etterprøve på hvilken basis de ble tatt? Hvordan kan du rette opp i det? Hvem har ansvaret når det går galt?
Dette er ikke bare en digital transformasjon, men kanskje noe mer radikalt – en metamorfose.