6.3 Digital er annerledes

Samfunnsforskning i den digitale tidsalderen har forskjellige egenskaper og reiser derfor ulike etiske spørsmål.

De fleste samfunnsforskning i den analoge alder truffet en passende etisk balanse. For eksempel, i en gjennomgang av laboratorieeksperimenter som samlet involverte mer enn 100.000 mennesker, Plott (2013) fant bare én bivirkning, en student som ble opprørt på grunn av å tape penger i en økonomisk spill. Som de foregående tre digitale alder eksempler illustrerer imidlertid forskerne nå står overfor etiske utfordringer som er annerledes enn de tidligere. Generalisere fra disse tre studiene, tror jeg at hovedproblemet at velmenende forskere står overfor er at evner er i endring raskere enn regler, lover og normer. Mer spesifikt, forskere, ofte i samarbeid med bedrifter og regjeringer-ha mer makt over deltakere enn tidligere. Ved makt, mener jeg rett og slett evnen til å gjøre ting for folk uten deres samtykke eller bevissthet. De tingene jeg snakker om kan være enten observere deres atferd eller melde dem i eksperimenter. Ettersom kraften av forskere for å observere og forurolige er økende, er det ikke en tilsvarende økning i klarheten om hvordan denne kraften skal brukes. Faktisk må forskerne bestemme hvordan å utøve sin makt på grunnlag av inkonsistente og overlappende regler, lover og normer. For å være klar, betyr ikke dette at de fleste digitale alderen forskning er uetisk. Faktisk, gitt denne situasjonen, tror jeg at forskere har vist bemerkelsesverdig god dømmekraft. Kombinasjonen av kraftige evner og vage retningslinjer, men setter velmenende forskere i en vanskelig situasjon.

Selv om du personlig ikke kan føle seg spesielt kraftig når det gjelder din evne til å gjøre ting med folk, stadig forskere, ofte i samarbeid med bedrifter og regjeringer-ha evnen til å observere og forurolige mennesker uten deres samtykke eller bevissthet. Tenk deg for eksempel etter en person rundt og spiller inn alt de gjør. Dette vil omfatte sporing av ting som for eksempel hvor de går, hva de kjøper, hvem de snakker med, og hva de leser. Overvåking folk som dette i den analoge alder pleide å være ting av regjeringer med enorme budsjetter. Nå, all denne informasjonen er rutinemessig og automatisk registrert om millioner og snart å være milliarder av mennesker. Videre, fordi all denne informasjonen er lagret digitalt, er det lett å kopiere, søk, overføre, fusjonere, og butikken. Med andre ord, hva er rutinemessig gjort i dag ville sjokkere og overraske kalde krigen spion etater som KGB, CIA, og Stasi. Videre er mye av denne atferds sporing foregår uten full forståelse for de som blir overvåket.

En levende metafor som delvis fanger denne situasjonen for masseovervåkning er Panoptikon. Først foreslo i slutten av det 18. århundre av Jeremy Bentham som en arkitektur for fengsler, er Panoptikon den fysiske manifestasjonen av overvåking (figur 6.3). Den Panoptikon er en sirkulær bygning med rom orientert rundt en sentral vakttårn. Den som inntar denne vakttårn kan observere atferden til alle menneskene i rommene. Og, kritisk, folk i rommene kan ikke observere personen i vakttårn. Personen i vakttårnet er dermed en usett seer (Foucault 1995) .

Figur 6.3: Design fra Panoptikon fengsel, først foreslått av Jeremy Bentham. I sentrum er det en usynlig seer som kan observere atferden til alle og kan ikke observeres. Tegning av Willey Reveley, 1791. Kilde: Wikimedia Commons.

Figur 6.3: Design fra Panoptikon fengsel, først foreslått av Jeremy Bentham. I sentrum er det en usynlig seer som kan observere atferden til alle og kan ikke observeres. Tegning av Willey Reveley, 1791. Kilde: Wikimedia Commons .

Faktisk er digital overvåking enda mer ekstrem enn en person i et vakttårn, fordi det kan gi en komplett digital registrering av atferd som kan lagres til evig tid (Mayer-Schönberger 2009) . Mens det er ennå ikke en fullstendig registrering av all menneskelig atferd slått sammen til en master databasen, ting beveger seg i den retningen. Og, at bevegelsen mest sannsynlig fortsette så lenge egenskapene til sensorene fortsette å øke, kostnadene ved lagring fortsetter å synke, og mer av våre liv blitt computer-mediert.

For mange samfunnsforskere denne master databasen kan i utgangspunktet høres spennende, og det kan sikkert brukes til mye viktig forskning. Juridiske forskere har imidlertid gitt et annet navn til denne master databasen: databasen av ruin (Ohm 2010) . Opprettelsen av enda en ufullstendig master databasen kunne ha en dempende effekt på sosiale og politiske liv hvis folk blir villige til å lese visse materialer eller diskutere enkelte emner (Schauer 1978; Penney 2016) . Det er også en risiko for at master databasen, mens laget for ett formål-si målretter annonser-en dag kan bli brukt til et annet formål, en situasjon som kalles sekundær-bruk. En forferdelige eksempel på uventede sekundær bruk som skjedde under andre verdenskrig da regjeringen folketellingen data-master database over at tids ble brukt til å legge til rette for folkemordet som fant sted mot jøder, Roma og andre (tabell 6.1) (Seltzer and Anderson 2008) . Statistikere som samlet data under fredelige tider nesten helt sikkert hatt gode intensjoner. Men, når verden forandret seg-da nazistene kom til makten i Tyskland og nabolandene-disse dataene aktivert en sekundær-bruk var aldri ment. Når det finnes en master database, er det vanskelig å forutse hvem som kan få tilgang til det og hvordan den skal brukes.

Tabell 6.1: Saker hvor befolknings datasystemer har vært involvert eller potensielt er involvert i menneskerettighetsbrudd. Denne tabellen ble opprinnelig utarbeidet av Seltzer and Anderson (2008) , og jeg har tatt en undergruppe av sine spalter. Se Seltzer and Anderson (2008) for mer informasjon om hvert enkelt tilfelle og inklusjonskriterier. Noen, men ikke alle, av disse tilfellene er involvert uventet sekundær bruk.
Plass Tid Målrettede enkeltpersoner eller grupper data system Brudd på menneskerettighetene eller antatt tilstand intensjon
Australia 19. og begynnelsen av det 20. århundre Aboriginerne folkeregistrering Tvungen migrasjon, elementer av folkemord
Kina 1966-1976 Bad-klassebakgrunn under kulturrevolusjonen folkeregistrering Tvungen migrasjon, igangsatt mob vold
Frankrike 1940-1944 jødene Folkeregistrering, spesielle tellinger Tvungen migrasjon, folkemord
Tyskland 1933-1945 Jøder, Roma og andre En rekke Tvungen migrasjon, folkemord
Ungarn 1945-1946 Tyske statsborgere og de som rapporterer tyske morsmål 1941 Folketellingen tvungen migrasjon
Nederland 1940-1944 Jøder og Roma Befolkningsregistreringssystemer Tvungen migrasjon, folkemord
Norge 1845-1930 Samer og kvener folketellinger Etnisk rensing
Norge 1942-1944 jødene Spesial folketelling & slått folkeregister Folkemord
Polen 1939-1943 jødene Primært spesielle tellinger Folkemord
Romania 1941-1943 Jøder og Roma 1941 Folketellingen Tvungen migrasjon, folkemord
Rwanda 1994 tutsi folkeregistrering Folkemord
Sør-Afrika 1950-1993 Afrikanske og "fargede" popualtions 1951 Folketellingen og folkeregistrering Apartheid, velgerdisenfranchise
forente stater 19. århundre Indianere Spesielle tellinger, folkeregistrene tvungen migrasjon
forente stater 1917 Mistenkte lovforslag overtredere 1910 Census Etterforskning og påtale av dem å unngå registrering
forente stater 1941-1945 japanske amerikanere 1940 Census Tvungen migrasjon og internering
forente stater 2001-08 mistenkte terrorister NCE undersøkelser og administrative data Etterforskning og påtale av nasjonale og internasjonale terrorister
forente stater 2003 Arabisk-amerikanere 2000 Census Ukjent
USSR 1919-1939 minoritets~~POS=TRUNC populasjoner Ulike folketellinger Tvungen migrasjon, straff av andre alvorlige forbrytelser

Ordinære samfunnsforskere er veldig, veldig langt fra noe som skaper kjøling virkninger på samfunnet eller deltar i menneskerettighetsbrudd gjennom sekundær-bruk. Jeg har valgt å diskutere disse temaene, men fordi jeg tror de vil hjelpe samfunnsforskere forstår linsen som noen mennesker vil se deres arbeid. La oss gå tilbake til Taste, Slips, og Time-prosjektet, for eksempel. Ved å slå sammen sammen komplette og detaljerte data fra Facebook med komplette og detaljerte data fra Harvard, forskerne laget en utrolig rik visning av det sosiale og kulturelle livet av elevene (Lewis et al. 2008) . For mange samfunnsforskere dette virker som master databasen, som kan brukes til gode. Men, til noen andre, ser det ut som begynnelsen av databasen til ruin som ble opprettet uten samtykke fra deltakerne. The Taste, Slips, og Time prosjektet startet i 2006, og den informasjonen som forskerne hadde var ikke spesielt privat. Men, hvis du ser litt fremover kan du forestille deg at disse spørsmålene er sannsynlig å få mer kompleks. Hva slags digital mosaikk vil forskerne kunne konstruere om studenter i 2026 eller 2046?

I tillegg til dette masseovervåking, forskere på ny i samarbeid med bedrifter og regjeringer-kan stadig systematisk gripe inn i folks liv for å skape randomiserte kontrollerte forsøk. For eksempel, i Emotional Contagion forskerne registrert 700.000 mennesker i et eksperiment uten deres samtykke eller bevissthet. Og, som jeg beskrev i kapittel 5 (kjører eksperimenter), er dette slags hemmelig verneplikt deltakere i eksperimenter ikke uvanlig. Videre krever det ikke samarbeid med store selskaper. Som jeg beskrev i kapittel 5, kan forskerne stadig designe og bygge digitale eksperimenter med null variable kostnader, en kostnadsstruktur som gjør at ekstremt store eksperimenter. I likhet med evne til å observere, evne til systematisk forurolige vil trolig fortsette å vokse.

I møte med denne økte makt, forskere står overfor inkonsekvent og overlappende regler, lover og normer. En kilde til denne inkonsekvensen er at egenskapene til den digitale tidsalder er i endring raskere enn regler, lover og normer. For eksempel har den vanlige regelen (det regelverk som gjelder for de fleste offentlig finansiert forskning i USA) endret seg lite siden 1981. Et forsøk på å modernisere felles regel startet i 2011, men var ikke fullstendig som av sommeren 2016. En ny kilde inkonsekvens er at normene rundt abstrakte begreper som personvern fortsatt blir debattert av forskere, politikere og aktivister. Hvis spesialister i disse områdene ikke kan nå uniform konsensus, bør vi ikke forvente at empiriske forskere eller deltakerne vil oppnå konsensus heller. En siste kilde til inkonsekvens er at digitale tidsalderen forskning er stadig blandet inn i andre sammenhenger, noe som fører til potensielt overlappende normer og regler. For eksempel, Emotional Contagion var et samarbeid mellom en dataforsker på Facebook og en professor og graduate student ved Cornell. På Facebook kjøre store eksperimenter er rutine så lenge de er i samsvar med Facebooks vilkår for bruk, og på den tiden var det ingen tredjeparts gjennomgang av eksperimenter. På Cornell de normer og regler er ganske annerledes; nesten alle eksperimenter må gjennomgås ved Cornell IRB. Så, som sett med regler som skal styre Emotional Contagion-Facebooks eller Cornell? Når det er inkonsekvent og overlappende regler, lover og normer selv velmenende forskere kan ha problemer med å gjøre det rette. Faktisk, på grunn av inkonsekvens, er det kanskje ikke engang være en eneste rette.

Samlet er disse to funksjonene økende makt og mangel på enighet om hvordan denne makten skal brukes-bety at forskere som arbeider i den digitale tidsalderen kommer til å møte etiske utfordringer i overskuelig fremtid. Heldigvis trenger forskerne står overfor disse utfordringene ikke trenger å starte fra scratch. I stedet kan forskerne trekke visdom fra tidligere utviklet etiske prinsipper og rammeverk, emner av de neste to avsnittene.