6.3 Digital és diferent

La investigació social a l'era digital té característiques diferents i, per tant, planteja diferents qüestions ètiques.

En l'edat analògica, la majoria de les investigacions socials tenien una escala relativament limitada i operaven dins d'un conjunt de regles raonablement clares. La investigació social en l'era digital és diferent. Els investigadors, sovint en col·laboració amb empreses i governs, tenen més poder sobre els participants que en el passat i les regles sobre com s'ha d'utilitzar aquest poder encara no són clares. Per poder, vull dir simplement la capacitat de fer les coses a les persones sense el seu consentiment o, fins i tot, consciència. El tipus de coses que els investigadors poden fer a les persones inclouen observar el seu comportament i inscriure's en experiments. Com que el poder dels investigadors per observar i pertorbar augmenta, no hi ha hagut un augment equivalent de la claredat sobre com s'ha d'utilitzar aquest poder. De fet, els investigadors han de decidir com exercir el seu poder basant-se en regles, lleis i normes incompatibles i superposades. Aquesta combinació de capacitats potents i pautes vagues crea situacions difícils.

Un conjunt de competències que els investigadors tenen ara és la capacitat d'observar el comportament de les persones sense el seu consentiment o consciència. Els investigadors podrien, per descomptat, fer això en el passat, però en l'era digital, l'escala és completament diferent, fet que ha estat proclamat repetidament per molts seguidors de grans fonts de dades. En particular, si ens movem de l'escala d'un estudiant o professor individual i, en comptes d'això, considerem l'escala d'una empresa o institucions governamentals amb les quals els investigadors col·laboren cada cop més, els possibles problemes ètics es tornen complexos. Una metàfora que crec que ajuda a les persones a visualitzar la idea de la vigilància massiva és el panòptic . Originàriament proposat per Jeremy Bentham com a arquitectura per a presons, el panòptic és un edifici circular amb cèl·lules construïdes al voltant d'una torre de vigilància central (figura 6.3). Qui ocupa aquesta torre de vigilància pot observar el comportament de totes les persones a les sales sense veure's a si mateixa. La persona en la talaia és, doncs, un vident invisible (Foucault 1995) . A alguns advocats de la privadesa, l'era digital ens ha traslladat a una presó panòptica on les empreses i governs tecnològics estan constantment vigilant i recodificant el nostre comportament.

Figura 6.3: Disseny per a la presó panòptica, primer proposat per Jeremy Bentham. Al centre, hi ha un vident invisible que pot observar el comportament de tothom però que no es pot observar. Dibuix de Willey Reveley, 1791 (Font: Wikimedia Commons ).

Per portar aquesta metàfora una mica més enllà, quan molts investigadors socials pensen sobre l'era digital, es representen dins de la torre de vigilància, observen el comportament i creen una base de dades mestra que es podria utilitzar per fer tot tipus de recerca excitant i important. Però ara, en comptes d'imaginar-vos a la torre de vigilància, imagineu-vos en una de les cel·les. Aquesta base de dades mestres comença a semblar-se al que Paul Ohm (2010) ha anomenat una base de dades de ruïna , que es podria utilitzar de forma poc ètica.

Alguns lectors d'aquest llibre tenen la sort de viure en països on confien en els seus veïns que no veuen per utilitzar les seves dades de manera responsable i per protegir-la dels adversaris. Altres lectors no tenen tanta sort, i estic segur que els problemes que planteja la vigilància massiva són molt clars per a ells. Però crec que fins i tot per als lectors afortunats encara hi ha una preocupació important plantejada per la vigilància massiva: l'ús secundari imprevist . És a dir, una base de dades creada per a un objectiu, per exemple anuncis d'orientació, podria utilitzar-se algun dia amb un propòsit molt diferent. Un exemple terrible d'ús secundari imprevist va ocórrer durant la Segona Guerra Mundial, quan les dades del cens del govern es van utilitzar per facilitar el genocidi que es va produir contra jueus, Roma i altres (Seltzer and Anderson 2008) . Els estadístics que van recollir les dades durant períodes de pau gairebé sempre tenien bones intencions, i molts ciutadans van confiar que utilitzessin les dades de forma responsable. Però, quan el món va canviar, quan els nazis van arribar al poder, aquestes dades van permetre un ús secundari que mai es va anticipar. Simplement, una vegada que existeix una base de dades mestra, és difícil anticipar qui pot accedir-hi i com s'utilitzarà. De fet, William Seltzer i Margo Anderson (2008) han documentat 18 casos en què els sistemes de dades de població han estat implicats o potencialment involucrats en violacions dels drets humans (taula 6.1). A més, com assenyalen Seltzer i Anderson, aquesta llista és, sens dubte, una subestimació perquè la majoria dels abusos ocorren en secret.

Els investigadors socials ordinaris estan molt, molt lluny de participar en els abusos dels drets humans a través de l'ús secundari. Tanmateix he optat per discutir-ho, perquè crec que l'ajudarà a entendre com algunes persones podrien reaccionar al vostre treball. Tornem al projecte Tastes, Ties i Time, com a exemple. Al fusionar dades completes i granulars de Facebook amb dades completes i granulars de Harvard, els investigadors van crear una visió increïblement rica de la vida social i cultural dels estudiants (Lewis et al. 2008) . Per a molts investigadors socials, això sembla la base de dades mestra, que es podria utilitzar per sempre. Però, per a alguns altres, sembla l'inici de la base de dades de la ruïna, que es podria utilitzar de manera no ètica. De fet, probablement sigui una mica d'ambdós.

A més de la vigilància massiva, els investigadors, una vegada més en col·laboració amb empreses i governs, poden intervenir cada vegada més en la vida de les persones per crear experiments controlats aleatoris. Per exemple, en Contagion emocional, els investigadors van inscriure 700.000 persones en un experiment sense el seu consentiment o consciència. Com he descrit al capítol 4, aquest tipus de conscripció secreta dels participants en experiments no és infreqüent, i no requereix la cooperació de grans empreses. De fet, al capítol 4, us vaig ensenyar a fer-ho.

Davant d'aquest augment de poder, els investigadors estan sotmesos a regles, lleis i normes incompatibles i superposades . Una font d'aquesta inconsistència és que les capacitats de l'era digital canvien més ràpidament que les normes, les lleis i les normes. Per exemple, la regla comuna (el conjunt de normes que regeixen la majoria de la recerca finançada pel govern als Estats Units) no ha canviat gaire des de 1981. Una segona font d'inconsistència és que les normes sobre conceptes abstractes com ara la privadesa encara estan sent debatuts activament pels investigadors , responsables polítics i activistes. Si els especialistes d'aquestes àrees no poden arribar a un consens uniforme, no hauríem d'esperar que els investigadors empírics o els participants ho facin. Una tercera i última font d'inconsistència és que la recerca en edat digital es barreja cada vegada més en altres contextos, la qual cosa condueix a normes i regles potencialment superposades. Per exemple, Emotional Contagion va ser una col·laboració entre un científic de dades a Facebook i un professor i estudiant de postgrau a Cornell. En aquest moment, era comú a Facebook executar grans experiments sense supervisió de tercers, sempre que els experiments complissin les condicions de servei de Facebook. A Cornell, les normes i les regles són molt diferents; pràcticament tots els experiments han de ser revisats per l'IRB de Cornell. Per tant, quin conjunt de regles hauria de regir Emotional Contagion-Facebook o Cornell's? Quan hi ha regles incompatibles i superposades, les lleis i les normes, fins i tot els investigadors ben intencionats, poden tenir problemes per fer el correcte. De fet, a causa de la inconsistència, potser no hi hagi ni una sola cosa correcta.

En general, aquestes dues característiques, el poder creixent i la falta d'acord sobre com s'ha d'utilitzar aquest poder, fan que els investigadors que treballen en l'era digital s'enfronten a reptes ètics en un futur previsible. Afortunadament, quan es tracta d'aquests reptes, no cal començar des de zero. Al contrari, els investigadors poden treure saviesa dels principis i marcs ètics prèviament desenvolupats, els temes de les dues seccions següents.