6.3 Digital é diferente

Pesquisa social na era digital tem características diferentes e, portanto, levanta diversas questões éticas.

A maioria das pesquisas sociais na era analógica atingiu um equilíbrio ético adequado. Por exemplo, em uma revisão de experiências de laboratório que, coletivamente, envolveu mais de 100.000 pessoas, Plott (2013) encontraram apenas um evento adverso, um estudante que se tornou chateado porque de perder dinheiro em um jogo econômico. Como os três exemplos era digital anteriores ilustram, no entanto, os pesquisadores agora enfrentam desafios éticos que são diferentes das do passado. Generalizando a partir destes três estudos, acho que o principal problema que bem-intencionados investigadores enfrentam é que as capacidades estão mudando mais rápido do que regras, leis e normas. Mais especificamente, os pesquisadores, muitas vezes em colaboração com empresas e governos de ter mais poder sobre os participantes do que no passado. Pelo poder, quero dizer simplesmente a capacidade de fazer as coisas para as pessoas sem o seu consentimento ou mesmo consciência. As coisas que eu estou falando pode ser tanto observando seu comportamento ou inscrevê-los em experimentos. Como o poder de pesquisadores para observar e perturbar está a aumentar, não há um aumento equivalente em clareza sobre como que o poder deve ser usado. Na verdade, os pesquisadores devem decidir como exercer o seu poder com base em regras inconsistentes e sobrepostas, leis e normas. Para ser claro, isso não significa que a maioria das pesquisas era digital é antiético. Na verdade, dada esta situação, eu acho que os pesquisadores têm mostrado notavelmente bom senso. A combinação de capacidades poderosas e diretrizes vagas, no entanto, coloca bem-intencionados pesquisadores em uma situação difícil.

Embora você pessoalmente não pode se sentir especialmente poderoso em termos de sua capacidade de fazer as coisas para as pessoas, cada vez mais pesquisadores, muitas vezes em colaboração com empresas e governos de ter a capacidade de observar e perturbar as pessoas sem o seu consentimento ou a consciência. Por exemplo, imagine na sequência de uma pessoa ao redor e gravar tudo o que eles fazem. Isto incluiria rastreamento coisas como onde ir, o que compram, com quem falam, e o que lêem. Monitoramento pessoas assim na era analógica costumava ser o material de governos com orçamentos enormes. Agora, toda esta informação é rotineiramente e automaticamente gravadas de milhões e logo para ser milhares de milhões de pessoas. Além disso, porque todas essas informações são armazenadas digitalmente, é fácil de copiar, pesquisar, transmitir, fundir, e armazenar. Em outras palavras, o que é feito rotineiramente hoje iria chocar e surpreender as agências de espionagem da Guerra Fria como o KGB, CIA, e Stasi. Além disso, grande parte desse rastreamento comportamental está ocorrendo sem a plena compreensão daqueles que estão sendo vigiados.

A metáfora viva que captura parcialmente esta situação de vigilância em massa é o panóptico. Proposto pela primeira vez no final do século 18 por Jeremy Bentham como uma arquitetura para as prisões, o panóptico é a manifestação física da vigilância (Figura 6.3). O panóptico é um edifício circular com quartos orientados em torno de uma torre de vigia central. Quem ocupa este watchtower pode observar o comportamento de todas as pessoas em todos os quartos. E, criticamente, as pessoas nos quartos não pode observar a pessoa na torre de vigia. A pessoa na torre de vigia é, portanto, uma vidente invisível (Foucault 1995) .

Figura 6.3: Projeto da prisão panóptico, proposta inicialmente por Jeremy Bentham. No centro, existe uma vidente invisível que pode-se observar o comportamento de todos e não pode ser observado. Tiragem por Willey Reveley de 1791. Fonte: Wikimedia Commons.

Figura 6.3: Projeto da prisão panóptico, proposta inicialmente por Jeremy Bentham. No centro, existe uma vidente invisível que pode-se observar o comportamento de todos e não pode ser observado. Tiragem por Willey Reveley de 1791. Fonte: Wikimedia Commons .

Na verdade, vigilância digital é ainda mais extrema do que uma pessoa em uma torre de vigia, porque pode produzir um registro digital completo de comportamento que podem ser armazenados para sempre (Mayer-Schönberger 2009) . Embora não haja ainda uma gravação completa de todo o comportamento humano mesclados em um banco de dados mestre, as coisas estão se movendo nessa direção. E, esse movimento irá provavelmente continuar enquanto as capacidades dos sensores continuar a aumentar, o custo de armazenagem continua a diminuir, e mais das nossas vidas tornar mediada por computador.

Para muitos pesquisadores sociais deste banco de dados mestre inicialmente pode parecer excitante, e ele certamente poderia ser usado para uma série de pesquisas importantes. Juristas, no entanto, ter dado um nome diferente a esta base de dados principal: o banco de dados de ruína (Ohm 2010) . A criação de até mesmo um banco de dados mestre incompleta poderia ter um efeito negativo sobre a vida social e política, se as pessoas se tornam dispostos a ler certos materiais ou discutir determinados temas (Schauer 1978; Penney 2016) . Há também um risco de que o banco de dados mestre, enquanto criado para uma finalidade, digamos anúncios de segmentação pode um dia ser usada para uma finalidade diferente, uma situação chamada utilização secundária. Um exemplo horrível de uso secundário imprevisto aconteceu durante a Segunda Guerra Mundial, quando-se tempo usado censo do governo de dados em banco de dados mestre de que, para facilitar o genocídio que estava ocorrendo contra os judeus, ciganos e outros (Tabela 6.1) (Seltzer and Anderson 2008) . Os estatísticos que coletaram os dados durante tempos de paz quase certamente tinha boas intenções. Mas, quando o mundo mudou, quando os nazistas chegaram ao poder na Alemanha e nos países vizinhos, estes dados permitiu uma utilização secundária nunca foi destinado. Uma vez que existe um banco de dados mestre, é difícil prever quem pode ter acesso a ele e como ele será usado.

Tabela 6.1: Casos em que os sistemas de dados populacionais foram envolvidos ou potencialmente envolvidos em violações dos direitos humanos. Esta tabela foi original compilado por Seltzer and Anderson (2008) , e eu incluí um subconjunto de suas colunas. Veja Seltzer and Anderson (2008) para mais informações sobre cada caso e de inclusão critérios. Alguns, mas não todos, destes processos envolvem a utilização secundária inesperada.
Lugar Tempo indivíduos ou grupos-alvo sistema de dados violação dos direitos humanos ou a intenção estado presumido
Austrália 19 e início do século 20 aborígines registro de população migração forçada, elementos de genocídio
China 1966-1976 origem de classe Bad durante a revolução cultural registro de população migração forçada, violência da multidão instigada
França 1940-1944 judeus registo da população, censos especiais migração forçada, genocídio
Alemanha 1933-1945 Judeus, ciganos e outros numeroso migração forçada, genocídio
Hungria 1945-1946 cidadãos alemães e os que relataram língua mãe alemã 1941 Censo Demográfico migração forçada
países Baixos 1940-1944 Judeus e Roma sistemas de registo população migração forçada, genocídio
Noruega 1845-1930 Samis e Kvens recenseamentos da população Limpeza étnica
Noruega 1942-1944 judeus censo especial & proposto registo da população Genocídio
Polônia 1939-1943 judeus censos, principalmente especiais Genocídio
Romênia 1941-1943 Judeus e Roma 1941 Censo Demográfico migração forçada, genocídio
Ruanda 1994 tutsi registro de população Genocídio
África do Sul 1950-1993 popualtions "de cor" africano e 1951 Censo Populacional e de registo da população Apartheid, privação do direito eleitoral
Estados Unidos século 19 Americanos nativos censos especiais, registos da população migração forçada
Estados Unidos 1917 projectos de violadores da lei suspeitos 1910 Census Investigação & julgamento dos registro evitando
Estados Unidos 1941-1945 nipo-americanos 1940 Census migração forçada e de internamento
Estados Unidos 2001-08 suspeitos de terrorismo levantamentos NCES e dados administrativos Investigação & julgamento de terroristas domésticos e internacionais
Estados Unidos 2003 Árabes-americanos Censo 2000 Desconhecido
URSS 1919-1939 populações minoritárias Vários censos populacionais migração forçada, castigo de outros crimes graves

pesquisadores sociais comuns são muito, muito longe de qualquer coisa como criar efeitos de refrigeração sobre a sociedade ou participação em abusos dos direitos humanos por meio de uso secundário. Eu escolhi para discutir estes temas, no entanto, porque eu acho que eles vão ajudar os pesquisadores sociais compreender a lente através da qual algumas pessoas vão ver o seu trabalho. Vamos voltar para o Taste, Ties, eo projeto Time, por exemplo. Ao fundir dados em conjunto completos e granular de Facebook com dados completos e granular de Harvard, os pesquisadores criaram uma visão incrivelmente rico da vida social e cultural dos alunos (Lewis et al. 2008) . Para muitos pesquisadores sociais este parece ser o banco de dados mestre, que poderia ser usada para o bem. Mas, para alguns outros, ele se parece com o início do banco de dados de ruína que foi criada sem o consentimento dos participantes. A Taste, Ties, eo projeto Tempo começou em 2006, e as informações que os investigadores tinham não era particularmente privado. Mas, se você olhar para a frente um pouco que você pode imaginar que estas questões são susceptíveis de obter mais complexa. Que tipo de mosaico digital investigadores ser capaz de construir sobre os alunos em 2026 ou 2046?

Além dessa vigilância em massa, os pesquisadores de novo em colaboração com empresas e governos de cada vez pode intervir sistematicamente na vida das pessoas, a fim de criar experimentos clínicos controlados. Por exemplo, em Contagion emocional, os pesquisadores inscritos 700.000 pessoas em um experimento sem o seu consentimento ou a consciência. E, como eu descrevi no capítulo 5 (experiências em execução), este tipo de recrutamento segredo de participantes em experimentos não é incomum. Além disso, ele não requer a colaboração de grandes empresas. Como descrevi no Capítulo 5, os pesquisadores podem cada vez mais projetar e construir experiências digitais com zero custos variáveis, uma estrutura de custos que permite extremamente grandes experiências. Como a capacidade de observar, a capacidade de perturbar sistematicamente provavelmente vai continuar a crescer.

Em face desse aumento de potência, os pesquisadores enfrentam regras inconsistentes e sobrepostas, leis e normas. Uma fonte desta inconsistência é que as capacidades da era digital estão mudando mais rapidamente do que regras, leis e normas. Por exemplo, a regra comum (o conjunto de regulamentos que regem a maioria das pesquisas financiado pelo governo dos Estados Unidos) mudou pouco desde 1981. Um esforço para modernizar a regra comum começou em 2011, mas não estava completa a partir do verão de 2016. Uma segunda fonte de inconsistência é que as normas em torno de conceitos abstratos como a privacidade ainda estão a ser activamente debatida pelos investigadores, decisores políticos e ativista. Se especialistas nestas áreas não podem chegar a um consenso uniforme, não devemos esperar que os investigadores empíricos ou participantes vão chegar a um consenso quer. A última fonte de inconsistência é que a pesquisa era digital é cada vez mais mista em outros contextos, o que leva a normas e regras potencialmente sobrepostos. Por exemplo, Emotional Contagion foi uma colaboração entre um cientista de dados no Facebook e um estudante professor e pós-graduação na Cornell. No Facebook correndo grandes experimentos é de rotina, contanto que cumprir com os termos do Facebook de serviço, e naquele tempo, não havia avaliação de terceiros de experimentos. Em Cornell as normas e regras são bastante diferentes; praticamente todos os experimentos devem ser revistos pela Cornell IRB. Então, qual conjunto de regras deve governar Emotional Contagion-do Facebook ou Cornell? Quando existem regras inconsistentes e sobrepostas, leis e normas, mesmo pesquisadores bem-intencionados podem ter problemas para fazer a coisa certa. Na verdade, por causa da incoerência, pode até não ser uma única coisa certa.

No geral, estas duas características que aumentam a potência e falta de acordo sobre como que o poder deve ser usado-média que os pesquisadores que trabalham na era digital estão indo para enfrentar os desafios éticos para o futuro previsível. Felizmente, os pesquisadores que enfrentam esses desafios não precisa começar do zero. Em vez disso, os pesquisadores podem chamar a sabedoria de princípios éticos previamente desenvolvidos e os quadros, os temas das próximas duas seções.