2.3.2.5 confounded Algorithmically

Níl an Oibriú i sonraí le fáil nádúrtha, tá sé á stiúradh ag na spriocanna innealtóireachta na gcóras.

Cé go bhfuil go leor foinsí sonraí le fáil nach bhfuil imoibríoch toisc nach bhfuil daoine ar an eolas go bhfuil a gcuid sonraí á dtaifeadadh (Alt 2.3.1.3), níor chóir taighdeoirí a mheas iompraíocht sna córais ar líne a bheith "a tharlaíonn go nádúrtha" nó "íon." I ndáiríre, an córais dhigiteacha atá iompar taifead innealtóireacht go mór a d'fhéadfadh iompar ar leith ar nós cliceáil ar fógraí nó ábhar phost. Na bealaí gur féidir na spriocanna dearthóirí córais patrúin thabhairt isteach sonraí dtugtar inbhréagnaithe algorithmic. Is inbhréagnú algorithmic réasúnta ar eolas ag eolaithe sóisialta, ach tá sé ina ábhar mór imní i measc eolaithe sonraí cúramach. Agus, murab ionann agus roinnt de na fadhbanna eile le rianta digiteach, tá inbhréagnú algorithmic dofheicthe den chuid is mó.

Is sampla réasúnta simplí de inbhréagnaithe algorithmic an bhfíric go bhfuil ar Facebook go bhfuil líon aimhrialta ard na n-úsáideoirí a bhfuil thart ar 20 cairde (Ugander et al. 2011) . Eolaithe anailís leis na sonraí seo gan aon tuiscint ar conas a oibríonn Facebook fhéadfadh a ghiniúint doubtlessly leor scéalta faoi conas is 20 de shaghas éigin uimhir sóisialta draíochta. Mar sin féin, bhí Ugander agus a chomhghleacaithe tuiscint mhór den phróiseas a ghintear ar na sonraí, agus a fhios acu gur spreag Facebook dhaoine beag naisc ar Facebook a dhéanamh níos mó chairde go rángadar 20 cairde. Cé nach bhfuil Ugander agus comhghleacaithe rá seo sa pháipéar, bhí an beartas seo a cruthaíodh dócha le Facebook chun úsáideoirí nua a spreagadh le bheith níos gníomhaí. Gan a fhios agam mar gheall ar go bhfuil an polasaí, áfach, tá sé éasca a tharraingt ar an chonclúid mícheart ó na sonraí. I bhfocail eile, insíonn an líon ionadh ard daoine a bhfuil thart ar 20 cairde dúinn níos mó faoi Facebook ná iompar an duine.

Níos pernicious ná an sampla roimhe seo nuair a tháirgtear inbhréagnú algorithmic toradh quirky go bhféadfadh taighdeoirí cúramach tuilleadh imscrúdaithe a dhéanamh, tá tú an leagan níos trickier an inbhréagnaithe algorithmic a tharlaíonn nuair a bhíonn dearthóirí córas ar líne ar an eolas faoi na teoiricí sóisialta agus ansin bhácáil na teoiricí isteach oibriú a gcóras. Glaoch eolaithe sóisialta an performativity: nuair a athraíonn teoiricí ar an domhan sa tslí is a thugann siad ar an domhan níos i gcomhréir leis na teoiric. Sna cásanna de inbhréagnaithe algorithmic performative, is é an nádúr confounded na sonraí dócha dofheicthe.

Sampla amháin de phatrún cruthaithe ag performativity transitivity i líonraí sóisialta ar líne. Sna 1970í agus na 1980í, fuair taighdeoirí arís agus arís eile go má tá tú cairde le Alice agus má tá tú cairde le Bob, ansin tá Bob agus Alice níos mó seans a bheith chairde le chéile ná dhá daoine a roghnaíodh go randamach. Agus, fuarthas an bpatrún céanna sa ghraf sóisialta ar Facebook (Ugander et al. 2011) . Dá bhrí sin, d'fhéadfadh duine a thabhairt i gcrích go pátrúin cairdeas ar Facebook mhacasamhlú phatrúin cairdeas as líne, ar a laghad ó thaobh transitivity. Mar sin féin, tá an méid transitivity sa Facebook graf sóisialta thiomáint i bpáirt ag inbhréagnaithe algorithmic. Is é sin, eolaithe sonraí ag Facebook fhios an taighde eimpíreach agus teoiriciúil faoi transitivity agus ansin bhácáil sé isteach conas a oibríonn Facebook. Tá "Daoine Bealtaine a fhios agat" gné a thugann le fios cairde nua, agus bealach amháin go gcinnfidh Facebook a thabharfadh le tuiscint go bhfuil tú transitivity Facebook. Is é sin, tá níos mó seans ann a thabharfadh le tuiscint go bhfuil tú bheith cairde leis na cairde ar do chairde Facebook. dá bhrí sin tá an gné an éifeacht transitivity méadú sa Facebook graf sóisialta; i bhfocail eile, tugann an teoiric transitivity ar fud an domhain a chur i gcomhréir leis an tuar ar an teoiric (Healy 2015) . Dá bhrí sin, nuair is cosúil foinsí sonraí mór a tuar na teoiric shóisialta atáirgeadh, ní mór dúinn a bheith cinnte nach raibh an teoiric féin baked ar conas oibrigh sa chóras.

In áit ag smaoineamh ar fhoinsí sonraí mór le daoine breathnú i suíomh nádúrtha, tá meafar níos Apt breathnú daoine i Casino. Casinos Tá innealtóireacht go mór timpeallachtaí ceapadh chun aslú iompraíochtaí áirithe, agus ní bheadh ​​a taighdeoirí ag súil go mbeadh an t-iompar i Casino sholáthar fuinneog gan srian ar iompar an duine. Ar ndóigh, d'fhéadfadh muid rud éigin a fhoghlaim faoi dhaoine iompar staidéar an duine i casinos-i ndáiríre d'fhéadfadh ceasaíneo a bheith ina suíomh iontach do staidéar ar an gcaidreamh idir tomhaltas alcóil agus riosca sainroghanna-ach má neamhaird againn go raibh na sonraí á gcruthú i Casino d'fhéadfadh againn teacht ar roinnt conclúidí dona.

Ar an drochuair, tá plé le inbhréagnú algorithmic deacracht ar leith mar go bhfuil go leor gnéithe de na córais ar líne dílseánaigh, droch doiciméadaithe, agus i gcónaí ag athrú. Mar shampla, mar beidh mé a mhíniú níos déanaí sa chaibidil seo, ba inbhréagnú algorithmic míniú is féidir amháin don chéile briseadh síos de Google Fliú Treochtaí (Alt 2.4.2), ach bhí an t-éileamh go crua chun measúnú a dhéanamh mar gheall ar an obair istigh de cuardaigh Google algartam atá dílseánaigh. Is é an nádúr dinimiciúil inbhréagnaithe algorithmic cineál amháin sruth chórais. Ciallaíonn inbhréagnú algorithmic gur chóir dúinn a bheith cúramach maidir le haon éileamh ar iompar an duine a thagann ó chóras digiteach amháin, is cuma cé chomh mór.