Käynnistäminen tänään: uusi yhteistyötutkimus Twitterin väärinkäytösten vähentämiseksi

Useiden menetelmien avulla väärinkäyttö verkossa voi vähentyä huomattavasti - jos löydämme myös, mitkä menetelmät todella toimivat missä tilanteissa.

esittäjät Susan Benesch ja J. Nathan Matias

Verkkokäytöstä on tullut niin laajalle levinnyttä ja leviävää, että se asettaa vakavan haasteen kansalaisten hyvinvoinnille ympäri maailmaa. Kuten muutkin monimutkaiset sosiaaliset ongelmat, se vaatii tiukkaa, monimuotoista ratkaisujen etsimistä. Sitä ei voida ratkaista pelkällä yrittämällä poistaa kaikki haitallinen sisältö verkossa (vaikka tämä teknisesti mahdollistakin saavuttaa), koska edes sellaiset drakoniset käytännöt eivät estä sitä, että enemmän sisältöä aiheuttaisi vahinkoa. Se on kuin vaarallisten elintarvikkeiden palauttaminen estämättä uusien elintarvikkeiden saastumista ja myyntiä - tai kaadettujen autojen hinaaminen yrittämättä tehdä uusista autoista turvallisempia. Väärinkäyttöä ei voida ratkaista yhdellä ainoalla menetelmällä, koska se on julkaistu niin monissa muodoissa, monenlaisten ihmisten toimesta ja monista syistä.

Useiden menetelmien avulla väärinkäyttö verkossa voi vähentyä huomattavasti - jos löydämme myös, mitkä menetelmät todella toimivat missä tilanteissa. Internetin 35-vuotiseen historiaan on siirretty joitakin lupaavia ideoita, mutta suurinta osaa niistä ei ole koskaan testattu järjestelmällisesti. Todisteiden puutteen vuoksi teknologiayritykset voivat jatkaa väärinkäytöksiä lisääviä käytäntöjä, ja he voivat unohtaa yksinkertaiset ideat, jotka voivat auttaa miljoonia ihmisiä.

Tutkimukset ovat osoittaneet, että kun laitokset julkaisevat säännöt selvästi, ihmiset todennäköisemmin seuraavat niitä.

Tänään Twitter alkaa testata ideaa: Internet-alustan sääntöjen näyttäminen käyttäjille parantaa käyttäytymistä kyseisellä alustalla. Sosiaaliset normit, jotka ovat ihmisten uskomuksia siitä, mitä instituutiot ja muut ihmiset pitävät hyväksyttävänä käyttäytymisenä, vaikuttavat voimakkaasti siihen, mitä ihmiset tekevät ja eivät tee. Tutkimukset ovat osoittaneet, että kun laitokset julkaisevat säännöt selvästi, ihmiset todennäköisemmin seuraavat niitä. Meillä on myös varhaisia ​​todisteita Nathanin tutkimuksesta reddit-yhteisöjen kanssa siitä, että politiikkojen tekeminen näkyväksi voi parantaa verkkokäyttäytymistä. Tänään alkavassa kokeilussa Twitter julkistaa säännöt testatakseen, parantaako tämä kohteliaisuutta.

Ehdotimme tätä ideaa Twitterille ja suunnittelimme kokeilun sen arvioimiseksi. Tämä projekti on myös edelläkävijänä avoin, näyttöön perustuva lähestymistapa ihmisten kokemusten parantamiseksi verkossa suojaten samalla heidän yksityisyyttään. Teollisuuden ja yliopistojen tutkijat ovat työskennelleet yhdessä aiemmin. Pyrkimyksen tekee ainutlaatuiseksi se, että olemme päättäneet harjoittaa sitä avoimena yhteistyönä oikeudellisten, eettisten ja tieteellisten rajoitusten mukaisesti. Tämä suojaa Twitter-käyttäjiä, turvaa työmme uskottavuuden ja varmistaa, että siitä saatu tieto on kaikkien käytettävissä - jopa muiden Internet-yritysten.

Tämä projekti on myös edelläkävijänä avoin, näyttöön perustuva lähestymistapa ihmisten kokemusten parantamiseksi verkossa suojaten samalla heidän yksityisyyttään.

Toivomme, että tämä projekti tarjoaa käytännön tietoa väärinkäytösten estämisestä verkossa ja että prosessimme inspiroi edelleen avoimia, riippumattomia arviointeja monista muista ideoista väärinkäytösten vähentämiseksi verkossa.

Tutkimusprosessi

Kun testaamme väärinkäytösten ehkäisemisen ideoita, tutkimusryhmämme testaa myös prosessia riippumattomalle ulkopuoliselle arvioinnille teknologiayritysten tekemistä politiikoista ja suunnittelutoimenpiteistä. Näin se toimii.

itsenäisyys

Riippumattomuus Twitteristä on tämän prosessin perusta. Olemme akateemisia tutkijoita, emme työskentele Twitterissä, emmekä ole etsineet eikä saaneet Twitteriltä rahaa tähän projektiin. Asetamme kaksi edellytystä hankkeen toteuttamiselle yhteistyössä yrityksen kanssa: että se jakaa tulosten analysointiin tarvittavan tiedon ja että pidämme vapauden julkaista tulokset vertaisarvioidussa akateemisessa lehdessä. Neuvottelimme ja allekirjoitimme oikeudelliset sopimukset, joissa Twitter suostui näihin ehtoihin ja sopimme liikesalaisuuksien suojaamisesta teknisissä kysymyksissä, jotka eivät liity pääkysymyksiimme.

Käyttäjän yksityisyys

Yksityisyyden suojelemiseksi yritys antaa meille vain nimettömänä kootut tiedot. Koska emme saa tunnistetietoja yhdestäkään henkilöstä tai Twitter-tilistä, emme voi emmekä mainita ketään tai heidän twiittinsä julkaisuissamme.

Tietosuoja on keskeinen prosessissamme, mikä rajoittaa työskentelemäämme tietoa, suojaa tietoja analysoitaessa ja rajoittaa tietojen käytön vain tähän tutkimukseen. Suunnittelimme tutkimuksen Twitterin avulla tavalla, jonka avulla voimme arvioida kokeilua tarvitsematta tietää minkään tilin nimiä tai muita henkilökohtaisia ​​tietoja. Kun tutkimus on valmis, Twitter valmistelee aggregoidun tietoaineiston analyysillemme. Twitterin tiedot säilyvät salatussa järjestelmässämme, jossa suoritamme analyysimme, emmekä jaa tietoja järjestelmän ulkopuolella. Vahvistettuamme saamiemme tietojen eheyden seuraamme sovittua suunnitelmaa tulosten analysoimiseksi. Koska vertaisarviointi voi viedä aikaa ja koska muut tutkijat voivat pyytää meitä tarkistamaan yksityiskohdat uudelleen, säilytämme tiedot ja mahdolliset varmuuskopiot kahden vuoden ajan tutkimuksen päättymisen jälkeen ja poistamme sen sitten kaikki.

Avoimuus ja vastuuvelvollisuus

Jotta avoimuus olisi mahdollisimman mahdollista, ilmoitamme tutkimuksen julkisesti ennen sen alkamista. Koska emme voi kuvata sitä nyt yksityiskohtaisesti vaarantamatta tulosten eheyttä, löysimme kaksi vaihtoehtoa. Ensinnäkin kaksi yliopiston eettistä komiteaa hyväksyi koko tutkimuksen suunnittelun (joiden tehtävänä on varmistaa, että tutkijat noudattavat sääntöjä, jotka suojelevat ihmisiä, joihin tutkimus voi vaikuttaa). Toiseksi, olemme jättäneet analyysisuunnitelmamme - yksityiskohtaisen kuvauksen tutkimuksen suorittamisesta - puolueettomalle kolmannelle osapuolelle, nimeltään Open Science Framework. Tämä varmistaa, että me ja Twitter voimme olla vastuussa siitä, mitä teemme.

Tätä käytäntöä, jonka mukaan suunnitelma voidaan jättää puolueettomalle kolmannelle osapuolelle, kutsutaan ennakkorekisteröintiin, ja se tarkoittaa, että kuvasimme yksityiskohtaisesti, mitä olettamuksemme olivat, miten Twitter suorittaisi intervention, mitä tuloksia havaitsisimme ja mitä tilastollisia menetelmiä me käyttäisi tulosten analysointia - kaikki ennen tutkimuksen alkua. Tämä varmistaa, että teemme analyysin tarkalleen suunnitellun mukaisesti ennen tulosten näkemistä, vaikka tämä analyysi tuottaa pettymyshavaintoja. Ennakkorekisteröinti, avoimen tieteen paras käytäntö, suojaa ryhmämme tutkimuksen ja Twitterin osallistumisen uskottavuutta. Olemme ladanneet analyysisuunnitelmasi avoimeen tiedekehykseen - puolueettomaan kolmanteen osapuoleen. Kun tutkimus on päättynyt ja olemme valmiita julkaisemaan tuloksemme, julkistamme suunnitelman OSF: ssä, jotta muut voivat vahvistaa, että noudatimme suunnitelmaa ja - yhtä tärkeätä - toistaa tutkimuksemme.

Annamme löydöksemme kenelle tahansa, jotta niitä voidaan käyttää vapaasti. Lähetämme tutkimuksemme akateemiseen vertaisarviointiin ja julkaisemme sen akateemisessa lehdessä.

Etiikka

Prosessimme on myös yhdenmukainen yliopistojen tutkimusetiikan käytäntöjen kanssa. Projektin tarkistivat ja hyväksyivät kaikki etiikkalautakunnomme: MIT COUHES ja McGill University's REB yhteistyössä Bathin yliopiston etiikkakomitean kanssa.

Suunnitellessamme tätä tutkimusta harkitsimme kysyä jokaiselta suostumusta etukäteen tai vaihtoehtoisesti ilmoittamaan ihmisille tutkimuksen päättymisen jälkeen, että he saattoivat olla mukana. Tässä tutkimuksessa ihmisten pyytäminen osallistumaan voi johtaa puolueellisiin havaintoihin. Tutkimuksen jälkeinen ilmoittaminen Twitterin kautta oli myös epäkäytännöllinen, koska Twitter ei pystyisi tavoittamaan alustalta poistuneita ihmisiä, eikä tutkimusryhmämme pystyisi tavoittamaan ketään, koska meillä ei ole tilinimiä tai yhteystietoja . Tällaisissa olosuhteissa Yhdysvaltain tutkimus etiikkapolitiikka vaatii kokeita täyttääkseen minimaalisen riskin vaatimukset. Uskomme, että testaamamme viestit täyttävät tämän standardin, ja MIT: n ja McGillin etiikkakomiteat hyväksyivät tämän tutkimuksen. Koska suostumuskysymys on niin tärkeä, jotkut ryhmässämme suunnittelevat uusia tapoja koordinoida laajamittaisen tutkimuksen suostumus ja vastuuvelvollisuus. Jos sinulla on kysyttävää tutkimuksen etiikasta, ota yhteyttä J. Nathan Matiasiin osoitteeseen jnmatias@mit.edu.

Kiitokset

Olemme erittäin kiitollisia loistaville kollegoille, jotka auttoivat tässä projektissa. Lindsay Blackwell kirjoitti tutkimuksen merkityksellisestä yhteiskuntatieteellisestä tutkimuksesta, joka ohjaa ajattelumme kokeilua suunnitellessamme. Marc Brackett antoi myös varhaista ohjausta. Andrew Sellars BU / MIT Technology & Cyberlaw -klinikalta auttoi laatimaan ja neuvottelemaan yhteistyösopimuksista. Olemme kiitollisia myös monille Twitterin ihmisille, jotka pyrkivät tekemään tämän projektin mahdolliseksi.

Tietoja tutkijoista

Projektia johtavat Susan Benesch ja J. Nathan Matias. Toimittajien, joilla on kysyttävää projektista, tulee ottaa meihin yhteyttä osoitteessa (susan@dangerousspeech.org ja jnmatias@mit.edu).

Susan Benesch (@susanbenesch) on Harvardin yliopiston Berkman Kleinin Internet- ja yhteiskuntakeskuksen tiedekunnan jäsen. Hän perusti ja johtaa Dangerous Speech Project -projektia, joka tutkii puhetta, joka voi inspiroida väkivaltaa - ja tapoja estää tällainen haitta loukkaamatta sananvapautta. Tähän sisältyy laaja työ verkkoviestinnässä, ja Dangerous Speech -projekti on osa Twitterin luottamus- ja turvallisuusneuvostoa.

J. Nathan Matias (@natematias) on tutkijatohtori Princetonin yliopiston psykologian, tietotekniikkapolitiikan ja sosiologian osastoilla. Hän on vieraileva tutkija MIT Media Lab -yhteisömediakeskuksessa ja perustaa CivilServant -järjestön, joka järjestää kansalaisten käyttäytymistutkimusta oikeudenmukaisemman, turvallisemman ja ymmärrettävämmän Internetin puolesta. CivilServant on työskennellyt suoraan kymmenien miljoonien ihmisten yhteisöjen kanssa löytääkseen tehokkaita ideoita verkko-elämän parantamiseksi ja arvioidakseen sosiaalisen teknologian vaikutuksia.

Derek Ruths on apulaisprofessori tietotekniikan koulussa McGillin yliopistossa, jossa hän johtaa Network Dynamics Lab -yritystä. Derek tutkii tutkimuksessaan tapoja käyttää tietoja mittaamaan ja ennustamaan ihmisen laajamittaista käyttäytymistä.

Adam Joinson (@joinson) on Bathin yliopiston tietojärjestelmien professori, jossa hän tutkii tekniikan ja käyttäytymisen risteytystä - mukaan lukien työ viestintämallien, vaikutusten, turvallisuuden ja yksityisyyden suhteen sekä miten muotoilu voi vaikuttaa käyttäytymiseen.