Istraživanje

Muke Facebooka i Twittera u borbi protiv kršenja pravila na Balkanu

Autor: Igor Vujičić

Muke Facebooka i Twittera u borbi protiv kršenja pravila na Balkanu

16. Februara 2021.13:38
16. Februara 2021.13:38
Istraživanje BIRN-a otkriva ozbiljne probleme u kontroli sadržaja od strane Fejsbuka i Tvitera na Balkanu.

This post is also available in: English (English)

Tviter nije obavestio ili dao objašnjenje o suspenziji, ali Ana Toskić Cvetinović, izvršna direktorka organizacije Partneri Srbija, sumnja da je to rezultat „koordinisanog napada“, verovatno drugih korisnika Tvitera koji prijavljuju Tviteru kako ova NVO koristi nalog.

„Danima smo pokušavali da dođemo do informacija od Tvitera o razlozima i mogućim načinima da rešimo problem(…), ali nismo dobili nikakav odgovor“, rekla je Toskić Cvetinović za BIRN. “Nakon skoro mesec dana tišine, kao jedinu opciju videli smo otvaranje novog naloga.“

Tviter je ukinuo suspenziju u januaru, ponovo bez objašnjenja. Međutim, Partneri Srbija nisu jedini među NVO, medijskim organizacijamai javnim ličnostima na Balkanu kojima su suspendovani nalozi na društvenim mrežama bez odgovarajućeg, a ponekad i bilo kakvog objašnjenja, pokazuje BIRN-ov monitoring digitalnih prava i sloboda u regionu.

Stručnjaci kažu da je nedostatak transparentnosti značajan problem za one koji koriste društvene medije kao vitalni kanal komunikacije, između ostalog jer su ostavljeni u mraku oko toga šta se može učiniti da se u budućnosti spreče takve obustave.

Ali dok se organizacije poput Partneri Srbija mogu suočiti sa proizvoljnom suspenzijom, polovina postova na Fejsbuku i Tviteru koji se prijavljuju kao govor mržnje, pretnja nasiljem ili uznemiravanje na bosanskom, srpskom, crnogorskom ili makedonskom jeziku i dalje ostaju na mreži, prema rezultatima istraživanja BIRN-a, uprkos potvrdi kompanija da su objave kršile pravila.

Istraga pokazuje da alati koje kompanije koriste da bi zaštitili svoje smernice zajednice podbacuju: postovi i nalozi koji krše pravila često ostaju dostupni čak i kada se utvrde povrede , dok drugi koji ostanu u okviru tih pravila mogu biti suspendovani bez jasnog razloga.

BIRN je između ostalog došao do sledećih zaključaka:

  • Gotovo polovina prijava na bosanskom, srpskom, crnogorskom ili makedonskom jeziku na Fejsbuku i Tviteru odnose se na govor mržnje
  • Svaka druga objava prijavljena kao govor mržnje, pretnja nasiljem ili uznemiravanje na bosanskom, srpskom, crnogorskom ili makedonskom jeziku, ostaje onlajn. Što se tiče prijava o pretnjama nasiljem, sadržaj je uklonjen u 60 posto slučajeva, a 50 posto u slučajevima ciljanog uznemiravanja.
  • Fejsbuk i Tviter koriste hibridni model, kombinaciju veštačke inteligencije i ljudske procene prilikom pregleda takvih prijava, ali odbijaju da otkriju koliko osoba koje pregledaju sadržaj su i odličan poznavalac bosanskog, srpskog, crnogorskog ili makedonskog jezika.
  • Obe društvene mreže usvajaju „proaktivni pristup“, što znači da uklanjaju sadržaj ili suspenduju naloge čak i bez prijave sumnjivog ponašanja, ali korišćeni kriterijumi su nejasni, a samom procesu nedostaje transparentnost.
  • Istraživanje je pokazalo da su ljudi spremniji da prijave sadržaj čija su meta oni sami ili manjinske grupe.

Stručnjaci kažu da bi najveći problem mogao biti nedostatak transparentnosti u načinu na koji kompanije za društvene medije procenjuju žalbe.

Sama procena se u prvi mah vrši algoritmom i, ako je potrebno, čovek se kasnije uključi. BIRN-ovo istraživanje pokazuje da stvari postaju komplikovane kada su u pitanju jezici Balkana, upravo zbog specifičnosti jezika i konteksta.

Razlikovanje oštre kritike od klevete ili radikalnih političkih mišljenja od izraza mržnje i rasizma ili podsticanja na nasilje zahteva kontekstualnu i nijansiranu analizu.

Polovina postova koji sadrže govor mržnje ostaju na mreži


Infografika: BIRN/Igor Vujičić

Fejsbuk i Tviter su među najpopularnijim društvenim mrežama na Balkanu. Opseg njihove popularnosti pokazuje izveštaj za 2020. godinu sačinjen od strane DataReportal, platforme koja analizira kako svet koristi Internet.

U januaru je u Srbiji bilo oko 3,7 miliona korisnika društvenih medija, u Severnoj Makedoniji 1,1 milion, u Crnoj Gori 390.000 i u Bosni i Hercegovini 1,7 miliona.

U svakoj od tih zemalja Fejsbuk je najpopularniji, sa procenjenih tri miliona korisnika u Srbiji, 970.000 u Severnoj Makedoniji, 300.000 u Crnoj Gori i 1,4 miliona u Bosni i Hercegovini.

Takvi brojevi čine balkanske zemlje atraktivnim za reklamiranje, ali i za širenje političkih poruka, te shodno tome vrlo prijemčive za kršenja.

Rasprava o koristima i opasnostima društvenih medija za društvo 21. veka je dobro poznata.

Što se tiče nasilnog sadržaja, osim upotrebe veštačke inteligencije (AI), giganti društvenih mreža pokušavaju da korisnicima omoguće i sredstva da reaguju, uglavnom prijavljujući kršenja administratorima mreža.

Postoje tri vrste filtera – manuelno filtriranje od strane ljudi; automatizovano filtriranje pomoću algoritamskih alata i hibridno filtriranje, koje se izvodu kroz kombinaciju ljudi i automatizovanih alata.

U slučajevima kada postoji nedoumica, postove ili naloze pregledaju ljudi pre donošenja odluka ili nakon što se korisnik žali na automatsko uklanjanje.

„Danas se prvenstveno oslanjamo na veštačku inteligenciju za otkrivanje kršenja sadržaja na Fejsbuku i Instagramu, a u nekim slučajevima i da automatski preduzmemo mere prema sadržaju“, rekao je portparol Fejsbuka za BIRN. „Recenzente sadržaja koristimo za pregled i obeležavanje određenog sadržaja, posebno kada je tehnologija manje efikasna da rastumači smisao konteksta, namere ili motivacije.“

Tviter je rekao za BIRN da povećava upotrebu mašinskog učenja i automatizacije za sprovođenje pravila.

„Danas se, upotrebom tehnologije, više od 50 posto nasilnog sadržaja koje se pojavljuje na našem servisu proaktivno ocenjuje kako bi pregled istog izvršio čovek, umesto da se oslanja na prijave ljudi koji koriste Tviter“, rekao je portparol kompanije.

„Imamo jake i posvećene timove stručnjaka koji pružaju neprekidnu 24/7 globalnu pokrivenost na više različitih jezika i gradimo više kapaciteta za rešavanje sve složenijih problema.“

Kako bi proverio koliko su efikasni ti mehanizmi kada je reč o sadržaju na balkanskim jezicima, BIRN je sproveo istraživanje fokusirajući se na prijave na Fejsbuku i Tviteru i podelio ih u tri kategorije: pretnje nasiljem (direktne ili indirektne), uznemiravanje i govor mržnje.

Anketa je tražila jezik spornog sadržaja, ko je bio meta i ko je autor i da li je prijava uspela ili ne.

Više od  48 procenata ispitanika prijavilo je govor mržnje, oko 20 procenata prijavilo je ciljano uznemiravanje, a oko  17 procenata prijavilo je pretnju nasiljem.

Istraživanje je pokazalo da su ljudi bili spremniji da prijave sadržaj koji cilja njih same ili manjinske grupe.

Prema istraživanju, 43 procenta sadržaja prijavljenog kao govor mržnje ostalo je na mreži, dok je 57 procenata uklonjeno. Kada je reč o prijavama o pretnji nasiljem, sadržaj je uklonjen u 60 posto slučajeva.

Otprilike polovina prijava o ciljanom uznemiravanju rezultirala je uklanjanjem.

Chloe Berthelemy, savetnica za politiku u Evropskoj mreži za digitalna prava, EDRi, koja radi na promociji digitalnih prava, kaže da stvarne posledice zanemarivanja mogu biti katastrofalne.

„Na primer, u slučajevima seksualnog zlostavljanja zasnovanog na slici [često pogrešno nazvanom „osvetnička pornografija“], većina žrtava su žene i one pate od socijalne isključenosti kao rezultat ovih napada“, rekla je Berthelemy u pisanom odgovoru za BIRN. „Na primer, mogu biti diskriminisani na tržištu rada jer stručnjaci za zapošljavanje proveravaju njihovu reputaciju na mreži.“

Uklanjanje sadržaja – cenzura ili korektiv?

Infografika: BIRN/Igor Vujičić

Prema odgovorima na upitnik BIRN-a, oko 57 procenata onih koji su prijavili govor mržnje reklo je da su obavešteni da prijavljeni post/nalog krši pravila.

S druge strane, oko 28 procenata reklo je da je dobilo obaveštenje da sadržaj koji su prijavili ne krši pravila, dok je 14 procenata dobilo samo potvrdu da je njihova prijava podneta.

Što se tiče prijava o ciljanom uznemiravanju, polovina ljudi je rekla da je dobila potvrdu da sadržaj krši pravila; 16 odsto je rečeno da sadržaj ne krši pravila. Trećina onih koji su prijavili ciljano uznemiravanje dobila je samo potvrdu da je njihov izveštaj primljen.

Što se tiče pretnje nasiljem, 40 procenata ljudi dobilo je potvrdu da prijavljen post/nalog krši pravila, dok je 60 procenata dobilo samo potvrdu da je njihova žalba primljena.

Jedna od BIRN-oih ispitanica kaže da je prijavila najmanje sedam naloga za širenje mržnje i nasilnog sadržaja.

„Ne angažujem se aktivno za takve naloge, niti ih stalno tražim i pretražujem. Međutim, kada naiđem na jednog od ovih punih mržnje, negatora genocida i pristalica genocida, čini se ispravnim da se to uradi, da se zaustavi takav sadržaj da ide dalje“, rekao je ispitanik govoreći uz uslov anonimnosti. „Možda se neko od prijavljenih pojedinaca zaustavi i zapita se šta je do toga dovelo i jednostavno otvori diskusiju sa sobom ili svojim krugovima.“

Iako je za tih sedam naloga Tviter potvrdio da krše neka pravila, njih šest je i dalje dostupno na mreži.

Metodologija BIRN-a

BIRN je sproveo svoj upitnik putem onlajn alata za angažovanje građana za prijavljivanje, razvijenog u saradnji sa Britanskim savetom.

Anonimni upitnik imao je za cilj prikupljanje informacija o vrsti kršenja koja su ljudi prijavljivali, ko je bio meta i koliko je prijava bila uspešna. Pitanja su bila dostupna na engleskom, makedonskom, albanskom i bosanskom/srpskom/crnogorskom jeziku. BIRN se fokusirao na Fejsbuk i Tviter s obzirom na njihovu popularnost na Balkanu i osetljivost deljenog sadržaja, koji je uglavnom tekstualni i teži za procenu u poređenju sa video zapisima i fotografijama.

Još jedno pitanje koje se pojavilo su nejasni kriterijumi prilikom prijavljivanja kršenja. Potrebno je i osnovno znanje engleskog jezika.

Sanjana Hattotuwa, osnivač Groundviews-a, prve veb platforme za građansko novinarstvo Šri Lanke, i istraživač nove medijske pismenosti, veb aktivizma, digitalne bezbednosti i javnog zagovaranja saglasan je da je postupak prijavljivanja u okviru aplikacije ili na mreži zbunjujući.

„Štaviše, često je na engleskom, iako je možda ostatak korisničkog interfejsa/korisničkog iskustva na lokalnom jeziku. Štaviše, naporan odabir kategorija za žrtvu nije lak – posebno pod prinudom. “

Fejsbuk je rekao za BIRN da se većina prijava pregleda u roku od 24 sata i da kompanija koristi prijavljivanje u zajednici, ljudsku procenu i automatizaciju.

Iz Fejsbuka su, međutim, odbili da navedu bilo kakve detalje o onima koje zapošljava za pregled sadržaja ili izveštaja na balkanskim jezicima, rekavši da „nije precizno navoditi samo broj moderatora sadržaja“.

„To samo po sebi ne odražava broj ljudi koji rade na pregledu sadržaja za određenu zemlju u bilo kom trenutku“, rekao je portparol.

Društvene mreže često same uklanjaju sadržaj, na način koji nazivaju „proaktivnim pristupom“.

Prema podacima koje je dostavio Fejsbuk, u poslednjem kvartalu 2017. njihova stopa proaktivnog otkrivanja iznosila je 23,6 procenata.

„To znači da je od govora mržnje koji smo uklonili pronađeno 23,6 odsto tog govora pre nego što nam je korisnik isti prijavio“, rekao je portparol. „Preostala većina je uklonjena nakon što je korisnik to prijavio. Danas proaktivno otkrivamo oko 95 posto sadržaja govora mržnje koji uklanjamo. “

„Bez obzira na to da li sadržaj proaktivno otkrivaju ili prijavljuju korisnici, mi često koristimo AI za preduzimanje mera u jasnim slučajevima i davanje prioriteta nijansiranijim slučajevima, gde je potrebno uzeti u obzir kontekst, za naše recenzente.“

Nema dostupnih podataka kada je reč o sadržaju na određenom jeziku ili zemlji.

Fejsbuk objavljuje Izveštaj o primeni standarda zajednice  na kvartalnom nivou ali, prema rečima portparola, kompanija ne „otkriva podatke u vezi sa moderiranjem sadržaja u određenim zemljama“

Bez obzira na alate, rezultati su ponekad vrlo upitni.

U maju 2018. Fejsbuk je na 24 sata blokirao profil bosanskog novinara Dragana Bursaća nakon što je objavio fotografiju logora za Bošnjake u Srbiji tokom raspada Jugoslavije devedesetih.

Fejsbuk je utvrdio da je Bursaćeva objava prekršila „standarde zajednice“, izvestili su lokalni mediji.

Bojan Kordalov, stručnjak za odnose s javnošću i nove medije sa sedištem u Skoplju rekao je da je „prilikom procene efikasnosti u ovoj oblasti važno naglasiti da je promet u Internet prostoru veoma gust i da se povećava svake sekunde, što ga nedvosmisleno čini poljem na kome svi treba da daju svoj doprinos “.

„To znači da su rukovodstva društvenih mreža nesumnjivo odgovorna za ispunjavanje standarda i poštovanje propisa u okviru svojih platformi, ali to ne oslobađa zakonodavce, vlade i institucije od odgovornosti u prilagođavanju potrebama novog digitalnog doba niti daje bilo kome pravo na redefinisanje i sužavanje pojma i koristi koje demokratija donosi “.

Nedostatak jezičkog senzibiliteta


Ilustracija. Foto: Unsplash/The Average Tech Guy

SHARE Fondacija, nevladina organizacija sa sedištem u Beogradu koja se bavi digitalnim pravima, navodi da je to pitanje ključno s obzirom na ogroman obim sadržaja koji  postoji na Fejsbuku i Tviteru na svim jezicima.

„Kada je reč o relativno malim jezičkim grupama, u apsolutnom broju korisnika, poput jezika u bivšoj Jugoslaviji ili čak na Balkanu, jednostavno ne postoji podsticaj ni dovoljan pritisak javnosti i političkih lidera da ulažu u ljudsko moderiranje“, navodi SHARE Fondacija za BIRN.

Berthelemy iz EDRi-a  kaže da Balkan nije jedinstven primer i da su prakse i politike moderiranja sadržaja Fejsbuka i Tvitera „osuđene na neuspeh“.

„Mnoge od ovih korporacija posluju masovno, neke od njih opslužuju do četvrtine svetske populacije jednom uslugom“, rekla je Berthelemy za BIRN. „Nemoguće je da se takva monolitna arhitektura i proces i politika regulacije govora prilagode i zadovolje specifične kulturne i društvene potrebe pojedinaca i grupa.“

Evropski parlament je takođe naglasio važnost kombinovane procene.

„Izrazi mržnje mogu se preneti na mnogo načina, a iste reči koje se obično koriste za prenošenje takvih izraza mogu se koristiti i u različite svrhe“, prema studiji iz 2020. godineUticaj algoritama za mrežno filtriranje ili moderiranje sadržaja, po nalogu Odseka Parlamenta za politiku prava građana i ustavna pitanja.

„Na primer, takve reči mogu se koristiti za osudu nasilja, nepravde ili diskriminacije prema ciljanim grupama ili samo za opis njihovih socijalnih prilika. Dakle, da bi se prepoznao sadržaj mržnje u tekstualnim porukama, mora se pokušati shvatiti značenje takvih poruka, koristeći resurse koje pruža obrada na prirodnom jeziku. “

Hattotuwa je rekao da je, generalno, „za tržišta koja nisu na engleskom jeziku sa pismima koja nisu latinična (tj. nisu engleskim slovima) mnogo teže osmisliti rešenja veštačke inteligencije/mašinskog učenja“.

„I u mnogim slučajevima, ova tržišta su izvan vidokruga i svesti, osim ako nasilje, zlostavljanje ili šteta zbog platforme nisu toliko značajni da dođu do naslovne strane Njujork Tajmsa“, rekao je Hattotuwa za BIRN.

„Ljudi su neophodni za procene, ali kao što znate, postoje ozbiljni emocionalni/PTSP problemi povezani sa nadzorom nasilnog sadržaja zbog kojih su kompanije poput Fejsbuka tužene (i izgubile, jer su morale da plate odštetu).“

Neuspeh u neengleskom okruženju


Ilustracija. Foto: Unsplash/Ann Ann

Dragan Vujanović iz sarajevske nevladine organizacije Vaša prava kritikovao je, kako je rekao, „određeni nivo tolerancije u pogledu kršenja koja podržavaju određene društvene narative“.

„Ovo je posebno očigledno u nedoslednom ponašanju moderatora društvenih medija gde su nalozi sa prilično bezazlenim komentarima zabranjeni ili suspendovani, dok se drugi nalozi, sa otvorenom zloupotrebom i očiglednim negativnim socijalnim uticajem, tolerišu.“

Za Chloe Berthelemy, pokušaj primene jedinstvenog skupa pravila na veoma raznovrstan raspon normi, vrednosti i mišljenja o svim dostupnim temama koje postoje u svetu „osuđen je na neuspeh“.

Mašinsko učenje

Kao što se navodi u studiji iz 2020. godine koju je naručio Evropski parlament, Fejsbuk je razvio pristup mašinskog učenja pod nazivom Whole Post Integrity Embeddings, WPIE, kako bi se bavio sadržajem koji krši Fejsbuk smernice.

Sistem uzima u obzir multimedijalni sadržaj pružajući holističku analizu vizuelnog i tekstualnog sadržaja posta i srodnih komentara u svim dimenzijama neprimerenosti (nasilje, mržnja, golotinja, droga itd.). Kompanija tvrdi da su automatizovani alati poboljšali primenu smernica Fejsbuk sadržaja. Na primer, oko 4,4 miliona stavki sa sadržajem prodaje droga uklonjeno je samo u trećem kvartalu 2019. godine, od čega je 97,6 odsto otkriveno proaktivno.

Kada su u pitanju načini na koje se društvene mreže bave sumnjivim sadržajem, Hattotuwa je rekao da je „kontekst ključan“.

Priznajući napredak u protekle dve do tri godine, Hattotuwa kaže  da, „nijedna veštačka inteligencija (AI) i mašinsko učenje (ML) koje mi je poznato čak ni u kontekstima engleskog jezika ne mogu tačno da identifikuju značenje iza slike“.

„Što se tiče sadržaja koji podstiče na mržnju, povredu i štetu“, rekao je, „to je još veći izazov.“

„Na primer, tamo gde se golotinja smatra osetljivom u Sjedinjenim Državama, druge kulture imaju liberalniji pristup“, rekla je ona.

Primer Mjanmara, kada je Fejsbuk efikasno blokirao čitav jezik odbijajući sve poruke napisane na jingpou, jeziku kojim govori mjanmarski etnički Kačin i napisanom rimskom abecedom, pokazuje razmere problema.

„Platforma vrlo loše funkcioniše u otkrivanju govora mržnje na neengleskim jezicima“, rekla je Berthelemy za BIRN.

Tehnike korišćene za filtriranje sadržaja razlikuju se u zavisnosti od analiziranih medija, prema studiji izrađenee za Evropski parlament 2020. godine.

„Filter može da radi na različitim nivoima složenosti, od jednostavnog upoređivanja sadržaja sa crnom listom, do sofisticiranijih tehnika koje koriste složene tehnike veštačke inteligencije“, navodi se u izveštaju.

„U pristupima mašinskog učenja, sistem je umesto logičnom definicijom kriterijuma koji se koriste za pronalaženje i klasifikovanje sadržaja (npr. da bi se utvrdilo šta se računa kao govor mržnje, kleveta, itd.) obezbeđen ogromnim skupom podataka iz kojih mora samostalno da nauči kriterijume za vršenje takve klasifikacije “.

Korisnici i Tvitera i Fejsbuka mogu se žaliti u slučaju da im nalozi budu suspendovaniu ili blokirani.

„Nažalost, procesu nedostaje transparentnost, jer se broj podnetih žalbi ne pominje u izveštaju o transparentnosti, kao ni broj obrađenih ili vraćenih naloga ili tvitova“, napominje se u studiji.

Između januara i oktobra 2020. godine, Fejsbuk je ponovo vratio oko 50.000 različitih sadržaja bez žalbe i 613.000 nakon žalbe.

Prema izveštaju o transparentnosti Tvitera, u prvih šest meseci 2020. godine kompaniji je prijavljeno 12,4 miliona naloga, od čega je nešto više od šest miliona prijavljeno zbog mržnje i oko 5,1 miliona zbog „zlostavljanja/uznemiravanja“.

U istom periodu, Tviter je suspendovao 925.744 naloga, od kojih je 127.954 označeno zbog govora mržnje, a 72.139 zbog zlostavljanja/uznemiravanja. Kompanija je uklonila takav sadržaj u nešto više od 1,9 miliona slučajeva: 955.212 u kategoriji govora mržnje i 609.253 u kategoriji zlostavljanja/uznemiravanja.

Toskić Cvetinović kaže da pravila moraju biti jasnija i bolje saopštena korisnicima od strane „živih ljudi“.

„Dešava se da uklanjanje sadržaja nema korektivnu funkciju, već cenzorsku“, rekla je ona.

Berthelemy je rekla da, „zbog toga što dominantne platforme reprodukuju socijalne sisteme ugnjetavanja, one su takođe često nebezbedne za mnoge marginalizovane grupe“.

„One nisu u stanju da razumeju diskriminatorsko i nasilno ponašanje na mreži, uključujući određene oblike uznemiravanja i nasilnih pretnji, te stoga ne mogu odgovoriti na potrebe žrtava“,  navela je Berthelemy za BIRN.

„Štaviše,“ rekla je, „te društvene mreže su takođe i reklamne kompanije. One se oslanjaju na zapaljiv sadržaj radi generisanja podataka o profilisanju, a time i profita od reklama. Neće biti efikasnog, sistematskog odgovora bez uzimanja u obzir poslovnih modela prikupljanja i trgovanja ličnim podacima.“

    Ivana Jeremić


    This post is also available in: English (English)