Slepenie dokumenti: Facebook parādās, lai nodrošinātu funkcijas, gūtu peļņu virs lietotāju drošības

Facebook, 13 gadus vecais behemots ar 1,23 miljardiem aktīvo lietotāju, ieņēmumus veido vairāk nekā 8 miljardus ASV dolāru ceturksnī - no tiem 3 miljardi ir tīrie ienākumi (piemēram, peļņa).

Bet, ņemot vērā tik daudz lietotāju, šķiet, ka Facebook lietotāju drošību ir novirzījis uz sekundārām problēmām. Līdz šī gada sākumam Facebook satura pārskatīšanai nodarbināja tikai 4500 cilvēku. Tas izklausās pēc daudziem cilvēkiem, kamēr nesaprotat, ka koplieto tie 1,23 miljardi aktīvo lietotāju miljardiem satura gabalu katru dienu, katru dienu iesniedzot miljoniem lietotāju sūdzību par Facebook saturu.

Vai Facebook ir nopietnas lietotāju drošības problēmas? Tikko publicēts Aizbildnis slepenu, iekšēju dokumentu pārskatīšana liecina, ka tā problēma ir ārpus kontroles.

Facebook atzina, ka tam ir sava veida problēma, kad šī gada sākumā tā piekrita gandrīz divkāršot pārskata personālu - līdz 7500 - apsūdzību par to, ka uzņēmums vienkārši nepietiekami (vai varbūt rūpējas?), Ja potenciāli kaitīgs saturs tiek tirgots visā tās platformā . Jums nav dubultā jūsu moderējošais personāls, ja viss ir grūts.

Tagad, (Lielbritānijas) aizbildnis ir publicējis pārsteidzošu informāciju par Facebook satura moderēšanas vadlīnijām, kas izlaistas no vairāk nekā 100 slepenām, iekšējām apmācības rokasgrāmatām un dokumentācijas. Tas ir nedaudz satraucoši, un viss šis svarīgais saturs nav vienā rokasgrāmatā, kas tiek dota Facebook moderatoriem, kad viņi tiek pieņemti darbā.Tā vietā šķiet, ka tā ir daļēja pieeja politikai, kā rezultātā šķiet pretrunīga informācija, nevienmērīga mērenība un ļoti maz ticamības, kā tās moderēšanas politika faktiski darbojas reālajā pasaulē.

"Facebook nevar kontrolēt savu saturu," teica viens avots. "Tas ir pieaudzis par lielu, pārāk ātri."

Tiek uzskatīts, ka daudziem moderatoriem ir bažas par dažu politiku neatbilstību un īpatnību. Tiek uzskatīts, ka vissarežģītākie un mulsinošākie ir seksuālā satura lietotāji.

Kā tikai viens neliels piemērs tam, cik daudz Facebook moderē satura, raksti atzīmē: "Vienā dokumentā teikts, ka Facebook nedēļā izskata vairāk nekā 6,5 miljonus ziņojumu par potenciāli viltotiem kontiem - pazīstamu kā FNRP (viltus, nevis reāla persona)." Tas attiecas tikai uz viltus kontiem. Iedomājieties, cik daudz vairāk pārskatu ir par faktisko saturu.

Funkcijas pirms domāšanas

Pirms tiek domāts par to, kā cilvēki varētu izmantot (un ļaunprātīgi izmantot) jaunu funkciju, šķiet, ka Facebook dod priekšroku sīkumu izdomāšanai un izdomāšanai, kā to pēc iespējas domāt. Apskatiet video straumēšanas pakalpojumu Facebook Live, kas ļauj cilvēkiem filmēt visu, kas viņu dzīvē notiek šajā brīdī. Kā viņi domāja, kam cilvēki to galu galā izmantos?

"Tajā pašā laikā Facebook tiešraides funkcija tika izmantota slepkavību un pašnāvību pārraidīšanai, un uzņēmums acīmredzami nevarēja preventīvi izslēgt straumes." Duh! Lielākā daļa uzņēmumu, iespējams, pirms kaut ko līdzīgu uzsākšanas domātu: "Hei, mums ir nepieciešams veids, kā nekavējoties ziņot par šādiem problemātiskiem videoklipiem un tos pārtraukt." Acīmredzot, nevis Facebook.

Tas liecina par pastāvīgu problēmu nepārdomāšanu un proaktīvu risināšanu, pirms tās rodas. Vai arī kļūdījies pusē: "Hei, ritēsim ar to un redzēsim, kāda veida sašutumu tas saņem, pirms mēs kaut ko darām." (Tas viss vārda brīvības vārdā, protams, ignorējot faktu, ka Facebook ir globāla platforma.) 1

Kur es atkal ievietoju šo mērenības vadlīniju?

Lai kopiena būtu drošībā, vispirms jāpieņem pietiekami daudz moderatoru, lai viņu darbs būtu patīkams un nepārvarams. Skaidrs, ka Facebook to nav izdarījis, baudot rekordlielu lietotāju pieaugumu, ieņēmumus un peļņu. Bet tas ietver arī pilnvarotas kopienas moderācijas vadību, kas nodrošina, ka viss, kas vajadzīgs viņu darbu veikšanai, ir vienuviet. Pēc viņu pārstāvja domām, tikai tagad Facebook, domājams, dziļāk domā par labāku rīku nepieciešamību: "Papildus ieguldījumiem vairāk cilvēku, mēs veidojam arī labākus rīkus, lai mūsu sabiedrība būtu drošībā," viņa teica The Guardian. "Mēs padarīsim vienkāršāku ziņošanu mums par problēmām, lai mūsu recenzenti varētu ātrāk noteikt, kuras ziņas pārkāpj mūsu standartus, un viņiem ir vieglāk sazināties ar tiesībaizsardzības iestādēm, ja kādam nepieciešama palīdzība."

Un varbūt salikt tos visus vienā rokasgrāmatā? Tātad moderatori zina, kur meklēt, un vai visas vadlīnijas ir konsekventas?

Pašnodarbinātības videoklipi ir pilnīgi labi Facebook pasaulē, jo šī persona ir "nonākusi nelaimē". Tāpat ir nežēlība pret dzīvniekiem (varbūt tāpēc, ka dzīvnieks ir nonācis nelaimē?). "Atriebības pornogrāfija" arī ir labi, ja moderators nevar apstiprināt abu pušu piekrišanas trūkumu (ko, es domāju, varētu būt diezgan grūti izdarīt savlaicīgi).

"Daži fotoattēli, kuros redzama fiziska vardarbība, kas nav seksuāla, un bērnu iebiedēšana, nav jāizdzēš vai" jārīkojas ", ja vien nav sadistiska vai svinīga elementa." Kamēr jūs turat sadismu un svinības ārpus saviem vardarbīgajiem attēliem un videoklipiem, acīmredzot Facebook tos atļaus.

Saskaņā ar dokumentiem: “Vardarbīgu nāves gadījumu videoklipi ir satraucoši, bet var palīdzēt radīt izpratni. Attiecībā uz videoklipiem mēs uzskatām, ka nepilngadīgajiem nepieciešama aizsardzība, bet pieaugušajiem - izvēle. Mēs atzīmējam kā “satraucošus” videoklipus par cilvēku vardarbīgu nāvi. ” Nav skaidrs, kur pašnāvniecisks saturs, piemēram, tiešraides video vai draudi, ietilpst Facebook mērenības politikā, taču šķiet, ka tas ir atļauts.

Facebook ir jānosaka prioritātes lietotāju drošībai

Daži ir aicinājuši stingrāk regulēt Facebook, jo tas ir visa šī satura vārtsargs (līdzīgi kā televīzijas raidorganizācija ir sava tīkla satura vārtsargs):

Lielbritānijas parlamenta deputātu 1. maijā publicētajā ziņojumā teikts, ka “lielākie un bagātākie sociālo mediju uzņēmumi ir apkaunojoši tālu no pietiekamas rīcības, lai apkarotu nelegālu vai bīstamu saturu, ieviestu atbilstošus kopienas standartus vai aizsargātu savus lietotājus”.

Kļūdīšanās “vārda brīvības” pusē var šķist laba ideja, it īpaši amerikāņu uzņēmumam. Bet sociālie tīkli galvenokārt ir tiešsaistes kopienas - tie nav līdzīgi laikrakstiem. Facebook galvenais mērķis ir savienot cilvēkus savā starpā. No tā izriet, ka viņu vadlīnijas vairāk atspoguļotu šo daudzveidību un būtu izstrādātas šīs kopienas drošībai, nevis kaut kāda veida ziņu publicēšanas mantra vai tukša ideoloģija.

Mēs vēlētos, lai Facebook būtu pārredzamāks par veidiem, kā tas katru dienu vada miljoniem cilvēku un satura gabalu. Lielāka uzmanības pievēršana šiem jautājumiem palīdz norādīt uz problēmām un dod iespēju Facebook uzlabot savas kopienas drošību. Mēs vēlētos redzēt, ka Facebook daudz vairāk ienākumu gūst, lai nodrošinātu, ka tam ir pietiekami daudz darbinieku, lai nodrošinātu platformas drošību. Visiem lietotājiem.

Lai iegūtu papildinformāciju

Zemsvītras piezīmes:

1. Ak, un ņemiet vērā, ka, ja jums Facebookā ir vēl 100 000 sekotāju, viņu acīs tas padara jūs par "publisku personu" - un uz to neattiecas parasto cilvēku privātums vai citi aizsardzības pasākumi. [↩]