Dünyanın en büyük sosyal medya ağı Facebook hemen herkesin hayatının bir alanını kapsamış durumda milyarlarca kullanıcısı olan sosyal ağ devinin içerik denetleme uzmanlarının sıradışı hayatları ve karşılaştığı hayatlarında derin iz bırakacak olaylar.İçerik uyarısı : Bu hikaye, ciddi zihinsel sağlık sorunları ve ırkçılık tartışmalarını içermektedir.Panik ataklar Chloe bir adamın öldüğünü izledikten sonra başladı.Son üç buçuk haftayı eğitimde harcadı, rahatsız edici görevlerin günlük saldırısına karşı kendini sertleştirmeye çalıştı: nefret söylemi, şiddetli saldırılar, grafik pornografi. Birkaç gün içinde, tam zamanlı bir Facebook içerik denetleyicisi veya onun için çalıştığı şirketin, Cognizant adlı profesyonel bir hizmet satıcısı olacağına kesin olarak “süreç yöneticisi” adını verir.Eğitiminin bu bölümü için, Chloe, kursiyerlerinin önünde bir Facebook gönderisini denetlemek zorunda kalacak. Sıra geldiğinde, bir monitörün dünyanın en büyük sosyal ağına gönderilen bir videoyu gösterdiği odanın önüne yürür. Chloe, katılımcıların hiçbiri daha önce görmemiş. Oynatır.Videoda bir adamın öldürüldüğü gösteriliyor. Birisi onu bağırıyor, onlarca kez, çığlık atıyor ve hayatı için yalvarıyor. Chloe'nin görevi odaya bu gönderinin kaldırılıp kaldırılmayacağını söylemektir. Facebook topluluk standartlarının 13. bölümünün bir veya daha fazla insanın cinayetini gösteren videoları yasakladığını biliyor. Chloe bunu sınıfa açıkladığında, sesini titrediğini duyar.Yerine döndüğünde, Chloe, ağlamaya zorlayıcı bir dürtü hissediyor. Başka bir stajyer bir sonraki yazıyı gözden geçirdi, ancak Chloe konsantre olamıyor. Odadan ayrılır ve nefes almakta zorlanacağı kadar ağlamaya başlar.Kimse onu rahatlatmaya çalışmıyor. Yapması gereken işe bu oldu. Ve Chloe gibi 1000 kişi için Phoenix sitesinde Facebook için içerik düzenleme ve dünya çapında 15.000 içerik yorumcusu için, bugün ofisteki bir başka gün daha.Geçtiğimiz üç ay boyunca Phoenix'teki bir düzine şu anki ve eski çalışanı olan Cognizant ile görüştüm. Hepsi, Cognizant ile yaptığı açıklamada, Facebook'taki çalışmalarını tartışmamaya söz verdikleri ve hatta Facebook'un Cognizant'ın müşterisi olduğunu kabul ettiklerini açıklamadı. Gizliliğin kapatılması, çalışanları bir içerik denetleme kararına kızabilecek ve bilinen bir Facebook yüklenicisi ile çözmeyi amaçlayan kullanıcıları korumak içindir. NDA'ların ayrıca yüklenicilerin, Facebook kullanıcılarının kişisel bilgilerini dış dünyayla paylaşmalarını ve veri gizliliği konularında yoğun bir inceleme yapmalarını engelleme amaçlıdır.Ancak gizlilik ayrıca Cognizant ve Facebook'u çalışma koşulları hakkındaki eleştiriden de izole ediyor, dedi. İzolasyon ve endişe duygularının artmasına yol açan, sevdiklerinde bile işlerinin üstlendikleri duygusal sorunları tartışmamaları için baskı altındalar. Onları hem işverenlerinden hem de Facebook kullanıcılarından gelen olası misillemelere karşı korumak için, Cognizant'ın iş süreci hizmetleri operasyonları başkan yardımcısı Bob Duncan ve Facebook'un global ortak satıcı yönetimi yönetimi başkanı hariç, bu hikayede adı geçen herkes için takma adlar kullanmayı kabul ettim. Mark Davidson.
Birisine “en sevdiğim n -----” diyen bir postanın kalmasına izin verilir, çünkü politika uyarınca “açıkça olumlu içerik” olarak kabul edilir.“Otistik insanlar sterilize edilmelidir” ona saldırgan görünüyor, ama aynı zamanda kalıyor. Otizm, ırk ve cinsiyetin olduğu gibi “korunan bir özellik” değildir ve bu nedenle politikayı ihlal etmez. (“Erkekler kısırlaştırılmalıdır”).Ocak ayında, Facebook, moderatörlerin bir cinsiyete yönelik nefreti ifade eden gönderileri değerlendirirken son dönemde yaşanan romantik karışıklığı göz önünde bulundurmaları gerektiğini belirten bir politika güncellemesi yayınlar. “Tüm erkeklerden nefret ediyorum” politikasını daima ihlal etti. Ama “sadece erkek arkadaşımdan ayrıldım ve tüm erkeklerden nefret ediyorum” artık yok.Miguel, nakilleri kuyruğunda çalışıyor. Belirli bir sıra ile gelmiyorlar.İşte ırkçı bir şaka. İşte bir çiftlik hayvanıyla seks yapan bir adam. İşte uyuşturucu karteli tarafından kaydedilen cinayetin grafik videosu. Miguel'in yorumlarının bazıları Facebook'ta, zorbalık ve nefret dolu konuşmaların daha yaygın olduğunu söylüyor; diğerleri, kullanıcıların takma adlar altında gönderebilecekleri ve daha fazla şiddet, çıplaklık ve cinsel etkinliği paylaşma eğiliminde oldukları Instagram'da.
Phoenix sitesinde, beş günlük namazlarından birini gerçekleştirmek için sağlık zamanını kullanan Müslüman işçilere, uygulamayı durdurmaları ve diğer mola zamanlarında yapmaları söylendi, şimdiki ve eski çalışanlar söyledi. Yöneticilerinin niçin namaz kılmayı sağlıklı yaşam programının geçerli bir kullanımı olarak görmediklerini belirttiğim çalışanlar için belirsizdi. (Bir davaya aşina olan bir kişi bana, bir şirketin aşırı olarak kabul ettiği günlük dua için 40 dakikadan fazla bir süre talep ettiğini söylese de, Cognizant bu olaylar hakkında yorumda bulunmadı.)Yetkili çalışanlara, bulundukları zaman danışmanları ziyaret ederek işlerin stresiyle başa çıkmaları söylenir; yardım hattını arayarak; ve bir avuç terapi seansı sunan bir çalışan yardımı programını kullanarak. Daha yakın zamanlarda, yoga ve diğer terapötik aktiviteler çalışma haftasına eklendi. Ancak ara sıra danışman ziyaretlerinin yanı sıra, konuştuğum altı çalışan bu kaynakları yetersiz bulduğunu söyledi. Bana iş stresiyle başka yollarla başa çıktıklarını söylediler: seks, uyuşturucu ve saldırgan şakalar.Cognizant çalışanlarının işyerinde seks yaptıkları yerler arasında: banyo tezgahları, merdiven boşlukları, otopark ve emziren annelere ayrılmış oda. 2018'in başlarında güvenlik ekibi, konuyla ilgili bilgi sahibi olan yöneticilere davranışlarını bildiren bir not gönderdi. Çözüm: yönetim, ana odadan ve diğer özel odalardan bir avuç kapı kilidini kaldırdı. (Annenin odası şimdi tekrar kilitlenir, ancak kullanıcılar, öncelikle bir yöneticiden bir anahtarı kontrol etmelidir.)
Sara adında eski bir moderatör, işlerinin etrafındaki gizliliğin, işin zorluğuyla birleştiğinde, çalışanlar arasında güçlü bağlar oluşturduğunu söyledi. “İş arkadaşlarınıza çok çabuk yaklaşıyorsunuz” diyor. “Arkadaşlarınızla veya ailenizle işiniz hakkında konuşmanıza izin verilmiyorsa, bu biraz mesafe yaratacaktır. Bu insanlara daha yakın hissedebilirsiniz. Gerçekte sadece travma bağı kurduğunuzda, duygusal bir bağlantı gibi geliyor. ”Çalışanlar ayrıca, kampüs içinde ve dışında, uyuşturucu ve alkol kullanabiliyor. Eski bir moderatör olan Li, bana işinde esrar kullandığını söyledi. Molalarda, küçük çalışan gruplarının genellikle dışarı çıkıp sigara içtiğini söylüyor. (Arizona'da tıbbi esrar kullanımı yasal.)Li, “Size kaç kişiyle içtiğimi bile söyleyemem” diyor. “Çok üzücü, tekrar düşündüğümde - gerçekten kalbime zarar veriyor. Aşağı inip taşlanarak işimize geri dönerdik. Bu profesyonel değil. Dünyanın en büyük sosyal medya platformuna yönelik içerik denetleyicilerinin, işi yönetirken, içerik düzenlerken… ”
Chloe, işini bıraktığından bu yana aylarda travma belirtileri geçirdi. Anne filmi sırasında sinemada panik atak geçirmeye başladı ! Şiddetli bir bıçaklama çılgınlığı, meslektaşlarının önünde yönettiği ilk videonun anısını tetiklediğinde. Başka bir sefer, makineli tüfek ateşi duyduğunda kanepede yatıyordu ve panik atak geçirdi. Evinde birileri şiddetli bir TV şovu açtı. “Çıldırmaya başladı” diyor. “Kapatmaları için onlara yalvarıyordum.”Saldırılar onu, özellikle başlamadan önce programdan çıkmayanlar, diğer kursiyerler hakkında düşündürür. “Bir çok insan aslında eğitimden geçemiyor” diyor. “Dört hafta boyunca geçiyorlar ve sonra kovuluyorlar. Benim de yaşadığım deneyime sahip olabilirlerdi ve bundan sonra danışmanlara kesinlikle erişemezlerdi. ”Geçen hafta, Davidson söyledi, Facebook, şirketin “esnekliğini” ne dediğini ölçmek için travmatik bir içerik görmekten vazgeçme ve işlerini yapmaya devam etme yeteneklerini ölçmek için bir moderatör test grubunu araştırmaya başladı. Şirket, testi küresel olarak tüm moderatörler için genişletmeyi umuyor, dedi.Randy de yaklaşık bir yıl sonra ayrıldı. Chloe gibi bıçaklama videosuyla travma geçirdi. Kurban onun yaşıyla ilgiliydi ve annesinin ağlarken öldüğünü hatırladığını hatırlıyor.“Her gün bunu görüyorum” diyor Randy, “Bıçaklara karşı gerçekten korkuyorum. Yemek yapmayı seviyorum - mutfağa geri dönmek ve bıçakların etrafında olmak benim için gerçekten zor. ”İş aynı zamanda dünyayı görme şeklini de değiştirdi. 9 / 11'in terörist bir saldırı olmadığını söyleyen birçok videoyu gördükten sonra, onlara inanmaya geldi. Las Vegas katliamıyla ilgili komplo videoları da çok ikna edici olduğunu söyledi ve şimdi saldırıdan çok sayıda atıcının sorumlu olduğuna inanıyor. (FBI katliamın tek bir silahlı adamın işi olduğunu buldu
ARIZONA'DA COGNIZANT IÇIN ÇALIŞAN BIR IÇERIK MODERATÖRÜ YILDA SADECE 28.800 $ KAZANIYOR
Toplu olarak çalışanlar, kaosun eşiğine sürekli olarak zarar veren bir iş yeri tanımladı. İşçilerin intihar etme hakkında kara şakalar söyleyerek başa çıktıkları, sonra molalar sırasında duygularını uyuşturmak için ot içtikleri bir ortam. Çalışanların haftada sadece birkaç hata yapmak için kovulabilecekleri ve intikam almak isteyen eski meslektaşlarının korkusuyla yaşadıkları bir yer.Facebook çalışanlarına hükmedilen ikramiyelerin aksine , ekip liderlerinin mikro-yönetmenlik içerik moderatörlerinin her banyosunda ve dua molasında olduğu bir yer; bir dopamin için çaresiz çalışanların, sefaletin ortasında acele ettiği, merdivenlerde ve emziren annelere ayrılmış bir odada seks yaptıkları; insanların hala eğitimdeyken ciddi kaygı geliştirdikleri ve gittikten uzun süre sonra travma belirtileri ile mücadele etmeye devam ettikleri; ve Cognizant'ın onlara sunduğu danışmanlığın, istifa ettikleri anda bittiği yerde - ya da sadece bıraktıkları yerde.Moderatörler, bana her gün gittikçe gördükleri komplo videolarının ve hatıralarının kendilerini perişan bakış açıları çekmelerine yönlendirdiği bir yer olduğunu söyledi. Bir denetçi, Dünya'nın düz olduğu fikrini artırarak yere yürüyor. Eski bir çalışan, Holokost'un bazı yönlerini sorgulamaya başladığını söyledi. Her kaçış yolunu evinden çıkardığını ve yanına silahla yattığını söyleyen eski bir çalışan, “9 / 11'in artık terörist bir saldırı olduğuna inanmıyorum” dedi.Chloe bir süre mola odasında ve sonra banyoda ağlıyor, ancak çok fazla eğitim almaması nedeniyle endişelenmeye başlıyor. Başvururken bir iş için çılgına dönmüştü, yeni bir üniversite mezunu olarak, başka bir acil müşterisi olmadan. Tam zamanlı bir moderatör olduğunda, Chloe saatte 15 dolar kazanıyor - yaşadığı Arizona'daki asgari ücretin 4 dolardan fazla ve çoğu perakende işinden beklediğinden daha iyi.Gözyaşları sonunda durur ve nefesi normale döner. Eğitim odasına geri döndüğünde, arkadaşlarından biri başka bir şiddetli videoyu tartışıyor. Bir dronun insanları havadan fırlattığını görüyor. Chloe, cesetlerin ölürken gevşemelerini izliyor.Yine odadan ayrıldı.Sonunda bir süpervizör onu banyoda bulur ve zayıf bir kucaklama sunar. Cognizant bir çalışanı çalışanlar için erişilebilir hale getirir, ancak günün sadece bir bölümünde işe yaramadı. Chloe bir saatin daha iyi bir kısmı için onu bekler.Danışman onu gördüğünde, panik atak geçirdiğini açıklar. Mezun olduğunda, Facebook videolarını eğitim odasındakinden daha fazla kontrol edeceğini söyledi. Videoyu duraklatabilecek, ona söyleyebilecek veya sesli olarak izleyebileceksiniz. Solunumuna odaklan, diyor. İzlediğiniz şeye fazla yakalanmadığınızdan emin olun.Chloe, “Endişelenme demedi - muhtemelen hala işi yapabilirim” dedi. Sonra kendini yakaladı: “ Endişesi şuydu: Endişelenme, işi yapabilirsin.”O n3 Mayıs 2017'de Mark Zuckerberg, Facebook'un “topluluk operasyonları” ekibinin genişlemesini açıkladı . Mevcut 4.500 moderatöre eklenecek olan yeni çalışanlar, şirketin topluluk standartlarını ihlal ettiği bildirilen her türlü içeriği incelemekten sorumlu olacak. 2018 yılının sonunda, sosyal ağda şiddet içeren ve sömürücü içeriklerin yaygınlığının eleştirilmesine yanıt olarak, Facebook'un yaklaşık yarısı içerik denetleyicisi olan güvenlik ve güvenlik alanında çalışan 30.000'den fazla çalışanı vardı.Moderatörler, tam zamanlı çalışanlardan bazılarını içerir, ancak Facebook, işi yapmak için büyük ölçüde sözleşmeli emeğe güvenir. Facebook'un operasyonlar başkan yardımcısı Ellen Silver, geçtiğimiz yıl yapılan bir blog yazısında, sözleşmeli işçilik kullanımının Facebook'un “ dünya çapında ölçeklenebilmesine ” izin verdiğini söyledi - günün her saatinde çalışan içerik denetleyicilerinin 50'den fazla dilde yayın yapanları değerlendirdi. Dünyada 20 site.Sözleşmeli emek kullanımının Facebook için de pratik bir faydası var: çok daha ucuz. Medyan Facebook çalışanı , yıllık olarak maaş, ikramiye ve hisse senedi opsiyonlarında 240.000 dolar kazanıyor . Öte yandan Arizona'da Cognizant için çalışan bir içerik moderatörü yılda sadece 28.800 $ kazanacak. Düzenleme, Facebook'un yüksek kar marjını korumasına yardımcı oluyor. En son çeyreğinde, şirket 16,9 milyar dolar gelirle 6,9 milyar dolar kar elde etti . Zuckerberg, yatırımcıları Facebook'un güvenliğe yaptığı yatırımın şirketin karlılığını azaltacağı konusunda uyarırken, karlar bir önceki yıla göre yüzde 61 arttı.Adrian Chen zaman 2014 yılından bu yana, içerik moderatörler için zor çalışma şartlarını ayrıntılı için sosyal ağlar en Wired , Facebook onun düşük ücretli işçilerin bazı travmatik olduğunu eleştiriye duyarlı olmuştur. Gelen onun blog post , Gümüş onların baş etme becerileri onları tarama ‘şiddet görüntüleri ile başa çıkmak için yetenek’ Facebook potansiyel kolaylaştırıcı değerlendirir söyledi.Cognizant'ın Kuzey Amerika'daki içerik denetleme operasyonlarını denetleyen Bob Duncan, işe alım uzmanlarına işin grafik doğasını dikkatlice başvuru sahiplerine açıkladığını söylüyor. “Görebildiğiniz türlerin örneklerini paylaşıyoruz… böylece onların bir anlayışa sahip olmasını” diyor. “Bütün bunların amacı insanların bunu anlamalarını sağlamak. Ve eğer çalışmalarının kendi durumlarına göre kendileri için uygun olduğunu düşünmüyorlarsa, bu kararları uygun şekilde alabilirler. ”Yakın zamana kadar çoğu Facebook içerik denetimi ABD dışında yapıldı. Ancak, Facebook'un işgücüne olan talebi arttıkça, yerel operasyonlarını Kaliforniya, Arizona, Teksas ve Florida'daki siteleri içerecek şekilde genişletti.BILIŞSEL IŞÇILERIN ZAMANI IKINCIYE KADAR YÖNETILIR.
Facebook’un Davidson’ı, ABD’nin şirketin evi ve en popüler olduğu ülkelerden biri olduğunu söylüyor. Amerikalı moderatörler, genellikle ülkeye özgü argo içeren, zorbalık ve nefret dolu konuşmayı içerebilecek ABD içeriğini değerlendirmek için gerekli kültürel içeriğe sahip olma ihtimalinin daha yüksek olduğunu söylüyor.Facebook ayrıca, Davidson’un “son teknoloji tesisleri” olarak adlandırdığı şeyi inşa etmeye çalıştı, bu yüzden bir Facebook ofisini kopyaladılar ve Facebook’un kendilerine bakmalarını ve hissetmelerini sağladılar. Bu önemliydi çünkü bazen pazarda bazen insanlarımızın çok karanlık, kirli bodrum katlarında, sadece yeşil bir ekranla aydınlatılan bir algı olduğu da vardı. Bu gerçekten durum böyle değil. ”Cognizant'ın Phoenix konumunun ne karanlık ne de kirli olduğu doğrudur. Ve çalışanlara bilgisayarları olan masaları sunarken, diğer Facebook ofislerine çok benzeyebilir. Ancak, Facebook'un Menlo Park merkezindeki çalışanlar, Frank Gehry tarafından tasarlanan havadar ve güneşli bir kompleksin içinde çalışırken, Arizona'daki müteahhitleri, az sayıda banyo tezgahı için uzun hatların çalışanlarının çoğunun sınırlı zamanını alabildiği, sıkışık bir alanda çalışıyor. Ve Facebook çalışanları günlerini nasıl idare ettikleri konusunda geniş bir özgürlüğe sahipken, Cognizant işçilerinin zamanı ikinciye kadar yönetiliyor.Miguel adında bir içerik moderatörü başlamadan hemen önce gündüz vardiyasına geldi, sabah saat 7'de Phoenix'te bir ofis parkında iki katı olan işyerine filtre uygulayacak yaklaşık 300 işçiden biri.Güvenlik personeli, giriş yapanlar, hoşnutsuz eski çalışanlar ve kaldırılan görevler üzerinden moderatörlerle karşılaşabilecek Facebook kullanıcıları için görüşmelerde bulunmaya devam ediyor. Miguel ofise girdi ve dolaplara yöneldi. Dolaşacak kadar az sayıda dolap var, bu nedenle bazı çalışanlar ertesi gün bir tanesine sahip olmalarını sağlamak için bir gece boyunca eşyaları içeride tutuyorlar.Dolaplar, molalar sırasında insanlarla boğulan dar bir koridorda bulunur. Yayınlarını inceledikleri Facebook kullanıcılarının gizliliğini korumak için çalışanların, çalıştıkları sırada telefonlarını kilitli dolaplarda tutmaları gerekir.Miguel'in bir Facebook kullanıcısının kişisel bilgilerini yazması istenirse, mutfak eşyaları ve kağıt yazmaya da izin verilmez. Bu politika, sakız sarmalayıcıları gibi küçük kağıt artıklarını kapsar. El losyonu gibi daha küçük nesnelerin şeffaf plastik torbalara yerleştirilmesi gerekir, böylece yöneticilere her zaman görünürler.Dört günlük vardiyaya (ve yüksek çalışan devrine) uyum sağlamak için çoğu kişiye Cognizant'ın “üretim alanı” dediği şeyle ilgili kalıcı bir masa atanmayacak. Bunun yerine, Miguel açık bir iş istasyonu bulur ve Tek Gözden Geçirme olarak bilinen bir yazılıma giriş yapar. Aracı veya SRT. Çalışmaya hazır olduğunda, “incelemeye devam et” etiketli bir düğmeyi tıklatır ve gönderilerin kuyruğuna dalar.Geçtiğimiz Nisan ayında, belgelerin çoğunun Guardian'da yayınlanmasından bir yıl sonra , Facebook , 2.3 milyar aylık kullanıcısını yönetmeye çalıştığı topluluk standartlarını kamuoyuna açıkladı. Daha sonraki aylarda, Anakart ve Radiolab , bu kadar geniş bir konuşmayı düzenlemenin zorlukları hakkında ayrıntılı araştırmalar yayınladılar.“OTISTIK INSANLAR KISIRLAŞTIRILMALI” ONA SALDIRGAN GÖRÜNÜYOR, ANCAK KALIYOR
Bu zorluklar, direk görev hacimlerini; tek bir kurallar dizisini tutarlı bir şekilde uygulamak için düşük ücretli işçilerden oluşan bir küresel orduyu eğitme ihtiyacı; günlük kurallara yakın değişiklikler ve bu kurallardaki açıklamalar; moderatörler adına kültürel veya politik bağlam eksikliği; anlamlarını belirsizleştiren yazılardaki eksik bağlam; ve moderatörler arasında kuralların bireysel durumlarda uygulanıp uygulanmaması gerektiği konusunda sık sık anlaşmazlıklar.Böyle bir politikanın uygulanmasındaki yüksek zorluk derecesine rağmen, Facebook Cognizant ve diğer müteahhitlerine “doğruluk” adı verilen bir metriğe vurgu yapma talimatı verdi. Doğruluk, bu durumda, Facebook müteahhitlerin kararlarının bir alt kümesini denetlediğinde, tam zamanlı çalışanlarının müteahhitlerle aynı fikirde olduğu anlamına gelir. Şirket, yüzde 95'lik bir doğruluk hedefi belirledi; her zaman ulaşılamayacak gibi görünüyor. Cognizant, uzun bir süre boyunca asla hedefe ulaşmadı - genellikle 80'lerin veya 90'ların üzerinde yüzüyor ve basın saatinde 92 civarında seyrediyordu.Miguel politikayı özenle uyguluyor - bana söylese de, genellikle ona bir şey ifade etmiyor.Birisine “en sevdiğim n -----” diyen bir postanın kalmasına izin verilir, çünkü politika uyarınca “açıkça olumlu içerik” olarak kabul edilir.“Otistik insanlar sterilize edilmelidir” ona saldırgan görünüyor, ama aynı zamanda kalıyor. Otizm, ırk ve cinsiyetin olduğu gibi “korunan bir özellik” değildir ve bu nedenle politikayı ihlal etmez. (“Erkekler kısırlaştırılmalıdır”).Ocak ayında, Facebook, moderatörlerin bir cinsiyete yönelik nefreti ifade eden gönderileri değerlendirirken son dönemde yaşanan romantik karışıklığı göz önünde bulundurmaları gerektiğini belirten bir politika güncellemesi yayınlar. “Tüm erkeklerden nefret ediyorum” politikasını daima ihlal etti. Ama “sadece erkek arkadaşımdan ayrıldım ve tüm erkeklerden nefret ediyorum” artık yok.Miguel, nakilleri kuyruğunda çalışıyor. Belirli bir sıra ile gelmiyorlar.İşte ırkçı bir şaka. İşte bir çiftlik hayvanıyla seks yapan bir adam. İşte uyuşturucu karteli tarafından kaydedilen cinayetin grafik videosu. Miguel'in yorumlarının bazıları Facebook'ta, zorbalık ve nefret dolu konuşmaların daha yaygın olduğunu söylüyor; diğerleri, kullanıcıların takma adlar altında gönderebilecekleri ve daha fazla şiddet, çıplaklık ve cinsel etkinliği paylaşma eğiliminde oldukları Instagram'da.
“DOĞRULUK SADECE ANLAŞMA ILE DEĞERLENDIRILIR ...”
Her yazı Miguel'e iki ayrı fakat ilgili sınavla sunar. İlk olarak, bir gönderinin topluluk standartlarını ihlal edip etmediğini belirlemelidir. O zaman neden standartları ihlal ettiği doğru nedeni seçmeli. Bir gönderinin kaldırılması gerektiğini doğru bir şekilde anlarsa, ancak “yanlış” nedeni seçerse, bu doğruluk puanına sayılır.Miguel işinde çok iyidir. En fazla meşru (rahatsız edici) konuşmayı korurken, Facebook'u en kötü içeriğini temizlemek için çaba göstererek bu görevlerin her birinde doğru önlemi alacaktır. Her maddeye 30 saniyeden daha az zaman harcayacak ve bunu günde 400 kereye kadar yapacak.Miguel'in bir sorusu olduğunda, elini kaldırıyor ve Facebook'un politikaları hakkında daha kapsamlı bir bilgiye sahip olması beklenen bir müteahhit olan “bir konu uzmanı” (KOBİ) - Miguel’in başına saatte 1 dolar kazandıran bir müteahhit . Ancak bu, Miguel'in zamanına mal olacak ve gözden geçirecek kotaları olmamasına rağmen, yöneticiler verimliliğini izliyor ve sayı 200'lere girdiğinde kendisini açıklamasını istiyor.Miguel'in 1.500 civarında haftalık kararlarından Facebook, denetlemek için rastgele 50 veya 60'ı seçecek. Bu gönderiler ikinci bir Cognizant çalışanı tarafından gözden geçirilecek - ayrıca bir QA olarak bilinen ve aynı zamanda Miguel'den daha fazla saat başına 1 dolar yapan bir kalite güvence çalışanı. Tam zamanlı Facebook çalışanları daha sonra bir QA kararları alt grubunu denetler ve bu toplu görüşmelerden doğruluk puanı elde edilir.Miguel, doğruluk rakamının karanlık bir görüntüsünü alır.“Doğruluk, sadece anlaşma ile değerlendirilir. Hem ben hem de denetçi, eroin satışının açık olmasına izin verirse, Cognizant 'haklıydı' çünkü ikimiz de aynı fikirdeyiz ”dedi. “Bu sayı sahte.”Facebook'un tek görüşlü, ılımlılık meseleleriyle ilgili yıllarca süren eleştiriyi sürdürdükten sonra geliştirilen doğruluk üzerine odaklanması. Her gün milyarlarca yeni gönderi geldiğinde, Facebook her tarafta baskı hissediyor. Bazı durumlarda, şirket yeterince yapmadığı için eleştirildi - Birleşmiş Milletler araştırmacıları , Myanmar'daki Rohingya topluluğunun soykırımı sırasında nefret söyleminin yayılmasında karmaşık olduğunu gördüklerinde. Diğerlerinde, aşırı erişim için eleştirildi - bir moderatör Bağımsızlık Bildirgesi'ni geçen bir yazıyı çıkardığında olduğu gibi . (Thomas Jefferson, sonunda “Hintli vahşiler” ifadesinin kullanılmasını yasaklayan Facebook'un konuşma yönergelerine ölümcül bir muafiyet kazandırdı.)Moderatörlerin doğruluk hedeflerine ulaşmak için mücadele etmelerinin bir nedeni, herhangi bir politika uygulama kararında dikkate alınması gereken birçok gerçek kaynağa sahip olmalarıdır.Uygulamanın yasal kaynağı, Facebook'un halka açık topluluk yönergeleridir - iki belge grubundan oluşur: kamuya açık olanlar ve karmaşık konular hakkında daha ayrıntılı bilgi sunan daha uzun iç kılavuzlar. Bu belgeler, ılımlı dikenli sorular hakkında ek yorum ve rehberlik sağlayan “Bilinen Sorular” olarak adlandırılan 15.000 kelimelik ikincil bir belge ile topluluğa eklenmiştir - topluluk rehberlerinin Tevratına bir tür Talmud. Denetçilerin günlük olarak çapraz başvuruda bulunmaları gereken uzun ve tek bir belgeyi işgal etmek için kullanılan Bilinen Sorular; geçen yıl daha kolay arama için iç topluluk kurallarına dahil edildi.Üçüncü bir hakikat kaynağı, moderatörlerin kendi aralarında yaptıkları tartışmalardır. Kitlesel atışlar gibi son dakika haberleri sırasında moderatörler, bir grafik görüntünün silinecek veya rahatsız edici olarak işaretlenmiş kriterleri karşılayıp karşılamadığı konusunda fikir birliğine varmaya çalışacaklar. Ancak bazen yanlış bir fikir birliğine varıyorlar, moderatörler ve yöneticilerin doğru kararı açıklamak için yere yürümek zorunda kaldıklarını söyledi.Dördüncü kaynak belki de en sorunlu olanı: Facebook'un bilgi dağıtımı için kendi iç araçları. Resmi politika değişiklikleri tipik olarak Çarşamba günleri gelmekle birlikte, gelişmekte olan konular hakkında artan rehberlik günlük olarak dağıtılmaktadır. Genellikle, bu rehber, 2016 yılında şirketin tanıttığı Facebook'un kurumsal versiyonu olan Workplace'e gönderilir.. Facebook’un kendisi gibi, Workplace’in de etkileşime dayalı gönderileri gösteren algoritmik bir Haber Kaynağı var. Kitlesel atışlar gibi son dakika haberi sırasında, yöneticiler genellikle bireysel içerik parçalarının nasıl yönetileceği hakkında çelişkili bilgiler yayınlar ve bu da İşyerinde kronolojik sıradan ortaya çıkar. Mevcut ve eski altı çalışan, beslemelerinin tepesinde eski bir yazı görmeye dayanarak ölçülü hatalar yaptıklarını söyledi. Zaman zaman, sanki Facebook'un kendi ürünü onlara karşı çalışıyormuş gibi hissediyor. İroniler moderatörler üzerinde kaybolmuyor.SANKI FACEBOOK'UN KENDI ÜRÜNÜ ONLARA KARŞI ÇALIŞIYORMUŞ GIBI HISSEDIYOR.
Eski bir moderatör olan Diana “Her zaman oldu” diyor. “Korkunçtu - şahsen uğraşmam gereken en kötü şeylerden biriydi, işimi düzgün bir şekilde yapabilmek için.” 2017 Las Vegas çekimleri gibi ulusal trajedi zamanlarında, yöneticiler moderatörlere bir videoyu kaldırmalarını söyleyecekti - ve sonra, birkaç saat sonra ayrı bir gönderiye, bırakmak için. Moderatörler, İşyerinde hangi görevde bulunduklarına dayanarak karar vereceklerdi.Diana, “Çok büyük bir karmaşa oldu” diyor. “Karar vermemize uymamız gerekiyordu ve rakamlarımızı karıştırıyordu.”Politika değişiklikleriyle ilgili işyeri gönderileri, Cognizant işçileri ile ılımlı özel konular hakkında paylaşılan zaman zaman kayma desteğiyle desteklenir - genellikle Parkland çekimleri gibi acımasız yıldönümlerine bağlıdır. Ancak bu sunumlar ve diğer ek materyaller çoğu zaman utanç verici hatalar içeriyor, moderatörler söyledi. Geçen yıl boyunca, Facebook'tan gelen iletişim bazı ABD temsilcilerini senatör olarak yanlış tanımladı; bir seçim tarihini kaçırdı; Parkland atışlarının gerçekleştiği lise için yanlış isim verdi. (Marjory Stoneman Douglas Lisesi, “Stoneham Douglas Lisesi” değil.)Sürekli değişen kural kitaplarında bile, denetleyicilere yalnızca en ince hata payı verilir. İş, içinde 100 puanla başladığınız (mükemmel bir doğruluk puanı) başlattığınız yüksek bahisli bir video oyununa benziyor ve ardından bu noktaları olabildiğince çok tutmak için tırmalamak ve pençe çekmek gibi. Çünkü bir kez 95'in altına düştüğünde işin risk altında.Bir kalite güvence yöneticisi Miguel'in kararını yanlış işaretlerse, karara itiraz edebilir. QA'nın sizinle aynı fikirde olması, “noktayı geri alma” olarak bilinir. Kısa vadede, bir QA'nın söylediği şey ne olursa olsun “hata” dır ve bu nedenle moderatörler her yanlış işaretlendiğinde itiraz etmek için iyi nedenlere sahiptir. (Son zamanlarda, Cognizant, QA'ya gönderilmeden önce, moderatörlerden önce KOBİ'lerin temyizini onaylamalarını isteyerek, bir noktaya geri dönmeyi daha da zorlaştırdı.)Bazen kafa karıştırıcı konularla ilgili sorular Facebook'a yükseltiliyor. Ancak bununla ilgili sorduğum her moderatör Cognizant yöneticilerinin, çalışanların müşteriye sorun yaşamalarını, görünüşte çok fazla sorunun Facebook'u rahatsız edeceğinden korktuğunu söyledi.Bu, Cognizant'ın icat politikasıyla sonuçlandı. Toplum standartları açıkça erotik boğulma yapmayı yasaklamadığında, üç eski moderatör bana, bir ekip lideri, parmaklar boğulan kişinin derisini bastırmazsa boğulmayı resmeden görüntülere izin verileceğini açıkladı.“OTOPARKTA BENIMLE YÜZLEŞIRLERDI VE BENI MAHVEDECEKLERINI SÖYLERLERDI”
Çalışanlara işten atılmadan önce, koçluk teklif edilir ve politikaya hakim olmalarını sağlamak için tasarlanmış iyileştirici bir programa yerleştirilirler. Ancak üç eski moderatör bana, bu durum işçileri işten çıkarma konusunda bir bahane görevi görüyor. Diğer zamanlarda, çok fazla puan kaçıran müteahhitler, nihai karar için Facebook'a olan itirazlarını artıracak. Ancak şirkete çalışanın işten çıkarılmasından önce her zaman isteklerin biriktirme durumundan geçmediği söylendi.Resmi olarak, moderatörlerin KG'lere yaklaşmaları ve kararları tersine çevirmeleri için lobi yapmaları yasaktır. Ancak, bu hala normal bir durum, iki eski KG: dedi.Randy adında biri, bir iş günü sonunda bazen onu bekleyen moderatörleri bulmak için arabasına dönerdi. Bir yıl boyunca beş veya altı kez, birileri kararını değiştirmesi için onu korkutmaya çalışacaktır. “Otoparkta benimle yüzleşeceklerdi ve benden döveceklerini söylediler” diyor. “Saygılı veya güzel olduğu tek bir örnek bile yoktu. Sadece, beni yanlış denetledin! Bu bir memeydi! Tam bir areola oldu, hadi ama! ”Güvenliğinden korkan Randy, işe gizlenmiş bir silah getirmeye başladı. İtfaiye çalışanları düzenli olarak işe dönüp eski meslektaşlarına zarar vermekle tehdit etti ve Randy bazılarının ciddi olduğuna inandı. Eski bir iş arkadaşı, Randy'nin çalışmak için bir silah getirdiğini ve saldırının yerinde güvenlikten korkmayacağının onaylandığını söyledi.Cognizant'tan Duncan, şirketin moderatörlerin bana açıkladığı çeşitli güvenlik ve yönetim sorunlarını araştıracağını söyledi. Çalışması için bir silah getirmenin politikanın ihlali olduğunu ve yönetimin bunun farkında olmasının, çalışana müdahale edeceğini ve harekete geçeceğini söyledi.Randy bir yıl sonra istifa etti. Asla silahı ateşleme fırsatına sahip değildi, ama endişesi kalıyor.“Ayrılmamın bir nedeni, kendi evimde ve kendi derimde ne kadar güvensiz hissettiğimdi” diyor.B eforeMiguel ara vermeden önce, Cognizant'ın masasından ayrıldığını bildirmek için bir tarayıcı uzantısını tıklar. (“Bu tür bir endüstride standart bir şey,” diyor Facebook'tan Davidson bana “İzleyebilmek için iş gücünüzün nerede olduğunu biliyorsunuz.”Miguel iki 15 dakikalık mola ve bir 30 dakikalık öğle yemeği izin verilir. Molalarda, tuvaletler için genellikle uzun çizgiler bulur. Yüzlerce çalışan erkek odasında sadece bir pisuar ve iki tezgahı, kadınlarda ise üç tezgahı paylaşmaktadır. Cognizant sonunda çalışanların başka bir katta tuvalet kullanmasına izin verdi, ancak oraya gidip gelmek Miguel'in değerli dakikalarını alacak. Tuvaleti kullanıp kalabalığa dolabına kadar savaştığında, masasına dönmeden önce telefonuna bakmak için beş dakikası olabilir.Miguel ayrıca, travma hissi duyması ve masasından uzak durması gerektiğinde kullanması beklenen "sağlıklı yaşam süresi" nin günde dokuz dakikasına ayrılıyor. Birkaç moderatör bana, satırların kısaldığı zaman tuvalete gitmek için sağlık zamanlarını rutin olarak kullandıklarını söyledi. Ancak yönetim sonunda ne yaptıklarını anladı ve çalışanlara kendilerini rahatlatmak için sağlık zamanlarını kullanmalarını emretti. (Son zamanlarda Austin'deki Accenture aracılığıyla işe alınan bir grup Facebook moderatörü, mola süreleriyle ilgili “insanlık dışı” koşullardan şikayetçi oldu ; Facebook, konuyu politikalarının yanlış anlaşılmasına bağladı.)Phoenix sitesinde, beş günlük namazlarından birini gerçekleştirmek için sağlık zamanını kullanan Müslüman işçilere, uygulamayı durdurmaları ve diğer mola zamanlarında yapmaları söylendi, şimdiki ve eski çalışanlar söyledi. Yöneticilerinin niçin namaz kılmayı sağlıklı yaşam programının geçerli bir kullanımı olarak görmediklerini belirttiğim çalışanlar için belirsizdi. (Bir davaya aşina olan bir kişi bana, bir şirketin aşırı olarak kabul ettiği günlük dua için 40 dakikadan fazla bir süre talep ettiğini söylese de, Cognizant bu olaylar hakkında yorumda bulunmadı.)Yetkili çalışanlara, bulundukları zaman danışmanları ziyaret ederek işlerin stresiyle başa çıkmaları söylenir; yardım hattını arayarak; ve bir avuç terapi seansı sunan bir çalışan yardımı programını kullanarak. Daha yakın zamanlarda, yoga ve diğer terapötik aktiviteler çalışma haftasına eklendi. Ancak ara sıra danışman ziyaretlerinin yanı sıra, konuştuğum altı çalışan bu kaynakları yetersiz bulduğunu söyledi. Bana iş stresiyle başka yollarla başa çıktıklarını söylediler: seks, uyuşturucu ve saldırgan şakalar.Cognizant çalışanlarının işyerinde seks yaptıkları yerler arasında: banyo tezgahları, merdiven boşlukları, otopark ve emziren annelere ayrılmış oda. 2018'in başlarında güvenlik ekibi, konuyla ilgili bilgi sahibi olan yöneticilere davranışlarını bildiren bir not gönderdi. Çözüm: yönetim, ana odadan ve diğer özel odalardan bir avuç kapı kilidini kaldırdı. (Annenin odası şimdi tekrar kilitlenir, ancak kullanıcılar, öncelikle bir yöneticiden bir anahtarı kontrol etmelidir.)
Sara adında eski bir moderatör, işlerinin etrafındaki gizliliğin, işin zorluğuyla birleştiğinde, çalışanlar arasında güçlü bağlar oluşturduğunu söyledi. “İş arkadaşlarınıza çok çabuk yaklaşıyorsunuz” diyor. “Arkadaşlarınızla veya ailenizle işiniz hakkında konuşmanıza izin verilmiyorsa, bu biraz mesafe yaratacaktır. Bu insanlara daha yakın hissedebilirsiniz. Gerçekte sadece travma bağı kurduğunuzda, duygusal bir bağlantı gibi geliyor. ”Çalışanlar ayrıca, kampüs içinde ve dışında, uyuşturucu ve alkol kullanabiliyor. Eski bir moderatör olan Li, bana işinde esrar kullandığını söyledi. Molalarda, küçük çalışan gruplarının genellikle dışarı çıkıp sigara içtiğini söylüyor. (Arizona'da tıbbi esrar kullanımı yasal.)Li, “Size kaç kişiyle içtiğimi bile söyleyemem” diyor. “Çok üzücü, tekrar düşündüğümde - gerçekten kalbime zarar veriyor. Aşağı inip taşlanarak işimize geri dönerdik. Bu profesyonel değil. Dünyanın en büyük sosyal medya platformuna yönelik içerik denetleyicilerinin, işi yönetirken, içerik düzenlerken… ”
“RUHUMUZU KARARTAN BIR ŞEY YAPIYORDUK”
Bir yıl boyunca moderatör olarak çalışan Li, işyerinde zifiri mizah ile dolu olduğunu söyleyen birkaç çalışandan biriydi. Çalışanlar, ruh halini hafifletmek için birbirlerine en ırkçı veya rahatsız edici memları göndermek için yarışacaklarını söyledi. Etnik bir azınlık olarak, Li iş arkadaşlarının sık hedeflerinden biriydi ve pahasına iyi huylu ırkçı şakalar olarak gördüklerini benimsedi.Fakat zamanla ruh sağlığı için endişelenmeye başladı.“Ruhumuzu kararan bir şey yapıyorduk - ya da her ne diyorsanız” diyor. “Bu noktada başka ne yaparsın? Bizi güldüren şey aslında bize zarar veriyor. Halka açık yerlerde şaka yaparken kendimi izlemek zorunda kaldım. Yanlışlıkla her zaman [saldırgan] şeyler söylerdim - ve sonra böyle olun, Oh kahretsin, bakkaldayım . Böyle konuşamam. ”Kendine zarar verme şakaları da yaygındı. “Unutmak için içmek,” Sara bir iş arkadaşının, danışman ona nasıl olduğunu sorduğunda söylediğini duydu. (Danışman, çalışanı daha fazla tartışmaya davet etmedi.) Sara, kötü günlerde, insanların “çatıya takılma zamanı” hakkında konuşacağını - Cognizant çalışanlarının bir gün kendilerini atabilecekleri şakası olduğunu söylüyor. o.Sara, bir gün, moderatörler, bilgisayarlarından, yan taraftaki ofis binasının tepesinde duran bir adam görmek için baktılar. Birçoğu tam da bu şekilde başlayan yüzlerce intiharı izlemişti. Moderatörler ayağa kalktı ve pencerelere acele ettiler.Adam yine de atlamadı. Sonunda herkes ara arkadaşı olduğunu ve ara verdiğini fark etti.Konuştuğum eski moderatörlerin çoğu gibi, Chloe de yaklaşık bir yıl sonra istifa etti.Diğer şeylerin yanı sıra, komplo teorilerinin meslektaşları arasında yayılması konusunda endişelenmişti. Bir KG, sıklıkla Dünya'nın meslektaşları ile düz olduğu ve “aktif olarak diğer insanları işe almaya çalıştığı” inancına değinerek, başka bir moderatör söyledi. Miguel'in meslektaşlarından biri, bir zamanlar Miguel'in, adamın bir Holokost inkarcısı olduğuna dair bir işaret olarak aldığı, “Holohoax” a atıfta bulundu.Altı moderatör bana, üretim sahasında komplo teorilerinin sık sık iyi karşılandığını söyledi. Parkland’ın geçen yılki çekiminden sonra, moderatörler ilk başta saldırılardan korktu. Ancak Facebook ve Instagram'da daha fazla komplo içeriği yayınlandığından, Chloe'nin bazı meslektaşları şüpheleri dile getirmeye başladı.“İŞ YAPMANIN VE AKUT STRES BOZUKLUĞU YA DA TSSB ILE ÇIKMAMANIN MÜMKÜN OLDUĞUNU SANMIYORUM”
“İnsanlar gerçekten de bu yayınların ılımlı olması gerektiği inancına başladı” diyor. “Aman Tanrım, gerçekten orada değildiler. David Hogg’ın CNN videosuna bakın, okulda olamayacak kadar yaşlı. İnsanlar işlerini yapmak yerine Googling'e başladılar ve onlar hakkındaki komplo teorilerini araştırdılar. 'Beyler, hayır, bu bizim yönetmemiz gereken çılgınca şeyler. Ne yapıyorsun?'"Yine de, her şeyden önce, Chloe, işin ruh sağlığı üzerindeki uzun vadeli etkileri konusunda endişeli. Birkaç moderatör, başkalarının yaşadığı ilk elden travmayı gözlemlemekten kaynaklanabilecek bir hastalık olan ikincil travmatik stres belirtileri yaşadıklarını söyledi . Semptomları travma sonrası stres bozukluğu ile aynı olabilen bozukluk genellikle doktorlarda, psikoterapistlerde ve sosyal hizmet uzmanlarında görülür. İkincil travmatik stres yaşayan insanlar, diğer rahatsızlıkların yanı sıra kaygı, uyku kaybı, yalnızlık ve ayrışma duygularını da bildirmektedir.Geçen yıl, Kaliforniya'daki eski bir Facebook moderatörü, Pro Unlimited firması ile müteahhitlik yaptığını ve TSSB'den ayrıldığını söyleyerek şirketi dava etti . Şikayetinde avukatları, “Facebook kullanıcıları için mümkün olan en güvenli ortamı sağlamaya yetkili olan binlerce müteahhit için güvenli bir iş yeri sağlama konusundaki başarısızlığından kaynaklanan kendisini psikolojik travmanın tehlikelerinden korumak” dedi. hala çözülmedi.)Chloe, işini bıraktığından bu yana aylarda travma belirtileri geçirdi. Anne filmi sırasında sinemada panik atak geçirmeye başladı ! Şiddetli bir bıçaklama çılgınlığı, meslektaşlarının önünde yönettiği ilk videonun anısını tetiklediğinde. Başka bir sefer, makineli tüfek ateşi duyduğunda kanepede yatıyordu ve panik atak geçirdi. Evinde birileri şiddetli bir TV şovu açtı. “Çıldırmaya başladı” diyor. “Kapatmaları için onlara yalvarıyordum.”Saldırılar onu, özellikle başlamadan önce programdan çıkmayanlar, diğer kursiyerler hakkında düşündürür. “Bir çok insan aslında eğitimden geçemiyor” diyor. “Dört hafta boyunca geçiyorlar ve sonra kovuluyorlar. Benim de yaşadığım deneyime sahip olabilirlerdi ve bundan sonra danışmanlara kesinlikle erişemezlerdi. ”Geçen hafta, Davidson söyledi, Facebook, şirketin “esnekliğini” ne dediğini ölçmek için travmatik bir içerik görmekten vazgeçme ve işlerini yapmaya devam etme yeteneklerini ölçmek için bir moderatör test grubunu araştırmaya başladı. Şirket, testi küresel olarak tüm moderatörler için genişletmeyi umuyor, dedi.Randy de yaklaşık bir yıl sonra ayrıldı. Chloe gibi bıçaklama videosuyla travma geçirdi. Kurban onun yaşıyla ilgiliydi ve annesinin ağlarken öldüğünü hatırladığını hatırlıyor.“Her gün bunu görüyorum” diyor Randy, “Bıçaklara karşı gerçekten korkuyorum. Yemek yapmayı seviyorum - mutfağa geri dönmek ve bıçakların etrafında olmak benim için gerçekten zor. ”İş aynı zamanda dünyayı görme şeklini de değiştirdi. 9 / 11'in terörist bir saldırı olmadığını söyleyen birçok videoyu gördükten sonra, onlara inanmaya geldi. Las Vegas katliamıyla ilgili komplo videoları da çok ikna edici olduğunu söyledi ve şimdi saldırıdan çok sayıda atıcının sorumlu olduğuna inanıyor. (FBI katliamın tek bir silahlı adamın işi olduğunu buldu