Рабочие, которые не пускают фотки Дика и обезглавливают из своей ленты в Facebook

Подрядчик в Манильском офисе TaskUs, фирмы, которая предоставляет услуги модерации контента американским технологическим компаниям. Моисес Саман / Магнум

Кампусы технологической индустрии славятся своими роскошными кафе, удобными шаттлами и услугами прачечной. Но в душный февральский полдень самая важная работа этих компаний выполняется на расстоянии 7000 миль на втором этаже бывшей начальной школы в конце ряда киосков автомехаников в Бакуре, песчаном филиппинском городе 13 милях к юго-западу от Манилы. Когда я поднимаюсь по узкой лестничной клетке здания, мне нужно прижаться к стене, чтобы рабочие скользили вниз, чтобы покурить. До одного полета сонный охранник укомплектовывает то, что проходит за стойкой регистрации: деревянный стол в темном коридоре, переполненный папками с файлами.

Мимо Байбаяна, бывшего охранника, в большой комнате, заполненной рабочими, укомплектованными компьютерами на длинных столах, я встретил восторженного 21-летнего парня с ярким пуфом из красновато-коричневых волос. Если пространство не похоже на типичный офис стартапа, изображение на экране Байбаяна не похоже на типичную работу стартапа: на нем, по-видимому, показана фотография крупного плана двухстороннего фаллоимитатора, вклинивающегося во влагалище. Я говорю, появляется, потому что я едва могу понять смысл изображения, абстракции размером с бейсбольную карточку из плоти и полупрозрачного розового пластика, прежде чем он исчезает случайным движением мыши.

Байбаян является частью огромной рабочей силы, которая занимается «модерацией контента» - удалением оскорбительных материалов - для сайтов социальных сетей США. Поскольку социальные сети связывают больше людей, чем когда-либо прежде, компании сталкиваются с проблемой бабушки: теперь, когда бабушки и дедушки регулярно используют такие сервисы, как Facebook, для связи со своими детьми и внуками, они потенциально подвергаются интернет-угрозе толчков, расистов, крипы, преступники и хулиганы. Они не будут продолжать регистрироваться на если они находят их семейные фотографии зажатых между жуткой российской автомобильной дорогой аварией и хардкором порно видео. Рост социальных медиа в индустрию с многомиллиардным оборотом и его устойчивая популярность в значительной степени зависели от способности компаний контролировать границы своего пользовательского контента, чтобы бабушка никогда не видела такие изображения, как тот, что просто Байбаян. сбросили атомную бомбу.

Подрядчик в Манильском офисе TaskUs, фирмы, которая предоставляет услуги модерации контента американским технологическим компаниям. Моисес Саман / Магнум

«ВСЕ ХИТЫ НА СТЕНУ. ВЫ ТОЛЬКО ДУМАЕТЕ, «СВЯТОЕ ДЕРЬМО, ЧТО Я ТРАДУЮ ДЕНЬ, ЧТО ДЕЛАТЬ?»

Таким образом, такие компании, как Facebook и Twitter, полагаются на армию работников, занятых для того, чтобы поглотить худшее человечества, чтобы защитить остальных из нас. И есть их легионы - огромный, невидимый источник человеческого труда. Хеманшу Нигам (Hemanshu Nigam), бывший директор по безопасности MySpace, который в настоящее время руководит консалтинговой службой безопасности SSP Blue, считает, что число модераторов контента, которые чистят мировые сайты социальных сетей, мобильные приложения и облачные сервисы хранения, достигает «более 100 000», то есть примерно в два раза больше, чем в Google, и почти в 14 раз больше, чем в Facebook.

Эта работа все чаще делается на Филиппинах. Бывшая колония США, Филиппины поддерживают тесные культурные связи с Соединенными Штатами, что, по словам компаний, занимающихся модерацией контента, помогает филиппинцам определить, что американцы считают оскорбительным. А модераторов на Филиппинах можно нанять за небольшую часть американской зарплаты. Райан Кардено, бывший подрядчик Microsoft на Филиппинах, сказал мне, что к концу своего трех с половиной лет работы в аутсорсинговой компании Sykes он зарабатывал 500 долларов в месяц. В прошлом году Cardeno предлагала $ 312 в месяц другой фирме, чтобы модерировать контент для Facebook, даже по отраслевым стандартам.

Вам также может понравиться: YouTube пытается убрать самые грязные комментарии в Интернете Разделы комментариев - Пустоши, управляемые троллями. Вот альтернативы Вы можете не любить Вейва, но ваша свобода в Интернете зависит от его обращения Здесь, в бывшей начальной школе, Байбаян и его коллеги просматривают контент для Whisper, мобильного стартапа из Лос-Анджелеса, недавно оцененного в 200 миллионов долларов его венчурными капиталистами, который позволяет пользователям публиковать фотографии и делиться секретами анонимно. Они работают в американской аутсорсинговой компании TaskUs. Удивительно, что Whisper пустил репортера посмотреть на этот процесс. Когда я спросил у Microsoft, Google и Facebook информацию о том, как они модерируют свои услуги, они предложили расплывчатые заявления о защите пользователей, но отказались обсуждать детали. Многие технологические компании заставляют своих модераторов подписывать строгие соглашения о неразглашении, не позволяя им разговаривать даже с другими сотрудниками той же аутсорсинговой фирмы об их работе.

«Я думаю, что если нет явной кампании, чтобы скрыть это, безусловно, есть молчаливая», - говорит Сара Робертс, ученая по изучению медиа в Университете Западного Онтарио и одна из немногих ученых, изучающих модерацию коммерческого контента. Робертс говорит, что компании предпочли бы не признавать практические усилия, необходимые для курирования нашего опыта работы в социальных сетях. «Это касается нашего недопонимания об Интернете и нашего взгляда на технологии как на магическое, а не человеческое».

Мне дали представление о процессе модерации Whisper, потому что Майкл Хейворд, генеральный директор Whisper, рассматривает модерацию как неотъемлемую особенность и ключевую точку продажи своего приложения. Whisper практикует «активную модерацию», особенно трудоемкий процесс, при котором каждый пост просматривается в режиме реального времени; многие другие компании модерируют контент, только если он был помечен как нежелательный для пользователей, что известно как реактивная модерация. «Тип пространства, которое мы пытаемся создать с анонимностью, - это тот, в котором мы просим пользователей проявить себя и почувствовать себя уязвимыми», - говорит он мне. «После того, как зубная паста вышла из тюбика, ее трудно вставить обратно».

Наблюдение за работой Байбаяна делает ужасно ясным, сколько труда уходит на хранение зубной пасты Whisper в тюбике. (После моего визита Байбаян оставил свою работу, а филиал TaskUs в Бакуре подвергся рейду филиппинской версии ФБР за то, что якобы использовал пиратское программное обеспечение на своих компьютерах. С тех пор компания перенесла операции по модерации контента на новый объект в Маниле.) Он начинает с сетки постов, каждая из которых представляет собой прямоугольную фотографию, многие из которых выделены жирным шрифтом - такой же грубый формат, как в старых школьных интернет-мемах. Благодаря своей свободной анонимности Whisper функционирует для своих пользователей как своего рода внешний идентификатор, выход для признаний, недовольства и тайных желаний, которые могут быть слишком чувствительными (или слишком скучными) для Facebook или Twitter. Здесь модераторы просматривают необработанный поток сообщений Whisper в режиме реального времени. Отстраненные от контекста, сообщения читаются как собранные тики страдальца Туретта. Любые бисексуальные женщины в Нью-Йорке хотят поболтать? Или: я ненавижу ирландские акценты! Или: я трахнул своего отчима и шантажировал его, чтобы он купил мне машину.

Список категорий, нацарапал на доске, напоминает работникам, что они охота на: порнографию, запекшейся крови, несовершеннолетних, сексуальное домогательство, сексуальные части тела / изображений, расизм. Когда Байбаян видит потенциальное нарушение, он сверяет его, чтобы подтвердить, затем отсылает его, стирая его из учетной записи пользователя и службы в целом, и возвращается к сетке. В течение 25 минут Байбаян устранил впечатляющее разнообразие фотографий с хуем, ремешков, экзотических предметов, вставленных в тела, ненавистных насмешек и запросов на оральный секс.

Более сложным является пост, в котором есть изображение източенного торса человека с наложенным текстом «Я хочу получить гей-опыт, M18 здесь». Является ли это признанием скрытого желания (разрешено) или запроса на подключение (запрещено )? Байбаян, который, как и большинство сотрудников TaskUs, имеет высшее образование, задумался о том, как оценить это различие.

«Каково намерение?» - говорит Байбаян. «Вы должны определить разницу между мыслью и побуждением». У него есть только несколько секунд, чтобы решить. Новые сообщения постоянно появляются в верхней части экрана, отталкивая другие вниз. Он считает пост сексуальным домогательством и удаляет его; где-то, надежды роговой подростка разбиты. Baybayan прокручивает обратно в верхнюю часть экрана и начинает сканирование снова.

Спустя восемь лет после этого, Джейк Сверинген все еще может вспомнить видео, которое заставило его бросить курить. Ему было 24 года, и он перешел на другую работу в Bay Area, когда получил должность модератора для нового тогда запуска под названием VideoEgg. Три дня спустя его очередь увидела видеозапись очевидного обезглавливания.

«О, черт! У меня обезглавливание! - выпалил он. Несколько пожилой коллега в черной толстовке с капюшоном небрежно обернулся на стуле. «О, - сказал он, - какой?». В этот момент Сверинген решил, что не хочет стать знатоком обезглавливающих видео. «Я не хотел оглядываться назад и говорить, что стал настолько бледным, наблюдая, как с людьми происходят такие ужасные вещи, что я ироничен или шучу по этому поводу», - говорит Сверинген, в настоящее время редактор социальных сетей в Atlantic Media. (Swearingen также был стажером в WIRED в 2007 году.)

В то время как за рубежом проводится большое количество модерации контента, в США многое еще делается, часто молодыми выпускниками колледжей, такими как Сверинген. Многие компании используют двухуровневую систему модерирования, при которой основная базовая модерация осуществляется за границей, тогда как более сложная проверка, которая требует более глубокого знакомства с культурой, проводится внутри страны. Модераторы из США получают гораздо лучшую компенсацию, чем их зарубежные коллеги: совершенно новый американский модератор для крупной технологической компании в США может заработать за час больше, чем заслуженный модератор из Филиппин за день. Но тогда многие молодые филиппинцы стремятся сделать карьеру в индустрии аутсорсинга, в то время как американские модераторы часто попадают на работу в качестве последнего средства, и выгорание является обычным явлением.

Райан Кадено говорит, что зарабатывал 500 долларов в месяц в качестве подрядчика для Microsoft. Моисес Саман / Магнум

«Все бьют по стене, обычно от трех до пяти месяцев», - говорит бывший модератор контента YouTube, я позвоню Робу. «Вы просто думаете:« Черт возьми, чем я занимаюсь весь день? Это ужасно ».

Роб стал модератором контента в 2010 году. Он окончил колледж и последовал за своей девушкой в ​​район залива, где он обнаружил, что его степень по истории имеет примерно такое же влияние на работодателей, как татуировка на лице. Шли месяцы, и Роб становился все более отчаянным. Затем пришел холодный звонок от CDI, фирмы-подрядчика. Рекрутер хотел, чтобы он взял интервью для позиции в Google, модерируя видео на YouTube. Google! Конечно, он просто будет подрядчиком, но ему сказали, что есть шанс превратить работу в настоящую карьеру. Зарплата, примерно 20 долларов в час, намного превосходила зарплату в фаст-фуде. Он взял интервью и получил однолетний контракт. «Я был очень доволен», сказал Роб. «Он хорошо заплатил, и я подумал, что YouTube будет хорошо выглядеть в резюме».

В течение первых нескольких месяцев Роб не возражал против своей работы по модерированию видео в штаб-квартире YouTube в Сан-Бруно. Его коллегами были в основном такие же выпускники, как и он, многие из которых были специалистами в области гуманитарных наук, просто счастливыми, что нашли работу, для которой не требовалась сетка для волос. Его начальник был великолепен, и было даже несколько льгот, как бесплатный обед в столовой. Во время восьмичасовой смены Роб сидел за столом в открытом офисе YouTube с двумя мониторами. На одном он пролистал по 10 видео за раз. На другом мониторе он мог делать все, что хотел. Он смотрел всю серию Battlestar Galactica одним глазом, одновременно снимая видео о пытках и ненавистнические высказывания другим. Он также получил захватывающее представление о внутренней работе YouTube. Например, в конце 2010 года команда юристов Google дала модераторам срочную задачу по удалению жестоких проповедей американского радикального проповедника-исламиста Анвара аль-Авлаки после того, как британская женщина сказала, что они вдохновили их нанести удар политику.

Но по прошествии нескольких месяцев грубые вещи начали сказываться. Хуже всего было кровопролитие: уличные драки, пытки животных, взрывы смертников, обезглавливание и ужасные дорожно-транспортные происшествия. Арабская весна была в самом разгаре, и активисты использовали YouTube, чтобы показать миру, какие правительственные репрессии привели к этому. Модераторам было дано указание оставлять такие «заслуживающие внимания» видеоролики с предупреждением, даже если они нарушали правила содержания. Но крупным планом трупов протестующих и уличных сражений было трудно справиться с Робом и его коллегами. Так же были видео, которые документировали страдания только для острых ощущений.

«Если кто-то загружал издевательства над животными, большую часть времени это делал человек. Он гордился этим », - говорит Роб. «И, видя это глазами кого-то, кто гордился тем , что испортил, вместо того, чтобы сообщать новости о том, что испортил, - это просто причиняет тебе боль намного сильнее, по некоторым причинам. Это просто дает вам более мрачный взгляд на человечество ».

Роб начал останавливаться на видео вне работы. Он стал замкнутым и раздражительным. В YouTube работают консультанты, с которыми теоретически могут общаться модераторы, но Роб понятия не имел, как получить к ним доступ. Он не знал никого, кто имел. Вместо этого он занимался самолечением. Он начал пить больше и прибавил в весе.

Робу стало ясно, что он никогда не станет настоящим сотрудником Google. Через несколько месяцев после заключения контракта он подал заявку на работу в Google, но говорит, что ему отказали в собеседовании, потому что его средний балл не соответствовал требованию. (Google отрицает, что один только GPA был бы решающим фактором при найме.) Даже если бы это было так, говорит Роб, он слышал только о нескольких подрядчиках, которые в итоге оказались на штатных должностях в Google.

За пару месяцев до окончания контракта он нашел другую работу и ушел. Когда последняя смена Роба закончилась в 7 часов вечера, он оставил чувство восторга. Он запрыгнул в свою машину, поехал в дом своих родителей в округе Ориндж и проспал три дня подряд.

Учитывая, что модераторы контента вполне могут составлять до половины всей рабочей силы для сайтов социальных сетей, стоит задуматься о том, каким может быть долгосрочный психологический ущерб от этой работы. Джейн Стивенсон был начальником охраны отдела здравоохранения и социального обеспечения для Великобритании National Crime ОТРЯД-британского эквивалент ФБР в начале 2000-х годов, когда была запущена первая волна международных операций по борьбе с детской порнографией. Она видела, что следователи были поражены изображениями; даже после того, как она покинула свой пост, агентства и частные организации продолжали просить ее помощи в борьбе с последствиями, поэтому она открыла консультацию по гигиене труда, Workplace Wellbeing, ориентированную на отрасли с высоким давлением. С тех пор она посоветовала компании социальных средств массовой информации в Великобритании и обнаружила, что проблемы, стоящие перед их модераторами эха тех детьми-порнографии и борьбы с терроризмом следователей в правоохранительных органах.

«С того момента, как вы увидите первое изображение, вы изменитесь навсегда», - говорит Стивенсон. Но там, где правоохранительные органы разработали специализированные программы и нанимают опытных специалистов в области психического здоровья, Стивенсон говорит, что многим технологическим компаниям еще предстоит осознать серьезность проблемы.

«Есть мысль, что это то же самое, что тяжелая утрата или издевательство на работе, и те же люди могут справиться с этим», - говорит Стивенсон. «Все мы переживем тяжелую утрату, почти каждый из нас будет огорчен тем, кто скажет что-то, что нам не нравится. Все это нормальные вещи. Но нормально ли заниматься сексом с 2-летним? Отрезать кому-то голову - довольно медленно, имейте в виду; Я не хочу травмировать вас, но обезглавливание не происходит быстро - это нормальное поведение? Это то, что вы ожидаете?

В Маниле я встречаю Дениз (не ее настоящее имя), психолога, который консультирует две фирмы по модерации контента на Филиппинах. «Это похоже на посттравматическое стрессовое расстройство», - говорит она мне, когда мы сидим в ее офисе над одной из постоянно затопленных автострад города. «У них в памяти прослеживается память». Дениз и ее команда настроили обширные системы мониторинга для своих клиентов. Сотрудникам дают набор психологических тестов для определения их психического базиса, затем проводят собеседования и регулярно консультируют, чтобы свести к минимуму влияние мешающих изображений. Но даже с лучшими советами, смотреть в глубь человеческой тьмы - все это платит. Рабочие не бросить курить, потому что они чувствуют себя нечувствительным от часов порнографии они наблюдают каждый день, и больше не хотят быть близким со своими супругами. Другие сообщают о чрезмерном сексуальном влечении. «Как бы вы себя чувствовали смотреть порнографию в течение восьми часов в день, каждый день?», Говорит Дэнис. «Как долго вы можете это принять?»

Сотрудник в Маниле офисов Open Access BPO, другой компании, которая предоставляет услуги модерации контента. Моисес Саман / Магнум

Рядом, в торговом центре, я встречаю молодую женщину, которую я назову Марией. Она на обеденном перерыве от аутсорсинговой компании, где она работает в команде, которая модерирует фотографии и видео для службы облачного хранения крупной американской технологической компании. Мария является представителем по гарантии качества, а это значит, что в ее обязанности входит перепроверять работу десятков агентов в ее команде, чтобы убедиться, что они все поймали. Это требует от нее просмотра множества видео, которые были отмечены модераторами.

«Я действительно страдаю от скотства с детьми», - говорит она. «Я должен остановиться. Мне нужно на мгновение остановиться и расслабиться, возможно, пойти в Starbucks и выпить кофе ». Она смеется над абсурдным сопоставлением ужасного преступления на сексуальной почве и переоцененного латте.

Постоянное знакомство с подобными видеороликами превратило некоторых из коллег Марии в чрезвычайно параноидальных. Каждый день они видят доказательства бесконечного разнообразия человеческой порочности. Они начинают подозревать худших людей, которых они встречают в реальной жизни, задаваясь вопросом, какие секреты могут хранить их жесткие диски. Две женщины-сотрудницы Марии стали настолько подозрительными, что больше не оставляют своих детей с няньками. Иногда они скучают по работе, потому что не могут найти того, кому доверяют, чтобы позаботиться о своих детях.

Мария особенно преследует одно видео, которое появилось в ее очереди вскоре после того, как она начала работу. «Вот эта леди, - говорит она, понизив голос. «Вероятно, в возрасте от 15 до 18 лет я не знаю. Она выглядит как несовершеннолетняя. Этот лысый парень приставляет голову к влагалищу леди. Дама с завязанными глазами, в наручниках, кричит и плачет.

Видео длилось более получаса. Посмотрев чуть более минуты, Мария начала дрожать от грусти и ярости. Кто будет делать что-то настолько жестокое с другим человеком? Она осмотрела мужчину на экране. Он был лысым и, казалось, имел ближневосточное происхождение, но был совершенно ничем не примечательным. Лицом зла был тот, кого вы могли бы пройти в торговом центре без второго взгляда.

После двух с половиной лет в команде модератора облачного хранилища Мария планирует уйти позже в этом году и поступить в медицинскую школу. Но она ожидает, что видео с завязанными глазами девушки останется с ней еще долго после ее ухода. «Я не знаю, смогу ли я забыть это», - говорит она. «Я смотрел это давным-давно, но, похоже, я только что посмотрел это вчера».

ОБНОВЛЕНИЕ: 24.10.2014 11:44 PT: несколько заголовков в этой истории были обновлены, чтобы точно отразить название компании Open Access BPO.

Похожие

Комментарии