Эти люди видят почти все, что вы пишете в интернете

Социальные сети проникают в нашу жизнь все больше и больше, и, как выясняется, вылавливанием опасной информации в них уже занимается целая отрасль индустрии. Обозреватель BBC Capital познакомилась со стражами интернета.

Каждый день в социальную сеть "Фейсбук" загружают более 350 миллионов фотографий.

Прибавим к ним миллионы видеоклипов, анимированных картинок и текстовых сообщений - каждая частичка этой пестрой смеси может содержать вредоносную или нарушающую те или иные законные и этические нормы информацию.

Теперь вспомним, сколько существует сайтов помимо "Фейсбук", и мы поймем, что количество возможностей столкнуться с недопустимым или опасным контентом невероятно велико.

Вот поэтому и появляются целые бригады по защите от рисков в социальных сетях. Те функции, которые раньше выполняли на добровольной основе сетевые модераторы, перешли сейчас к профессионалам, контролирующим интернет круглосуточно и без выходных.

Новая отрасль родилась на стыке кризисного управления рекламно-информационной деятельностью, интернет-безопасности и анализа общественного мнения.

Сфера защиты социальных медиа расширяется с каждым днем на фоне взрывного роста интернета - в частности, увеличения объема контента, создаваемого пользователями, и наращивания присутствия компаний в соцсетях.

Считается, что во всем мире 250-300 тыс. человек заняты в области мониторинга соцсетей и еще почти миллион - в области онлайн-безопасности и защиты личных данных.

Такие цифры приводит Хеманшу Нигам, экс-руководитель службы безопасности MySpace и основатель расположенной в Лос-Анджелесе SSP Blue, консалтинговой компании в области интернет-безопасности.

По его словам, приведенные данные - это не более чем консервативная оценка, подверженная постоянным изменениям.

Кто же эти защитники?

"Они - естественные наследники тех сетевых модераторов, которые традиционно удаляли "гадости" и были кем-то средним между редакторами и владельцами сообществ", - рассказывает Эмма Монкс, глава отдела модерации, вопросов доверия потребителей и безопасности британской компании из Лидса Crisp Thinking.

Компания Эммы - ведущие специалисты в области защиты от рисков в социальных сетях.

"Довольно часто эта работа была простым хобби, - отмечает Монкс. - Члены сообщества брали на себя обязанности модераторов добровольно и обладали большой независимостью в принятии решений - какой контент оставлять в общем доступе, а какой удалять".

Сейчас этим делом занимаются уже не волонтеры, а сотрудники, которые работают с результатами сложных компьютерных алгоритмов, направленных на поиск "плохого контента".

В компании Crisp Thinking аналитики, специалисты по рискам в соцсетях целыми днями прочесывают сайты всем известных компаний и их страницы в социальных медиа в поиске недопустимого или опасного контента.

В других компаниях эти стражи называются защитниками социальных сетей или контент-модераторами.

Чем они занимаются

"Один из принципов работы Crisp заключается в том, что присутствие брендов и потребителей в социальных сетях должно быть беспроблемным - чтобы им не приходилось беспокоиться о каких-либо возможных неприятностях, - поясняет основатель и главный исполнительный директор Crisp Адам Хилдрет. - В реальной жизни нашу безопасность обеспечивает полиция; подобная служба должна быть и в жизни виртуальной, в интернете".

Хилдрету всего 31 год, но он уже считается ветераном этого бизнеса. В 14 лет он запустил социальную сеть для подростков Dubit Limited, которая стала самым посещаемым подростковым сайтом в Великобритании.

Однако с успехом Dubit пришли и опасения по поводу "сетевых растлителей" - педофилов, шарящих по интернету в поисках жертв. Были выявлены и другие угрозы для посетителей этого сайта.

В 2006 году Хилдрет основал Crisp, как он сам говорит, "в качестве реакции на рост опасности для детей, потребителей и брендов в социальных сетях и мессенджерах".

С тех пор Crisp значительно выросла и теперь контролирует в соцсетях ситуацию на страницах компаний на предмет самых разных проблем - от сообщения о заложенной бомбе на странице авиакомпании в "Фейсбуке" до акции защитников животных, бомбардирующих сайт дизайнера одежды агрессивными нападками из-за использования в его коллекциях натурального меха.

Хилдрет говорит, что клиентура компании насчитывает около 200 международных брендов, и каждый месяц примерно 200 аналитиков-защитников во всем мире просеивают миллиарды единиц контента (раскроем секрет: сайт BBC.com входит в число глобальных клиентов Crisp).

Виртуальные стражи

"Мы - глаза и уши наших клиентов, мы настороже круглосуточно", - говорит Хилдрет, чья компания отслеживает все, что говорят о клиентских брендах на их собственных интернет-страницах или где угодно в сети.

"Если возникает риск, мы либо справляемся с ним сами, например, удаляя контент со страницы бренда, либо поднимаем из постели нужного человека".

Иногда для этого нужно позвонить по телефону и сказать: "Послушайте, тут одна знаменитость прямо с трапа самолета заявила, что ужасно недовольна вашим брендом".

А может быть, эта знаменитость сфотографировала продукт, "выложила его на обозрение восьми миллионов подписчиков и написала, что он невероятно плох".

Аналитиков Crisp прежде всего обучают определять различные виды сетевых рисков - сюда входят как репутационные риски для брендов (например, массовое негативное обсуждение последней рекламной кампании на странице фирмы), так и непосредственные риски для безопасности людей (например, угроза физической расправы в сообщении в "Фейсбук").

Затем аналитики применяют установленные критерии к получаемому с разнообразных социальных платформ контенту и классифицируют его согласно различным типам рисков.

В обязанности аналитиков также входит уведомление клиентов о любых рисках и, при необходимости, принятие дальнейших мер по уничтожению [опасного] контента - его удаление либо уведомление о нем администрации социальной сети, правоохранительных или других органов, поясняет Эмма Монкс.

Опыт не требуется

Как ни странно, аналитикам не обязательно иметь опыт в этой области, отмечает Монкс.

В такой узкой отрасли было бы сложно найти людей со специализированными навыками, но они и не требуются.

"Главное качество, которое я ищу в людях, - умение усваивать определения различных типов рисков и последовательно применять их к контенту социальных сетей", - говорит Монкс.

"Последовательность - ключевое требование, необходимое не только для обеспечения клиента качественным обслуживанием, но и для того, чтобы помочь ему поддерживать в онлайн-сообществе здоровый и привлекательный климат".

Важно умение сохранять беспристрастность и объективность. "Иногда аналитику по рискам в соцсетях приходится выносить заключение, касающееся информации, к которой у него есть особое личное отношение, но это не должно влиять на его решение ни в коем случае", - подчеркивает Монкс.

Она также отмечает, что некоторый контент – например, убийства через обезглавливание, детская порнография - может вызывать сильный стресс, поэтому сотрудникам необходимо быть эмоционально устойчивыми.

Полезными чертами считаются также общительность, командный дух и оптимизм.

Новый сегмент индустрии растет еще и потому, что для большинства компаний защита от рисков в социальных сетях уже стала насущной необходимостью, считает Нигам из SSP Blue. Не иметь ее в наше время попросту опасно.

"Присутствовать в сетевом пространстве без подобной защиты совершенно невозможно. Раньше она не требовалась, но сейчас без нее действительно не обойтись, - говорит он. - Люди ждут [от нас] защиты, и ее работа влияет на то, как сегодня выглядит всемирная сеть".