Как найти управу на троллей в интернете

Троллям и грубиянам в интернете раздолье. Обозреватель BBC Future попытался выяснить, можно ли победить их техническими средствами.

"Наша платформа проигрывает борьбу с оскорблениями и троллингом, и это продолжается уже не первый год, - признал Дик Костоло, бывший генеральный директор Twitter, в служебной записке, которая попала в руки журналистов. - Это общеизвестный факт, который является предметом ежедневных дискуссий по всему миру".

Признаваться в таком неприятно, но многим это признание показалось весьма запоздалым.

Агрессия в интернете, увы, давно никого не удивляет, и Twitter - далеко не единственная площадка, где тролли и грубияны творят что хотят.

Более половины молодых людей когда-либо сталкивались с нападками в интернете. В новостях то и дело рассказывают о том, как на просторах всемирной паутины кого-то травят.

Так что у многих может сложиться впечатление, будто для решения этой проблемы не делается ровным счетом ничего.

Тем не менее есть надежда, что и на троллей можно найти управу.

За последнее время был проведен целый ряд исследований о том, как можно оперативно выявлять агрессивных пользователей при помощи автоматических средств - чтобы пресечь травлю на раннем этапе.

Материалом для одного из таких исследований стали 40 миллионов комментариев, размещенных в течение полутора лет на таких сайтах, как новостные порталы CNN.com и Breitbart.com.

Один из авторов исследования, Кристиан Данеску-Никулеску-Мизил с кафедры информатики Корнелльского университета, резюмирует: наблюдая за поведением пользователя сайта или форума, можно довольно быстро понять, запретят ли ему писать комментарии.

Причем слова, которые человек использует, сами по себе не так важны.

"Антисоциальные пользователи, как правило, участвуют лишь в нескольких ветках обсуждения. Они много пишут, но не выходят за пределы выбранных тем, в то время как активность обычных пользователей распространяется на более широкий круг дискуссий", - поясняет исследователь.

Исследователям удалось вычленить характерные черты поведения таких пользователей и создать алгоритм, который быстро распознает потенциальных агрессоров.

Вместо ругательств и сленговых оскорблений алгоритм обращает внимание на определенные модели действий - и таким образом успешно выявляет нежелательных пользователей на многих площадках.

"Оказывается, чтобы предсказать с точностью около 80%, заблокируют пользователя или нет, достаточно проанализировать его первые пять-десять сообщений", - рассказывает Данеску-Никулеску-Мизил.

Исследователи подчеркивают, что живого модератора их алгоритм не заменит: иначе можно будет "угодить в бан" только за подозрительную частоту нескольких первых сообщений.

Однако они надеются, что машина сможет облегчить модератору задачу, обращая его внимание на тех пользователей, которых имеет смысл взять на контроль.

Возможно, так будет проще вовремя вынести грубияну предупреждение, пока тот не решил, что может оскорблять других безнаказанно.

Однако, по словам ученого, полностью человека из процесса выкинуть пока нельзя.

Онлайн-издание Wired сообщало, что компания SRI International - та самая, которая разработала электронную помощницу Siri, позднее приобретенную Apple для своих айфонов, - тоже прилагает немало усилий для автоматического вычисления интернет-забияк.

Ее специалисты пытаются автоматизировать ту работу, которую сейчас приходится делать модераторам-людям.

Некоторые исследователи рассматривали тему агрессии на материале таких сетей, как Instagram.

Конечно, предпринимаются и более традиционные попытки бороться с сетевой травлей - путем распространения информации об этом явлении и его особенностях.

Такие кампании часто проводятся в самом интернете, пример тому - недавно запущенный британскими властями сайт Stop Online Abuse ("Нет киберагрессии"), посвященный борьбе с онлайн-нападками на женщин и представителей ЛГБТ.

Любопытно, что авторы некоторых инициатив предлагают бороться с троллями их же оружием.

Например, в рамках кампании Zero Trollerance ("Нулевая терпимость к троллям") активисты из группы The Peng Collective использовали специальных роботов, которые выискивали в сети Twitter агрессивные сообщения.

Авторам сообщений, в которых были выявлены признаки онлайн-агрессии, иронично предлагалось пройти курс психологической помощи, чтобы излечиться от навязчивого стремления троллить других людей.

"Я хотела предпринять что-нибудь, что наделает шуму и притом коснется самих троллей, - говорит Ада Стольц, одна из участников проекта, в ходе которого за неделю сообщения были разосланы тысячам пользователей Twitter. - И у нас получилось. Мы сами их затроллили - создали целую армию ботов".

Идея, что онлайн-агрессоры должны отвечать за последствия своих действий, очень популярна. Ее активно используют организации по борьбе с психологическим насилием в интернете, работающие с молодежью.

Британская благотворительная организация ChildNet часто организует в школах тематические дни. Так, иногда детям предлагается разыграть небольшую пьесу, в которой им достается роль жертвы, чьи голые фотографии рассылают всем в школе.

"Секстинг" - обмен сообщениями или фотографиями эротического содержания - может обернуться травлей, и подростки сегодня, увы, все чаще с этим сталкиваются. Игровые приемы ChildNet заставляют их почувствовать себя в шкуре жертвы.

"Эта инсценировка помогает подросткам понять, как бы они себя чувствовали на месте персонажей", - поясняет Ханна Бродбент, представитель благотворительной организации.

"Их образ мыслей меняется буквально на ваших глазах, и если до участия в спектакле их первой реакцией было "Ну, она же сама послала эту фотографию, сама и виновата", то теперь они сопереживают тому, кто оказался в такой ситуации".

"Это очень, очень полезно", - считает Эмма Шорт, психолог, специализирующийся на изучении навязчивого преследования и психологического насилия в интернете.

Шорт признает, что не только дети, но и родители и учителя не сразу понимают, какой вред может нанести онлайн-агрессия.

Виртуальная травля часто проходит незаметно, подростки держат происходящее в тайне от взрослых, и, даже если обо всем становится известно, страдания жертвы могут не принимать всерьез.

Почему же люди вообще друг друга травят? Ответ можно дать с позиций социологии и психологии.

Считается, что агрессор пытается продемонстрировать свою силу, выстроить некие иерархические отношения.

Однако психологические причины для этого могут быть самыми разными - от ощущения собственной неполноценности в более раннем возрасте до воспроизведения агрессии, которой обидчик сам подвергся когда-то.

Самое главное, по словам Шорт, - пробудить способность к сопереживанию.

"Похоже, что, размещая сообщения в сети, особенно агрессивного характера, люди ощущают себя изолированными от других", - отмечает она.

"Чем лучше нам удастся почувствовать, что онлайн-дискуссия - это одна из форм межличностного общения, тем более чутко мы будем себя вести".

Именно по этой причине некоторые сайты предлагают пользователю подумать, прежде чем нажать кнопку "Отправить", если в его сообщении есть определенные слова.

Например, такой подход используется на молодежном сайте A Thin Line.

Эта идея может понравиться Монике Левински, которая в прошлом году выступила с нашумевшей речью о "культуре унижения", с которой, по ее мнению, связано множество проблем в нашем обществе.

"Чем больше мы просматриваем подобных грязных материалов, тем более безразличными становимся к жизням людей, которые оказались невольными героями этих историй", - заявила она.

Одна из причин, по которым так сложно достучаться до людей, взывая к чувству ответственности за происходящее в цифровом пространстве, - так называемый эффект свидетеля.

Люди часто видят, как кого-то унижают, но не делают ровным счетом ничего, чтобы это прекратить.

Шорт видит в этом одну из самых серьезных проблем, не преодолев которую, искоренить психологическое насилие в интернете невозможно.

Вместе с тем есть и обнадеживающие факты. Наблюдая за игроками в онлайновой ролевой игре League of Legends, Джереми Блэкберн из испанской компании Telefonica I+D и его соавторы недавно обнаружили, что люди в 16 раз чаще сообщают о нарушении правил сообщества, если их об этом попросил один из членов команды.

"Когда жертва прямо просит о помощи и пишет что-нибудь вроде "пожалуйся на этого парня, он козел", - рассказывает Блэкберн, - функцию жалобы используют гораздо чаще. А эффект свидетеля уже не работает".

Блэкберн сам часто играет в League of Legends и другие подобные игры. Участники обычно обмениваются текстовыми сообщениями через интерфейс игры, но в последнее время все чаще переговариваются при помощи гарнитуры.

Ученый и сам успел столкнуться с самыми разными моделями поведения других игроков, включая оскорбления и угрозы.

Однако, по его словам, сила оскорблений зависит в том числе от канала общения.

"Я заметил, что при голосовом взаимодействии люди склонны проявлять больше сдержанности, - замечает он. - Ведь такое общение уже не совсем анонимно".

Наверное, все же можно убедить людей пересмотреть свое отношение к агрессивному поведению и не оставаться безучастными к проявлениям жестокости в интернете.

Для этого нужно только найти способ обратить внимание на то, что за каждым цифровым образом стоит живой человек.

А написание алгоритмов, призванных контролировать ситуацию в ее нынешнем виде, - лишь полумера. Вряд ли оно заменит прямое взаимодействие с другими людьми - даже если они тролли.