Домогательства в метавселенной. Meta борется с нарушителями личного пространства в виртуальных мирах

Компания Meta (до осени прошлого года называвшаяся Facebook) вводит в своей метавселенной возможность запрета для аватаров слишком близко подходить друг к другу. Таким образом фирма ответила на жалобы некоторых пользователей, которые говорят о сексуальных домогательствах в виртуальном мире.

Речь идет о введенной в виртуальных вселенных Horizon Worlds и Horizon Venues функции Personal Boundary, которая, как говорят в Meta, "предотвращает вторжение в личное пространство" аватара. Это своеобразный пузырь, позволяющий предотвращать близкий контакт с пользователем. В компании добавили, что по-прежнему считают виртуальную реальность полезным инструментом и будущим коммуникаций, но признали, что над ней еще требуется поработать.

О своем опыте негативном в виртуальной реальности рассказала колумнистка Би-би-си Парми Олсон, которая столкнулась с харрасментом в VR-вселенной Horizon Worlds, разработанной самой Meta. Любой человек старше 18 лет в ней может зарегистрироваться и создать аватар, который выглядит как нарисованный человек. Аватары бывают всех полов и цветов кожи, но ниже пояса у них пустота.

Пристальные взгляды аватаров

"Да, у меня, как у женщины, было несколько неприятных моментов", - рассказывает Олсон. - Я сразу поняла, что я была единственной женщиной, единственным женским аватаром. И ко мне подошли мужчины и начали молча на меня смотреть".

"Потом они стали меня фотографировать и передавать мне фото, а в какой-то момент парень близко подошел ко мне и что-то сказал. Когда в виртуальной реальности кто-то находится очень близко, он будто говорит вам в ухо, меня это ошеломило", - продолжает она.

Похожий случай произошел с ней и на платформе Social VR , созданной компанией Microsoft. "Я беседовала с другой дамой, и уже через несколько минут к нам подошел парень и начал с нами разговаривать, ходить за нами и говорить всякие неуместные вещи. Пришлось его заблокировать", - говорит она.

"С тех пор я слышала о том, что такое происходило и с другими женщинами", - продолжает Олсон.

Харрасментом произошедшее Олсон назвать не может, но считает его "странным и пугающим".

Домогательства

Мать четверых детей Нина Джейн Патель столкнулась в виртуальной реальности с еще более неприятным поведением. В интервью британскому таблоиду Daily Mail она сравнила произошедшее с сексуальными домогательствами. По ее словам несколько мужеподобных аватаров неприлично "схватили" ее аватар, а потом прислали сообщение: "Не притворяйся, что тебе не понравилось".

Meta извинилась за произошедшее: "Мы хотим, чтобы опыт всех пользователей был позитивным и чтобы им было легко найти инструменты безопасности, которые помогут им в подобных ситуациях - и помогут нам их расследовать".

Также о виртуальном "облапывании" сообщила одна из бета-тестеров проекта в конце декабря. Глава проекта Вивек Шарма тогда сказал в интервью изданию The Verge, что у девушки под рукой были все инструменты, необходимые для блокировки обидевших ее пользователей. Он добавил, что компания вынесет эти инструменты на первый план в интерфейсе, чтобы их было легче найти.

Модерировать контент в новой виртуальной вселенной будет крайне сложно, и технический директор Meta Эндрю Бозуорт говорит, что VR-миры представляют "как новые возможности, так и новые угрозы". "Мне лично, если бы я столкнулся с оскорблениями в таком пространстве, это казалось бы более реальным [чем в обычном интернете], потому что виртуальная реальность гораздо больше похожа на физическую", - говорит он.

С другой стороны, добавляет Бозуорт, она дает каждому пользователю гораздо больше контроля над окружением: "Если я вас "заглушу", то вы для меня перестанете существовать, и ваша способность причинить мне вред сразу падает до нуля".

Также Бозуорт не уверен, что в таком сообществе в принципе нужна какая-то модерация. "Вы хотите, чтобы рядом всегда была система - или человек - который бы вас подслушивал? Наверное нет, - сказал он в интервью Би-би-си в конце прошлого года. - Поэтому, думаю, произойдет обмен: если вам нужен высокий уровень контента и безопасности, или, как мы говорим, целостности, то придется пожертвовать долей анонимности".

А в случае с Meta с ее видением "метавселенной", где разными виртуальными мирами управляют разные компании, этот обмен становится еще сложнее. "Никаких гарантий приватности или целостности коммуникации я в этом случае дать не могу", - говорит он.

Парми Олсон согласна, что для Meta, Microsoft и других строителей онлайн-вселенных модерирование будет очень сложной задачей.

"Когда сканируешь текст на предмет языка ненависти, с этим еще можно справиться, например, с помощью самообучающихся алгоритмов. Но чтобы обрабатывать визуальную информацию об аватаре, дистанции между ним и другими аватарами, понадобятся такие вычислительные мощности, что я даже не знаю, способна ли на это технология", - добавляет она.

Meta вложит в разработку своей вселенной 10 млрд долларов, и часть этой суммы, вероятно, пойдет на разработку механизмов модерации. "За последние 15 лет онлайн-коммуникаций мы очень многому научились [...] И мы воспользуемся этим знанием, чтобы сделать эти вселенные как можно лучше, дав людям больше контроля над их собственным опытом", - говорит Бозуорт.

Кембриджский антрополог доктор Бет Синглер, изучавшая этику виртуальных миров, считает, что у Meta уже сейчас не получается эффективно бороться с незаконными материалами в соцсетях.

Возможно, считает она, разработчикам стоит обратить внимание на существующие уже не первый десяток лет онлайн-игры, такие как "Second Life" и "World of Warcraft", в которых существуют ограничения на выбор ников или на взаимодействие между аватарами.

По мнению Синглер, решение Meta сделать своих аватаров безногими, вероятнее всего, связано с технической проблемой: отсутствием сенсоров для ног. Однако это может быть и способом обойтись в метавселенной без всего, что находится "ниже пояса".

Впрочем, если жестко ограничивать то, как может выглядеть аватар, то пользователям станет труднее обозначить в виртуальном мире их уникальные личности, добавляет эксперт.