Ненависть в Facebook, депрессия в Instagram. Новое расследование о закулисье крупнейших соцсетей мира

Ведущее американское деловое издание The Wall Street Journal продолжает публикацию документов корпорации Facebook. Документы подтверждают, что корпорация знала о разрушительном влиянии соцсетей на психику людей, а также на политику и криминальную ситуацию в целых странах.

Корпорация Facebook владеет соцсетями Facebook, Instagram и мессенджером WhatsApp. Документы, которые попали в руки журналистов, в основном, были написаны исследователями внутри самой компании. То есть, об их содержании корпорация точно знала. Но очень мало сделала для минимизации негативных последствий.

Wall Street Journal (сокращенно WSJ) опубликовал серию из пяти статей-расследований, основанных на внутренних документах Facebook. "Страна" рассказывала о первой части этого цикла в материале "Все блогеры равны, но некоторые равнее. Как Facebook создал список VIPов, которые могут нарушать правила".

Расскажем теперь об остальных частях громкого расследования.

Instagram токсичен для психики подростков

Во втором эпизоде серии расследований, который был опубликован 14 сентября, журналисты WSJ обратились документам корпорации Facebook об исследовании влияния соцсети Instagram. Исследование показало, что Instagram может быть вредным для психики молодых пользователей, особенно для девочек-подростков.

Как оказалось, приложение для обмена фотографиями Instagram вредно для значительного процента пользователей, особенно для девочек-подростков.

 "32% девочек-подростков заявили, что Instagram заставлял их чувствовать себя хуже", - заявили исследователи в презентации, опубликованной в марте 2020 года на внутренней доске сообщений Facebook.

"Мы усугубляем проблемы с изображением тела у каждой третьей девочки-подростка", – говорится на одном из слайдов за 2019 год, в котором подводятся итоги исследования девочек-подростков, которые испытывают такие проблемы.

"Подростки винят Instagram в повышении уровня тревожности и депрессии", – говорится на другом слайде. "Эта реакция была непредсказуемой и последовательной во всех группах".

Среди подростков, сообщивших о суицидальных мыслях, 13% британских пользователей и 6% американских пользователей связывали желание покончить с собой с Instagram.

В статье приводятся свидетельства молодой инстаграмщицы Анастасии Власовой. У нее развилось расстройство пищевого поведения, и причиной этого было время, проведенное в Instagram.

Исследователи, которые работали по заказу Facebook, провели "глубокое  погружение" в психическое здоровье подростков. Они пришли к выводу, что некоторые проблемы специфичны для Instagram, а не для социальных сетей в целом. Это особенно верно в отношении так называемого социального сравнения, когда люди оценивают свою собственную ценность по сравнению с привлекательностью, богатством и успехом других.

Instagram сильно фокусируется на теле и образе жизни. Функции, которые Instagram определяет как наиболее вредные для подростков, по всей видимости, лежат в основе самой платформы.

Согласно внутреннему исследованию, проведенному в марте 2020 года, тенденция делиться в Instagram только лучшими моментами, стремление выглядеть безупречно и продукты, вызывающие привыкание, могут подтолкнуть подростков к расстройствам пищевого поведения, нездоровому чувству собственного тела и депрессии.

Данное исследование было проанализировано высшим руководством Facebook и было процитировано в презентации 2020 года, представленной главе компании Марку Цукербергу.

Сенаторы США в письме Марку Цукербергу призвали его опубликовать исследование о влиянии платформ на психическое здоровье молодежи. В ответ Facebook отправил сенаторам письмо, в котором сообщил, что его внутреннее исследование является частной собственностью и "держится в секрете, чтобы способствовать откровенному и открытому диалогу и внутреннему мозговому штурму".

Документы показывают, что Facebook приложил минимальные усилия для решения проблем, и публично их преуменьшает. Технологический гигант знает о своем влиянии на подростков и на их психическое благополучие, и это один из самых явных пробелов, выявленных в документах, между пониманием Facebook и его публичной позицией.

Публично Facebook постоянно преуменьшает негативное влияние приложения на подростков, и не делает свои исследования доступными для ученых или законодателей. Расширение базы молодых пользователей жизненно важно для корпорации, и она не хочет ставить под угрозу их взаимодействие с платформой.

Facebook купил приложение для публикации фото- и видеоконтента Instagram в 2012 году за 1 миллиард долларов. Тогда это был крошечный стартап с 13 сотрудниками.

Сейчас приложение Instagram очень важно для бизнеса корпорации Facebook. В среднем подростки в США проводят в Instagram на 50% больше времени, чем в соцсети Facebook. Более 40% пользователей Instagram – в возрасте 22 лет и моложе. И около 22 миллионов подростков заходят в Instagram в США каждый день, по сравнению с 5 миллионами подростков, которые заходят на Facebook.

Поэтому руководство компании публично отрицает негативное влияние соцсетей на психику пользователей. В мае глава Instagram Адам Моссери сказал репортерам, что проведенное им исследование показывает, что влияние приложения на благополучие подростков, вероятно, "весьма незначительно".

Почему Facebook стал злой

В третьей части расследования, опубликованной в среду, 15 сентября, журналисты WSJ обнародовали документы о том, что изменения в алгоритмы Facebook, внесенные в 2018 году, сделали платформу "более злой". "Дезинформация, токсичность и сцены насилия чрезвычайно распространены среди повторных публикаций", – отмечают исследователи во внутренних служебных записках.

Источник: wsj.com

Изменения алгоритма нанесли ущерб многим онлайн-издателям. В первой половине 2018 года трафик BuzzFeed, крупнейшего интернет-СМИ США, упал на 13% по сравнению с предыдущими шестью месяцами, Breitbart – на 46%, а ABC News – на 12%.

Некоторые политические партии в Европе сообщили, что алгоритм заставил их изменить свою политическую позицию, чтобы они нашли больший резонанс на платформе.

К примеру, в Испании, как установили исследователи Facebook, политические партии проводят сложные операции, чтобы сообщения Facebook распространялись как можно дальше и быстрее.

"Они поняли, что резкие нападения на их оппонентов приносят наибольшую выгоду <…>. В конечном итоге вы используете то, что работает" – пояснили исследователи.

Изменение алгоритмов Facebook в 2018 году коснулось центральной функции соцсети – ленты новостей. Это постоянно обновляемая и индивидуально настраиваемая лента фотографий друзей и ссылок на новости. На его долю приходится большая часть времени, которое почти три миллиарда пользователей Facebook проводят на платформе.

Алгоритм контролирует то, что появляется в новостной ленте каждого пользователя. При этом учитывается, с кем пользователи дружат, к каким группам они присоединились, какие страницы им понравились, какие рекламодатели заплатили за их таргетинг и какие типы историй популярны или стимулируют обсуждение.

За прошедшие годы Facebook внес множество изменений в алгоритм. Переход к акценту на MSI (от англ. meaningful social interactions – "значимое социальное взаимодействие") был одним из самых значительных.

В новом алгоритме была введена система баллов, используемая для измерения успеха. Большой вес получили материалы, публикуемые повторно в своей ленте новостей (т.н. "репост").

Обычный лайк оценивался в один балл; публикация у себя без текста оценивалась в пять баллов; важный комментарий, сообщение, повторная публикация в 30 баллов. Дополнительные множители были добавлены в зависимости от того, было ли это взаимодействие между членами группы, друзьями или незнакомцами.

Внутренняя памятка Facebook за декабрь 2017 года под названием "История определения весов метрик значимых социальных взаимодействий (UX Research & Data Science)". Источник: wsj.com

Новый алгоритм начал работать не так, как от него ждали. Если кто-то представляет спорную тему, то люди чаще начинают выбирать смайл реакции гнева, которая приносит пять баллов при каждом ее использовании, вместо обычной кнопки "Like" ("Нравится"), оцениваемой в один балл. В результате MSI растет, и все больше пользователей видят этот спорный контент в своей ленте новостей.

Чем больше людей видят пост, тем больше людей вовлекается в спор. Комментарии становятся длиннее, когда пользователи защищают свои позиции и используют кнопки реакции, отличные от простого лайка.

"Группа управления социальными сетями одной стороны оценивает, что они изменили пропорцию своих постов с 50/50 положительных/отрицательных до 80% отрицательных, явно в зависимости от изменения алгоритма", – написали два исследователя Facebook во внутреннем отчете за апрель 2019 г.

"Вовлеченность на положительные и политические посты резко сократилась, в результате чего партии все больше полагаются на подстрекательские посты и прямые атаки на своих конкурентов". Внутренний отчет Facebook за апрель 2019 г. "Реакция политической партии на изменение алгоритма 18". Источник: wsj.com

С точки зрения бизнеса это сработало. Как и предсказывал Facebook, усилия по максимальному взаимодействию между пользователями улучшили важнейший показатель "ежедневно активных людей, использующих Facebook".

В конечном итоге, компания продает рекламодателям именно внимание пользователей. Рекламные доходы составляют почти весь ее доход в размере 86 миллиардов долларов в прошлом году.

Через работают Facebook наркокартели и торговцы "живым товаром"

В четвертой серии расследования журналисты WSJ раскопали, что самый крупный мексиканский наркокартель использовал Facebook для вербовки, обучения и оплаты наемных убийц. Но компания не помешала картелю публиковать сообщения в Facebook или Instagram. Еще на Ближнем Востоке соцсеть использовали торговцы людьми, чтобы заманить женщин в рабство. А вооруженные группы в Эфиопии использовали сайт для подстрекательства к насилию против этнических меньшинств.

Источник: wsj.com

Обо всех этих нарушениях сотрудники Facebook сообщали руководству. Однако ответ компании во многих случаях являлся неадекватным.

Когда проблемы стали известны публично, Facebook заявил, что решает их, удаляя оскорбительные сообщения. Но он не исправил систему, которая позволяла преступникам повторять "плохое поведение". Вместо этого приоритет отдается удержанию пользователей, помощи бизнес-партнерам и умиротворению авторитарных правительств.

Facebook рассматривает вред в развивающихся странах как "просто издержки ведения бизнеса" в этих странах, сказал Брайан Боланд, бывший вице-президент Facebook. Он руководил партнерскими отношениями с интернет-провайдерами в Африке и Азии до ухода в отставку в конце прошлого года.

По его словам, Facebook сосредоточил свои усилия по обеспечению безопасности на более богатых рынках с влиятельными правительствами и СМИ. Хотя почти все новые пользователи соцсети приходят из развивающихся стран, где Facebook является основным каналом онлайн-коммуникации и источником новостей:

Процент от общего числа активных пользователей Facebook за месяц, по регионам. Источник: wsj.com, Facebook

Журналисты WSJ изучили отчеты сотрудников Facebook, где они ссылались на решения соцсети, позволяющие публиковать видео с убийствами, подстрекательством к насилию, угрозами со стороны правительства в адрес активистов и рекламой торговли людьми.

К примеру, в прошлом году на платформах Facebook распространялись враждебные высказывания в южно-азиатском государстве Мьянма (бывш. Бирма). Компания Facebook признала, что не сделала достаточно, чтобы остановить подстрекательство к насилию в отношении меньшинства рохинджа, которое, по утверждениям США, стало жертвами этнической чистки. Генеральный директор Марк Цукерберг написал письмо с извинениями после того, как изначально преуменьшил роль Facebook в насилии.

А в Мексике бывший полицейский и его команда распутали онлайн-сеть наркокартеля Халиско (исп. "Jalisco"). Картель прямо через Facebook вербовал подростков из бедных семей для учебы в тренировочных лагерях для наемных убийц.

Вербовщики через сообщения в Facebook предупреждали молодых потенциальных сотрудников о том, что "картель серьезно избьет или убьет их, если они попытаются покинуть тренировочный лагерь", - написал бывший офицер полиции.

Картель, который, по словам сотрудников правоохранительных органов, представляет собой самую большую преступную наркоугрозу для США, не скрывал своей деятельности. Документы показывают, что у него было несколько страниц в Facebook с фотографиями позолоченного оружия и кровавых мест преступлений.

13 января в аккаунте картеля в Instagram появился первый пост: видео, на котором человек из золотого пистолета стреляет молодому человеку в голову, а из его шеи бьет кровь. Следующий пост - фотография избитого человека, привязанного к стулу; следующий - мешок для мусора, полный отрубленных рук.

Страницы в Instagram и Facebook, рекламирующие картель, оставались активными в течение как минимум пяти месяцев, прежде чем были закрыты. С тех пор под названием картеля появились новые страницы, посвященные оружию и насилию.

Через Facebook и Instagram велась также оживленная торговля людьми на Ближнем Востоке. "Агентства по трудоустройству" рекламировали работников, которых они могли предоставить на принудительных условиях, используя их фотографии и описывая их навыки и личные данные.

Команда исследователей по вопросам эксплуатации людей Facebook обнаружила, что преступные сети вербуют людей из бедных стран, координируют их поездки и отправляют их в качестве домашней прислуги или на принудительную секс-работу в Объединенные Арабские Эмираты и другие стране Персидского залива.

В марте 2018 года сотрудники обнаружили в Instagram профили, посвященные торговле домашней прислугой в Саудовской Аравии. Во внутренней служебной записке говорится, что им было разрешено быть на сайте, потому что это "не признавала нарушением" политика компании.

Группа по расследованию выявила несколько действующих групп торговли людьми, в том числе одну с не менее чем 20 жертвами, а также организаторов, которые потратили не менее 152 тысяч на рекламу "массажных салонов" в Facebook.

Даже через 18 месяцев после того, как впервые была выявлена проблема, Facebook не внедрил системы для поиска и удаления сообщений о торговле "живым товаром".

В одном из документов, опубликованных в этом году, Facebook предлагалось быть осторожным с предупреждениями на арабском языке о торговле людьми, чтобы не "оттолкнуть покупателей" - имея в виду пользователей Facebook, которые покупают контракты домашних работников, часто в ситуациях, близких к рабству.

В Эфиопии вооруженные группы использовали Facebook для подстрекательства к насилию. Группы, связанные с правительством Эфиопии и государственными СМИ, разместили в Facebook подстрекательские комментарии против тиграянского меньшинства, называя их "гиенами" и "раком". Посты, обвиняющие тиграян в таких преступлениях, как отмывание денег, становились вирусными, и некоторые люди на сайте говорили, что тиграян следует уничтожить.

Насилие обострилось к концу прошлого года, когда правительство совершило нападение на столицу Тыграя Мекелле. Госсекретарь Энтони Блинкен заявил в марте, что тиграяне стали жертвами этнической чистки.

Родственники жителей Тогоги в районе Тыграй в Эфиопии после авиаудара в июне. ФОТО: ЯСУЁСИ ЧИБА/AFP/GETTY IMAGES. Источник: wsj.com

В Индии более 300 миллионов пользователей Facebook – больше, чем в любой другой стране. Исследователи компании в 2019 году создали тестовую учетную запись от имени пользователя-женщины из Индии и заявили, что столкнулись с "кошмаром", просто просматривая страницы и группы, рекомендованные алгоритмами Facebook.

 "Лента новостей тестового пользователя стала почти постоянным шквалом поляризующего националистического содержания, дезинформации, насилия и кровопролития", - писали они. Видеосервис Facebook Watch "похоже, рекомендует кучу эротического порно".

Во Вьетнаме в течение девяти месяцев Facebook ограничивал аккаунт Буй Ван Туана, известного критика правительства. Вьетнамский оппозиционер сообщил, что его аккаунт заблокировали после того, как группа, организованная правительством, отправила тысячи жалоб на его публикации.

Сотрудники Facebook согласились с тем, что правительство организовало действия против Туана. Facebook заявил, что ошибка была исправлена.

Тем не менее, в прошлом году Facebook заявил, что ограничил доступ к диссидентскому политическому контенту, в обмен на прекращение правительством Вьетнама практики замедления работы локальных серверов Facebook. Бывший сотрудник Facebook, работавший в Азии, сказал, что Facebook знает, что правительство Вьетнама использует платформу для того, чтобы заставить замолчать диссидентов. Но компания терпит злоупотребления, потому что Вьетнам - быстрорастущий рынок рекламы.

"Наша цель - поддерживать работу наших сервисов во Вьетнаме", - сообщил  представитель Facebook. "Мы действительно ограничиваем некоторый контент во Вьетнаме, чтобы наши услуги оставались доступными для миллионов людей, которые пользуются ними каждый день".

За рубежом Facebook выделяет меньше ресурсов на предотвращение вреда, чем в США. В 2020 году сотрудники и подрядчики Facebook потратили более 3,2 миллиона часов на поиск, маркировку или удаление информации, которая, по мнению компании, была ложной или вводящей в заблуждение. Только 13% этих часов было потрачено на работу с контентом за пределами США.

Системы искусственного интеллекта, составляющие основу систем контроля контента, не охватывают большинство языков, используемых на сайте. Для некоторых языков Facebook вообще не удалось создать автоматизированные системы, которые могли бы отсеять самые серьезные злоупотребления.

Facebook против Цукерберга

В пятой части расследования журналисты WSJ опубликовали внутренние документы Facebook о развернутой на платформе массовой кампании против вакцинации.

В марте глава корпорации Марк Цукерберг на своей странице в Facebook объявил об амбициозной личной цели. Он хотел, чтобы его компания использовала свои огромные ресурсы, чтобы подтолкнуть 50 миллионов человек к вакцинации против Covid-19.

Однако сотрудники Facebook предупреждали руководство, что собственная платформа Цукерберга ставит под угрозу его усилия. Активисты-противники вакцинации подорвали амбиции главы компании, заполнив сайт негативными комментариями по поводу вакцин.

За несколько недель до того, как Марк Цукерберг сделал свое объявление, в другом служебной записке говорилось, что примерно 41% комментариев к англоязычным постам, связанным с вакцинами, были против вакцинации. Даже авторитетные источники информации о вакцинах становились "выгребной ямой для комментариев против вакцины".

В августе 2020 года в отчете правозащитной группы Avaaz был сделан вывод, что 10 ведущих "производителей дезинформации о здоровье" набрали почти в четыре раза больше просмотров в Facebook, чем 10 основных источников авторитетной информации.

Более поздний анализ показал, что за множеством антивакцинальных постов и групп стояло небольшое количество так называемых "больших китов". Из почти 150 тысяч постеров в группах Facebook, отключенных из-за дезинформации о Covid-19, половину всех сообщений создавали только 5% участников. А половину новых участников групп пригласили всего около 1400 пользователей.

Волна негатива на Facebook встревожила даже мировые учреждения здравоохранения, в том числе Всемирную организацию здравоохранения и ЮНИСЕФ.

К лету этого года распространенность ложной и вводящей в заблуждение информации о вакцинах в Facebook вызвала публичное порицание со стороны президента Байдена, который сказал, что эта ложь "убивает людей".

Президент Байден, приведенный выше в июле, публично отругал Facebook за ложную информацию на сайте о вакцинах. ФОТО: SUSAN WALSH/ASSOCIATED PRESS. Источник: wsj.com

Внутренние документы Facebook показывают, что в течение нескольких месяцев компания пыталась наверстать упущенное, пытаясь справиться с потоком вводящей в заблуждение и ложной информации по вакцинации.

Компания начала снижать рейтинги комментариев, связанных с вакцинами, которые она сочла сенсационными или обескураживающими. Также компания заявила, что удалила 20 миллионов сообщений, нарушающих ее политику относительно эпидемии Covid-19.