В течение года социальная сеть Facebook отказывалась удалять страницу, на которой были размещены фотографии детей, сделанные в общественных местах, и комментарии пользователей о том, какие сексуальные действия они готовы с ними совершить. Такое же время просуществовал пост, в котором рекламировалось видео с изнасилованием несовершеннолетнего, несмотря на то, что на него несколько раз поступали жалобы.
Об этом заявил Верховный суд Индии, который сейчас рассматривает соответствующие уголовные дела.
Блюстители закона рассказали о том, как технологические гиганты, включая Facebook, Yahoo, WhatsApp, Microsoft и Google, размещают запрещенный контент, появляющийся в Индии, на своих платформах. Судьи обратились к индийскому правительству с просьбой пересмотреть правила, действующие относительно материалов и видео, в которых показано насилие над детьми.
Расследование поставило под сомнение адекватность систем модерации, используемых Facebook, по отношению к быстрорастущему и чрезвычайно разнообразному индийскому онлайн-рынку. Местные жители публикуют свои материалы на десятках языков и тысячах диалектов.
Предполагается, что к 2021 году число индийских пользователей возрастет до 829 миллионов человек. Администраторам придется отслеживать весь контент, который будут выкладывать на своих страницах те, кто пользуется сервисом.
Суд отметил, что Facebook не сообщает индийской полиции о сомнительных материалах, несмотря на то, что этого требует местное законодательство. Администраторы оповещают о нарушениях только американские власти. Всего за год сеть получила более 7 тысяч жалоб на материалы, посвященные сексуальным домогательствам по отношению к детям.
Администраторы сети заявили о том, что «все случаи были рассмотрены и все необходимые действия предприняты».
Однако пользователь, который пожаловался на страницу с фотографиями детей и неприличными комментариями, предоставил в суд скриншот, на котором видно: администраторы в ответ на его жалобу сообщили, что страница «не нарушает стандарты Facebook».
Ресурс удалили только после того, как этого потребовал индийский суд.
Для того чтобы не допустить распространение противозаконного контента, суд рекомендовал технологическим компаниям совместно с индийскими властями составить расширенный список ключевых слов, встречающихся в материалах о насилии над детьми. Туда следует добавить слова на всех индийских языках, диалектах и сленге.
Индийскому правительству посоветовали подписаться на базу данных Национального центра для пропавших без вести и эксплуатируемых детей (NCMEC) в США. Именно туда Facebook и другие компании сообщают о материалах, рассказывающих о жестоком обращении с детьми.
Центр сообщил суду, что получил уже более 100 тысяч подобных сообщений, касающихся Индии. Но поскольку страна не зарегистрирована в системе отчетности NCMEC, остается неизвестным, сколько из них увидела местная полиция. Индия также надеется на сотрудничество с Интерполом.