Тема: «Известия» нашли автора бота, заманивающего детей в «группы смерти»

13.03.2017г.

Программист, создающий вирусы, уверяет, что его робот лишь коммерческий проект


Фото: REUTERS/Kacper Pempel


В «группах смерти» в социальной сети «ВКонтакте» отмечен новый всплеск активности. Девятого марта только за первую половину дня было зафиксировано 12 108 записей с новым стихом, призывающим подростков вступить в «игру», ведущую к настоящей смерти. Обновление стихотворения-маркера, являющегося сигналом для участников игры и потенциальных самоубийц, необходимо, чтобы обмануть специалистов, выискивающих подобные группы. «Известия» провели собственное расследование и нашли разработчика бота, через который пошла самая мощная волна постинга стихов-маркеров от «групп смерти». Программист Роман, известный в сети под ником Dr. Failov, уверяет, что не имеет отношения к «синим китам» и не собирается удалять свой бот, который изначально, по его словам, являлся просто коммерческим проектом.

«Известия» писали о первой волне подобных стихов, «группах смерти» и о том, как кураторы доводят несовершеннолетних до самоубийства. Всё начинается с посева «стиха-маркера» с призывом куратора. «Известия» рассказали о первой волне в материале «Возвращение «синего кита». Этот стих был размещен 14 февраля 2017 года на нескольких тысячах страниц (орфография и пунктуация сохранены):


Синей дом, что стоит на волнах

Синей кит, что плывет в облаках
Забирай меня кит к себе
Я жду инструкций. Я в игре
#синий_кит

По требованию Следственного комитета РФ социальные сети чистят подобный контент, но результаты не заметны — число посевов стихов растет день ото дня: с 1000 до 3000 в день в феврале, до 12 108 публикаций в марте.


Новый маркер-стихотворение появился 24 февраля 2017 года:

#синий ? пришел
в бесшумное #море увел.
молочное небо, и дом.
в котором нет живой души.
они ждали меня долго.
я в игре , а значит всем будет больно.
#я_в #игре

Налицо очевидное изменение текста для усложнения чистки социальной сети от смертоносного контента. А количество постов указывает на работу ботов — специальных программ, автоматически выполняющих различные действия на сайтах в интернете.


Доктор Файлов и его вирус

Специалисты «Центра исследований легитимности и политического протеста» провели анализ страниц, с которых пошла новая волна (второй стих), выяснили время запуска стихов, а также использованные аккаунты. Анализируя аккаунты, специалисты сделали вывод, что это автоматизированная рассылка стихов по страницам «ВКонтакте». Большинство рассылок выявлено на устройствах, работающих под операционной системой Андроид, самой популярной платформы.
Далее специалистам удалось выяснить название программного обеспечения, с помощью которого ведется рассылка. Программой рассылки оказалась VK iHA bot. Этот робот появился в сети в 2014 году, и следы его создателей привели на Украину. Автором программы является житель Киева, известный под ником Dr. Failov — предположительно его зовут Роман.

Так как его программа написана для Андроид-устройств, то она есть и на Google Play. Там же указаны почта и сайт разработчика. Страна регистрации — Украина, Киев.

Как выяснилось, Роман — «вирусописатель». Одно из его творений — программа «Файло4кА». В зависимости от версии «Файло4кА» создает разное количество файлов, их типов и разрешений. Программа захламляет операционную систему и вызывает неисправности компьютера. Потребителю предлагается использовать «Файло4кУ», как, например, розыгрыш. В последних версиях всё настолько автоматизировано, что при желании ее можно моментально удалить с компьютера, но только с помощью секретного кода. То есть, по сути, это вирус-вымогатель. Удалить его можно введя код, а получить код — естественно, за деньги.

Раскрытая схема ботов показывает, что вовлечение подростков производится в автоматическом режиме программными средствами. Робот сам может вести диалог с подростками, отвечая на стандартные вопросы и распознавая сленг молодежной аудитории. Машина предлагает написавшему подростку сделать выбор «если да, напишите 1, если нет, напишите 0», таким образом отсеивая других ботов и допуская подростка на следующий уровень в «игре».

В результате сначала один робот делает посев стиха, сам фильтрует этот посев и находит посты реальных подростков. Все эти действия робот делает через так называемое API VK (англ. application programming interface). Внутри API есть функция автоматического размещения записей, которую и использует робот Романа.
Человек-куратор, купивший бота, подключается к работе с уже готовыми к серьезной «игре» подростками.

Технический вопрос

Чат-боты и хэштеги — это удобные инструменты для поиска и продвижения продуктов в социальных сетях. Люди, которые оплачивают разработку психологических приемов доведения до суицида, превращают труд разработчиков в автоматизированный конвейер по вовлечению детей в «группы смерти». Вопрос, кому это выгодно и кто оплачивает эту работу, пока остается без ответа.

Девятого марта вице-спикер Государственной думы Ирина Яровая пообещала внести в Госдуму законопроект, предусматривающий уголовную ответственность для тех, кто в социальных сетях склоняет детей к самоубийству.

«Для всех смельчаков, которые до сих пор считали себя безнаказанными, могу сказать, что по совокупности преступлений, которые они совершают, уровень ответственности может быть до 12 лет. Поэтому им стоит оценить, стоит ли продолжать эту опасную «игру», — цитирует Ирину Яровую агентство «Интерфакс».
Преступники, ведущие «игру» с подростками, могут находиться за тысячи километров от границ России. А если у страны, из которой преступники ведут свою работу, нет соглашения с РФ о выдаче преступников, то ужесточение наказания для них — пустой звук. Без комплексного подхода проблему не решить.

— Каждое такое приложение, разработанное для социальной сети «ВКонтакте», работает через так называемый ID (идентификационный номер) приложения, — рассказал «Известиям» директор «Центра исследований легитимности и политического протеста» Евгений Венедиктов. — Прежде чем создать подобного бота, программист должен получить этот номер. И все, кто использует этот бот в «ВК», используют этот же номер автоматически. Администраторы сети могут блокировать этот ID. Но автор бота Роман может обойти эту проблему через обновление программы, сменив номер. Остановить постинг стихов можно прямо сейчас, запретив поиск определенных хэштегов и текстов. Тогда и удалять их целыми днями будет не нужно, поскольку подростки просто не смогут найти такие группы. Почему администраторы «ВКонтакте» этого не делают, я не знаю.


Ужесточать законодательство за преступления по ст. 110 УК РФ «Доведение до самоубийства» необходимо, и Общественная палата РФ ведет работу в этом направлении. Преступники должны понимать, что наказание будет суровым и лазейки в законе устранены. Но необходимо найти решение и технических вопросов.


Ничего личного, просто бизнес

«Известиям» удалось связаться с разработчиком бота, через который пошла самая мощная волна постинга стихов-маркеров от «групп смерти», — программистом Романом, известным в сети под ником Dr. Failov. Корреспондент «Известий» выступил в роли потенциального покупателя, который с помощью бота хочет провести агрессивную пиар-кампанию экстремальных видов спорта. Вот цитаты из нашей переписки (орфография и пунктуация сохранены):

Корреспондент:

— Роман, ваш бот VK iHA bot сейчас активно занят в постинге стихов о «синем ките». Если мы сейчас начнем использовать ваш бот, то не забанят ли нашу кампанию вместе с «китами»?))

Роман:

— Можно поподробнее о «китах»? Ну а вообще, бот — это лишь инструмент, который можно использовать для много чего. Кроме того, боту уже больше года
Повторюсь посты были отправлены из официального андроид-приложения вручную. Бот же постить посты по расписанию не умеет. Моя программа не может запретить пользователю вручную публиковать посты на своей странице. И вообще, программа не в праве указывать пользователю что делать.
Вы, кстати, тоже поосторожней с этими хэштэгами. За них страницы летят в бан автоматически.
В ближайшем обновлении я обязательно добавлю эти фразы в черный список, но это обновление будет не раньше чем через полгода, выпустить его раньше я не могу технически.

Для Романа, как и для тысяч других разработчиков программного обеспечения, создание бота — это просто бизнес, и их мало интересует, кто и как использует их продукт.


— На законодательном уровне можно обязать социальные сети фиксировать всех разработчиков программного обеспечения, выдавая электронный ключ юридическим лицам, и запретить разработку программного обеспечения физическим, — считает Евгений Венедиктов. — Тогда каждый разработчик бота для автоматического постинга любых сообщений на стену того или иного аккаунта должен будет прислать свои данные. А также представлять описание своего продукта. И тогда при рассылке спама можно будет сразу находить и купировать ту или иную угрозу.

Следующим шагом должно стать регулирование законодательства по вопросу лицензирования производителей и разработчиков программного обеспечения для социальных сетей.

«Известия» нашли автора бота, заманивающего детей в «группы смерти» - Известия

«Синий кит» плывет в Европу

Группы смерти стали охотиться на жителей Болгарии, Польши и Румынии. А в российских соцсетях найдено уже больше 200 тыс. потенциальных самоубийц


Фото: Getty Images/Richard Ellis В интернете идет война с так называемыми группами смерти: цель этих сообществ в соцсетях — подтолкнуть детей к самоубийству. «Группы смерти» уже ориентируются на пользователей из других стран — в частности, Болгарии, Венгрии, Румынии и Польши. В России уже более 200 тыс. человек использовали хэштеги, свидетельствующие о желании свести счеты с жизнью.

По просьбе «Известий» компания «Крибрум» с помощью одноименной аналитической системы исследовала соцсети «ВКонта*кте», Facebook и «Однокл*ассники», микроблог Twitter, блог-платформу «Ж*ивой журнал», темати*ческие порталы и фор*умы. Изучены записи за период с октября 2016 по февраль 2017 года.


Чтобы показать свою готовность поучаствовать в смертельных играх, используют специальные хэштеги: #тихийдом, #синийкит, #млечныйпуть, #хочувигру, #морекитов, #явигре, #f57, #f58, #f53, #домкитов и многие другие.

Хотя бы раз суицидальный хэштег написали 232 тыс. уникальных пользователей, при этом 179 тыс. человек использовали два и более тега.

— Большинство людей, написавших такие хэштеги, ограничивается 2–3 — на все сообщения в одной социальной сети, — рассказывает руководитель отдела аналитики «Крибрум» Екатерина Аксенова. — Лишь 7479 пользователей (3%) употребили 10 и более. Рекорд по разнообразию суицидальных хэштегов у одного человека — 36.

В Москве в смертельную игру пробовали попасть 1849 человек, в Санкт-Петербурге — 1059, в Перми — 506, в Екатеринбурге — 491, в Новосибирске — 426, в Минске — 398, в Иркутске — 374, в Красноярске — 343, в Киеве — 315, в Новокузнецке — 311.



Синий кит

Для продвижения идеологии самоубийства в соцсетях злоумышленники выбрали образ синего кита — одного из млекопитающих, которые сводят счеты с жизнью, выбрасываясь на берег. В соцсетях появились группы «Синий кит», «Море китов», «Летающий кит» и т.д.

О происхождении других тегов есть несколько версий. F57 — название одной из групп смерти, ее администратор Филипп Лис (реальное имя — Филипп Будейкин) был задержан в ноябре 2016 года и обвинен в доведении до самоубийства. Сейчас он проходит психологическое обследование. Будейкин рассказывал, что F означает Филипп, 57 — последние цифры его номера телефона.

По другой версии, сочетания символов f56, f57 и f58 использовались для обозначения ошибки в компьютерном стандарте Unicode. Если ввести эти последовательности в комментариях под записью «ВКонтакте», кодировка «сбивалась» и пользователи видели таинственную мешанину символов.

Эти версии появились только после задержания администраторов нескольких пабликов. Детям кураторы давали более глубокие и таинственные пояснения. Вот как увязывал между собой эти непонятные слова один из скандальных суицидальных пабликов «Тихий дом»: «f56,57,58 — это не просто цифры, это даты смертей в Библии, тихий дом — ад и место хранения всех знаний, а море китов — море трупов».

В соцсети «ВКонтакте» найдено 9312 сообществ, хотя бы раз от своего имени публиковавших хэштеги тематики «синий кит». Численность большинства групп не превышает 600 человек (среднее значение для соцсети — 517). Стоит отметить, что 6% таких сообществ уже заблокировано администрацией «ВКонтакте». 40% из них — «за размещение материалов, оправдывающих совершение суицида».


Самый часто употребляемый хэштег — #тихийдом, его упоминали 71 тыс. раз, #синийкит — 40 тыс., #млечныйпуть — 36 тыс., #хочувигру — 33 тыс., #f57 — 31 тыс., #морекитов — 29 тыс., #явигре — 25 тыс., #f58 — 17 тыс., #f53 — 14 тыс., #домкитов — 14 тыс.

Больше всего постов и комментариев с суицидальными хэштегами написано 7 февраля 2017 года — тогда их число достигло 23,5 тыс. 6 февраля наблюдался всплеск в соцсети «ВКонтакте», после чего началась реакция на информационных ресурсах, соцсетях и т.д.

Причину такого всплеска эксперты пояснить не смогли.



Боты смерти

Вступив в группы «китов», дети попадают под влияние злоумышленников — кураторов, которые начинают с ними смертельную игру. Суициды романтизируют, окружают ореолом таинственности. Школьникам предлагают задания, загадки, отмечая, что к этой игре могут присоединиться только избранные, лучшие. Попутно ребенку внушают, что в суициде нет ничего плохого. Чаще всего игры происходят рано утром, пока родители еще спят. Ребенок просыпается в 4.20 утра и до шести выполняет задания. Из-за недостатка сна слабеет воля. Чтобы понять, что ребенок на всё готов, кураторы дают жесткие задания — например, вырезать на руке или ноге изображение кита или название группы.

— На это бросаются большие силы и средства. Всё делается профессионально, это явно не дилетанты. Психопатами таких кураторов назвать сложно. Но почему они этим занимаются, сможет сказать только следствие, — отметил Борис Положий, руководитель отдела Федерального медицинского исследовательского центра психиатрии и наркологии имени Сербского.

Тему суицидов активно продвигают не только живые люди, но и специальные боты. Это автоматизированные системы, которые публикуют посты якобы от имени людей.

— Найдены десятки тысяч аккаунтов-ботов, публикующих провокационные материалы. Все они удалены, — рассказал «Известиям» пресс-секретарь «ВКонтакте» Евгений Красников.


Обнаружили ботов и представители компании «Крибрум» в ходе мониторинга.

— Отловить бота — не самая простая задача, но можно использовать некоторые общие признаки. Это частое повторение одного текста в постах разных авторов, отсутствие подробной информации в профиле, «нечитаемое» имя пользователя, — объясняет Аксенова. — По совокупности этих признаков удалось сделать вывод. Предположительно 11–15% сообщений суицидальной и антисуицидальной тематики написаны ботами.



Кто за этим стоит

— Определить «центр концентрации» суицидальных хэштегов не представляется возможным: сообщества данной тематики блокируются администрацией «ВКонтакте». Но пользователи, состоящие в них, мгновенно мигрируют в другие группы, — заявила Екатерина Аксенова. — Существует много однотипных сообществ, большинство из которых уже не функционирует.

По словам главы Регионального общественного центра интернет технологий (РОЦИТ) Сергея Гребенникова, распространением суицидальных хэштегов, помимо потенциальных самоубийц, занимаются три вида пользователей. Первые хотят быть в тренде игры в «синих китов» или им интересно самостоятельно увидеть, какие задания нужно выполнить.


Вторые — это создатели рекламных кампаний. Они распространяют подобные хэштеги с помощью ботов, привлекая побольше людей — а затем дают потенциальным самоубийцам задания: скачать приложение или перейти по ссылке.


Третья группа — те, кто отрабатывает технологию распространения информации.

Гребенников рассказал, что из СМИ известно примерно о 15 случаях самоубийств в результате игр подобных «Синему киту». Сколько их было на самом деле — неизвестно.


Глава РОЦИТа отметил, что суицидальные хэштеги и игры в «синего кита» уже распространяются на другие страны. Повторить успех «групп смерти» в России злоумышленники пытаются в Польше, Болгарии, Румынии и Венгрии. Например, в Польше местная организация по защите детей от вредоносного контента в сети — SafeNet предупредила пользователей об опасности подобных игр, рассказывая о ситуации в России. Хэштеги были переведены на польский — в «группы смерти» пытаются набрать подписчиков и в этой стране.

По мнению главы Лиги безопасного интернета Дениса Давыдова, вся история с «китами» —это отработка информационных атак на конкретную группу пользователей. В данном случае — на подростков.

— Мы рассматриваем несколько версий того, кто заинтересован в таких атаках, — это сатанисты и украинские националисты, — сообщил Давыдов.


Дельфины против китов

На пропаганду самоубийств в соцсетях уже обратили внимание политики, общественные организации и администрации самих соцсетей.


В середине февраля 2017 года президент России дал поручение: «Правительству РФ вместе с органами исполнительной власти субъектов России принять решения, направленные на улучшение системы профилактики подросткового суицида». По информации «Известий», сейчас Минздрав собирает информацию: насколько данная проблема массова и как ее решать на уровне законодательства.

Свои варианты решения предлагают депутаты. Сейчас статья 110 Уголовного кодекса предусматривает наказание лишь за доведение до самоубийства путем угроз, жестокого обращения, унижения. Вице-спикер Госдумы Ирина Яровая предложила наказывать и тех, кто склоняет детей к суициду советами, указаниями и т.п. Законопроект — на стадии обсуждения, в Госдуму он еще не внесен.


К борьбе с суицидами подключилась администрация «ВКонтакте». С 28 февраля при жалобе на пост в соцсети пользователь может оценить нарушение как «призывы к суициду». Поиск по суицидальным хэштегам больше не возможен. На месте заблокированных пабликов типа «Тихого дома» теперь показывают ссылку на страницу бесплатной психологической помощи. В СМИ появилась информация, что Facebook будет вычислять склонных к самоубийству пользователей с помощью искусственного интеллекта.

Параллельно действуют активисты: они публикуют комментарии к суицидальным постам с предложением пообщаться, обсудить проблемы и не делать глупостей.


В соцсетях появилось много антисуицидальных групп и хэштегов. Активисты противопоставили китам образ дельфинов. В «Крибрум» нашли 44,44 тыс. текстов с антисуицидальными хэштегами. Самые популярные: #яневигре и #громкийдом — использованы 7,7 тыс. раз, #противсуицида — 6,9 тыс., #дельфиныпротивкитов — 5 тыс., #антикиты — 4,5 тыс., #язажизнь — 4,4 тыс., #антиигра — 3,9 тыс., #зажизнь — 3,7 тыс., #нехочувигру — 2,9 тыс., #янекит — 2,6 тыс.

— Набирает обороты движение «антикитов» — «дельфинов», — рассказывает Аксенова. — Это не самостоятельная инициатива, а реакция, поэтому объем использования этих тегов меньше, чем у «китов», но и здесь заметна тенденция к росту.

В отличие от суицидальных тексты с этими хэштегами публикуются свободно, в открытом доступе, а не в личных сообщениях, отметила она. Здесь также нельзя выделить паблик или отдельного автора, оказывающего максимальное влияние на аудиторию.


Читайте также:

На интернет-страницах погибших детей идет гибридная война
Школы начали перепись детских аккаунтов в «ВКонтакте»

Психиатр против «синего кита»: советы по защите подростков от суицида
Возвращение «синего кита»: подростки снова склонны к суициду

http://izvestia.ru/news/668416