Роскомнадзор: контролировать «антиэкстремистского робота» для интернета будут 10 человек

Программа, вычленяющая запретные слова, станет самообучаемой

25 апреля 2014 в 15:50, просмотров: 34967

Роскомнадзор сообщал, что вскоре запустит систему поиска экстремистских и других не соответствующих закону материалов в Интернете. Эта программа будет просматривать все ресурсы, включая форумы и социальные сети, и выявлять противоправный контент, к которому, помимо экстремизма, относятся пропаганда педофилии, суицида и наркомании. Сайты с подобным содержанием ждет досудебная блокировка.

 

Роскомнадзор: контролировать «антиэкстремистского робота» для интернета будут 10 человек
фото: Геннадий Черкасов

В Роскомнадзоре «МК» сообщили, что программное обеспечение обойдется государству в 25 миллионов рублей. Тестовые пуски подобного «робота» в прошлые годы приводили к анекдотическим ситуациям. Например, машина посчитала противоправным контентом произведение «Крокодил Гена». Оказалось, что в ее глоссарии фигурировало слово «крокодил», как сленговое название одного из наркотиков

Нынешняя программа анонсируется как самообучаемая: она сама будет формировать свой глоссарий и работать над ошибками. Но ничего автоматически отключать она не сможет, а всего лишь отошлет свои подозрения аналитикам, которые и решат, нужно ли блокировать данный ресурс.

Таких экспертов-операторов будет, как предполагают в Роскомнадзоре, от 5 до 10 человек. Если аналитик решил, что программа не ошиблась, то он отправляет запрос в уполномоченный орган: относительно экстремизма — в генеральную прокуратуру, наркотиков — в ФСКН, по суициду — в Роспотребнадзор. Когда оттуда вернется требование отключить этот ресурс — Роскомнадзор передаст его оператору связи. Что касается детской порнографии, то ее отключает сам Роскомнадзор без посредников.

В ведомстве говорят, что 70% операторов имеют технические возможности для того, чтобы блокировать отдельные страницы, не закрывая остального, законного контента сайта или соцсети. В остальных случаях не исключено, что будут блокировать весь ресурс полностью (как это происходило с YouTube в некоторых российских регионах) до тех пор, пока администрация ресурса сама не удалит противоправные контент.

Прокомментировать реалистичность проекта, а также соотношение цены и качества мы попросили управляющего партнера агентства «Социальные сети» Дениса Терехова, который разрабатывал подобные, только менее масштабные, программы для операторов мобильной связи, чтобы они могли знать, что о них пишут в глобальной сети.

- 25 миллионов рублей за систему, которая будет мониторить Интернет, - это нормальная рыночная цена. Вопрос в глоссарии. Практика похожей программы, которая анализировала негативные отзывы о телефонных операторах, показала: машина не понимает, что «козел» — это ругательство. А фразу: «Президент приехал. Все перекрыли. Ай да молодец» расценивает, как позитивный отзыв. Машина не понимает жаргон, не понимает сарказм. Поэтому вопрос в том, как будут работать операторы, которые должны после программы анализировать заподозренные ресурсы.

Для того, чтобы отсортировать отобранные машиной негативные отзывы только об одной, не самой крупной, сети мобильной связи, требуется примерно 8 человек. Мониторя все интернет-пространство на предмет всего противоправного контента, машина даст простор для работы многим сотням экспертов.



Партнеры