Алгоритм сканирует переписку и публикации пользователей Facebook и если обнаруживает подозрительную активность, помечает профиль и сообщает о нем специальному сотруднику Facebook. Этот сотрудник, в свою очередь, оценивает степень опасности и в случае ее наличия сообщает о преступнике в правоохранительные органы США. Салливан утверждает, что программистам компании удалось сделать систему достаточно точной, чтобы личная переписка законопослушных пользователей сети не подвергалась проверке.
"Чтобы не сталкиваться с ситуацией, в которой нашим сотрудникам приходится читать чужую переписку, мы используем систему с очень низким процентом "ложных срабатываний", - сказал Салливан Рейтер.
По словам представителя социальной сети, программное обеспечение, используемое для мониторинга действий пользователей, сфокусировано на диалогах между пользователями с "бедными" связями. Например, если два пользователя не являются друзьями друг другу или стали друзьями лишь недавно, если у них при этом нет общих друзей, а прочие друзья взаимодействуют с пользователем и друг с другом крайне редко, а также если два пользователя имеют большую разницу в возрасте, программный алгоритм "заинтересуется" данной связью и сообщит об этом специальному сотруднику Facebook.
По данным Рейтер, в марте этого года система обратила внимание сотрудников Facebook на переписку между 30-летним мужчиной и девочкой 13 лет. В переписке между ними регулярно фигурировало слово "секс". Из переписки следовало, что мужчина планировал встретить девочку возле ее школы после занятий уже на следующий день. Сотрудник Facebook оперативно проинформировал об этом правоохранительные органы, и те арестовали мужчину спустя всего сутки.
Главным образом система настроена на вычисление педофилов, но она также может быть настроена и на поиск признаков других преступлений - например, обсуждения покупки наркотиков, оружия и прочих запрещенных действий.
Социальная сеть Facebook является крупнейшей в мире, ее аудитория превышает 900 миллионов пользователей.
