Как Facebook использует ИИ для борьбы с терроризмом
В последнее время Facebook подвергается все большей критике. В ответ на это сотрудники социальной сети решили рассказать прессе, как они борются с экстремизмом.
Согласно заявлениям компании, усилия направлены на работы с программным обеспечением, а также с конкретными пользователями.
Представители Facebook говорят о том, что есть несколько аспектов, которые могут помочь искоренить материалы террористического содержания в данной социальной сети. Одним из главных их решений в данной сфере является искусственный интеллект.
Долгое время компанию критиковали за то, что ее руководство не предпринимает достаточно усилий и экстремистские материалы распространялись по всему сайту.
Поэтому недавно представители Facebook позволили журналистам и простым юзерам заглянуть в «закулисье» своей деятельности.
Моника Бикерт, директор по управлению глобальной политикой, и Брайан Фишман, менеджер по борьбе с терроризмом, написали общий пост блоге.
Там было написано следующее: «Наша позиция проста: в Facebook нет места терроризму». Они пишут, что регулярно удаляют посты с подобным содержанием. «Когда мы получаем сообщения о постах, в которых потенциально есть терроризм, мы безотлагательно и тщательно проверяем эти сигналы». – пишут Бикерт и Фишман.
Также в Facebook рассказали, что стараются наращивать количество приложенных усилий в области борьбы с терроризмом.
Один из самых актуальных на сегодняшний день способов в этом направлении заключается в сопоставлении картинок.
На практике все сводится к тому, что если кто-то публикует фотографию известного террориста, программное обеспечение Facebook находит соответствующий материал, например, пропагандистское видео из ISIS или другие изображения, относящиеся к экстремистскому контенту. Причем проверяются даже те ролики и картинки, которые уже были удалены из Facebook. На основании этого новый материал также будет удален.
Также проводятся эксперименты с анализом всего текста, который вводится на сайте.
В скором времени руководство Facebook планирует внедрить эти методы в другие приложения, которые также принадлежат этой социальной сети. Среди них WhatsApp и Instagram.
«Мы считаем, что передовые технологии и Facebook должны работать воедино», - написали в блоге вышеупомянутые авторы.
Конечно, в связи с такой деятельностью возникает множество вопросов.
Дело в том, что ежемесячная аудитория Facebook составляет 2 миллиарда людей. Получается, что никакой конфиденциальности всех этих пользователей нет.
Несколько месяцев назад была внедрена услуга обратной связи с администрацией в случае появления фэйковых новостей на страницах сайта. Но таких постов все равно остается много.
Кроме того, видеосъемка Facebook Live нередко используется для трансляции убийств и сцен насилия. Контролировать все невозможно!
На данный момент, по словам Бикерт и Фишмана, существует контртеррористическая команда, в которой насчитывается 150 людей. Среди них бывшие прокуроры, бывшие сотрудники правоохранительных органов и инженеры.
Кроме того, Facebook активно сотрудничает с другими агентствами и организациями. Среди них правоохранительные органы и органы правительства.
В декабре прошлого года компания Facebook начала сотрудничать другими техническими компаниями, такими как Twitter, Microsoft, принадлежащими Google, и, собственно, самой Google. Вместе они создали базу данных, которая записывает цифровые отпечатки пальцев и другие след активности представителей террористических организаций.
«Мы стремимся к тому, чтобы Facebook был неблагоприятным местом для террористов», - написали Бикерт и Фишман. «Наша задача состоит в том, чтобы научиться лучше понимать ранние сигналы терроризма, чтобы предотвращать пагубные действия».
Остается лишь наблюдать за тем, насколько эффективны все эти методы борьбы с одной из самых больших угроз человечества.
