Опасения Йоэля Рота о будущем открытых социальных сетей

Йоэль Рот, ранее возглавлявший отдел доверия и безопасности Twitter, ныне работающий в компании Match, делится своими опасениями о будущем открытых социальных сетей и их способности противостоять дезинформации, спаму и другому незаконному контенту, такому как материал по сексуальному насилию над детьми (CSAM).

В интервью он выразил обеспокоенность отсутствием инструментов модерации в таких приложениях, как Mastodon, Threads и Pixelfed, а также на других открытых платформах, включая Bluesky. Рот вспомнил ключевые моменты в истории доверия и безопасности Twitter, например, решение забанить президента Трампа и распространение дезинформации российскими ботами.

Проблемы демократических сообществ

На подкасте revolution.social Рот отметил, что усилия по созданию демократически управляемых онлайн-сообществ зачастую сопряжены с нехваткой ресурсов для модерации. Он подчеркнул, что такие сервисы, как Mastodon и Bluesky, дают своим сообществам минимальные технические возможности для реализации их политик.

Рот также отметил «значительный отступ» открытых социальных сетей по сравнению с прозрачностью и законностью решений, которые когда-то были у Twitter. Теперь многие платформы обеспокоены предотвращением манипуляций со стороны плохих акторов и редко объясняют свои действия.

Экономическая сторона модерации

Рот затронул экономические проблемы модерации. Компания IFTAS, занимавшаяся созданием инструментов модерации для федиверса, вынуждена была закрыться из-за нехватки финансов. Он пояснил, что многие активисты работают на добровольной основе, но сталкиваются с затратами на технологии и оплату труда.

Вопросы конфиденциальности

Одним из ключевых вопросов Рот считает баланс между модерацией и конфиденциальностью. При попытке сохранить данные пользователей могут возникнуть трудности с идентификацией недобросовестных участников. Хотя такие данные, как IP-адреса и идентификаторы устройств, помогают в расследованиях, администраторы открытых платформ могут избегать их сбора из-за соображений конфиденциальности.

Роль искусственного интеллекта

Рот отметил, что искусственный интеллект сильно влияет на модерирование контента. Недавние исследования показали, что большие языковые модели могут быть более убедительными, чем люди. Это требует анализа не только контента, но и поведенческих сигналов, таких как создание нескольких аккаунтов или постоянная активность в необычное время.

Отзывы