OpenAI Увеличила Количество Сообщений о Детской Эксплуатации
Количество инцидентов, направленных в NCMEC, выросло в 80 раз
Недавнее обновление от OpenAI показало значительное увеличение числа сообщений о детской эксплуатации, отправленных в Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) в первой половине 2025 года. По данным компании, количество таких сообщений выросло в 80 раз по сравнению с аналогичным периодом 2024 года.
Значение Центра NCMEC и роли компаний
CyberTipline, организованная NCMEC, служит федеральной точкой для сообщения о материалах сексуального насилия над детьми и других формах детской эксплуатации. Закон обязывает компании сообщать о выявленных фактах таких преступлений через CyberTipline. NCMEC затем изучает данные и передает их в правохранительные органы для дальнейшего расследования.
Статистика, связанная с сообщениями в NCMEC, может иметь нюансы. Увеличение числа сообщений может свидетельствовать о изменениях в автоматической модерации платформы или ее критериях, а не обязательно об увеличении преступной активности. Также один и тот же контент может быть предметом нескольких сообщений, а одно сообщение может касаться нескольких материалов.
Усилия OpenAI и рост отчетов
Представитель OpenAI Габи Райла отметила, что компания инвестировала в увеличение своих возможностей по обработке и анализу сообщений в 2024 году для соответствия растущим запросам пользователей. "Временной период совпадает с внедрением новых функций, таких как загрузка изображений, и растущей популярностью наших продуктов, что способствовало увеличению числа отчетов," - добавила Райла.
В первой половине 2025 года OpenAI отправила 75,027 сообщений в CyberTipline по сравнению с 947 сообщениями в 2024 году. Это отражает значительное увеличение как числа отчетов, так и количества контента, о котором шли сообщения.
Контент в данном контексте может включать различные типы информации. OpenAI заявила, что сообщает обо всех случаях материала сексуального насилия над детьми, включая загрузки и запросы. Помимо приложения ChatGPT, которое позволяет загружать файлы и генерировать текст и изображения, OpenAI предоставляет доступ к своим моделям через API.
Реакция на рост популярности генеративного ИИ
Рост числа сообщений соответствует общим наблюдениям NCMEC по увеличению использования генеративного ИИ. Обзор данных CyberTipline показал, что такие отчеты увеличились на 1,325% с 2023 по 2024 год. Хотя информация за 2025 год ещё не опубликована, известно, что другие компании, такие как Google, также сделали существенные отчеты в NCMEC, но не указывают процент, связанный с ИИ.
На фоне возрастающей озабоченности вопросами безопасности детей, OpenAI и другие лидеры в области ИИ подверглись критике. За лето 44 генеральных прокурора США обратились к компаниям с предупреждением о защите детей от продуктовой эксплуатации. Осенью Комитет по юридическим вопросам Сената США провел слушания, посвященные негативному воздействию ИИ-чатботов.
OpenAI внедрила новые инструменты безопасности, включая родительский контроль в ChatGPT, позволяющие родителям отслеживать и изменять настройки приложения. В конце октября, в процессе переговоров с Департаментом юстиции Калифорнии, OpenAI согласилась продолжать усилия по снижению рисков и улучшению мер безопасности в своих продуктах.
