Иск против OpenAI: Предполагаемое использование ChatGPT для преследования
Бывшая девушка предпринимателя обвиняет OpenAI в содействии преследованию
В Верховном суде Сан-Франциско подан иск против OpenAI, в котором утверждается, что технология компании способствовала ускорению преследования женщины её бывшим возлюбленным, предпринимателем из Кремниевой долины. Сама компания получила предупреждения о пользователе, которого уже отнесли к группе потенциально опасных.
Как развивались события
Истец, обозначенная как Джейн Доу, утверждает, что OpenAI проигнорировала три предупреждения о том, что пользователь представляет угрозу. В иске говорится, что компания отказалась принять необходимые меры для защиты жертвы, хотя и согласилась заблокировать его аккаунт.
Доу требует компенсацию, а также подала временный судебный запрет, чтобы принудить OpenAI к дальнейшим действиям по блокировке его аккаунта и сохранению логов его использования.
Опасения растут
Этот случай стал особенно значимым на фоне других инцидентов, связанных с использованием искусственного интеллекта в реальном мире. Юридическая фирма Edelson PC, ранее вовлечённая в дела, связанные с AI-индуцированными психозами, теперь представляет интересы Джейн Доу.
Эта проблема обостряется и конфликтует с законодательной стратегией OpenAI, готовящей законопроект, защищающий AI-лаборатории от ответственности.
История разоблачений
В иске подробно описывается, как пользователь, находясь под влиянием ChatGPT, развивал свои иллюзии о «лекарстве от апноэ» и верил в преследование его влиятельными силами. После разрыва с Джейн Доу он использовал ИИ, чтобы оправдать свои действия и преследовать её.
Несмотря на предупреждения безопасности, OpenAI восстановила аккаунт пользователя, что вызвало ещё большие опасения и обвинения в халатности. В итоге пользователь был арестован, но юридические процедуры породили новые риски.
Адвокаты Джейн Доу требуют от OpenAI большей открытости и ответственности. «Жизни людей должны значить больше», — добавил адвокат Джей Эдельсон.
