Генпрокурор Флориды расследует OpenAI из-за использования ИИ, связанного с гибелью людей
Что стало причиной внимания властей и какие действия предпринимаются
Во Флориде произошло несколько резонансных случаев, связанных с гибелью людей в результате использования искусственного интеллекта, и Генеральный прокурор Джеймс Утмейер намерен разобраться в происходящем. Во вторник прокурор объявил о начале расследования в отношении компании OpenAI, чтобы определить, несет ли она уголовную ответственность за случаи смерти, связанные с её популярным чатом.
Высокопоставленный прокурор выполнил свое обещание расследовать деятельность OpenAI. Основное внимание будет уделено массовой стрельбе на кампусе Университета штата Флорида в Таллахасси 20 апреля 2025 года, когда студент открыл огонь, убив двух человек и ранив шестерых. В начале месяца адвокат семьи одного из погибших объявил о намерении подать иск против OpenAI после того, как узнал, что стрелок, по всей видимости, вёл «постоянное общение с ChatGPT перед самой стрельбой».
Известно немного о том, как именно ChatGPT мог быть вовлечён в данный инцидент. Адвокат семьи одного из пострадавших рассказал газете Tallahassee Democrat, что у них есть основания полагать, что ChatGPT мог давать советы стрелку о том, как совершить это преступление. Утмейер заявил в своём заявлении: «Это уголовное расследование призвано установить, несет ли OpenAI уголовную ответственность за действия ChatGPT в стрельбе на территории Университета штата Флорида в прошлом году». Также он отметил, что если бы ChatGPT был человеком, ему бы предъявили обвинение в убийстве.
Офис прокурора уже вызвал OpenAI для предоставления информации, включая «все политики и материалы внутреннего обучения» в отношении угроз пользователям, а также «сотрудничества с правоохранительными органами, включая политику по сообщению о возможных прошлых, настоящих или будущих преступлениях». Запрошены организационные схемы с указанием «руководителей, директоров, начальников отделов и/или старших менеджеров OpenAI» на момент инцидента и «перечень всех сотрудников, включая связанные отделы и описания должностей для ChatGPT».
Gizmodo обратились в OpenAI за комментарием относительно расследования, но на момент публикации ответа не получили.
Хотя расследование сосредоточено на стрельбе в Университете штата Флорида, возможно и даже вероятно, что офис Утмейера вернётся к этому вопросу в будущем. Генеральный прокурор заявил о намерении выяснить, как ИИ способствует появлению «материалов по насилию над детьми» и поощрению самоубийства и самоповреждения. В настоящее время одна из семей из Флориды подала иск против другой компании, Character.ai, в связи с самоубийством их подростка. Другая семья подала в суд на Google по поводу смерти 36-летнего сына, которого, как сообщается, подтолкнул к самоубийству ИИ-ассистент Gemini.
Утмейер также выразил заинтересованность в изучении риска попадания ИИ в руки врагов Америки, таких как Коммунистическая партия Китая, однако текущая вспышка предполагаемого AI-психоза, вызванного американскими компаниями, кажется более неотложной. Возможно, стоит сосредоточиться на внутренних угрозах, их тоже немало.
