Калифорния готовится принять закон о безопасности ИИ

В прошлом году губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, который предполагал введение строгих правил безопасности для разработки и использования моделей искусственного интеллекта. Этот законопроект вызвал значительные споры: он был популярен среди общественности, но вызывал сопротивление у технологических компаний.

Теперь у губернатора есть второй шанс: в субботу законодатели Калифорнии приняли Сенатский законопроект 53, который обязывает компании, разрабатывающие ИИ, проходить новые проверки безопасности.

Основные положения законопроекта

Сенатский законопроект 53 требует от компаний, разрабатывающих так называемые "передовые" модели ИИ — системы, которые требуют огромных объемов данных и вычислительных мощностей, — повысить прозрачность своих процессов. Они обязаны раскрывать информацию о случаях небезопасного или обманчивого поведения автономных ИИ-систем, разъяснять протоколы безопасности и оценку рисков, а также обеспечивать защиту для "свистунов", обеспокоенных потенциальной угрозой от разрабатываемых моделей.

Законопроект в первую очередь касается деятельности таких компаний, как OpenAI, Google, xAI, Anthropic и других. Однако он был значительно смягчен по сравнению с предыдущими попытками установить масштабную структуру безопасности для ИИ-индустрии.

Смягченные требования

Прошлогодний законопроект, на который наложил вето Ньюсом, предполагал создание обязательного "аварийного выключателя" для моделей, что не представлено в текущей версии. Первоначальный вариант проекта закона SB 53 предусматривал применение требований безопасности и к более мелким компаниям, однако это изменилось. Теперь компании с доходом менее 500 миллионов долларов в год должны предоставлять лишь общую информацию о безопасности.

Вопрос в том, достаточно ли этого для того, чтобы удовлетворить Ньюсома или, точнее, удовлетворить компании, от которых он надеется получать спонсорскую поддержку. Недавно компания Anthropic поддержала законопроект, хотя и торговые группы, такие как Ассоциация потребительских технологий и Chamber for Progress, выступили против него.

Калифорния имеет возможность стать лидером в области регулирования ИИ — особенно учитывая, что большинство ведущих компаний этой сферы располагаются именно здесь. Однако политические амбиции Ньюсома требуют финансирования, и компании, работающие с ИИ, могут предложить значительные суммы в этом отношении.

Отзывы