Илон Маск признал использование методики дистилляции в xAI
Противостояние крупнейших AI-компаний усиливается
Недавно компании OpenAI и Anthropic начали бороться с попытками сторонних организаций обучать новые модели искусственного интеллекта (AI) с помощью их доступных ботов и API, используя процесс, известный как «дистилляция». Основное внимание в этом обсуждении было уделено китайским фирмам, которые с помощью дистилляции создают модели с открытыми весами, почти такие же мощные, как и американские аналоги, но при этом гораздо более дешевые.
Ранее считалось, что американские лаборатории практикуют такие методы обмена технологиями, чтобы не отставать от конкурентов, и теперь это подтверждается. В федеральном суде Калифорнии Илон Маск заявил, что компания xAI использовала дистилляционные техники на моделях OpenAI для обучения своей системы Grok. Он отметил, что это является общей практикой среди AI-компаний.
Маск сейчас судится с OpenAI, обвиняя компанию и ее лидеров в нарушении первоначальной некоммерческой миссии, поскольку OpenAI изменила свою структуру на коммерческую. Этот судебный процесс начался на этой неделе, и в ходе заседаний прозвучало много интересных заявлений.
Признание Маска важно, потому что дистилляция угрожает крупным AI-компаниям, подрывая их преимущество, полученное за счет инвестиций в инфраструктуру. Другие разработчики, используя такие методы, могут создавать почти такие же мощные модели с меньшими затратами.
В этом нет ничего удивительного, так как xAI, основанная в 2023 году — спустя годы после появления OpenAI, — стремится учиться у лидеров индустрии. Вопрос легальности дистилляции остается спорным и, скорее, связан с нарушением условий использования продуктов.
Компании OpenAI, Anthropic и Google начали инициативу через Frontier Model Forum, чтобы делиться информацией о том, как бороться с китайскими дистилляционными попытками. Эти действия часто включают систематические запросы к моделям для понимания их работы. Сейчас ведется работа по предотвращению подозрительных массовых запросов от пользователей.
OpenAI не предоставила комментарий по поводу заявления Маска. Позднее в своем выступлении Маск отметил, что xAI — это небольшая компания с несколькими сотнями сотрудников по сравнению с мировыми лидерами AI, такими как Anthropic, OpenAI, Google и китайские открытые модели.
