Прозрачность и контроль расходов на API Gemini в Google AI Studio

Управление затратами и новые возможности в Google AI

Сегодня в Google AI Studio был представлен проект Spend Caps, который позволяет более точно управлять ежемесячными расходами на API Gemini. Также были обновлены уровни использования, чтобы ускорить масштабирование и обеспечить справедливый доступ к API.

Проект Spend Caps: Гибкое управление затратами

С Project Spend Caps теперь можно легко установить месячный лимит трат на API Gemini в рамках проектов Google AI Studio. Этот лимит действует до момента его изменения или отключения, что обеспечивает постоянный контроль над расходами. Это особенно полезно для счетов с несколькими проектами, где необходим детальный контроль расходов. Необходимо учитывать, что установка лимита может иметь задержку в ~10 минут и пользователи несут ответственность за траты, превышающие лимит в этот период.

Владельцы проектов могут установить лимиты для каждого проекта, перейдя во вкладку «Spend» и выбрав «Monthly spend cap».

Уровни использования: Меньше преград, больше прозрачности

Обновлённые уровни использования обеспечат быстрее достижение большей пропускной способности. Введены следующие изменения:

  • Сниженные требования к расходам: упрощена система получения более высоких квот для пользователей с хорошей платёжной историей.
  • Автоматическое повышение уровней: система автоматически повышает уровень, когда растет использование и улучшаются платёжные показатели. Сразу при выполнении критериев открываются более высокие лимиты и увеличиваются ежемесячные квоты.
  • Лимит на уровне учётной записи: теперь каждый уровень использования будет иметь максимальный месячный лимит, который увеличивается при переходе на более высокий уровень.

В документации можно ознакомиться с ограничениями уровня использования и узнать, как различные уровни влияют на метрические показатели внутри Google AI Studio.

Улучшенный процесс выставления счетов с расширенной наблюдаемостью и контролем

За последние месяцы Google AI Studio внедрила ряд обновлений для улучшения работы с платными услугами. Основные нововведения:

  • Новая настройка счетов: возможность настройки профиля и привязки его к проектам прямо из настроек.
  • Новая панель лимитов: предлагает прозрачный обзор прогресса по каждому проекту, позволяя отслеживать три ключевые метрики: Requests Per Minute (RPM), Tokens Per Minute (TPM) и Requests Per Day (RPD).
  • Новая панель расходов: включает график ежедневных затрат, который помогает отслеживать затраты по проекту в разные временные промежутки.
  • Новая панель использования: позволяет анализировать метрики ошибок, использование токенов и статистику генераций, включая запросы для Imagen и Veo.

Эти обновления упростят работу с Gemini API, и компания продолжит улучшения для повышения надежности и прозрачности своих сервисов.

Отзывы