Прозрачность и контроль расходов на API Gemini в Google AI Studio
Управление затратами и новые возможности в Google AI
Сегодня в Google AI Studio был представлен проект Spend Caps, который позволяет более точно управлять ежемесячными расходами на API Gemini. Также были обновлены уровни использования, чтобы ускорить масштабирование и обеспечить справедливый доступ к API.
Проект Spend Caps: Гибкое управление затратами
С Project Spend Caps теперь можно легко установить месячный лимит трат на API Gemini в рамках проектов Google AI Studio. Этот лимит действует до момента его изменения или отключения, что обеспечивает постоянный контроль над расходами. Это особенно полезно для счетов с несколькими проектами, где необходим детальный контроль расходов. Необходимо учитывать, что установка лимита может иметь задержку в ~10 минут и пользователи несут ответственность за траты, превышающие лимит в этот период.
Владельцы проектов могут установить лимиты для каждого проекта, перейдя во вкладку «Spend» и выбрав «Monthly spend cap».
Уровни использования: Меньше преград, больше прозрачности
Обновлённые уровни использования обеспечат быстрее достижение большей пропускной способности. Введены следующие изменения:
- Сниженные требования к расходам: упрощена система получения более высоких квот для пользователей с хорошей платёжной историей.
- Автоматическое повышение уровней: система автоматически повышает уровень, когда растет использование и улучшаются платёжные показатели. Сразу при выполнении критериев открываются более высокие лимиты и увеличиваются ежемесячные квоты.
- Лимит на уровне учётной записи: теперь каждый уровень использования будет иметь максимальный месячный лимит, который увеличивается при переходе на более высокий уровень.
В документации можно ознакомиться с ограничениями уровня использования и узнать, как различные уровни влияют на метрические показатели внутри Google AI Studio.
Улучшенный процесс выставления счетов с расширенной наблюдаемостью и контролем
За последние месяцы Google AI Studio внедрила ряд обновлений для улучшения работы с платными услугами. Основные нововведения:
- Новая настройка счетов: возможность настройки профиля и привязки его к проектам прямо из настроек.
- Новая панель лимитов: предлагает прозрачный обзор прогресса по каждому проекту, позволяя отслеживать три ключевые метрики: Requests Per Minute (RPM), Tokens Per Minute (TPM) и Requests Per Day (RPD).
- Новая панель расходов: включает график ежедневных затрат, который помогает отслеживать затраты по проекту в разные временные промежутки.
- Новая панель использования: позволяет анализировать метрики ошибок, использование токенов и статистику генераций, включая запросы для Imagen и Veo.
Эти обновления упростят работу с Gemini API, и компания продолжит улучшения для повышения надежности и прозрачности своих сервисов.