В CC Switch предустановлено 50+ провайдеров, но для новичка больше выбора часто означает больше путаницы. Настоящая проблема в том, что провайдеры сильно различаются по доле попаданий в кэш, ценам и стабильности. Ошибётесь с выбором — и можете заплатить больше, чем при прямой работе с официальным API.
В этой статье мы ранжируем основных провайдеров по 5 измерениям и даём чёткие рекомендации. Если вы подбираете бэкенд-провайдера для CC Switch, это руководство для вас.
5 измерений оценки
1. Доля попаданий в кэш (вес: 35%)
Самая важная и при этом самая недооценённая метрика. Пользователи CC Switch — это в основном пользователи агентов, а агентные сценарии раз за разом отправляют большие объёмы повторяющегося контекста.
- Высокая доля попаданий в кэш (>90%): большинство чтений попадает в кэш и стоит всего 10% от полной цены — эффективная стоимость очень низкая
- Низкая доля попаданий в кэш (<50%): каждый запрос оплачивается по полной цене, а агентные циклы многократно увеличивают расход токенов
- Лучший выбор: провайдеры с долей попаданий в кэш >95%
2. Ценовой коэффициент (вес: 25%)
«Скидка 90%» из рекламы — величина теоретическая. Сколько вы заплатите на самом деле, зависит от кэша. Ключевые цифры:
- Заявленная цена: базовый ценовой коэффициент
- Цена чтения из кэша: обычно 10% от заявленной или бесплатно
- Эффективная цена: заявленная × (1 − доля кэша) + цена чтения из кэша × доля кэша
3. Стабильность и аптайм (вес: 20%)
Агентные сценарии часами работают автономно. Перебои в работе API обрушивают весь процесс.
- Аптайм 99%+ — это минимум
- Поддержка автоматического переключения на резервный канал
- Страница статуса сервиса
4. Задержка (вес: 10%)
- Время до первого токена (TTFT): влияет на отзывчивость агента
- Сквозная задержка: влияет на общее удобство разработки
- Для агентов TTFT важнее суммарной задержки
5. Клиентская поддержка (вес: 10%)
- Наличие поддержки на китайском и английском
- Время ответа
- Качество технической документации
Таблица рейтинга провайдеров
| Место | Провайдер | Доля попаданий в кэш | Эффективная цена | Стабильность | Задержка | Поддержка | Оценка |
|---|---|---|---|---|---|---|---|
| 1 | TeamoRouter | 99.3% | 0.3x - 0.5x | SLA 99.98% | TTFT <500ms | CN/EN/в реальном времени | 9.5/10 |
| 2 | RelayAPI | 85% | 0.5x - 0.8x | 99.2% | <800ms | Китайский | 7.8/10 |
| 3 | API2D | 70% | 0.7x - 1.0x | 99.0% | <1000ms | Китайский | 6.5/10 |
| 4 | Yunwu Relay | 60% | 0.8x - 1.2x | 98.5% | <1200ms | Китайский | 5.5/10 |
| 5 | Tuzi Relay | 55% | 0.8x - 1.5x | 98.0% | <1500ms | Китайский | 4.8/10 |
Примечание: данные взяты из публичных бенчмарков сообщества и отзывов пользователей. Реальный опыт зависит от сценария использования.
Почему TeamoRouter возглавляет рейтинг
TeamoRouter получил суммарную оценку 9.5/10 по нескольким причинам:
Доля попаданий в кэш 99.3%: собственная технология кэширования TeamoRouter создана специально под агентные сценарии. В нагрузочных тестах 99.3% запросов попадают в кэш, то есть лишь 0.7% требуют платных вызовов к вышестоящему провайдеру. А поскольку чтение из кэша стоит всего 10% от полной цены, эффективные затраты оказываются радикально ниже.
Ступенчатые скидки: на первые $25 использования — скидка 50%, дальше действуют дополнительные ступенчатые скидки. Новые пользователи в пробный период почти не ощущают расходов на API.
Обслуживание без простоев: архитектура с плавающими обновлениями (rolling update) означает, что техническое обслуживание не прерывает выполняющиеся агентные задачи — критически важное преимущество для процессов, работающих 7x24.
SLA 99.98%: опубликованный SLA и страница статуса дают полную картину состояния сервиса.
5 типичных ошибок при выборе провайдера
Ошибка 1: смотреть на ценовой коэффициент без учёта кэша
Провайдер со «скидкой 90%» и долей попаданий в кэш 20% может обойтись дороже, чем провайдер со «скидкой 70%» и долей попаданий 99%. Эффективная цена = заявленная × (1 − доля кэша) + цена чтения из кэша × доля кэша — посчитайте, прежде чем выбирать.
Ошибка 2: не замечать подвохов в коэффициентах
Некоторые провайдеры рекламируют «скидку 90%», но применяют разные ставки к входным и выходным токенам. Ваши реальные расходы могут оказаться гораздо выше заявленных.
Ошибка 3: не тестировать переключение на резервный канал
Автоматическое переключение в CC Switch зависит от стабильности ваших провайдеров. Сможет ли резервный провайдер бесшовно подхватить работу, если основной упадёт? Проверьте это заранее.
Ошибка 4: недооценивать влияние задержки
Агентные сценарии последовательны: выход каждого шага — это вход следующего. Каждые лишние 100ms задержки добавляют 1 секунду к агентной задаче из 10 шагов. На длинных прогонах накопленный эффект огромен.
Ошибка 5: не проверять долю попаданий в кэш
Заявленная провайдером доля попаданий в кэш может не совпасть с вашим реальным опытом. Начните с небольшого пополнения, протестируйте на своей настоящей нагрузке и посмотрите фактические данные по кэшу.
Руководство по миграции: переход на TeamoRouter
Миграция занимает 4 шага:
- Зарегистрируйтесь: зайдите на TeamoRouter и создайте аккаунт
- Сгенерируйте API-ключ: создайте в консоли отдельный ключ
- Добавьте TeamoRouter в CC Switch: следуйте руководству по настройке CC Switch
- Смените провайдера по умолчанию: назначьте TeamoRouter основным провайдером в CC Switch
Ничего переустанавливать не нужно — достаточно обновить конфигурацию провайдера в CC Switch.
FAQ
Можно ли настроить в CC Switch сразу несколько провайдеров?
Да. CC Switch поддерживает несколько провайдеров с приоритетами и правилами автоматического переключения. Мы рекомендуем TeamoRouter в качестве основного, а остальных провайдеров — в качестве резервных.
Повлияет ли смена провайдера на мои текущие диалоги?
Нет. Смена затрагивает только новые API-запросы. Существующие диалоги и настройки остаются без изменений.
Есть ли у TeamoRouter бесплатный пробный период?
TeamoRouter даёт скидку 50% на первые $25 использования. В пробный период вы можете оценить сервис в полном объёме с минимальными затратами.