Мониторинг деградации

Мониторинг деградации v0.1

Исходные измерения одной модели на разных прокси: в один и тот же временной интервал каждый прокси отвечает на одинаковый набор контрольных вопросов на идентичность (дата отсечения знаний, «самая новая версия, о которой вы знаете» и подобные), а мы фиксируем совпадение с эталонными ответами этой модели, входные токены, токены рассуждений и отпечаток модели. Значения публикуются как есть, без вердикта.

Моделей: 14, маршрутов: 101
МодельПроксиСортировка
100% (ответов: 90)109–24,2601,014DeepSeek V4.1 Flash—98.2%1.31 s¥2.59
100% (ответов: 90)109–24,2601,014DeepSeek V4 Pro—99.0%1.35 s¥11.4
100% (ответов: 90)109–24,2601,014GLM 5.3—98.5%0.96 s¥8.56
100% (ответов: 90)109–24,2601,014Qwen 3.8 Max—98.0%1.06 s¥20.4
98% (ответов: 90)109–24,2600Claude Haiku 5.5————
98% (ответов: 90)100–161,34938GPT 6.1 Sol—98.7%0.87 s¥0.44
98% (ответов: 90)—0Grok 4.7—98.3%5.11 s¥3.10
97% (ответов: 90)52–24,260996Claude Fable 5.1—98.2%1.34 s¥4.38
97% (ответов: 90)52–24,260996Claude Fable 5.1————
97% (ответов: 90)52–24,260996Claude Fable 5.1————
97% (ответов: 90)52–24,260996Claude Fable 5.1————
97% (ответов: 90)52–24,260559Claude Opus 5.5—97.3%1.57 s¥1.75
97% (ответов: 90)52–24,260559Claude Opus 5.5————
97% (ответов: 90)52–24,260559Claude Opus 5.5————
97% (ответов: 90)109–45,1080Claude Sonnet 5—97.7%1.77 s¥7.30
97% (ответов: 90)109–45,1080Claude Sonnet 5—97.7%1.58 s¥9.20
97% (ответов: 90)109–45,1080Claude Sonnet 5—97.2%1.29 s¥0.88
97% (ответов: 90)109–45,1080Claude Sonnet 5————
97% (ответов: 90)109–24,2600Claude Haiku 5.5—98.0%0.94 s—
97% (ответов: 90)109–24,2600Claude Haiku 5.5————
97% (ответов: 90)100–151,76939GPT 6 Astra—98.5%1.33 s¥2.19
97% (ответов: 90)100–151,76939GPT 6 Astra————
97% (ответов: 90)100–151,76939GPT 6 Astra————
97% (ответов: 90)100–151,76939GPT 6 Astra————
97% (ответов: 90)100–151,76939GPT 6 Astra————
97% (ответов: 90)100–161,34938GPT 6.1 Sol————
97% (ответов: 90)100–161,34938GPT 6.1 Sol————
97% (ответов: 90)100–161,34938GPT 6.1 Sol————
97% (ответов: 90)—0Grok 4.7————
97% (ответов: 90)—0Kimi K3—98.0%1.16 s¥28.6
85% (ответов: 20)101–22,95323GPT 6 Astra—100.0%9.76 s—
61% (ответов: 18)116–402217Claude Opus 5.5—93.3%9.05 s—
44% (ответов: 18)116–139243Claude Haiku 5.5—96.7%7.00 s—
39% (ответов: 18)114–4110Claude Haiku 5.5—100.0%23.19 s—
69% (ответов: 13)3,685–21,5900Gemini 3.8 Flash————
54% (ответов: 28)121–1400Grok 4.7————
28% (ответов: 18)239–7480Claude Haiku 5.5—77.4%19.67 s—
100% (ответов: 54)456–69469Claude Opus 5.5————
100% (ответов: 54)472–730178Claude Haiku 5.5————
100% (ответов: 8)22,945–22,95638GPT 6 Astra—100.0%4.04 s¥3.30
96% (ответов: 28)5,264–5,27929GPT 6 Astra————
89% (ответов: 28)4,203–4,21827GPT 6 Astra—100.0%8.02 s—
89% (ответов: 28)486–4,21235GPT 6 Astra————
89% (ответов: 18)129–1550Claude Fable 5.1————
88% (ответов: 8)22,945–22,95642GPT 6.1 Sol————
86% (ответов: 28)93–4,21818GPT 6 Astra————
83% (ответов: 18)127–1530Claude Sonnet 5—96.7%6.55 s—
83% (ответов: 18)116–1390Claude Haiku 5.5————
82% (ответов: 28)93–10836GPT 6 Astra—100.0%2.88 s—
82% (ответов: 28)812–8280GPT 6.1 Sol—100.0%3.49 s¥15.4
82% (ответов: 28)100–11638GPT 6.1 Sol————
79% (ответов: 28)93–10833GPT 6 Astra—100.0%9.99 s¥2.04
79% (ответов: 28)93–10834GPT 6.1 Sol————
72% (ответов: 18)129–155537Claude Haiku 5.5—77.8%14.16 s—
68% (ответов: 28)4,207–4,48016GPT 6.1 Sol—96.7%5.20 s—
68% (ответов: 28)101–4,4840GPT 6 Astra—93.3%8.16 s¥11.9
61% (ответов: 28)4,211–18,5630GPT 5.6 Terra————
56% (ответов: 18)116–1390Claude Opus 5.5—83.3%12.04 s¥8.80
56% (ответов: 18)114–1370Claude Haiku 5.5—77.8%9.30 s¥2.04
50% (ответов: 18)2,025–10,7400Claude Haiku 5.5—79.3%21.85 s—
50% (ответов: 18)127–153458Claude Sonnet 5—61.1%12.08 s—
44% (ответов: 18)116–139170Claude Haiku 5.5—100.0%2.17 s—
44% (ответов: 18)258–2,8600Claude Haiku 5.5—88.9%24.58 s¥2.04
44% (ответов: 18)153–1680Claude Sonnet 5—100.0%3.97 s¥4.40
41% (ответов: 17)116–1390Claude Haiku 5.5————
40% (ответов: 5)137–1440Claude Opus 5.5—60.0%2.38 s¥4.77
39% (ответов: 18)116–139208Claude Haiku 5.5—100.0%2.03 s—
33% (ответов: 18)121–2390Claude Haiku 5.5—100.0%2.88 s¥4.40
28% (ответов: 18)148–4630Claude Haiku 5.5—88.9%15.94 s¥2.04
Пока не измерялось————100.0%23.19 s—
Пока не измерялось————100.0%23.19 s—
Пока не измерялось————100.0%8.85 s—
Пока не измерялось————98.6%1.40 s¥3.29
Пока не измерялось————98.2%0.91 s¥4.46
Пока не измерялось————73.3%1.83 s—
Пока не измерялось————100.0%2.27 s—
Пока не измерялось————77.4%3.02 s¥4.40
Пока не измерялось————100.0%3.52 s—
Пока не измерялось————100.0%6.04 s—
Пока не измерялось————100.0%2.45 s—
Пока не измерялось————100.0%4.62 s¥2.38
Пока не измерялось————100.0%7.18 s¥0.66
Пока не измерялось————90.0%6.70 s—
Пока не измерялось————86.7%4.67 s—
Пока не измерялось————0.0%——
Пока не измерялось————100.0%2.51 s—
Пока не измерялось————100.0%3.63 s—
Пока не измерялось————100.0%3.95 s—
Пока не измерялось————100.0%4.17 s¥1.30
Пока не измерялось————94.4%6.48 s—
Пока не измерялось————89.7%6.03 s—
Пока не измерялось————96.7%9.57 s—
Пока не измерялось————88.9%6.48 s¥2.04
Пока не измерялось————100.0%3.31 s—
Пока не измерялось————100.0%4.88 s¥1.27
Пока не измерялось————100.0%12.91 s—
Пока не измерялось————96.7%10.99 s—
Пока не измерялось————0.0%——
Пока не измерялось————96.7%4.34 s—
Пока не измерялось————88.9%5.53 s¥2.04
Пока не измерялось————90.0%7.27 s—
ВопросыВ каждом интервале все прокси одной модели получают одинаковый набор контрольных вопросов на идентичность; формулировка каждый раз меняется и снабжается случайной меткой, чтобы исключить кэш и целенаправленную подгонку
СравнениеКаждый ответ сводится к короткой категории и сравнивается с эталонными ответами модели, полученными через проверенный маршрут
МетрикиСовпадение ответов, входные токены, медиана токенов рассуждений, отпечаток модели
ПубликацияИсходные значения публикуются напрямую, все прокси одной модели — рядом друг с другом

Частые вопросы

Как читать эти цифры?

Контрольные вопросы — это, например, «когда заканчиваются ваши знания» или «какой самый новый iPhone вам известен»: разные модели отвечают по-разному, а одна и та же модель — стабильно. Стоит присмотреться, если совпадение заметно ниже, чем у других прокси, число входных токенов не сходится с остальными или отпечаток не похож на эту модель. Отдельные значения колеблются; чем больше ответов, тем надёжнее данные.

Зачем смотреть на число входных токенов?

Один и тот же ввод, отправленный одной и той же модели, всегда должен давать точно такое же число токенов. Если число отличается от других прокси, обычно это значит, что модель подменена или в запрос добавлено лишнее содержимое.

Почему данных пока нет?

Мониторинг деградации ещё подключается. Первые измерения появятся здесь. Доступность, задержка первого токена и стоимость сессии в таблице — реальные измерения.

Чем это отличается от общего рейтинга?

Общий рейтинг охватывает доступность, скорость и цену. Мониторинг деградации показывает, отдаёт ли каждый прокси настоящую модель. Пока он не влияет на рейтинг.