モデル劣化監視 v0.1

1 つのモデルについて、各中継サービスの実測データをそのまま掲載します。同じ時間帯に各サービスが同じ識別プローブ(知識のカットオフ時期や「知っている最新バージョン」などの質問)に回答し、そのモデルの参照回答との一致率、入力トークン数、推論トークン、モデルのフィンガープリントを記録します。数値はそのまま公開し、判定は行いません。

14 モデル・101 ルートが対象
モデル中継サービス並べ替え
100%(90 回答)109–24,2601,014DeepSeek V4.1 Flash—98.2%1.31 s¥2.59
100%(90 回答)109–24,2601,014DeepSeek V4 Pro—99.0%1.35 s¥11.4
100%(90 回答)109–24,2601,014GLM 5.3—98.5%0.96 s¥8.56
100%(90 回答)109–24,2601,014Qwen 3.8 Max—98.0%1.06 s¥20.4
98%(90 回答)109–24,2600Claude Haiku 5.5————
98%(90 回答)100–161,34938GPT 6.1 Sol—98.7%0.87 s¥0.44
98%(90 回答)—0Grok 4.7—98.3%5.11 s¥3.10
97%(90 回答)52–24,260996Claude Fable 5.1—98.2%1.34 s¥4.38
97%(90 回答)52–24,260996Claude Fable 5.1————
97%(90 回答)52–24,260996Claude Fable 5.1————
97%(90 回答)52–24,260996Claude Fable 5.1————
97%(90 回答)52–24,260559Claude Opus 5.5—97.3%1.57 s¥1.75
97%(90 回答)52–24,260559Claude Opus 5.5————
97%(90 回答)52–24,260559Claude Opus 5.5————
97%(90 回答)109–45,1080Claude Sonnet 5—97.7%1.77 s¥7.30
97%(90 回答)109–45,1080Claude Sonnet 5—97.7%1.58 s¥9.20
97%(90 回答)109–45,1080Claude Sonnet 5—97.2%1.29 s¥0.88
97%(90 回答)109–45,1080Claude Sonnet 5————
97%(90 回答)109–24,2600Claude Haiku 5.5—98.0%0.94 s—
97%(90 回答)109–24,2600Claude Haiku 5.5————
97%(90 回答)100–151,76939GPT 6 Astra—98.5%1.33 s¥2.19
97%(90 回答)100–151,76939GPT 6 Astra————
97%(90 回答)100–151,76939GPT 6 Astra————
97%(90 回答)100–151,76939GPT 6 Astra————
97%(90 回答)100–151,76939GPT 6 Astra————
97%(90 回答)100–161,34938GPT 6.1 Sol————
97%(90 回答)100–161,34938GPT 6.1 Sol————
97%(90 回答)100–161,34938GPT 6.1 Sol————
97%(90 回答)—0Grok 4.7————
97%(90 回答)—0Kimi K3—98.0%1.16 s¥28.6
85%(20 回答)101–22,95323GPT 6 Astra—100.0%9.76 s—
61%(18 回答)116–402217Claude Opus 5.5—93.3%9.05 s—
44%(18 回答)116–139243Claude Haiku 5.5—96.7%7.00 s—
39%(18 回答)114–4110Claude Haiku 5.5—100.0%23.19 s—
69%(13 回答)3,685–21,5900Gemini 3.8 Flash————
54%(28 回答)121–1400Grok 4.7————
28%(18 回答)239–7480Claude Haiku 5.5—77.4%19.67 s—
100%(54 回答)456–69469Claude Opus 5.5————
100%(54 回答)472–730178Claude Haiku 5.5————
100%(8 回答)22,945–22,95638GPT 6 Astra—100.0%4.04 s¥3.30
96%(28 回答)5,264–5,27929GPT 6 Astra————
89%(28 回答)4,203–4,21827GPT 6 Astra—100.0%8.02 s—
89%(28 回答)486–4,21235GPT 6 Astra————
89%(18 回答)129–1550Claude Fable 5.1————
88%(8 回答)22,945–22,95642GPT 6.1 Sol————
86%(28 回答)93–4,21818GPT 6 Astra————
83%(18 回答)127–1530Claude Sonnet 5—96.7%6.55 s—
83%(18 回答)116–1390Claude Haiku 5.5————
82%(28 回答)93–10836GPT 6 Astra—100.0%2.88 s—
82%(28 回答)812–8280GPT 6.1 Sol—100.0%3.49 s¥15.4
82%(28 回答)100–11638GPT 6.1 Sol————
79%(28 回答)93–10833GPT 6 Astra—100.0%9.99 s¥2.04
79%(28 回答)93–10834GPT 6.1 Sol————
72%(18 回答)129–155537Claude Haiku 5.5—77.8%14.16 s—
68%(28 回答)4,207–4,48016GPT 6.1 Sol—96.7%5.20 s—
68%(28 回答)101–4,4840GPT 6 Astra—93.3%8.16 s¥11.9
61%(28 回答)4,211–18,5630GPT 5.6 Terra————
56%(18 回答)116–1390Claude Opus 5.5—83.3%12.04 s¥8.80
56%(18 回答)114–1370Claude Haiku 5.5—77.8%9.30 s¥2.04
50%(18 回答)2,025–10,7400Claude Haiku 5.5—79.3%21.85 s—
50%(18 回答)127–153458Claude Sonnet 5—61.1%12.08 s—
44%(18 回答)116–139170Claude Haiku 5.5—100.0%2.17 s—
44%(18 回答)258–2,8600Claude Haiku 5.5—88.9%24.58 s¥2.04
44%(18 回答)153–1680Claude Sonnet 5—100.0%3.97 s¥4.40
41%(17 回答)116–1390Claude Haiku 5.5————
40%(5 回答)137–1440Claude Opus 5.5—60.0%2.38 s¥4.77
39%(18 回答)116–139208Claude Haiku 5.5—100.0%2.03 s—
33%(18 回答)121–2390Claude Haiku 5.5—100.0%2.88 s¥4.40
28%(18 回答)148–4630Claude Haiku 5.5—88.9%15.94 s¥2.04
計測待ち————100.0%23.19 s—
計測待ち————100.0%23.19 s—
計測待ち————100.0%8.85 s—
計測待ち————98.6%1.40 s¥3.29
計測待ち————98.2%0.91 s¥4.46
計測待ち————73.3%1.83 s—
計測待ち————100.0%2.27 s—
計測待ち————77.4%3.02 s¥4.40
計測待ち————100.0%3.52 s—
計測待ち————100.0%6.04 s—
計測待ち————100.0%2.45 s—
計測待ち————100.0%4.62 s¥2.38
計測待ち————100.0%7.18 s¥0.66
計測待ち————90.0%6.70 s—
計測待ち————86.7%4.67 s—
計測待ち————0.0%——
計測待ち————100.0%2.51 s—
計測待ち————100.0%3.63 s—
計測待ち————100.0%3.95 s—
計測待ち————100.0%4.17 s¥1.30
計測待ち————94.4%6.48 s—
計測待ち————89.7%6.03 s—
計測待ち————96.7%9.57 s—
計測待ち————88.9%6.48 s¥2.04
計測待ち————100.0%3.31 s—
計測待ち————100.0%4.88 s¥1.27
計測待ち————100.0%12.91 s—
計測待ち————96.7%10.99 s—
計測待ち————0.0%——
計測待ち————96.7%4.34 s—
計測待ち————88.9%5.53 s¥2.04
計測待ち————90.0%7.27 s—
出題各時間帯に、同じモデルを提供するすべての中継サービスへ同じ識別プローブを送ります。毎回言い回しを変え、ランダムな番号を付けて、キャッシュや狙い撃ちの不正を防ぎます。
照合各回答を短いカテゴリーにまとめ、信頼できるルートで得たそのモデルの参照回答と照合します。
指標プローブ一致率、入力トークン数、推論トークンの中央値、モデルのフィンガープリント
公開生の数値をそのまま公開し、同じモデルの各中継サービスを並べて比較できるようにします。

よくある質問

これらの数値はどう読めばよいですか?

プローブでは「知識はいつまでのものか」「知っている最新の iPhone はどれか」といった質問をします。モデルが違えば答えも違い、同じモデルなら答えは安定します。一致率が他サービスより明らかに低い、入力トークン数が他サービスと合わない、フィンガープリントがそのモデルらしくない、といった場合は注意が必要です。個々の数値は変動するため、回答数が多いほど信頼性が高まります。

なぜ入力トークン数を見るのですか?

同じ入力を同じモデルに送れば、トークン数は完全に一致するはずです。他サービスと数値が合わない場合、多くはモデルが差し替えられているか、リクエストに余分な内容が追加されています。

なぜまだデータがないのですか?

モデル劣化監視は現在接続作業中です。最初の計測結果が出ると、ここに表示されます。表の稼働率、TTFT、セッションコストはライブ実測データです。

総合ランキングとの違いは何ですか?

総合ランキングは稼働率、速度、価格を見ます。モデル劣化監視は、各中継サービスが本物のモデルを提供しているかどうかを見ます。現時点では順位に影響しません。