Giám sát suy giảm

Giám sát suy giảm mô hình v0.1

Số liệu đo thô của một mô hình trên các trạm: trong cùng một khung giờ, mọi trạm trả lời cùng một bộ câu hỏi thăm dò danh tính (mốc cắt kiến thức, “phiên bản mới nhất mà bạn biết” và các câu tương tự), và chúng tôi ghi lại tỷ lệ khớp với đáp án tham chiếu của mô hình đó, số token đầu vào, token suy luận và dấu vân tay mô hình. Số liệu được công bố nguyên trạng, không đưa ra kết luận.

14 mô hình, 101 tuyến
Mô hìnhTrạmSắp xếp
100% (90 lượt trả lời)109–24,2601,014DeepSeek V4.1 Flash—98.2%1.31 s¥2.59
100% (90 lượt trả lời)109–24,2601,014DeepSeek V4 Pro—99.0%1.35 s¥11.4
100% (90 lượt trả lời)109–24,2601,014GLM 5.3—98.5%0.96 s¥8.56
100% (90 lượt trả lời)109–24,2601,014Qwen 3.8 Max—98.0%1.06 s¥20.4
98% (90 lượt trả lời)109–24,2600Claude Haiku 5.5————
98% (90 lượt trả lời)100–161,34938GPT 6.1 Sol—98.7%0.87 s¥0.44
98% (90 lượt trả lời)—0Grok 4.7—98.3%5.11 s¥3.10
97% (90 lượt trả lời)52–24,260996Claude Fable 5.1—98.2%1.34 s¥4.38
97% (90 lượt trả lời)52–24,260996Claude Fable 5.1————
97% (90 lượt trả lời)52–24,260996Claude Fable 5.1————
97% (90 lượt trả lời)52–24,260996Claude Fable 5.1————
97% (90 lượt trả lời)52–24,260559Claude Opus 5.5—97.3%1.57 s¥1.75
97% (90 lượt trả lời)52–24,260559Claude Opus 5.5————
97% (90 lượt trả lời)52–24,260559Claude Opus 5.5————
97% (90 lượt trả lời)109–45,1080Claude Sonnet 5—97.7%1.77 s¥7.30
97% (90 lượt trả lời)109–45,1080Claude Sonnet 5—97.7%1.58 s¥9.20
97% (90 lượt trả lời)109–45,1080Claude Sonnet 5—97.2%1.29 s¥0.88
97% (90 lượt trả lời)109–45,1080Claude Sonnet 5————
97% (90 lượt trả lời)109–24,2600Claude Haiku 5.5—98.0%0.94 s—
97% (90 lượt trả lời)109–24,2600Claude Haiku 5.5————
97% (90 lượt trả lời)100–151,76939GPT 6 Astra—98.5%1.33 s¥2.19
97% (90 lượt trả lời)100–151,76939GPT 6 Astra————
97% (90 lượt trả lời)100–151,76939GPT 6 Astra————
97% (90 lượt trả lời)100–151,76939GPT 6 Astra————
97% (90 lượt trả lời)100–151,76939GPT 6 Astra————
97% (90 lượt trả lời)100–161,34938GPT 6.1 Sol————
97% (90 lượt trả lời)100–161,34938GPT 6.1 Sol————
97% (90 lượt trả lời)100–161,34938GPT 6.1 Sol————
97% (90 lượt trả lời)—0Grok 4.7————
97% (90 lượt trả lời)—0Kimi K3—98.0%1.16 s¥28.6
85% (20 lượt trả lời)101–22,95323GPT 6 Astra—100.0%9.76 s—
61% (18 lượt trả lời)116–402217Claude Opus 5.5—93.3%9.05 s—
44% (18 lượt trả lời)116–139243Claude Haiku 5.5—96.7%7.00 s—
39% (18 lượt trả lời)114–4110Claude Haiku 5.5—100.0%23.19 s—
69% (13 lượt trả lời)3,685–21,5900Gemini 3.8 Flash————
54% (28 lượt trả lời)121–1400Grok 4.7————
28% (18 lượt trả lời)239–7480Claude Haiku 5.5—77.4%19.67 s—
100% (54 lượt trả lời)456–69469Claude Opus 5.5————
100% (54 lượt trả lời)472–730178Claude Haiku 5.5————
100% (8 lượt trả lời)22,945–22,95638GPT 6 Astra—100.0%4.04 s¥3.30
96% (28 lượt trả lời)5,264–5,27929GPT 6 Astra————
89% (28 lượt trả lời)4,203–4,21827GPT 6 Astra—100.0%8.02 s—
89% (28 lượt trả lời)486–4,21235GPT 6 Astra————
89% (18 lượt trả lời)129–1550Claude Fable 5.1————
88% (8 lượt trả lời)22,945–22,95642GPT 6.1 Sol————
86% (28 lượt trả lời)93–4,21818GPT 6 Astra————
83% (18 lượt trả lời)127–1530Claude Sonnet 5—96.7%6.55 s—
83% (18 lượt trả lời)116–1390Claude Haiku 5.5————
82% (28 lượt trả lời)93–10836GPT 6 Astra—100.0%2.88 s—
82% (28 lượt trả lời)812–8280GPT 6.1 Sol—100.0%3.49 s¥15.4
82% (28 lượt trả lời)100–11638GPT 6.1 Sol————
79% (28 lượt trả lời)93–10833GPT 6 Astra—100.0%9.99 s¥2.04
79% (28 lượt trả lời)93–10834GPT 6.1 Sol————
72% (18 lượt trả lời)129–155537Claude Haiku 5.5—77.8%14.16 s—
68% (28 lượt trả lời)4,207–4,48016GPT 6.1 Sol—96.7%5.20 s—
68% (28 lượt trả lời)101–4,4840GPT 6 Astra—93.3%8.16 s¥11.9
61% (28 lượt trả lời)4,211–18,5630GPT 5.6 Terra————
56% (18 lượt trả lời)116–1390Claude Opus 5.5—83.3%12.04 s¥8.80
56% (18 lượt trả lời)114–1370Claude Haiku 5.5—77.8%9.30 s¥2.04
50% (18 lượt trả lời)2,025–10,7400Claude Haiku 5.5—79.3%21.85 s—
50% (18 lượt trả lời)127–153458Claude Sonnet 5—61.1%12.08 s—
44% (18 lượt trả lời)116–139170Claude Haiku 5.5—100.0%2.17 s—
44% (18 lượt trả lời)258–2,8600Claude Haiku 5.5—88.9%24.58 s¥2.04
44% (18 lượt trả lời)153–1680Claude Sonnet 5—100.0%3.97 s¥4.40
41% (17 lượt trả lời)116–1390Claude Haiku 5.5————
40% (5 lượt trả lời)137–1440Claude Opus 5.5—60.0%2.38 s¥4.77
39% (18 lượt trả lời)116–139208Claude Haiku 5.5—100.0%2.03 s—
33% (18 lượt trả lời)121–2390Claude Haiku 5.5—100.0%2.88 s¥4.40
28% (18 lượt trả lời)148–4630Claude Haiku 5.5—88.9%15.94 s¥2.04
Chưa kiểm tra————100.0%23.19 s—
Chưa kiểm tra————100.0%23.19 s—
Chưa kiểm tra————100.0%8.85 s—
Chưa kiểm tra————98.6%1.40 s¥3.29
Chưa kiểm tra————98.2%0.91 s¥4.46
Chưa kiểm tra————73.3%1.83 s—
Chưa kiểm tra————100.0%2.27 s—
Chưa kiểm tra————77.4%3.02 s¥4.40
Chưa kiểm tra————100.0%3.52 s—
Chưa kiểm tra————100.0%6.04 s—
Chưa kiểm tra————100.0%2.45 s—
Chưa kiểm tra————100.0%4.62 s¥2.38
Chưa kiểm tra————100.0%7.18 s¥0.66
Chưa kiểm tra————90.0%6.70 s—
Chưa kiểm tra————86.7%4.67 s—
Chưa kiểm tra————0.0%——
Chưa kiểm tra————100.0%2.51 s—
Chưa kiểm tra————100.0%3.63 s—
Chưa kiểm tra————100.0%3.95 s—
Chưa kiểm tra————100.0%4.17 s¥1.30
Chưa kiểm tra————94.4%6.48 s—
Chưa kiểm tra————89.7%6.03 s—
Chưa kiểm tra————96.7%9.57 s—
Chưa kiểm tra————88.9%6.48 s¥2.04
Chưa kiểm tra————100.0%3.31 s—
Chưa kiểm tra————100.0%4.88 s¥1.27
Chưa kiểm tra————100.0%12.91 s—
Chưa kiểm tra————96.7%10.99 s—
Chưa kiểm tra————0.0%——
Chưa kiểm tra————96.7%4.34 s—
Chưa kiểm tra————88.9%5.53 s¥2.04
Chưa kiểm tra————90.0%7.27 s—
Đặt câu hỏiTrong mỗi khung giờ, mọi trạm của cùng một mô hình nhận cùng một bộ câu hỏi thăm dò danh tính; mỗi lần câu hỏi được diễn đạt lại và gắn một mã tham chiếu ngẫu nhiên để tránh cache và gian lận có chủ đích
Đối chiếuMỗi câu trả lời được quy về một nhóm ngắn gọn rồi đối chiếu với đáp án tham chiếu của mô hình lấy từ một tuyến tin cậy
Số liệu đoTỷ lệ khớp thăm dò, số token đầu vào, trung vị token suy luận, dấu vân tay mô hình
Công bốCông bố nguyên số liệu, đặt mọi trạm của cùng một mô hình cạnh nhau

Câu hỏi thường gặp

Nên đọc các con số này thế nào?

Câu hỏi thăm dò hỏi những điều như “mốc cắt kiến thức của bạn là khi nào” hay “iPhone mới nhất mà bạn biết là mẫu nào”: các mô hình khác nhau trả lời khác nhau, còn cùng một mô hình thì trả lời nhất quán. Tỷ lệ khớp thấp hơn hẳn các trạm khác, số token đầu vào không khớp với các trạm còn lại, hoặc dấu vân tay không giống mô hình đó đều đáng xem xét kỹ hơn. Từng con số riêng lẻ có thể dao động; càng nhiều lượt trả lời thì càng đáng tin cậy.

Vì sao cần xem số token đầu vào?

Cùng một đầu vào gửi tới cùng một mô hình phải luôn cho ra đúng cùng một số token. Số token khác với các trạm khác thường có nghĩa là mô hình đã bị thay, hoặc yêu cầu đã bị chèn thêm nội dung.

Vì sao chưa có dữ liệu?

Giám sát suy giảm mô hình vẫn đang được kết nối. Những số liệu đo đầu tiên sẽ hiển thị tại đây. Tỷ lệ khả dụng, độ trễ token đầu tiên và chi phí phiên trong bảng là số liệu đo trực tiếp.

Khác gì so với bảng xếp hạng tổng?

Bảng xếp hạng tổng xét tỷ lệ khả dụng, tốc độ và giá. Giám sát suy giảm mô hình cho biết mỗi trạm có cung cấp đúng mô hình thật hay không. Hiện tại mục này chưa ảnh hưởng đến thứ hạng.