01 / 中转站评测套件
测试路线,而不只是模型。
单个评测不能证明中转站安全或模型身份,应结合受控测试、重复采样和证据来源。
01 / 中转站评测套件
测试路线,而不只是模型。
单个评测不能证明中转站安全或模型身份,应结合受控测试、重复采样和证据来源。
凭据与端点边界
检查 TLS 状态、端点处理、错误脱敏、凭据暴露和留存信号。
目标:安全信号
声称的模型一致性
针对声明的模型路线运行重复能力探测和响应配对检查。
目标:身份信号
路线可用性窗口
测量连接、超时、延迟、重试和不同窗口中的波动。
目标:稳定性 + 覆盖
响应完整性挑战集
使用不变量任务、结构化输出和工具行为检测路线退化。
目标:完整性信号
每次成功的有效成本
在失败和重试之后比较标示价格与完成任务的成本。
目标:价格信号
滥用与策略处理
测量对抗性提示下路线保留供应商控制的情况。
目标:安全信号
“可疑”不等于“已证明”。
评测应报告不确定性、重复样本、误报控制和申诉路径。
这是对外部公开 Benchmark 的编辑整理。Folkbench 没有执行该评测。
证据发生了什么变化。
中转站身份与模型一致性
重复任务可以发现一致性信号,但一致性不能证明身份。
30 天路线可靠性窗口
结合样本上下文展示连接、超时和可用性模式。
每个成功任务的有效成本
比较标示价格与调整重试后的完成成本。
每个方法和报告都会标明范围、更新时间和证据限制。