YH / BENCHMARKS

评测亮点

一部分检查产品能否完成任务、复现结果;另一部分比较建模、决策与 token 用量。每项结果都附有测试范围和原始记录。

使用与稳定性

检查任务交付、工具接入和模型复用,以及版本更新前后的结果一致性。

RISA · TABARENA FULL-30 · 发布前复现

完整 30 项复现,
平均建模质量不变。

按原 TabArena 二分类协议核对全部 30 个任务与 472 个候选。最终模型选择、候选指标和预测排名一致;原宏平均 ROC-AUC 得以保留。

2026 年 10 月 3 日 · r7 发布前验证
宏平均 ROC-AUC
81.669%
原建模质量保留
100%
原协议与发布前复现:30 个任务宏平均。
指标原结果复现结果
ROC-AUC ↑81.669%81.669%
平均质量变化—0 个百分点
任务覆盖30 / 3030 / 30

ROC-AUC 用百分数展示,不是分类准确率。复现值由相同标签下完全相同的预测排名确定,没有重新读取隐藏标签评分。

运行范围与数值一致性

原 TabArena v0.1 二分类 30 任务子集,r0/f0/s0。在 DGX ARM64 上运行 r7 发布工作保存的应用与原始 SDK。28 个任务原始分数逐字节一致,其余两个最大差约 2.04×10⁻¹⁴;全部排名一致,30 个模型重复预测逐字节一致。最终 Windows/Linux 包的安装与原生功能验收另计。

这轮没有新的 DSH token 计量。下方五任务效率对照单独标明模型、质量和用量,不将它的 token 降幅套用到 Full-30。

复现报告与逐任务记录 ↗

AGENT AS A SKILL · DSH

DSH 接入
与模型复用

18 / 18普通 DSH 与 RISA 接入路径均完成预测交付

两条路径分别完成三个任务、每任务三次会话。接入 RISA 的九次运行都保存了模型,再次载入后的预测与交付文件完全一致。

RISA 模型重复预测一致
9 / 9
会话重复 / 每任务每路径
3

这是早期 v6 接入检查:三项开发任务、真实模型请求、本地授权测试服务。建模质量和 token 对照见下方详细记录。

查看接入测试与质量对照 ↓

LONG-CONTEXT TASKS · LONGBENCH

长文本任务,
按题记录完成情况。

200 / 200LongBench v1 HotpotQA · 全部题目完成

云小鹤 0.3.7 以 zero-shot 方式完成全部 200 题,没有终止失败;QA-F1 为 74.56。逐题答案、用量与评分脚本已公开。

v2 已完成 / 全部题目
499 / 503
v2 正确 / 全部题目
337 / 503

v2 准确率 67.0%,四道未完成题计为错误。这是已公开的自报暂定结果,不是官方榜单提交;v1 与 v2 的分数不能直接比较。

详细记录:早期 DSH 接入与质量对照

DSH & RISA · 2026 年 10 月 2 日 · 历史 v6

普通 DSH 与 RISA 接入路径

两边收到相同请求与数据,均使用 DeepSeek Flash。普通 DSH 自行编程、选模型和调参;接入路径调用当时的 RISA balanced 优化器。三个任务各运行三次,记录全部模型请求的 token,并检查交付预测与保存模型。

该轮用量明显下降;Iris 准确率相当,两项回归任务的误差更高。它不能代表后续精度优先版或 r7 的 token 与质量组合。

历史 v6:每任务三次会话的平均值。两个版本使用同一固定数据划分。
任务与指标普通 DSH token接入 RISA tokenToken 减少普通 DSH → 接入 RISA
Iris
准确率 ↑
399,36311,26397.18%98.92% → 100.00%
Diabetes
RMSE ↓
701,88615,14997.84%53.1941 → 58.5824
Friedman1
RMSE ↓
676,82516,18797.61%1.0162 → 3.5323
这些数字如何计算?

Token 合计包含输入、输出、缓存读取/写入和会话标题等辅助请求;推理 token 已计入输出,不再重复相加。降幅按两边总用量之比计算,不等于账单降幅。重复的是智能体会话,不是三个独立数据集或划分。

这是开发阶段的固定任务测试。两条路径的工具和上下文组织不同,YH 授权使用本地测试服务;模型调用是真实请求。后续精度优先版单独降低了回归误差,但没有配套重测 token,因此没有把两轮结果拼成一组。

完整中英报告、逐次用量与复现记录 ↗
补充记录:多模态任务与未完成情况

数据与评测

52 COMPLETED7 HOLD1 FAILEDYH / 评测数据
Hugging Face评测数据

云小鹤 · Vision v2

HarnessAudit Vision 评测记录

60 例 Vision 任务的逐例记录:内容质量 0.6614(52 份完成报告),临时 Penalty-SAR 0.8722(59 条轨迹)。

0.661442已完成报告内容质量 · 52 例
详细说明与文件

60 个 Vision 案例的独立评测记录:52 份完成报告、7 个真实 HOLD、1 个原始路由失败。已完成报告的模型评判内容质量均值为 0.661442;59 条原始可观察轨迹的临时 Penalty-SAR 为 0.872222。修订口径的逐例 L1 SAR 平均值为 0.929722,明确将原始失败计零。原始评分门槛仍为 FAILED,没有官方 Overall 分数。

已完成报告内容质量 · 52 例
0.661442
全批次内容质量 · 60 例
0.573250
临时 Penalty-SAR · 59 条轨迹
0.872222
修订口径 L1 平均 SAR · 60 例
0.929722
原始案例结局
52 完成 · 7 HOLD · 1 路由失败

提供中英双语说明、60 行逐例派生分数和汇总文件。独立重试未替换原始失败;各指标口径与来源哈希见发布页。

能力表现

比较具体任务的建模质量、决策成绩和 token 用量,分别列出基线、数据集与指标。

RISA · TABARENA

30 个数据集的
表格建模。

0.816690宏平均 ROC-AUC ↑

在 TabArena v0.1 的 30 个公开二分类数据集上,完成 241,578 行预测。较自家既有同集结果,宏平均 ROC-AUC 提高 3.60 个百分点,24 个数据集得分上升。

数据划分
r0 / f0 / s0
较自家既有结果:胜 / 平 / 负
24 / 0 / 6

范围为 30 个二分类数据集子集,不是完整 TabArena 总榜。

逐数据集成绩 ↗

AVALON · SUPPLYCHAINBENCH

16 个供应链情景,
576 次连续决策。

54.81SupplyChainBench 得分 ↑

云小鹤供应链分析 Agent 使用 Avalon r4,在冻结环境中逐步完成决策。每个情景包含 36 次动作,16 局全部完成。

完成情景
16 / 16
完成动作
576 / 576

同一冻结环境、种子与成本公式。得分为评测单位,不是百分比或美元。

查看冻结榜单与成绩 ↗

RISA · 独立的五任务同模型对照

Token 减少六成,
准确率相差不到一个百分点。

两条路径均使用 DeepSeek Pro。接入 RISA-G1 后,五项任务的平均准确率从 83.87% 变为 82.97%,平均 token 用量从 683,477 降至 254,678。

公开记录 · 2026 年 9 月 6 日
平均 token 减少
62.7%
基线准确率保留比例
98.9%
同一模型,比较两条任务处理路径;数值均为五任务平均。
指标DeepSeek Pro
原生路径
DeepSeek Pro
+ RISA-G1
LLM token 用量 ↓683,477254,678
准确率 ↑83.87%82.97%
Macro F1 ↑0.79520.7545
耗时(秒)↓223.9241.9

98.9% 是准确率的保留比例,不是最终准确率;绝对差为 0.90 个百分点。这组结果体现的是 token 用量下降,耗时并未缩短。

任务、比较范围与原始记录

五项任务:Adult Income, Bank Marketing, Credit-G, Spambase, Steel Plates.

这是独立的历史同模型效率对照,与 TabArena 30 数据集实验分开。Token 降幅不等于费用降幅,也不是当前下载版本在所有任务上的承诺。公开 CSV 另列的 Flash Agent 使用不同模型和计量范围,未混入这组比较。

TabArena 与 SupplyChainBench 历史结果说明

评测记录日期:2026 年 9 月 6 日。

YUNXIAOHE + RISA / TABARENA
30个公开数据集

完成 241,578 行预测,平均 ROC-AUC 为 0.8167;较自家既有同集结果 0.7807 提高,24 个数据集得分上升。

TabArena 30 个二分类数据集;ROC-AUC 衡量区分两类的能力。
YUNXIAOHE + AVALON / SUPPLYCHAINBENCH
576次连续决策

完成 16 个冻结情景,每个情景 36 次动作,环境成本得分为 54.81。

公开供应链模拟环境,按环境回执与冻结评分器核验。
查看公开评测资料
PSI · 三类硬件算例

共同设置:LTX-2.5 22B 蒸馏版,原始 BF16、无额外量化,704 × 448、121 帧、24 帧/秒,约 5.04 秒音视频。

RTX 4050 Laptop

6 GB 显存

单条样例约 48.12 分钟。

已有文本条件至成片的分段计时合计。

RTX A6000

48 GB 显存

10 路并发,平均约 46.23 分钟/批。

3 轮共 30 项任务,29 项完整成片。

DGX Spark · GB10

128 GB 统一内存

串行处理平均约 8.74 分钟/条。

30 项全部完整成片,包含动态文本编码。

运行方式和计时范围各不相同。完整成片指媒体可解码;图像质量与提示词符合度需另行评估。

完整资料与评分方法

数据与评测

RISA / TABARENAAVALON30 DATASETS16 SEEDSYH / Benchmark
Hugging FaceBenchmark

RISA × Avalon

云小鹤 0.3.9.8 公开评测

表格建模涵盖 30 个数据集,供应链评测包含 16 局连续决策。可下载结果、图表和评测说明。

0.816690TabArena 30 数据集 · macro ROC-AUC
49近 30 天下载
HF 更新 ·
详细说明与文件

云小鹤 0.3.9.8 的两组评测:RISA 在 TabArena v0.1 binary r0f0s0 的 30 个公开数据集上完成表格建模;供应链分析 Agent Avalon r4 在 SupplyChainBench 冻结环境中完成 16 个种子的连续决策。

TabArena 30 数据集 · macro ROC-AUC
0.816690
较既有同集结果
+3.60 个百分点 · 24/30 胜出
SupplyChainBench 分数
54.810907
Avalon 完成情况
16/16 局 · 576/576 动作

提供技术报告、客户成果简报、配对评分 CSV、冻结榜单、图表和证据哈希。另附独立的历史五任务 Token 效率对照;实现代码不在此次发布范围内。

PUBLIC TRACE200 SAMPLESYH / 评测数据
Hugging Face评测数据

云小鹤

LongBench 评测发布

云小鹤 0.3.7 的 LongBench zero-shot 评测,公开逐题记录与指标重算脚本。

200 / 200完成样本
119近 30 天下载
HF 更新 ·
详细说明与文件

云小鹤 0.3.7 在 LongBench v1 HotpotQA 上的完整 zero-shot 评测。逐题答案、评分、耗时和用量记录一并公开,可使用随附脚本重新计算指标。

完成样本
200 / 200
LongBench QA-F1
74.56

提供 JSONL 记录、指标重算脚本、图表和技术报告。

文件、许可和评测方法见对应仓库。原目录核对于 2026 年 9 月 17 日,Vision 记录新增于 9 月 21 日。这些是相应版本的历史结果,不是对当前下载版本的新测试。
部分 Hugging Face 项目显示近 30 天下载数,每小时同步,不代表独立用户数。统计口径见模型下载说明和数据集下载说明。

以上记录对应各自的测试日期与版本,不是当前服务的在线率统计。研究方法与发表记录见研究论文 →