01测什么
四组题,从读材料到查数据
基础题给出要用的数字或原文,考方法和读材料。进阶题只写数据的名称,考能不能找到并用对。
| 分组 | 基础 | 进阶 | 考什么 |
|---|---|---|---|
| 精算计算26 | 18 | 8 | 准备金、损失分布、重现期、生命表、费率因子。进阶题要用经验生命表、国债收益率曲线和县级暴雨重现期。 |
| 条款理解28 | 18 | 10 | 责任、免除、释义和赔偿计算。进阶题只给公司和条款名称,要先找到条文。 |
| 现场照片26 | 18 | 8 | 水利工程现场的照片。进阶题先判断工程状态,再查对应县的暴雨重现期。 |
| 数据查找20 | 20 | — | 从公开的行业数据里查一个数:生命表、收益率曲线、重现期、台风登陆、损失三角形。 |
| 合计 | 74 | 26 | 100 |
2026-11-14 的成绩:同一个开源基座模型,只用模型本身答对 57 题,接上平台的数据、算法和技能以后答对 91 题。看每道题的答卷
02格式
一行一题,答案能自动判
items.jsonl 每一行是一道题。题目原文最后一行写明答案的格式。
- id
- 题号,例如 calc-01、clause-h03
- category
- 分组:精算计算、条款理解、现场照片、数据查找
- tier
- 基础或进阶
- type
- number(数字题)或 choice(选择题)
- question
- 发给模型的原文
- options
- 选择题的选项
- answer
- 参考答案
- unit、tolerance
- 数字题的单位和允许的相对误差
- images
- 要一起发的照片
- data
- 算参考答案用到的数据文件
{
"id": "clause-h02",
"category": "条款理解",
"category_key": "clause",
"tier": "进阶",
"type": "choice",
"question": "按太平财产保险《建筑工程一切险(2020版)条款》的释义:某工地最大一小时降雨 18 毫米,连续 12 小时降雨 25 毫米,连续 24 小时降雨 42 毫米。这次降雨属于条款里的暴雨吗?\nA. 属于:每小时降雨量达到了 16 毫米以上\nB. 不属于:24 小时降雨量没有达到 50 毫米\nC. 不属于:12 小时降雨量没有达到 30 毫米\nD. 条款没有定义暴雨\n\n请在回答的最后单独一行写:答案:<选项字母>",
"answer": "A",
"options": {
"A": "属于:每小时降雨量达到了 16 毫米以上",
"B": "不属于:24 小时降雨量没有达到 50 毫米",
"C": "不属于:12 小时降雨量没有达到 30 毫米",
"D": "条款没有定义暴雨"
},
"data": [
{
"dataset": "insurer-clause-article",
"file": "data/insurer-clause-article.csv"
}
],
"reference_source": "太平 建筑工程一切险(2020版) 第五十七条(暴雨)"
}03判分
只看最后一行的答案
全部自动判分,不用评审模型。同一套规则用在每一个被测的系统上。
判分规则
- 1只看回答里最后一个“答案:”后面的内容。没有“答案:”的算错。
- 2选择题比较字母。
- 3数字题取出第一个数,和参考答案的相对误差不超过 tolerance 算对。tolerance 是 0 时要完全相等。
- 4回答被截断或为空时重试一次,还是这样记为未作答,算不对。
怎么运行
- 1把 question 原样发给被测的系统。有照片时一起发,文件名写成“照片1.jpg”。
- 2被测的系统可以自己查数据、运行代码。data 里的文件用来核对参考答案,不发给模型。
- 3按左边的规则判分,按分组数答对的题。
04出处
每份数据和照片,写清出处和许可
数据只收题目用到的部分。题目和判分规则可以自由使用,请注明出处。
- data/insured-life-mortality.csv
《中国人身保险业经验生命表(2010—2013)》6 张表
中国精算师协会发布,表值取自美国精算师协会(SOA)生命表数据库
- data/treasury-yield-curve.csv
2026-11-12 的 9 个关键期限,2025-12-31 的 1 年期
财政部发布的中国国债收益率曲线。750 日移动平均由平台计算
- data/county-rainstorm-return-period.csv
题目用到的县的 Gumbel 参数和重现期日降水
平台计算。降水来自 CHM_PRE 中国逐日格点降水数据集(1961—2022 年)
- data/loss-triangle-sample.csv
RAA 和 Taylor-Ashe 损失三角形
chainladder 库(MPL-2.0)的样例数据,原始出处 Mack(1993)、Taylor 和 Ashe(1983)
- data/insurer-clause-article.csv
4 份工程险条款,按条拆开
保险公司官网信息披露的条款文件,每一条带原文件地址
data-15、data-16 两题的参考答案来自平台的台风登陆数据,数据不随评测集发布。照片缩小后发给模型,按各自的许可使用,作者和许可写在 README 里。条款原文的版权属于各保险公司。
引用时写:智元数据 World Insight,Wi-Risk Bench 1.0。README