校准检验:保序再校准和 Murphy 分解
模型的预测"平均来说准不准"(预测 0.1 的保单实际是不是 0.1)?偏差(得分)里有多少是校准差造成的,多少是区分能力?
- 对过的标准答案
- 2 条
- 覆盖的考试公式
- 0 个
- 参数
- 6 个
- 开源库
- 1 个
01当场运行
改一个参数,当场重算
正在用默认参数运行,计算量大的方法最多要 20 秒。
04出处和说明
公式从哪里来,有什么限制
列出参考的教材、论文和考试公式条目。方法的限制和实现上的说明也写在这里。
参考
- Gneiting、Resin (2023) Regression diagnostics meets forecast evaluation: conditional calibration, reliability diagrams, and coefficient of determination, Electronic Journal of Statistics 17
- Denuit、Charpentier、Trufin (2021) Autocalibration and Tweedie-dominance for insurance pricing with machine learning, IME 101
- Wüthrich、Merz:Statistical Foundations of Actuarial Learning and its Applications(2023)4.1 样本外损失,7.4.2 自校准
这个方法算什么
把实际值对预测做保序回归(PAV 算法),得到再校准的预测;预测本来就校准好时,保序回归几乎不改变它。平均得分 S 分解成 S = MCB − DSC + UNC:MCB(校准误差)= S − S(再校准),DSC(区分能力)= S(常数) − S(再校准),UNC(不确定性)= S(常数)。得分用平均泊松偏差或平方误差。给出可靠性图(按预测分组的实际 vs 预测)。
说明和限制
- 保序回归按预测排序后把实际值"拉平"成不减的阶梯,是不加任何参数形式的最好的单调再校准(Gneiting、Resin 2023)。
- 预测并列(相同)的保单拿同一个再校准值。泊松偏差时 y 是频率、按风险暴露加权,相当于按次数和期望次数算偏差。
- 把预测整体乘一个数,DSC(区分能力)不变,MCB(校准误差)变大:这说明基尼系数一类只看排序的指标看不出水平的错误。
- MCB 在测试集上总是 ≥ 0;样本小的时候保序回归会过拟合,MCB 偏大。
数据
看参数里选的数据:选平台的数据集时是真实数据或公开样例,填自己的数时只用输入的数。上面运行的输出里写明这一次用的是哪种。
开源库和版本
- numpy2.4.6BSD-3-Clause数值计算
05同族的方法
模型评估与校准,还有 3 个方法
同一个方法族里的其他方法。在智能体里,用一句话就能调用这些方法。
在智能体里这样问“模型的预测"平均来说准不准"(预测 0.1 的保单实际是不是 0.1)?偏差(得分)里有多少是校准差造成的,多少是区分能力?”