线性混合模型:随机截距、随机斜率和 BLUP
数据按组(公司、车队、地区)分开,组内的观测相关时,怎么估计固定效应、方差成分和每组的随机效应?
- 对过的标准答案
- 5 条
- 覆盖的考试公式
- 6 个
- 参数
- 8 个
- 开源库
- 3 个
01当场运行
改一个参数,当场重算
正在用默认参数运行,计算量大的方法最多要 20 秒。
04出处和说明
公式从哪里来,有什么限制
列出参考的教材、论文和考试公式条目。方法的限制和实现上的说明也写在这里。
参考
- Frees:Longitudinal and Panel Data(2004)第 3 章 Models with random effects;第 4 章 Prediction and Bayesian inference
- Pinheiro、Bates:Mixed-Effects Models in S and S-PLUS(2000)2.4 Hypothesis tests and confidence intervals
- Self、Liang (1987) Asymptotic properties of maximum likelihood estimators and likelihood ratio tests under nonstandard conditions
覆盖的考试公式
- LMM-001线性混合模型与隐含边际模型MAS-II
- LMM-003ML 与 REML 对数似然MAS-II
- LMM-004固定效应 GLS 估计(BLUE)MAS-II
- LMM-005随机效应的 EBLUP 与收缩均值MAS-II
- LMM-006组内相关系数(ICC)MAS-II
- LMM-007LMM 的似然比、Wald 与 F 检验(含边界混合卡方)MAS-II
公式条目按精算考试的公式表整理,编号和中文名是平台自己的。
这个方法算什么
对分组数据拟合线性混合模型(随机截距或随机截距加斜率),用 ML 或 REML 估计方差成分,给出固定效应的 GLS 估计和标准误、组内相关系数(ICC)、每组随机效应的 BLUP 和收缩系数,并用似然比检验判断随机效应是否需要(方差参数在边界上,用混合卡方分布)。
说明和限制
- β 和 σ² 有显式解,只对 Ψ = D/σ² 的 Cholesky 因子做数值优化。随机截距的方差可以是 0(在边界上)。
- REML 的对数似然和 statsmodels 的 MixedLM 用同一个写法:ℓ_REML = ℓ_ML(β̂) + (p/2) ln 2π − ½ ln|Σ X'V⁻¹X|,所以和 ML 的值不能直接比。
- 比较固定效应不同的两个模型用 ML。REML 的似然只能比较固定效应相同、随机效应不同的模型。
- 检验方差 = 0 时,原假设在参数空间的边界上,似然比统计量不服从 χ²(k)。p 值取 0.5 χ²(k−1) + 0.5 χ²(k) 的混合分布;用普通的 χ²(k) 会偏保守。
- 只有随机截距时,BLUP 等于组内平均残差乘收缩系数 Z_i = m_i/(m_i + σ²/σ_u²),m_i 是组内权重的合计。这就是 Bühlmann-Straub 的信度因子(见 glm.blup_credibility)。
- 固定效应的标准误用 σ̂²(Σ X'H⁻¹X)⁻¹,没有考虑方差参数估计的误差;组少时偏小。
数据
看参数里选的数据:选平台的数据集时是真实数据或公开样例,填自己的数时只用输入的数。上面运行的输出里写明这一次用的是哪种。
开源库和版本
- statsmodels0.15.0BSD-3-Clause费率厘定:广义线性模型
- scipy1.17.1BSD分布拟合、统计检验
- numpy2.4.6BSD-3-Clause数值计算
05同族的方法
广义线性模型,还有 21 个方法
同一个方法族里的其他方法。在智能体里,用一句话就能调用这些方法。
在智能体里这样问“数据按组(公司、车队、地区)分开,组内的观测相关时,怎么估计固定效应、方差成分和每组的随机效应?”
- GLM 费率相对数每个风险因子让费率高多少、低多少?
- 方差分析:单因素、双因素和协方差分析(ANCOVA)几组的均值有没有差别?两个因子和它们的交互作用各自显著吗?扣掉一个连续变量的影响以后,组间还有没有差别?5条标准答案
- BLUP 和信度:随机效应模型给出 Bühlmann-Straub 的信度保费Bühlmann-Straub 的信度保费和线性混合模型的 BLUP 是什么关系?用同一份数据算出来一样吗?4条标准答案
- Box-Cox 变换:因变量取什么幂次最合适因变量右偏、方差随均值变大时,取对数、开方还是别的幂次,回归的残差才接近正态和同方差?2条标准答案
- GLM 加信度:费率因子用 GLM,水平很多的因子用信度区县、车型代码这种水平很多、很多水平数据很少的因子,怎么和 GLM 的费率因子一起定价?4条标准答案
- 指数分散族:θ、b(θ)、方差函数和典则连接泊松、伽马、Tweedie 这些分布怎么写成指数分散族?均值、方差和 b(θ) 是什么关系,各自的典则连接是什么?6条标准答案
- 广义线性模型的拟合和检验:偏差、似然比、Wald、AIC选定分布和连接函数以后,GLM 的系数和相对数是多少?模型拟合得好不好,每个因子该不该留,和只有截距的模型比强多少?4条标准答案
- 交互作用的发现:哪两个因子不是简单相乘乘法费率表假设各因子的效应互相独立。哪两个因子之间有交互作用(例如年轻人开高性能车特别危险),要不要加进模型?2条标准答案
- 迭代加权最小二乘(IRLS):广义线性模型怎么算出来广义线性模型的系数没有闭式解,计算机是怎么一步一步迭代出来的?每一步的工作变量和权重是什么,几步收敛?3条标准答案
- 定价模型的检验:提升图、双提升图、洛伦兹曲线和基尼系数新的定价模型比现在的好吗?它能不能把高风险和低风险分开,按预测分组以后实际和预测对得上吗?1条标准答案
- 线性回归:最小二乘、t 检验、F 检验和 ANOVA 表因变量和几个解释变量是什么线性关系?每个系数显著吗,模型解释了多少变化,新的点预测多少、区间多宽?5条标准答案
- 线性混合模型的协方差结构:对角、复合对称、AR(1)、随机斜率同一个风险几期的观测,按不同的模型假设,协方差矩阵和相关系数是什么样?4条标准答案
- 二分类回归:logistic、probit、cloglog 和 ROC 曲线一件事发生没发生(出险、退保、通过考试)和哪些因素有关?比值比是多少,模型分得开 0 和 1 吗,阈值取多少?4条标准答案
- 多分类回归:多项 logit 和有序 logit(比例优势)结果有三类以上(例如理赔结案方式、风险等级、政党认同)时,解释变量怎么影响落在每一类的概率?类别有顺序时怎么用上顺序?3条标准答案
- 过度离散的次数模型:拟泊松、负二项、零膨胀和 hurdle出险次数(或门诊次数)的方差比均值大很多、0 特别多时,泊松模型错在哪里?拟泊松、负二项、零膨胀泊松、hurdle 模型哪个更合适?3条标准答案
- GLM 费率表:相对数、基准水平、置信区间和实际/预期用 GLM 定好的费率表长什么样:基准水平是多少,每个因子水平的相对数和置信区间多少,和单因素分析差多少,按因子看实际和预期对得上吗?4条标准答案
- 回归诊断:杠杆值、Cook 距离、VIF、异方差和正态性检验线性回归的假设成立吗?哪些观测影响太大,变量之间是不是太共线,误差的方差相同吗、独立吗、正态吗?3条标准答案
- 正则化回归:岭回归、Lasso 和弹性网变量多、相互共线时,怎么把系数往 0 收缩来换更稳的预测?惩罚多大合适,Lasso 会留下哪些变量?5条标准答案
- 多项式和样条:连续变量的非线性效应一个连续变量(例如驾驶人年龄)和结果不是直线关系时,用多项式、回归样条还是平滑样条拟合,各用掉多少自由度?3条标准答案
- 变量选择:最优子集、逐步回归和交叉验证一堆候选的解释变量里,留哪几个?按 Cp、AIC、BIC、调整 R² 和交叉验证分别选出来的模型一样吗?3条标准答案
- 加权最小二乘:误差方差不相同时的回归误差的方差随解释变量变大(异方差)时,系数和标准误怎么算才对?2条标准答案