加性模型(正态 GAM):多个平滑项、GCV 和 REML
几个解释变量都可能是非线性的,怎么同时估计每个变量的平滑曲线?GCV 和 REML 选的平滑程度一样吗?
- 对过的标准答案
- 3 条
- 覆盖的考试公式
- 1 个
- 参数
- 8 个
- 开源库
- 2 个
01当场运行
改一个参数,当场重算
正在用默认参数运行,计算量大的方法最多要 20 秒。
04出处和说明
公式从哪里来,有什么限制
列出参考的教材、论文和考试公式条目。方法的限制和实现上的说明也写在这里。
参考
- Wood:Generalized Additive Models: An Introduction with R(第 2 版,2017)4.2 惩罚回归样条,5.3 P 样条,6.2 GCV/UBRE,6.10 后验区间
- Eilers、Marx (1996) Flexible smoothing with B-splines and penalties, Statistical Science 11(2)
- Wood (2011) Fast stable restricted maximum likelihood and marginal likelihood estimation of semiparametric generalized linear models, JRSS B 73(1)
- James、Witten、Hastie、Tibshirani:An Introduction to Statistical Learning(第 2 版)7.5 平滑样条,7.7 广义加性模型
覆盖的考试公式
- REG-018多项式、交互项与样条(平滑样条、GAM)PAMAS-ICS1
公式条目按精算考试的公式表整理,编号和中文名是平台自己的。
这个方法算什么
拟合 y = β₀ + Σ_j s_j(x_j) + ε:每个选中的变量是一条 P 样条(等距结点的三次 B 样条加差分罚),其余的变量是线性项。平滑参数(每条曲线一个 λ)用 GCV 或 REML 一起选,给出每条曲线的等价自由度和偏效应(带 95% 区间)、残差平方和和两个准则的值。
说明和限制
- 每条曲线加了"在样本上的和为 0"的约束(Wood 2017 1.8.1),所以截距是 ȳ,曲线是偏效应。线性项先中心化。
- d = 2 时 λ → ∞ 把曲线压成直线,模型变成普通的线性回归;λ → 0 是不加罚的 B 样条回归。
- 这里一次解出所有系数(惩罚最小二乘),结果和 Hastie、Tibshirani 的回拟合(backfitting)算法收敛到的解相同。
- REML 把罚项看成随机效应的先验,通常比 GCV 稳定,不容易选出过小的 λ(Wood 2011)。
数据
看参数里选的数据:选平台的数据集时是真实数据或公开样例,填自己的数时只用输入的数。上面运行的输出里写明这一次用的是哪种。
05同族的方法
加性模型,还有 1 个方法
同一个方法族里的其他方法。在智能体里,用一句话就能调用这些方法。
在智能体里这样问“几个解释变量都可能是非线性的,怎么同时估计每个变量的平滑曲线?GCV 和 REML 选的平滑程度一样吗?”