K 均值聚类:类内平方和和肘部图

怎么把观测分成 K 组,让组内尽量相似?分几组合适?

SOA SRMSOA PACAS MAS-IIIFoA CS2
对过的标准答案
2 条
覆盖的考试公式
1 个
参数
9 个
开源库
1 个

01当场运行

改一个参数,当场重算

正在用默认参数运行,计算量大的方法最多要 20 秒。

04出处和说明

公式从哪里来,有什么限制

列出参考的教材、论文和考试公式条目。方法的限制和实现上的说明也写在这里。

参考

  • James、Witten、Hastie、Tibshirani:An Introduction to Statistical Learning(第 2 版)第 12 章 无监督学习
  • Lloyd (1982) Least squares quantization in PCM, IEEE Transactions on Information Theory 28

覆盖的考试公式

  • SML-009K 均值聚类SRMPAMAS-IICS2

公式条目按精算考试的公式表整理,编号和中文名是平台自己的。

这个方法算什么

Lloyd 算法:随机取 K 个初始中心,交替"每个点归到最近的中心"和"中心取组内的均值",直到不再变化;从多个随机起点出发,留类内平方和最小的结果。给出每一类的大小和中心、W(C_k) 的两种写法(两两距离、到中心的距离,二者相差 2 倍),以及 K = 1–8 的肘部图。

说明和限制

  • Lloyd 算法每一步都不增加类内平方和,但只能保证局部最优,所以要多个随机起点(ISLR 图 12.8)。
  • W(C_k) 按 ISLR 的写法是组内两两距离之和除以 |C_k|,它等于到中心的距离平方和的 2 倍。表里两种都列出来。
  • 变量量纲不同时先标准化。肘部图看 K 增加时总的类内平方和下降变慢的位置。

数据

看参数里选的数据:选平台的数据集时是真实数据或公开样例,填自己的数时只用输入的数。上面运行的输出里写明这一次用的是哪种。

开源库和版本

  • numpy2.4.6BSD-3-Clause数值计算

05同族的方法

统计学习,还有 9 个方法

同一个方法族里的其他方法。在智能体里,用一句话就能调用这些方法。

在智能体里这样问“怎么把观测分成 K 组,让组内尽量相似?分几组合适?”