机器学习中的系统聚类方法

层次聚类

层次聚类方法通过对数据集在不同层级进行分割，进而构建出树状的聚类结构。数据集的划分方式有两种，一种是“自下而上”的聚合策略（agglomerative），另一种是“自上而下”的分拆策略（divisive）。采用“自下而上”方式的算法初始阶段将每个原始数据视为一个独立的聚类簇，随后逐步将较小的簇合并为更大的簇；而“自上而下”方式则以所有数据构成一个整体作为初始聚类，通过不断细分较大的簇直至每个数据点都被单独划分。

依据计算聚类簇间距离的方式差异，层次聚类算法可大致划分为三类：单链接（Single-link）算法、全链接算法（complete-link）以及均链接算法（average-link）。其中，单链接方法以两个簇中最近样本之间的距离作为二者间的距离指标；全链接法则以两个簇中最远样本的距离作为衡量标准；而在均链接算法中，两个聚类之间的距离则由两簇内所有样本的距离共同决定。

“自底向上”的聚合层次聚类算法

1. 通过计算任意两个数据点之间的距离，可构建出一个相似度矩阵（proximity matrix），并将每个单独的数据视为一个独立