其中内容多为一次书写#xff0c;缺少检查与订正#xff0c;如有问题或其他拓展…前言

文章内容为方便作者自己后日复习与查阅而进行的书写与发布其中引用内容都会使用链接表明出处如有侵权问题请及时联系。

其中内容多为一次书写缺少检查与订正如有问题或其他拓展及意见建议欢迎评论区讨论交流。

文章目录

聚类算法在各种领域中有广泛的应用主要用于发现数据中的自然分组和模式。

以下是一些常见的应用场景以及每种算法的优缺点

经典应用场景

市场细分根据消费者的行为和特征将他们分成不同的群体以便进行有针对性的营销。

图像分割

K。

对于初始中心点选择敏感。

只能找到球状簇无法处理非凸形状的簇。

对噪声和异常值敏感。

简单实例函数库实现

plt.scatter(kmeans.cluster_centers_[:,

0],

xi​计算其与每个簇中心的距离将其分配到距离最近的簇中。

通常采用欧氏距离作为距离度量

assign

聚类的目标是最小化所有数据点到其所属簇中心的距离平方和。

其优化目标函数为

\sum_{j1}^{K}

算法通过交替优化分配和更新步骤最终收敛因为每一步都使得代价函数

J单调递减。

然而算法可能收敛到局部最小值因此初始化方式对最终结果有较大影响。

实现简单计算速度快。

在簇形状是凸的、簇的大小相似的情况下效果较好。

值比较困难通常需要通过经验或使用评估指标如肘部法则、轮廓系数来选择。

对初始值敏感可能导致收敛到局部最优。

适用于凸形簇对于不同大小和密度的簇效果不好。

对噪声和孤立点敏感。

K-Means

聚类是一种简单有效的聚类方法广泛应用于各种实际问题但在使用中需注意其局限性和对参数选择的要求。

手动实现

计算每个样本到每个质心的距离并将样本分配到最近的质心distances

np.sqrt(((X

np.newaxis])**2).sum(axis2))return

np.argmin(distances,

根据分配结果更新质心为每个簇中所有样本的均值centroids

np.array([X[labels

库中的一个函数用于从给定的一维数组中生成随机样本。

它可以指定样本的数量、是否允许重复选择等参数。

np.sqrt(((X

n_features)这样做是为了实现广播broadcasting以便在后续计算中能够对每个质心与每个样本进行逐元素运算。

X

centroids[:,

的数组表示每个质心与每个样本之间的差值。

.sum(axis2)这个操作会对最后一个维度特征维度进行求和结果是一个形状为

(K,

表示沿着第一个轴即行查找最小值。

这意味着对每个样本每列比较所有质心的距离找到最小值对应的质心索引。