业界动态
18、数据分析--聚类算法
2024-12-31 23:51

聚类算法属于无监督的一种算法,不需要标签就可以进行处理0

K -means家族(K-means算法是聚类算法中最常用的)

​ 给定一个有M个对象的数据集,构建一个具有k个簇(组)的模型,其中k<=M。满足以下条件:

​ 每个簇至少包含一个对象

​ 每个对象属于且仅属于一个簇

​ 将满足上述条件的k个簇成为一个合理的聚类划分

​ 基本思想:对于给定的类别数目k,首先给定初始划分,通过迭代改变样本和簇的隶属关系,使的 每次处理后得到的划分方式比上一次的好(总的数据集之间的距离和变小了),(K不是一次性就得到最好的,要不断迭代来进行改良)

​ 历史渊源

​ 虽然其思想能够追溯到1957年的Hugo Steinhaus,术语“k-均值”于1967年才被James MacQueen首次使用。标准算法则是在1957年被Stuart Lloyd作为一种脉冲码调制的技术所提出, 但直到1982年才被贝尔实验室公开出版。在1965年,E.W.Forgy发表了本质上相同的方法,所以这 一算法有时被称为Lloyd-Forgy方法。更高效的版本则被Hartigan and Wong提出(1975/1979)

​ 介绍

​ K-Means(K均值)算法是无监督的聚类算法,算法简单,聚类效果好,即使是在巨大的数据集上也 非常容易部署实施。正因为如此,它在很多领域都得到的成功的应用,如市场划分、机器视觉、 地 质统计学、天文学和农业等。K-Means算法有大量的变体,包括初始化优化K-Means++以及大数据 应用背景下的k-means||和Mini Batch K-Means

​ 通过不断求样本的均值来更新质心从而得到新的K簇,最终样本的均值更新完后就是质心更新的最终位置,K簇可能不会变但是质心的位置会达到最优(K均值停止迭代是在质心不能进行变化的时候)

算法流程

​ K-means算法,也称为K-平均或者K-均值,是一种使用广泛的最基础的聚类算法,一般作为掌握聚 类算法的第一个算法

​ 假设输入样本为T=X1,X2,…,Xm;则算法步骤为(使用欧几里得距离公式):

​ 选择初始化的k个类别中心(质心)a1,a2,…ak(a为质心,k为样本个数);

​ 对于每个样本Xi,将其标记位距离类别中心aj最近的类别j(i为几个簇,j为某个样本)

​ 更新每个类别的中心点aj为隶属该类别的所有样本的均值

​ 重复上面两步操作,直到达到某个中止条件(1、质心位置不变化 2、循环到达最大迭代次数)

​ 哪个质心距离某样本最近,某样本就属于那个质心的类别

​ 终止条件

​ 迭代次数、最小平方误差MSE、簇中心点变化率

​ K-Means算法的思想很简单,对于给定的样本集,按照样本之间的距离大小,将样本集划 分为K个簇。处理形式:”让簇内的点尽量紧密的连在一起,而让簇间的距离尽量的大“。

​ 如果用数学表达式表示,假设簇划分为(C1,C2,…Ck),则我们的目标是最小化平方误差E(得到的数值越小,数据处理的性能就越强):

​ 其中 μi 是簇 Ci 的均值向量,有时也称为质心,表达式为:

K-means底层实现

 
处理前效果演示

质心位置为随机样本点

    以上就是本篇文章【18、数据分析--聚类算法】的全部内容了,欢迎阅览 ! 文章地址:https://sicmodule.kub2b.com/news/14021.html
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 企库往资讯移动站 https://sicmodule.kub2b.com/mobile/ , 查看更多   
最新文章
盘点2024西安荣耀时刻!“西”引力爆表!
从传统文化的深厚积淀到旅游行业的蓬勃发展从非遗艺术的薪火相传到现代潮流的创新融合……今天,和文旅君一起回顾2024年古都西安
惠山街道2024年工作总结和2025年工作思路
2024年工作回顾2024年惠山街道始终坚持以习近平新时代中国特色社会主义思想为指导,认真落实区委、区政府决策部署,坚持稳中求进
天气|明日“小寒”!最冷“三九”就要来!
今日天气实况今日迎来2025年的首个双休日天气状况还不错天空晴朗,阳光温暖,风力微弱15时全市各区气温在7℃左右明天迎来小寒节
枝江市2025年“十大民生项目”公布!
枝江市第七届人民代表大会第五次会议于2025年1月10日票决产生了枝江市2025年度重大民生实事项目一起来看看↓↓↓一、枝江市枫杨
原来是这样 | 又上热搜!最近很火的“煮苹果水”,到底怎么喝更有用?
鄠邑区是中国科协命名的“全国科普示范区”,为进一步弘扬科学精神、普及科学知识、传播科学思想,鄠邑区科学技术协会联合鄠邑区
惊掉下巴!他俩在一起了???
新发色迎新年 2025鸿运当头拉满仪式感从头开始换个气场NOUGAT ,欧美名媛凯特王妃最爱的纯有机老牌洗护自然原生植萃护不伤头皮、
第一批鸡娃英语的妈妈,都后悔了……
虽然科大大同事们都说不卷,但又悄咪咪卷(啪啪打脸中…)的家长,2年级用上倾听者不算晚!说真的,有了它,吼孩子都少了!产品
发改委:推进户用光伏发展,助力农民拓宽增收新路径
中国产品流通经纪人协会供销合作行业标准《农产品食品供应商信用评价规范》参编单位征集函中国农产品流通经纪人协会供销合作行业
泉州百度爱采购运营介绍
百度爱采购入驻条件有哪些:商家需持有工商行政管理局颁发的营业执照,并且执照在6个月有效期内;厂家商品真实在营且符合国家相
抖音feed是什么 feed广告投放流程
feed是什么?feed流(又称信息流)它是穿插在App内容中的广告,具有原生沉浸式体验,支持多种展现形式。feed可以进行线索收集,