K-均值聚类算法(K-means algorithm) & 二分K-均值算法(Bisecting k-means algorithm)
本文主要介绍最常见的一种聚类算法:K-means算法,及其改进算法二分K-均值算法。文中示例代码取源于《MachineLearninginAction》。机器学习的算法主要分为监督学习和无监督学习监督学习。监督学习(supervisedlearning),利用样本输入和期望输出来学习如何预测的技术叫...
《机器学习实战》之K-均值聚类算法的python实现
《机器学习实战》之K-均值聚类算法的python实现最近的项目是关于“基于数据挖掘的电路故障分析”,项目基本上都是师兄们在做,我只是在研究关于项目中用到的如下几种算法:二分均值聚类、最近邻分类、基于规则的分类器以及支持向量机。基于项目的保密性(其实也没有什么保密的,但是怕以后老板看到我写的这篇博文,...
机器学习 K-均值聚类算法实战(理论+详细的python3代码实现)
一、前言本篇讨论K-means算法的原理、算法流程、K值得确定以及代码实现等等。本文出现的所有代码,均可在我的github上下载,欢迎Follow、Star:Github地址二、基本理论1.Kmeans聚类算法简介由于具有出色的速度和良好的可扩展性,Kmeans聚类算法算得上是最著名的聚类方法。Km...
k-均值算法的java实现
import java.io.BufferedReader; import java.io.FileNotFoundException; import java.io.FileReader; import java.io.IOException; public class KAvera...
【机器学习实战-python3】K-均值聚类算法
本篇的数据和代码参见:https://github.com/stonycat/ML-in-Action一、K-均值聚类算法聚类是一种无监督的学习,它将相似的对象归到同一簇中,类似全自动分类。簇内的对象越相似,聚类的效果越好。K-均值聚类是每个类别簇都是采用簇中所含值的均值计算而成。聚类与分类的区别在...
二分K-均值算法 bisecting K-means in Python
下面的连续几篇博文将介绍无监督学习中的基于k均值算法的聚类法、基于Apriori算法的关联分析法,和更高效的基于FP-growth的关联分析方法。需要注意的是,无监督学习不存在训练过程。聚类法概念很好理解,但传统的K-means法存在较大的缺陷,我们首先介绍K-means法后着重介绍二分K-mean...
二分k-均值算法
前面介绍过k-means聚类算法,通过不断的更新簇质心直到收敛为止,但是这个收敛是局部收敛到了最小值,并没有考虑全局的最小值.那么一个聚类算法怎么才能称得上效果好呢?要想评价一个算法的好坏,首先需要有一个标准,这也是我们设计算法的时候要首先考虑的,我们设计算法的目的是什么,设计的算法要达到的什么效果...
K-均值(K-means)聚类算法
聚类是一种无监督的学习,它将相似的对象归到同一个簇中。这篇文章介绍一种称为K-均值的聚类算法,之所以称为K-均值是因为它可以发现k个不同的簇,且每个簇的中心采用簇中所含值的均值计算而成。聚类分析视图将相似对象归入同一簇,将不相似对象归到不同簇。下面用Python简单演示该算法实现的原理:函数load...
K-means(K-均值)聚类算法
划分方法聚类分析最简单、最基本的版本是划分,它把对象组织成多个互斥的簇。这一方法,要求每个对象必须/恰好属于每一个簇。(事实上,我们应该知道,这个要求是很不合理的,因为它忽略了离群点,假若把噪声数据强行划分在簇里,那势必会降低聚类的准确率,所以为了改进这一点,在模糊划分中适当放宽了这一要求。大部分的...
二分K-均值算法 bisecting K-means in Python
下面的连续几篇博文将介绍无监督学习中的基于k均值算法的聚类法、基于Apriori算法的关联分析法,和更高效的基于FP-growth的关联分析方法。需要注意的是,无监督学习不存在训练过程。聚类法概念很好理解,但传统的K-means法存在较大的缺陷,我们首先介绍K-means法后着重介绍二分K-mean...
二分k-均值算法
前面介绍过k-means聚类算法,通过不断的更新簇质心直到收敛为止,但是这个收敛是局部收敛到了最小值,并没有考虑全局的最小值.那么一个聚类算法怎么才能称得上效果好呢?要想评价一个算法的好坏,首先需要有一个标准,这也是我们设计算法的时候要首先考虑的,我们设计算法的目的是什么,设计的算法要达到的什么效果...
k-均值聚类算法;二分k均值聚类算法
根据《机器学习实战》一书第十章学习k均值聚类算法和二分k均值聚类算法,自己把代码边敲边理解了一下,修正了一些原书中代码的细微差错。目前代码有时会出现如下4种报错信息,这有待继续探究和完善。报错信息:Warning(fromwarningsmodule):File"F:\Python2.7.6\lib...
k-均值聚类算法;二分k均值聚类算法
根据《机器学习实战》一书第十章学习k均值聚类算法和二分k均值聚类算法,自己把代码边敲边理解了一下,修正了一些原书中代码的细微差错。目前代码有时会出现如下4种报错信息,这有待继续探究和完善。报错信息:Warning(fromwarningsmodule):File"F:\Python2.7.6\lib...
k-均值算法的java实现
import java.io.BufferedReader; import java.io.FileNotFoundException; import java.io.FileReader; import java.io.IOException; public class KAvera...
机器学习经典算法详解及Python实现--聚类及K均值、二分K-均值聚类算法
摘要聚类是一种无监督的学习(无监督学习不依赖预先定义的类或带类标记的训练实例),它将相似的对象归到同一个簇中,它是观察式学习,而非示例式的学习,有点像全自动分类。说白了,聚类(clustering)是完全可以按字面意思来理解的——将相同、相似、相近、相关的对象实例聚成一类的过程。机器学习中常见的聚类...
《机器学习实战》之二分K-均值聚类算法的python实现
《机器学习实战》之二分K-均值聚类算法的python实现上面博文介绍了K-均值聚类算法及其用python实现,上篇博文中的两张截图,我们可以看到,由于K-均值聚类算法中由于初始质心的选取,会造成聚类的局部最优,并不是全局最优,因此,会造成聚类的效果并不理想,为克服K-均值算法收敛于局部最小值的问题,...
《机器学习实战》之二分K-均值聚类算法的python实现
《机器学习实战》之二分K-均值聚类算法的python实现上面博文介绍了K-均值聚类算法及其用python实现,上篇博文中的两张截图,我们可以看到,由于K-均值聚类算法中由于初始质心的选取,会造成聚类的局部最优,并不是全局最优,因此,会造成聚类的效果并不理想,为克服K-均值算法收敛于局部最小值的问题,...
二分K-均值算法
伪代码:将所有点看成一个簇当簇数目小于k时对于每一个簇计算总误差在给定的簇上面进行k-均值聚类(k=2)计算将该簇一分为二之后的总误差选择使得误差最小的那个簇进行划分操作defbiKmeans(dataSet,k):m=np.shape(dataSet)[0]clusterAssment=np.ma...
k-Means(二分k-均值算法)
在上一节中我们已经讲了k-均值算法,当时我们选取的质心是随机选取的,没有什么依据,所以聚类的结果很可能出现误差,为了降低这种误差的出现我们今天来研究一种优化的k-均值算法----二分k--均值算法,看到名称我们就能明白在每次划分的时候都是将数据划分成俩份,直到达到我们要求的聚类数。怎么来分?选取哪一...
【机器学习实战】第10章 K-Means(K-均值)聚类算法
第10章K-Means(K-均值)聚类算法K-Means算法聚类是一种无监督的学习,它将相似的对象归到一个簇中,将不相似对象归到不同簇中.相似这一概念取决于所选择的相似度计算方法.K-Means是发现给定数据集的K个簇的聚类算法,之所以称之为 K-均值 是因为它可以发现K个不同的簇,且每个簇的中心采...