K-均值聚类算法(K-means algorithm) & 二分K-均值算法(Bisecting k-means algorithm)
本文主要介绍最常见的一种聚类算法:K-means算法,及其改进算法二分K-均值算法。文中示例代码取源于《MachineLearninginAction》。机器学习的算法主要分为监督学习和无监督学习监督学习。监督学习(supervisedlearning),利用样本输入和期望输出来学习如何预测的技术叫...
《机器学习实战》之K-均值聚类算法的python实现
《机器学习实战》之K-均值聚类算法的python实现最近的项目是关于“基于数据挖掘的电路故障分析”,项目基本上都是师兄们在做,我只是在研究关于项目中用到的如下几种算法:二分均值聚类、最近邻分类、基于规则的分类器以及支持向量机。基于项目的保密性(其实也没有什么保密的,但是怕以后老板看到我写的这篇博文,...
《机器学习实战》学习笔记-[14]-无监督学习-利用二分K-均值聚类对未标注数据分组
《机器学习实战》学习笔记-[14]-无监督学习-利用二分K-均值聚类对未标注数据分组一、基础(1)二分K-均值(bisectingK-Means)可以一定程度上克服K-均值收敛于局部最小值的问题,算法原理如下:首先,将所有点看作一个簇,然后将该簇二分,之后选择其中一个簇继续划分,选择哪个簇进行划分取...
机器学习 K-均值聚类算法实战(理论+详细的python3代码实现)
一、前言本篇讨论K-means算法的原理、算法流程、K值得确定以及代码实现等等。本文出现的所有代码,均可在我的github上下载,欢迎Follow、Star:Github地址二、基本理论1.Kmeans聚类算法简介由于具有出色的速度和良好的可扩展性,Kmeans聚类算法算得上是最著名的聚类方法。Km...
沙湖王 | 用K-均值聚类给女明星们的身材分分类
沙湖王|用K-均值聚类给女明星们的身材分分类http://www.shahuwang.com/2012/07/21/%E7%94%A8scipy%E5%AE%9E%E7%8E%B0k-means%E8%81%9A%E7%B1%BB%E7%AE%97%E6%B3%95.htmlhttp://www.s...
k-均值算法的java实现
import java.io.BufferedReader; import java.io.FileNotFoundException; import java.io.FileReader; import java.io.IOException; public class KAvera...
【机器学习实战-python3】K-均值聚类算法
本篇的数据和代码参见:https://github.com/stonycat/ML-in-Action一、K-均值聚类算法聚类是一种无监督的学习,它将相似的对象归到同一簇中,类似全自动分类。簇内的对象越相似,聚类的效果越好。K-均值聚类是每个类别簇都是采用簇中所含值的均值计算而成。聚类与分类的区别在...
二分K-均值算法 bisecting K-means in Python
下面的连续几篇博文将介绍无监督学习中的基于k均值算法的聚类法、基于Apriori算法的关联分析法,和更高效的基于FP-growth的关联分析方法。需要注意的是,无监督学习不存在训练过程。聚类法概念很好理解,但传统的K-means法存在较大的缺陷,我们首先介绍K-means法后着重介绍二分K-mean...
二分k-均值算法
前面介绍过k-means聚类算法,通过不断的更新簇质心直到收敛为止,但是这个收敛是局部收敛到了最小值,并没有考虑全局的最小值.那么一个聚类算法怎么才能称得上效果好呢?要想评价一个算法的好坏,首先需要有一个标准,这也是我们设计算法的时候要首先考虑的,我们设计算法的目的是什么,设计的算法要达到的什么效果...
K-均值(K-means)聚类算法
聚类是一种无监督的学习,它将相似的对象归到同一个簇中。这篇文章介绍一种称为K-均值的聚类算法,之所以称为K-均值是因为它可以发现k个不同的簇,且每个簇的中心采用簇中所含值的均值计算而成。聚类分析视图将相似对象归入同一簇,将不相似对象归到不同簇。下面用Python简单演示该算法实现的原理:函数load...
K-means(K-均值)聚类算法
划分方法聚类分析最简单、最基本的版本是划分,它把对象组织成多个互斥的簇。这一方法,要求每个对象必须/恰好属于每一个簇。(事实上,我们应该知道,这个要求是很不合理的,因为它忽略了离群点,假若把噪声数据强行划分在簇里,那势必会降低聚类的准确率,所以为了改进这一点,在模糊划分中适当放宽了这一要求。大部分的...
机器学习笔记—K-均值聚类
在聚类问题中,给定训练集{x(1),...,x(m)},要把数据分成内聚的“簇”。这里x(i)∈R,没有y(i)。所以,这是一个无监督学习问题。k-均值聚类算法如下:1、随机初始化簇中心 μ1,μ2,...,μk∈Rn;2、重复直至收敛:{对每个i:对每个j:}其中k是簇个数,簇中心μj 表示猜测的...
机器学习实战--k-均值聚类
1、聚类是一种无监督学习,他讲相似的对象放到同一簇下,有点像自动分类。聚类方法几乎可以用到任何对象上,簇内的对象越相似,聚类结果就越好。2、K均值聚类的优点算法简单容易实现缺点:可能收敛到局部最小值,在大规模数据上收敛速度较慢3、K-均值算法算法流程以及伪代码首先随机选择k个初始点作为质心。然后将数...
二分K-均值算法 bisecting K-means in Python
下面的连续几篇博文将介绍无监督学习中的基于k均值算法的聚类法、基于Apriori算法的关联分析法,和更高效的基于FP-growth的关联分析方法。需要注意的是,无监督学习不存在训练过程。聚类法概念很好理解,但传统的K-means法存在较大的缺陷,我们首先介绍K-means法后着重介绍二分K-mean...
二分k-均值算法
前面介绍过k-means聚类算法,通过不断的更新簇质心直到收敛为止,但是这个收敛是局部收敛到了最小值,并没有考虑全局的最小值.那么一个聚类算法怎么才能称得上效果好呢?要想评价一个算法的好坏,首先需要有一个标准,这也是我们设计算法的时候要首先考虑的,我们设计算法的目的是什么,设计的算法要达到的什么效果...
k-均值聚类算法;二分k均值聚类算法
根据《机器学习实战》一书第十章学习k均值聚类算法和二分k均值聚类算法,自己把代码边敲边理解了一下,修正了一些原书中代码的细微差错。目前代码有时会出现如下4种报错信息,这有待继续探究和完善。报错信息:Warning(fromwarningsmodule):File"F:\Python2.7.6\lib...
k-均值聚类算法;二分k均值聚类算法
根据《机器学习实战》一书第十章学习k均值聚类算法和二分k均值聚类算法,自己把代码边敲边理解了一下,修正了一些原书中代码的细微差错。目前代码有时会出现如下4种报错信息,这有待继续探究和完善。报错信息:Warning(fromwarningsmodule):File"F:\Python2.7.6\lib...
k-均值算法的java实现
import java.io.BufferedReader; import java.io.FileNotFoundException; import java.io.FileReader; import java.io.IOException; public class KAvera...
机器学习经典算法详解及Python实现--聚类及K均值、二分K-均值聚类算法
摘要聚类是一种无监督的学习(无监督学习不依赖预先定义的类或带类标记的训练实例),它将相似的对象归到同一个簇中,它是观察式学习,而非示例式的学习,有点像全自动分类。说白了,聚类(clustering)是完全可以按字面意思来理解的——将相同、相似、相近、相关的对象实例聚成一类的过程。机器学习中常见的聚类...
《机器学习实战》之二分K-均值聚类算法的python实现
《机器学习实战》之二分K-均值聚类算法的python实现上面博文介绍了K-均值聚类算法及其用python实现,上篇博文中的两张截图,我们可以看到,由于K-均值聚类算法中由于初始质心的选取,会造成聚类的局部最优,并不是全局最优,因此,会造成聚类的效果并不理想,为克服K-均值算法收敛于局部最小值的问题,...