机器学习实战kNN之手写识别

时间：2021-11-20 12:36:39

kNN算法算是机器学习入门级绝佳的素材。书上是这样诠释的：“存在一个样本数据集合，也称作训练样本集，并且样本集中每个数据都有标签，即我们知道样本集中每一条数据与所属分类的对应关系。输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征比较，算法提取样本集中特征最相似数据（最近邻）的分类标签。一般来说，我们只选择样本数据集中前K个最相似的数据，这就是k-近邻算法中k的出处，通常k是不大于20的整数。最后，选择k个最相似数据中出现次数最多的分类，作为新数据的分类”。

优点：精度高、对异常值不敏感、无数据输入假定。

缺点：计算复杂度高、空间复杂度高。

适用数据范围：数值型或标称型。

算法的python实现：

def kNN(data, dataSet, dataLabel, k=3, similarity=sim_distance):

	scores = [(sim_distance(data, dataSet[i]), dataLabel[i]) for i in range(len(dataSet))]

	sortedScore = sorted(scores, key=lambda d: d[0], reverse=False)

	scores = sortedScore[0:k]

	classCount = {}

	for score in scores:

		classCount[score[1]] = classCount.get(score[1], 0) + 1

	sortedClassCount = sorted(classCount.items(), key=lambda d: d[1], reverse=True)

	return sortedClassCount[0][0]

下面分为几步骤来学习这个算法：

（1）准备数据

（2）测试算法

先介绍一个这个手写识别系统，简单起见，该系统只能识别数字0---9，需要识别的数字已经使用图形处理软件，处理成具有相同色彩和大小：32*32像素的黑白照片。目录trainingDigits中包含了大约2000个训练样本，目录testDigits中大约有900个测试样本。

第一步，准备数据：将图片数据转换成测试向量。这一步就是把我们32*32的二进制图像矩阵转换成1*1024的向量。

def img2vector(filename):

	vec = []

	file = open(filename)

	for i in range(32):

		line = file.readline()

		for j in range(32):

			vec.append(int(line[j]))

	return vec

第二步，测试算法准确率，我们用
trainingDigits目录下的样本做训练，来测试testDigits目录下的样本，来计算准确率。

def test():

	trainData, trainLabel = [], []

	trainFileList = os.listdir('digits/trainingDigits/')

	for filename in trainFileList:

		trainData.append(img2vector('digits/trainingDigits/%s' % filename))

		trainLabel.append(int(filename.split('_')[0]))

	succCnt, failCnt = 0, 0

	testFileList = os.listdir('digits/testDigits')

	for filename in testFileList:

		data = img2vector('digits/testDigits/%s' % filename)

		num = kNN(data, trainData, trainLabel)

		if num == int(filename.split('_')[0]):

			succCnt += 1

			print 'succ'

		else:

			failCnt += 1

			print 'fail'

	print "error rate is : %f " % (failCnt/float(failCnt+succCnt))

我这里测试,K取默认值3，错误率是0.013742，

不会上传文件，所以把代码贴在下面，测试数据在
http://download.csdn.net/detail/wyb_009/5649337第二章下面

import os, math

def sim_distance(a, b):

	sum_of_squares = sum([pow(a[i]-b[i], 2) for i in range(len(a))])

	return sum_of_squares 

def kNN(data, dataSet, dataLabel, k=3, similarity=sim_distance):

	scores = [(sim_distance(data, dataSet[i]), dataLabel[i]) for i in range(len(dataSet))]

	sortedScore = sorted(scores, key=lambda d: d[0], reverse=False)

	scores = sortedScore[0:k]

	classCount = {}

	for score in scores:

		classCount[score[1]] = classCount.get(score[1], 0) + 1

	sortedClassCount = sorted(classCount.items(), key=lambda d: d[1], reverse=True)

	return sortedClassCount[0][0]

def img2vector(filename):

	vec = []

	file = open(filename)

	for i in range(32):

		line = file.readline()

		for j in range(32):

			vec.append(int(line[j]))

	return vec

def test():

	trainData, trainLabel = [], []

	trainFileList = os.listdir('digits/trainingDigits/')

	for filename in trainFileList:

		trainData.append(img2vector('digits/trainingDigits/%s' % filename))

		trainLabel.append(int(filename.split('_')[0]))

	print "load train data ok"

	succCnt, failCnt = 0, 0

	testFileList = os.listdir('digits/testDigits')

	for filename in testFileList:

		data = img2vector('digits/testDigits/%s' % filename)

		num = kNN(data, trainData, trainLabel)

		if num == int(filename.split('_')[0]):

			succCnt += 1

			print 'succ'

		else:

			failCnt += 1

			print 'fail: kNN get %ld, real is %ls' %(num, int(filename.split('_')[0]))

	print "error rate is : %f " % (failCnt/float(failCnt+succCnt))

if __name__ == "__main__":

	test()

相关文章