机器学习实战 - 读书笔记(12) - 使用FP-growth算法来高效发现频繁项集
[comment]: # 机器学习实战 - 读书笔记(12) - 使用FP-growth算法来高效发现频繁项集前言最近在看Peter Harrington写的“机器学习实战”，这是我的学习心得，这次是第12章 - 使用FP-growth算法来高效发现频繁项集。基本概念FP-growth算法FP-gr...
机器学习实战 - 读书笔记(13) - 利用PCA来简化数据
[comment]: # 机器学习实战 - 读书笔记(13) - 利用PCA来简化数据前言最近在看Peter Harrington写的“机器学习实战”，这是我的学习心得，这次是第13章 - 利用PCA来简化数据。这里介绍，机器学习中的降维技术，可简化样品数据。降维技术的用途使得数据集更易使用；降低很...
【杂谈】想成为机器学习学霸？先学会做笔记吧
今天聊聊记笔记这件事儿，在学习的过程中做好总结记录是非常重要的。作者 | 小满&有三编辑 | 小满&有三《人类简史》有一个有趣的现象描写：远古时期的智人是看什么就吃什么，会塞到自己吃不下为止。比如看到一颗果树，盘它，为嘛？因为你不最努力地吃，等下猩猩猴子们来了，就啥都不剩了。 如今深...
Coursera-AndrewNg(吴恩达)机器学习笔记——第四周
神经网络1.神经网络发展的动力：在逻辑回归解决复杂的分类问题时，我们使用属性的一些组合来构造新的属性（x12,x1x2,x22...），这样就会造成属性的数目n过多，带来了大量的运算，甚至造成过拟合的现象。在计算机视觉中对物体进行识别，需要将图片的像素点作为属性，因此，属性的项目n将会十分的庞大。逻...
吴恩达2022机器学习——第二部分高级学习算法第二周笔记
目录 1.Tensorflow实现2.模型训练细节3.Sigmoid激活函数的替代方案 1.Tensorflow实现 继续手写数字识别的运行示例，将此图像识别为0或1。这里我们使用的是如下神经网络架构。上周我们有一个输入x，即图像；第一层有25个神经元，第二层有15个神经元，输出层有一个神经元，如...
吴恩达2022机器学习_第二部分高级学习算法笔记
目录 1.需求预测2.机器学习例子：图像识别过程：3.如何构建一层神经元4.更复杂的神经网络5.推理：做出预测（向前传播） 手写数字识别例子：6.tensorflow在代码中实现推理7.TensorFlow中的数据如何表示8.构建一个神经网络9.在一个单层中的向前传播10.向前传播的一般实现 1....
吴恩达机器学习笔记7-梯度下降III(Gradient descent intuition) --梯度下降的线性回归
梯度下降算法和线性回归算法比较如图：对我们之前的线性回归问题运用梯度下降法，关键在于求出代价函数的导数，即：我们刚刚使用的算法，有时也称为批量梯度下降。实际上，在机器学习中，通常不太会给算法起名字，但这个名字”批量梯度下降”，指的是在梯度下降的每一步中，我们都用到了所有的训练样本，在梯度下降中，在计...
机器学习&数据挖掘笔记_12（对Conjugate Gradient 优化的简单理解）
数学优化方法在机器学习算法中至关重要，本篇博客主要来简单介绍下Conjugate Gradient(共轭梯度法，以下简称CG)算法，内容是参考的文献为：An Introduction to the Conjugate Gradient Method Without the Agonizing Pai...
机器学习&数据挖掘笔记_25（PGM练习九：HMM用于分类）
前言：本次实验是用EM来学习HMM中的参数，并用学好了的HMM对一些kinect数据进行动作分类。实验内容请参考coursera课程：Probabilistic Graphical Models 中的的最后一个assignmnet.实验用的是kinect关节点数据，由于HMM是一个时序模型，且含有隐...
机器学习&数据挖掘笔记_15（关于凸优化的一些简单概念）
没有系统学过数学优化，但是机器学习中又常用到这些工具和技巧，机器学习中最常见的优化当属凸优化了，这些可以参考Ng的教学资料：http://cs229.stanford.edu/section/cs229-cvxopt.pdf，从中我们可以大致了解到一些凸优化的概念，比如凸集，凸函数，凸优化问题，线性...
机器学习&数据挖掘笔记_14（GMM-HMM语音识别简单理解）
为了对GMM-HMM在语音识别上的应用有个宏观认识，花了些时间读了下HTK（用htk完成简单的孤立词识别）的部分源码，对该算法总算有了点大概认识，达到了预期我想要的。不得不说，网络上关于语音识别的通俗易懂教程太少，都是各种公式满天飞，很少有说具体细节的，当然了，那需要有实战经验才行。下面总结以下几点...
Andrew Ng机器学习课程笔记（六）之 机器学习系统的设计
Andrew Ng机器学习课程笔记（六）之 机器学习系统的设计版权声明：本文为博主原创文章，转载请指明转载地址http://www.cnblogs.com/fydeblog/p/7392408.html前言这篇博客主要记录了Andrew Ng课程第6章机器学习系统的设计，Andrew用他的丰富经验讲...
机器学习&数据挖掘笔记_24（PGM练习八：结构学习）
前言：本次实验包含了2部分：贝叶斯模型参数的学习以及贝叶斯模型结构的学习，在前面的博文PGM练习七：CRF中参数的学习 中我们已经知道怎样学习马尔科夫模型(CRF)的参数，那个实验采用的是优化方法，而这里贝叶斯模型参数的学习是先假定样本符合某种分布，然后使用统计的方法去学习这些分布的参数，来达到学习...
机器学习&数据挖掘笔记（常见面试之机器学习算法思想简单梳理）
机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理）作者：tornadomeet 出处：http://www.cnblogs.com/tornadomeet前言：找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，...
[转]机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理）
机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理）转自http://www.cnblogs.com/tornadomeet/p/3395593.html前言：找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如...
Coursera台大机器学习基础课程学习笔记1 -- 机器学习定义及PLA算法
最近在跟台大的这个课程，觉得不错，想把学习笔记发出来跟大家分享下，有错误希望大家指正。一机器学习是什么？感觉和 Tom M. Mitchell的定义几乎一致，A computer program is said to learn from experience E with respect to s...
神经网络与机器学习第3版学习笔记-第1章 Rosenblatt感知器
神经网络与机器学习第3版学习笔记-初学者的笔记，记录花时间思考的各种疑惑本文主要阐述该书在数学推导上一笔带过的地方。参考学习，在流畅理解书本内容的同时，还能温顾学过的数学知识，达到事半功倍的效果。第一章 Rosenblatt感知器１、第32页1.1 为什么如果第n次迭代时的内积存在符号错误，第n+1...
斯坦福机器学习视频笔记 Week7 支持向量机 Support Vector Machines
SVM被许多人认为是最强大的“黑箱”学习算法，并通过提出一个巧妙选择的优化目标，今天最广泛使用的学习算法之一。Optimization Objective根据Logistic Regression，有如下表述：为了达到尽量好的分类效果，我们需要theta‘*x >> 0 or theta...
<转>机器学习笔记之奇异值分解的几何解释与简单应用
看到的一篇比较好的关于SVD几何解释与简单应用的文章，其实是有中文译本的，但是翻译的太烂，还不如直接看英文原文的。课本上学的往往是知其然不知其所以然，希望这篇文能为所有初学svd的童鞋提供些直观的认识吧。A sigular value decomposition目录(?)[-]Introductio...
Stanford机器学习笔记-3.Bayesian statistics and Regularization
3. Bayesian statistics and RegularizationContent3. Bayesian statistics and Regularization.3.1 Underfitting and overfitting.3.2 Bayesian statistics and...