机器学习的特征选择方法
有时候特征太多了也是一个问题，容易过拟合。为了降低模型的复杂程度，降低过拟合的可能性，我们会减少需要的学习的特征。 特征选择法主要有三种，分别是过滤法，包裹法和嵌入法。 1.过滤法 这种方法主要是基于统计检验，根据特征之间的关系去掉具有线性相关的特征，还有根据特征和标签的关系，筛选关系大的特征。 这...
机器学习笔记(十四)概率图模型
14.概率图模型14.1隐马尔可夫模型1、概率模型机器学习是根据一些已观察到的证据（如训练样本）来对感兴趣的未知变量（如类别标记）进行估计和预测。概率模型（probabilistic model）提供了一种描述框架，将学习任务归结于计算变量的概率分布在概率模型中，利用已知变量推测未知变量的分布称为推...
机器学习之路四：CNN综述（Lenet,AlexNet,GoogleNet,VGG,ResNet,ResNeXt,DenseNet）
CNN的发展历史Lenet，1986年Alexnet，2012年GoogleNet，2014年VGG，2014年Deep Residual Learning，2015年ResNeXt, 2016年DenseNet，2017年 ImageNet历年冠军和相关CNN模型https://www.cnblo...
机器学习——支持向量机SVM之基本型
闲谈分类超平面1、分类超平面（齐次）方程： a) x为n+1维的向量， w为 的矩阵（分类平面的法向量） b) w的作用是通过与样本向量x点乘，将向量映射到1维空间中（即原空间与分类超平面垂直的数轴） c) 公式 在几何上表示样本映射到数轴上的值（分类超平面对应数轴原点） ...
[四]机器学习之支持向量机SVM
4.1 实验数据本数据集来源于UCI的Adult数据集，并对其进行处理得到的。数据集下载地址：http://archive.ics.uci.edu/ml/datasets/Adult。本实验使用LIBSVM包对该数据进行分类。原始数据集每条数据有14个特征，分别为age,workclass,fnlw...
Github上最受欢迎的7个开源AI机器学习框架
在过去的几年中，人工智能正在占领技术的许多领域。 来自不同背景的开发人员最终意识到了AI为他们带来的机遇，而不管他们的需求如何。在今天的文章中，我们列出了7种最佳的开源AI /机器学习系统和框架。1、TensorFlowTensorFlow可能是世界上最著名的机器学习开源框架。它由Google开发，...
简单说下什么是机器学习
概念机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径。机器学习的核心是“使用算法解析数据，从中学...
局部加权回归Loess对比MFCC三角滤波(吴恩达机器学习中说，Loess算法用到了aircraft的自动驾驶中)
局部加权回归（Loess）：Loess的目标是最小化， 其中的作用是使预测点的临近点在最小化目标函数中贡献大：Loess更加注重临近点的精确拟合。这个算法中最神奇的就是这个w，局部相关性w很像高斯模板中心到边缘（3*sigma+1）/2的局部相关性，也就相关性关注（起作用），其他不关注（不起作用）；...
Github 上有趣的项目，用机器学习训练 AI 下五子棋
谷歌旗下人工智能公司 DeepMind 发布了一篇新论文，它讲述了团队如何利用 AlphaGo 的机器学习系统，构建了新的项目 AlphaZero。AlphaZero 使用了名为「强化学习」（reinforcement learning）的 AI 技术，它只使用了基本规则，没有人的经验，从零开始训练...
机器学习（十七）- SVMs - Large Margin Classification
Large Margin ClassificationOptimization Objective对于SVMs，我们从目标函数开始讲起，由于SVM的目标函数和逻辑回归的目标函数很相似，所以我们从逻辑回归的目标函数开始一点点给出区别。 第一，不再使用−log11+e−z−log11+e−z，而是将其...
吴恩达机器学习:week3
title: ‘吴恩达机器学习:week3’date: 2019-11-20 15:37:28mathjax: truecategories:机器学习tags:机器学习线性代数回顾(Linear Algebra Review)3.1 矩阵和向量参考视频: 3 - 1 - Matrices and V...
机器学习与数据挖掘学习笔记（4）异常分析
目录一、异常的定义二、异常挖掘三、异常检测的难点四、异常挖掘常用方法五、异常挖掘——分类六、异常挖掘——聚类七、异常挖掘——最近邻7.1基于距离7.2基于密度 一、异常的定义异常是在数据集中偏离大部分数据的样本，使人怀疑这些样本的偏离并非由随机因素产生，而是产生于完全不同的机制。异常数据在大多数领域...
吴恩达网易机器学习第6课：判别模型，生成模型以及朴素贝叶斯模型
本文结合网易云吴恩达机器学习公开课中文课件内容以及个人理解，对这一章节进行介绍。红色部分为关键部分或个人的一些理解。1. 生成模型与判别模型1.1 两种模型的区别我们首先假设x为特征，y为类别结果。那么分以下几种方式来理解生成模型与判别模型。（1）官方定义：判别模型是根据特征值来求结果的概率。形式化...
深度学习/机器学习入门基础数学知识整理（四）：拟牛顿法、BFGS、L_BFDS、DFP、共轭梯度法
拟牛顿法拟牛顿法可以克服牛顿法计算量大的缺点，不在计算目标函数的 Hesse 矩阵，而是构造一个近似 Hesse 矩阵的对称正定矩阵，根据近似矩阵来优化目标函数，不同的近似构造 Hesse 的方法决定了不同的拟牛顿法，构造 Hesse 矩阵是需要满足拟牛顿条件的，拟牛顿条件是这样求得的，首先将 f(...
为强化机器学习性能，ARM推出两款新GPU Mali-G52和Mali-G31
ARM于近期推出了两款图形处理器产品，分别为Mali-G52以及Mali-G31，主要应用于主流移动市场。由于移动端AI计算、图形处理需求的与日俱增，GPU之于手机SoC的作用日渐凸显，ARM全新的图形核心也呼之欲出。近日，据媒体报道，ARM于推出了两款图形处理器产品，分别为Mali-G52以及Ma...
机器学习的要素是什么？
我们在深入学习人工智能的时候会走进一个新世界，而这个新世界被称为机器学习。当然，机器学习也被称为人工智能的核心。正是由于这个原因，机器学习逐渐被大家所关注，那么大家知道不知道机器学习的要素是什么呢？下面我们就给大家介绍一下这个问题。首先，机器学习的三要素简单来说就是模型、策略和算法。那么具体是什么意...
【机器学习入门】拥抱人工智能，从机器学习开始
拥抱人工智能，从机器学习开始 目录： 1. 机器学习：一种实现人工智能的方法2. 机器学习算法：是使计算机具有智能的关键3. Anaconda：初学Python、入门机器学习的首选4. 总结转载链接：文章-阿里云开发者社区-云计算社区-阿里云 背景： 自“阿尔法狗”（AlphaGo）完胜人类围棋顶...
【机器学习300问】60、图像分类任务中，训练数据不足会带来什么问题？如何缓解图像数据不足带来的问题？
在机器学习中，绝大部分模型都需要大量的数据进行训练和学习（包括有监督学习和无监督学习），然而在实际应用中经常会遇到训练数据不足的问题。就比如图像分类这样的计算机视觉任务，确实依赖于大规模且多样化的训练数据以确保模型能够有效地泛化到未见过的实例上。然而，实践中遭遇训练数据不足是很常见的...
吴恩达2022机器学习专项课程(一） 5.1 多元特征回归-笔记
1.多元特征回归 从单一的输入特征（如房子的大小）扩展到多个输入特征（如卧室数量、楼层、房龄）。 2.多元特征的符号 右下角j：第几列输入特征。 n：表示输入特征的数量。例如图片里有4种输入特征，因此n=4。 x的向量：表示第i个训练样本的所有特征。例如i=2，训练样本为[1416,3,2,...
机器学习模型调优简介
网格搜索：通过搜索超参数空间中的每一个可能的组合来找到最优的超参数设置。这种方法比较耗时，但可以全面探索超参数空间。随机搜索：与网格搜索类似，但随机搜索不是在所有可能的组合中进行搜索，而是随机选择超参数的组合。这种方法通常比网格搜索更快，并且有时能找到更好的结果。贝叶斯优化：使用基于贝叶斯优化的方法...