【机器学习算法】【9】--聚类算法
前言：在谈论K-means之前，我们是不是会联想到KNN算法呢，感觉这两个好像啊，其实两者差别还是很大的，一个是有监督学习算法，有对应的类别输出，一个是无监督的学习算法，没有样本输出，而且KNN算法是基于实例的一种的算法，KNN只是简单地把训练样例存储起来，并没有中间的训练过程，而K-mans算法确...
机器学习：降维算法-主成分分析PCA算法两种角度的推导
若把高维空间的样本点（可以想象是一个3维的）映射到一个超平面，怎样的超平面可以认为是“好的”，可以想到这个超平面大概有这样的性质：最近重构行：样本点到超平面的距离都足够近；（样本点变化尽可能小，丢失的信息尽可能少）最大可分性：样本点在这个超平面上的投影尽可能分开.（样本点在低维空间区分度尽可能高）神...
机器学习-回归之一元回归与多元回归算法原理及实战
一元回归分析和多元线性回归前言在统计学中，回归分析(Regression Analysis)指的是确定两种或两种以上变量间的相互依赖的定量关系的一种分析方法。该方法常使用数据统计的基本原理，对大量统计数据进行数学处理，并确定因变量与某些自变量的相关关系，建立一个相关性较好的回归方程（函数表达式），并...
机器学习分类及机器学习算法概览
机器学习分类及机器学习算法概览机器学习可分为3类：（监督学习、无监督学习、强化学习）1.监督学习：监督学习表示机器学习的数据是带标记的，这些标记可以包括数据类别、数据属性及特征点位置等。这些标记作为预期效果，不断修正机器的预测结果。每当想要根据给定输入预测某个结果，并且还有输入/输出示例时，都应该使...
机器学习入门：探索智能算法的世界 （上）
引言 在信息时代，数据与算法构成了新的基石，而机器学习则是连接它们的桥梁。机器学习，一门让计算机通过数据学习并做出决策的科学，正逐渐成为现代技术不可或缺的一部分。从个性化推荐系统、自动驾驶汽车到高级数据分析和预测模型，机器学习的应用几乎遍及每一个领域，它不仅在塑造我们的日常生活，也在重新定义未来的可...
【机器学习】基于正余弦搜索算法优化的BP神经网络分类预测（SCA-BP）
目录 1.原理与思路2.设计与实现3.结果预测4.代码获取 1.原理与思路 【智能算法应用】智能算法优化BP神经网络思路【智能算法】正余弦优化算法（SCA）原理及实现2.设计与实现 数据集：多输入多输出：样本特征24，标签类别4。 求解问题维度： dim = inputnum * hi...
【机器学习】无监督学习算法之：主成分分析-总结
主成分分析（PCA）是一种强大的无监督学习算法，它通过正交变换将数据从原始的高维空间转换到低维空间，同时尽可能保留数据中的主要变异信息。 PCA在数据预处理、特征提取和降维等方面有着广泛的应用，能够简化数据的复杂性，提高机器学习算法的性能。 我是小鱼： CSDN 博客专家；阿里云 专家博主；51C...
机器学习人工智能算法——支持向量机（Support Vector Machine, SVM）
首先，我们先来了解一下什么是支持向量机（Support Vector Machine, SVM），我们使用SVM既可以解决分类问题，也可以解决回归问题，本篇文章我们主要讲SVM在分类问题中的应用，在后续文章分享中会讲解如何将SVM用于回归问题。 大家可以看上图，是一个二维特征平面，上面...
机器学习算法-09-深度学习、BP神经网络、Hopfield神经网络、基于数学原理的神经网络、径向基函数RBF(B站一条会说666的咸鱼)
Deep Learning 深度学习的概念源于人工神经网络的研究，含多隐层的多层感知器就是有一种深度学些的结构 ，深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征的表示。概念于2006年由Hinton提出，基于深信度网DBN提出的非监督的贪心逐层训练算法，为解决深...
深度学习算法(第25期)----机器翻译中的编码解码器网络
上期我们一起学习了自然语言处理中的word embedding相关知识，深度学习算法(第24期)----自然语言处理(NLP)中的Word Embedding前几期我们一起学习了RNN的很多相关知识，今天我们一起用这些知识，学习下机器翻译中的编码解码网络.这里我们要做一个英文翻译成法语的翻译器，直接...
机器学习分类算法常用评价指标
1. 准确率，召回率，精确率，F1-score，Fβ，ROC曲线，AUC值 为了评价模型以及在不同研究者之间进行性能比较，需要统一的评价标准。根据数据挖掘理论的一般方法，评价模型预测能力最广泛使用的是二维混淆矩阵（Confusion matrix）（如下表所示）。 ...
机器学习笔记16——决策树剪枝算法原理及python实现案例
决策树剪枝算法1、算法目的2、算法基本思路：3、决策树损失函数4、剪枝类型：4.1 预剪枝4.2 后剪枝4.3 两种剪枝策略对比1、算法目的决策树的剪枝是为了简化决策树模型，避免过拟合。同样层数的决策树，叶结点的个数越多就越复杂；同样的叶结点个数的决策树，层数越多越复杂。剪枝前相比于剪枝后，叶结点个...
【机器学习】无监督学习算法之：自编码器-引言
小屌丝：鱼哥， 今天可以讲一讲 自编码器嘛小鱼：请说清楚，是什么编码器？小屌丝：自编码器小鱼：自己的写的编码器吗？小屌丝：你要是这么说，也没毛病， 自己写自编码器博文小鱼：… 那我不写了。小屌丝：…别啊。小鱼：那你说清楚，是什么自编码器呢？小屌丝：就是 无监督学习的 自编码器小鱼：… 感觉自己给你...
机器学习 - 决策树ID3算法
最近研究树模型，从最简单的决策树开始研究，扼要的说下最简单的ID3算法。对于机器学习的数据: train_x, train_y, test_x, test_y。当然test_y通常是被预测的值。对于决策树而言，就是事先利用train_x与train_y建立一颗泛化性能足够好的树，以供后期分类test...
机器学习算法 - 入门：从例子中理解 Variance Bias Error数学推导
目录一、Bias和Variance的含义和关系二、误差公式例子中中怎么理解？三、误差公式数学中怎么理解？一、Bias和Variance的含义和关系bias and variance图示： 链接请点击：Understanding the Bias-Variance Tradeoff, 作者 Scott...
【机器学习】密度聚类算法之HDBSCAN
链接前导篇：【机器学习】聚类算法之密度聚类(DBSCAN)前导篇：【机器学习】密度聚类算法之OPTICS参考链接：https://hdbscan.readthedocs.io/en/latest/how_hdbscan_works.htmlHDBSCAN API 使用参考链接：https://hdb...
机器学习：第五步：Python 上实现机器学习的基本算法(logistic 回归)
第1章绪论题目来源：http://suo.im/S2beL数据来源：https://github.com/ajschumacher/gadsdata/tree/master/lemons 1.1研究背景一个汽车经销商在汽车拍卖平台采购一个二手车所面临的一个巨大的挑战是可能购买到有一系列问题的汽车，从...
机器学习算法在数据挖掘中的应用
在数据挖掘的实践中，各种机器学习算法都扮演着重要的角色，它们能够从数据中学习规律和模式，并用于预测、分类、聚类等任务。以下是几种常见的机器学习算法以及它们在数据挖掘任务中的应用场景和优缺点。 1. 决策树（Decision Trees）： - 应用场景：决策树广泛应用于分类和回归问题，尤其适用...
机器学习入门—无监督学习、监督学习、强化学习概念及算法介绍
1、无监督学习（Unsupervised Learning）1.1、定义利用无标签的数据学习数据的分布或数据与数据之间的关系被称作无监督学习。1.2、两大任务聚类(clustering)降维(Dimension Reduction)1.3、聚类(clustering)1.3.1、定义聚类，就是根据数...
机器学习算法——聚类
聚类属于无监督学习，事先不知道数据会分为几类，通过聚类分析将数据聚合成几个群体。聚类是不需要对数据进行训练和学习的。主要的聚类算法有K-Means和DBSCAN。K-Means算法的基本原理比较简单：1.指定K值（数据要分成的簇的数目），并指定初始的k个质心；2.遍历每个数据点，计算其到各个质心的距...