【机器学习】基于正余弦搜索算法优化的BP神经网络分类预测（SCA-BP）
目录 1.原理与思路2.设计与实现3.结果预测4.代码获取 1.原理与思路 【智能算法应用】智能算法优化BP神经网络思路【智能算法】正余弦优化算法（SCA）原理及实现2.设计与实现 数据集：多输入多输出：样本特征24，标签类别4。 求解问题维度： dim = inputnum * hi...
【机器学习】无监督学习算法之：主成分分析-总结
主成分分析（PCA）是一种强大的无监督学习算法，它通过正交变换将数据从原始的高维空间转换到低维空间，同时尽可能保留数据中的主要变异信息。 PCA在数据预处理、特征提取和降维等方面有着广泛的应用，能够简化数据的复杂性，提高机器学习算法的性能。 我是小鱼： CSDN 博客专家；阿里云 专家博主；51C...
机器学习人工智能算法——支持向量机（Support Vector Machine, SVM）
首先，我们先来了解一下什么是支持向量机（Support Vector Machine, SVM），我们使用SVM既可以解决分类问题，也可以解决回归问题，本篇文章我们主要讲SVM在分类问题中的应用，在后续文章分享中会讲解如何将SVM用于回归问题。 大家可以看上图，是一个二维特征平面，上面...
机器学习算法-09-深度学习、BP神经网络、Hopfield神经网络、基于数学原理的神经网络、径向基函数RBF(B站一条会说666的咸鱼)
Deep Learning 深度学习的概念源于人工神经网络的研究，含多隐层的多层感知器就是有一种深度学些的结构 ，深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征的表示。概念于2006年由Hinton提出，基于深信度网DBN提出的非监督的贪心逐层训练算法，为解决深...
深度学习算法(第25期)----机器翻译中的编码解码器网络
上期我们一起学习了自然语言处理中的word embedding相关知识，深度学习算法(第24期)----自然语言处理(NLP)中的Word Embedding前几期我们一起学习了RNN的很多相关知识，今天我们一起用这些知识，学习下机器翻译中的编码解码网络.这里我们要做一个英文翻译成法语的翻译器，直接...
机器学习分类算法常用评价指标
1. 准确率，召回率，精确率，F1-score，Fβ，ROC曲线，AUC值 为了评价模型以及在不同研究者之间进行性能比较，需要统一的评价标准。根据数据挖掘理论的一般方法，评价模型预测能力最广泛使用的是二维混淆矩阵（Confusion matrix）（如下表所示）。 ...
机器学习笔记16——决策树剪枝算法原理及python实现案例
决策树剪枝算法1、算法目的2、算法基本思路：3、决策树损失函数4、剪枝类型：4.1 预剪枝4.2 后剪枝4.3 两种剪枝策略对比1、算法目的决策树的剪枝是为了简化决策树模型，避免过拟合。同样层数的决策树，叶结点的个数越多就越复杂；同样的叶结点个数的决策树，层数越多越复杂。剪枝前相比于剪枝后，叶结点个...
【机器学习】无监督学习算法之：自编码器-引言
小屌丝：鱼哥， 今天可以讲一讲 自编码器嘛小鱼：请说清楚，是什么编码器？小屌丝：自编码器小鱼：自己的写的编码器吗？小屌丝：你要是这么说，也没毛病， 自己写自编码器博文小鱼：… 那我不写了。小屌丝：…别啊。小鱼：那你说清楚，是什么自编码器呢？小屌丝：就是 无监督学习的 自编码器小鱼：… 感觉自己给你...
机器学习 - 决策树ID3算法
最近研究树模型，从最简单的决策树开始研究，扼要的说下最简单的ID3算法。对于机器学习的数据: train_x, train_y, test_x, test_y。当然test_y通常是被预测的值。对于决策树而言，就是事先利用train_x与train_y建立一颗泛化性能足够好的树，以供后期分类test...
机器学习算法 - 入门：从例子中理解 Variance Bias Error数学推导
目录一、Bias和Variance的含义和关系二、误差公式例子中中怎么理解？三、误差公式数学中怎么理解？一、Bias和Variance的含义和关系bias and variance图示： 链接请点击：Understanding the Bias-Variance Tradeoff, 作者 Scott...
【机器学习】密度聚类算法之HDBSCAN
链接前导篇：【机器学习】聚类算法之密度聚类(DBSCAN)前导篇：【机器学习】密度聚类算法之OPTICS参考链接：https://hdbscan.readthedocs.io/en/latest/how_hdbscan_works.htmlHDBSCAN API 使用参考链接：https://hdb...
机器学习：第五步：Python 上实现机器学习的基本算法(logistic 回归)
第1章绪论题目来源：http://suo.im/S2beL数据来源：https://github.com/ajschumacher/gadsdata/tree/master/lemons 1.1研究背景一个汽车经销商在汽车拍卖平台采购一个二手车所面临的一个巨大的挑战是可能购买到有一系列问题的汽车，从...
机器学习算法在数据挖掘中的应用
在数据挖掘的实践中，各种机器学习算法都扮演着重要的角色，它们能够从数据中学习规律和模式，并用于预测、分类、聚类等任务。以下是几种常见的机器学习算法以及它们在数据挖掘任务中的应用场景和优缺点。 1. 决策树（Decision Trees）： - 应用场景：决策树广泛应用于分类和回归问题，尤其适用...
机器学习入门—无监督学习、监督学习、强化学习概念及算法介绍
1、无监督学习（Unsupervised Learning）1.1、定义利用无标签的数据学习数据的分布或数据与数据之间的关系被称作无监督学习。1.2、两大任务聚类(clustering)降维(Dimension Reduction)1.3、聚类(clustering)1.3.1、定义聚类，就是根据数...
机器学习算法——聚类
聚类属于无监督学习，事先不知道数据会分为几类，通过聚类分析将数据聚合成几个群体。聚类是不需要对数据进行训练和学习的。主要的聚类算法有K-Means和DBSCAN。K-Means算法的基本原理比较简单：1.指定K值（数据要分成的簇的数目），并指定初始的k个质心；2.遍历每个数据点，计算其到各个质心的距...
从零实现机器学习算法(七) Blending
目录1. Blending简介2. Blending模型2.1 第一层模型2.2 第二层模型2.3 分类规则3. 总结与分析1. Blending简介Blending是一种模型融合的方式，第一层通过将训练集出一部分作为holdout set,然后通过剩下的数据生成模型对holdout set 进行预...
机器学习算法（十二）：聚类（3）基于密度的聚类——DBSCAN聚类算法
目录1 DBSCAN聚类算法2 参数选择3 步骤4 实例5 常用的评估方法：轮廓系数6 DBSCAN 算法评价及改进 基于密度的聚类是根据样本的密度分布来进行聚类。通常情况下，密度聚类从样本密度的角度出来，来考查样本之间的可连接性，并基于可连接样本不断扩展聚类簇，以获得最终的聚类结果。...
机器学习之层次聚类算法
层次聚类（Hierarchical Clustering）是对给定数据集在不同层次进行划分，形成树形的聚类结构，直到满足某种停止条件为止。数据集的划分可采用自底向上或自顶向下的划分策略。 1、凝聚的层次聚类算法AGNES AGNES（AGglomerative NEST...
机器学习:sklearn中K最近邻算法
K最近邻算法使用的直接是sklearn中的KNN。K最近邻算法属于监督学习的一种。它既可以应用于分类，也可以应用于回归。一：K最近邻算法原理KNN用于分类KNN用于回归其思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。在s...
我们如何通过图算法来帮助提高机器学习算法的性能？
本文原创作者知乎链接为 https://www.zhihu.com/people/he-he-he-he-77-19-21非常nice的一本传统的图算法的系统性介绍的神书，开头介绍了图领域的一些基础知识包括图的分类、图数据库、图在不同领域的应用等等，然后是系统性分门别类的介绍了不同方向的传统的图算法...