1. 常见的机器学习算法有哪些

KNN算法、线性回归法、决策树算法、随机森林算法、PCA算法、SVM算法等等

2. 什么是机器学习

简略的说，机器学习便是让机器从数据中学习，进而得到一个愈加契合现实规矩的模型，经过对模型的运用使得机器比以往体现的更好，这便是机器学习。

对上面这句话的了解：

数据：从现实生活抽象出来的一些事物或者规矩的特征进行数字化得到。

学习：在数据的基础上让机器重复执行一套特定的进程（学习算法）进行事物特征的萃取，得到一个愈加逼近于现实的描绘（这个描绘是一个模型它的自身或许便是一个函数）。咱们把大约可以描绘现实的这个函数称作咱们学到的模型。

更好：咱们经过对模型的运用就能更好的解说国际，解决与模型相关的问题。

3. 解说有监督和无监督机器学习之间的差异？

监督学习需求练习符号的数据。换句话说，监督学习运用了根本现实，这意味着咱们对输出和样本已有知识。这里的方针是学习一个近似输入和输出之间联系的函数。

另一方面，无监督学习不运用符号的输出。此处的方针是揣度数据会集的自然结构。

4. KNN算法介绍

附近算法，或者说K最附近（KNN，K-NearestNeighbor）分类算法是数据发掘分类技术中最简略的办法之一。所谓K最近邻，便是K个最近的街坊的意思，说的是每个样本都可以用它最接近的K个附近值来代表。近邻算法便是将数据调会集每一个记录进行分类的办法 。

k近邻法是一种根本的分类和回归办法，是监督学习办法里的一种常用办法。k近邻算法假定给定一个练习数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的练习实例类别，经过大都表决等办法进行猜测。

k近邻法三要素：距离衡量、k值的挑选和分类决策规矩。常用的距离衡量是欧氏距离及更一般的pL距离。k值小时，k近邻模型更杂乱，容易发生过拟合；k值大时，k近邻模型更简略，又容易欠拟合。因而k值得挑选会对分类成果发生严重影响。k值的挑选反映了对近似差错与估量差错之间的权衡，一般由交叉验证挑选最优的k。

长处

  1. 简略，易于了解，易于完成，无需估量参数，无需练习；

  2. 合适对稀有事情进行分类；

  3. 特别合适于多分类问题(multi-modal,对象具有多个类别标签)， kNN比SVM的体现要好。

缺陷

  1. 该算法在分类时有个主要的缺乏是，当样本不平衡时，如一个类的样本容量很大，而其他类样本容量很小时，有或许导致当输入一个新样本时，该样本的K个街坊中大容量类的样本占大都 。
  2. 该办法的另一个缺乏之处是核算量较大，因为对每一个待分类的文本都要核算它到全体已知样本的距离，才能求得它的K个最近邻点 。

5. 线性回归法介绍

线性回归(Linear regression)是运用回归方程(函数)对一个或多个自变量(特征值)和因变量(方针值)之间联系进行建模的一种剖析办法。

  • 特色：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归

线性回归傍边主要有两种模型，一种是线性联系，另一种是非线性联系。

6. PCA算法介绍

PCA（principal components analysis）即主成分剖析技术，又称主重量剖析，旨在运用降维的思维，把多目标转化为少数几个综合目标。

PCA算法长处：
1、使得数据集更易运用；
2、降低算法的核算开销；
3、去除噪声；
4、使得成果容易了解；
5、完全无参数约束。

PCA算法缺陷：
1、主成分解说其意义往往具有必定的模糊性，不如原始样本完好
2、贡献率小的主成分往往或许含有对样本差异的重要信息，也便是或许关于区分样本的类别（标签）更有用
3、特征值矩阵的正交向量空间是否仅有有待讨论
4、无监督学习

PCA算法求解进程：

  1. 去除平均值

  2. 核算协方差矩阵

  3. 核算协方差矩阵的特征值和特征向量

  4. 将特征值排序

  5. 保存前N个最大的特征值对应的特征向量

  6. 将原始特征转化到上面得到的N个特征向量构建的新空间中（最终两步，完成了特征紧缩）**

PCA是一种常用的数据剖析办法。PCA经过线性变换将原始数据变换为一组各维度线性无关的表示，可用于识别和提取数据的主要特征重量，经过将数据坐标轴旋转到数据角度上那些最重要的方向（方差最大）；然后经过特征值剖析，确定出需求保存的主成分个数，放弃其他非主成分，从而完成数据的降维。降维使数据变得愈加简略高效，从而完成提高数据处理速度的意图，节约大量的时刻和成本。降维也成为了使用十分广泛的数据预处理办法。PCA算法现已被广泛的使用于高维数据集的探索与可视化，还可以用于数据紧缩，数据预处理，图画，语音，通信的剖析处理等范畴。

7. 支撑向量机-SVM介绍

SVM(Support Vector Machine)指的是支撑向量机，是常见的一种判别办法。在机器学习范畴，是一个有监督的学习模型，一般用来进行模式识别、分类以及回归剖析。它在解决小样本、非线性及高维模式识别中体现出许多特有的优势，并可以推广使用到函数拟合等其他其他问题中。
支撑向量机（Support Vector Machine, SVM）是一类按监督学习（supervised learning）办法对数据进行二元分类（binary classification）的广义线性分类器（generalized linear classifier），其决策边界是对学习样本求解的最大边距超平面（maximum-margin hyperplane)。

  1. SVM的主要特色：
    SVM主要思维是针对两类分类问题，在高维空间中寻觅一个超平面作为两类的切割，以保证最小的分类错误率。
    SVM考虑寻觅一个满意分类要求的超平面，并且使练习会集的点距离分类面尽或许的远，即寻觅一个分类面使它两边的空白区域(margin)最大。
    过两类样本中离分类面最近的点且平行于最优分类面的超平面上的练习样本就叫做支撑向量。
    最优分类面便是要求分类线不光能将两类正确分隔(练习错误率为0)，且使分类距离最大。

8. 随机森林算法介绍

随机森林指的是运用多棵树对样本进行练习并猜测的一种分类器。

随机森林的长处有 ：

1）关于很多种材料，它可以发生高准确度的分类器；

2）它可以处理大量的输入变数；

3）它可以在决定类别时，评估变数的重要性；

4）在建造森林时，它可以在内部关于一般化后的差错发生不偏差的估量；

5）它包含一个好办法可以估量丢失的材料，如果有很大一部分的材料丢失，仍可以维持准确度；

6）学习进程是很快速的。

算法进程

1、一个样本容量为N的样本，有放回的抽取N次，每次抽取1个，最终形成了N个样本。这挑选好了的N个样本用来练习一个决策树，作为决策树根节点处的样本。

2、当每个样本有M个特点时，在决策树的每个节点需求割裂时，随机从这M个特点中选取出m个特点，满意条件m << M。然后从这m个特点中选用某种战略（比如说信息增益）来挑选1个特点作为该节点的割裂特点。

3、决策树形成进程中每个节点都要依照进程2来割裂（很容易了解，如果下一次该节点选出来的那一个特点是刚刚其父节点割裂时用过的特点，则该节点现已达到了叶子节点，无须持续割裂了），一直到不可以再割裂为止。注意整个决策树形成进程中没有进行剪枝。

4、依照进程1~3树立大量的决策树，这样就构成了随机森林了。

数据的随机选取
首要，从原始的数据会集采取有放回的抽样，构造子数据集，子数据集的数据量是和原始数据集相同的。不同子数据集的元素可以重复，同一个子数据会集的元素也可以重复。第二，运用子数据集来构建子决策树，将这个数据放到每个子决策树中，每个子决策树输出一个成果。最终，如果有了新的数据需求经过随机森林得到分类成果，就可以经过对子决策树的判别成果的投票，得到随机森林的输出成果了。

待选特征的随机选取

与数据集的随机选取相似，随机森林中的子树的每一个割裂进程并未用到一切的待选特征，而是从一切的待选特征中随机选取必定的特征，之后再在随机选取的特征中选取最优的特征。这样可以使得随机森林中的决策树都可以彼此不同，提高体系的多样性，从而提高分类功能。

本文正在参加 人工智能创作者扶持方案