2018-04-21 00:00:00 來源: 點擊:4694 喜歡:0
通過本篇文章可以對機器人的常用算法有個常識性的認識,沒有代碼,沒有復雜的理論推導,就是簡單介紹一下,知道這些算法是什么,它們是怎么應用的,例子主要是分類問題。
今天的算法如下:
1. 決策樹
2. 隨機森林算法
3. 邏輯回歸
4. SVM
5. 樸素貝葉斯
6. K最近鄰算法
7. K均值算法
8. Adaboost 算法
9. 神經(jīng)網(wǎng)絡
10. 馬爾可夫
1. 決策樹(樹的脈絡就是特征屬性)
根據(jù)一些 feature 進行分類,每個節(jié)點提一個問題,通過判斷,將數(shù)據(jù)分為兩類,再繼續(xù)提問。這些問題是根據(jù)已有數(shù)據(jù)學習出來的,再投入新數(shù)據(jù)的時候,就可以根據(jù)這棵樹上的問題,將數(shù)據(jù)劃分到合適的葉子上。
2. 隨機森林
在源數(shù)據(jù)中隨機選取數(shù)據(jù),組成幾個子集
S 矩陣是源數(shù)據(jù),有 1-N 條數(shù)據(jù),A B C 是feature,最后一列C是類別
由 S 隨機生成 M 個子矩陣(子矩陣和原矩陣比,列數(shù)沒變行數(shù)變了)
這 M 個子集得到 M 個決策樹
將新數(shù)據(jù)投入到這 M 個樹中,得到 M 個分類結果,計數(shù)看預測成哪一類的數(shù)目最多,就將此類別作為最后的預測結果
3. 邏輯回歸
當預測目標是概率這樣的,值域需要滿足大于等于0,小于等于1的,這個時候單純的線性模型是做不到的,因為在定義域不在某個范圍之內(nèi)時,值域也超出了規(guī)定區(qū)間。
所以此時需要這樣的形狀的模型會比較好
那么怎么得到這樣的模型呢?
這個模型需要滿足兩個條件 大于等于0,小于等于1
大于等于0 的模型可以選擇 絕對值,平方值,這里用 指數(shù)函數(shù),一定大于0
小于等于1 用除法,分子是自己,分母是自身加上1,那一定是小于1的了
再做一下變形,就得到了 logistic regression 模型
通過源數(shù)據(jù)計算可以得到相應的系數(shù)了
最后得到 logistic 的圖形
4. SVM
support vector machine
要將兩類分開,想要得到一個超平面,最優(yōu)的超平面是到兩個類的 margin 均達到最大,margin就是超平面與離它最近一點的距離(即實現(xiàn)兩個點的距離都最大),如下圖,Z2>Z1,所以綠色的超平面比較好
將這個超平面表示成一個線性方程,在線上方的一類,都大于等于1,另一類小于等于-1
點到面的距離根據(jù)圖中的公式計算
所以得到 total margin 的表達式如下,目標是最大化這個 margin,就需要最小化分母,于是變成了一個優(yōu)化問題
舉個栗子,三個點,找到最優(yōu)的超平面,定義了 weight vector=(2,3)-(1,1)
得到 weight vector 為(a,2a),將兩個點代入方程,代入(2,3)另其值=1,代入(1,1)另其值=-1,求解出 a 和 截矩 w0 的值,進而得到超平面的表達式。
a 求出來后,代入(a,2a)得到的就是 support vector
a 和 w0 代入超平面的方程就是 support vector machine
5. 樸素貝葉斯(通過特征出現(xiàn)的后驗事實概率來進行分類)
舉個在 NLP 的應用
給一段文字,返回情感分類,這段文字的態(tài)度是positive,還是negative
為了解決這個問題,可以只看其中的一些單詞
這段文字,將僅由一些單詞和它們的計數(shù)代表
原始問題是:給你一句話,它屬于哪一類
通過 bayes rules 變成一個比較簡單容易求得的問題
問題變成,這一類中這句話出現(xiàn)的概率是多少,當然,別忘了公式里的另外兩個概率
栗子:單詞 love 在 positive 的情況下出現(xiàn)的概率是 0.1,在 negative 的情況下出現(xiàn)的概率是 0.001
6. K最近鄰
k nearest neighbours
給一個新的數(shù)據(jù)時,離它最近的 k 個點中,哪個類別多,這個數(shù)據(jù)就屬于哪一類
栗子:要區(qū)分 貓 和 狗,通過 claws 和 sound 兩個feature來判斷的話,圓形和三角形是已知分類的了,那么這個 star 代表的是哪一類呢
k=3時,這三條線鏈接的點就是最近的三個點,那么圓形多一些,所以這個star就是屬于貓
7. K均值
視頻
想要將一組數(shù)據(jù),分為三類,粉色數(shù)值大,黃色數(shù)值小
最開心先初始化,這里面選了最簡單的 3,2,1 作為各類的初始值
剩下的數(shù)據(jù)里,每個都與三個初始值計算距離,然后歸類到離它最近的初始值所在類別
分好類后,計算每一類的平均值,作為新一輪的中心點
幾輪之后,分組不再變化了,就可以停止了
8. Adaboost
視頻
adaboost 是 bosting 的方法之一
bosting就是把若干個分類效果并不好的分類器綜合起來考慮,會得到一個效果比較好的分類器。
下圖,左右兩個決策樹,單個看是效果不怎么好的,但是把同樣的數(shù)據(jù)投入進去,把兩個結果加起來考慮,就會增加可信度
adaboost 的栗子,手寫識別中,在畫板上可以抓取到很多 features,例如 始點的方向,始點和終點的距離等等
training 的時候,會得到每個 feature 的 weight,例如 2 和 3 的開頭部分很像,這個 feature 對分類起到的作用很小,它的權重也就會較小
而這個 alpha 角 就具有很強的識別性,這個 feature 的權重就會較大,最后的預測結果是綜合考慮這些 feature 的結果
9. 神經(jīng)網(wǎng)絡
Neural Networks 適合一個input可能落入至少兩個類別里
NN 由若干層神經(jīng)元,和它們之間的聯(lián)系組成
第一層是 input 層,最后一層是 output 層
在 hidden 層 和 output 層都有自己的 classifier
input 輸入到網(wǎng)絡中,被激活,計算的分數(shù)被傳遞到下一層,激活后面的神經(jīng)層,最后output 層的節(jié)點上的分數(shù)代表屬于各類的分數(shù),下圖例子得到分類結果為 class 1
同樣的 input 被傳輸?shù)讲煌墓?jié)點上,之所以會得到不同的結果是因為各自節(jié)點有不同的weights 和 bias
這也就是 forward propagation
10. 馬爾可夫
Markov Chains 由 state 和 transitions 組成
栗子,根據(jù)這一句話 ‘the quick brown fox jumps over the lazy dog’,要得到 markov chain
步驟,先給每一個單詞設定成一個狀態(tài),然后計算狀態(tài)間轉換的概率
這是一句話計算出來的概率,當你用大量文本去做統(tǒng)計的時候,會得到更大的狀態(tài)轉移矩陣,例如 the 后面可以連接的單詞,及相應的概率
生活中,鍵盤輸入法的備選結果也是一樣的原理,模型會更高級
嘉之元云通信為客戶提短信驗證碼、短信營銷、國際短信、智能外呼機器人等服務!其在互聯(lián)網(wǎng)行業(yè)深耕近10年,在驗證碼、營銷短信、國際短信、智能語音機器人方面與業(yè)內(nèi)資深企業(yè)強強聯(lián)合,產(chǎn)品服務水平一直處于行業(yè)領先水平推薦閱讀: 嘉之元小云AI智能外呼機器人功能概述
上一篇:智能外呼機器人:結合人工智能和區(qū)塊鏈這兩大趨勢的好處
下一篇:嘉之元短信接口:人工智能在金融業(yè)的應用