tutorial

Ayebaye ti Ẹrọ Awọn Ẹkọ Ẹrọ: Ilọsiwaju Linear, Ipilẹ ati Isọdi

Ẹkọ ẹrọ ni awọn afijq nla pẹlu idasilo iṣiro, eyiti o pese awọn ọna, awọn imọ-ẹrọ ati awọn ibugbe ohun elo.

Ikẹkọ ẹrọ ṣe agbekalẹ gẹgẹbi “awọn iṣoro idinku iyokuro” ti ipadanu pipadanu lodi si ṣeto awọn apẹẹrẹ (ṣeto ikẹkọ). Ẹya yii n ṣalaye iyatọ laarin awọn iye ti asọtẹlẹ nipasẹ awoṣe ti o jẹ ikẹkọ ati awọn iye ti a nireti fun apẹẹrẹ apẹẹrẹ kọọkan.

Ibi-afẹde Gbẹhin ni lati kọ awoṣe awoṣe agbara lati ṣe asọtẹlẹ ni deede lori ṣeto ti awọn iṣẹlẹ ti ko wa ninu ṣeto ikẹkọ.

Ọna kan gẹgẹbi eyiti o ṣee ṣe lati ṣe iyatọ awọn isọri oriṣiriṣi ti algorithm jẹ iru iṣẹjade ti a nireti lati eto kan ti imudani ẹrọ.

Lara awọn ẹka akọkọ ti a rii:

La isọdi: awọn igbewọle ti pin si awọn kilasi meji tabi diẹ sii ati eto ẹkọ gbọdọ ṣe agbekalẹ awoṣe ti o lagbara lati fi ọkan tabi awọn kilasi diẹ sii laarin awọn ti o wa si titẹ sii.Awọn iru awọn iṣẹ ṣiṣe wọnyi ni a maa n sọrọ nigbagbogbo ni lilo awọn imuposi ikẹkọ ti o ni abojuto.
Apẹẹrẹ ti ipinya ni iṣẹ iyansilẹ ti ọkan tabi diẹ awọn aami si aworan ti o da lori awọn ohun tabi awọn koko ti o wa ninu rẹ;
La igbanisise: imoye ti o jọra si ipinya pẹlu iyatọ ti o wu wa ni oju-iwe igbagbogbo ati ti kii ṣe alaye.O jẹ iṣakoso ni igbagbogbo pẹlu ẹkọ ti o nṣakoso.
Apẹẹrẹ ti iforukọsilẹ jẹ iṣiro ti ijinle ipo kan lati aṣoju rẹ ni irisi aworan awọ.

Ni otitọ, aaye ti o wu wa ninu ibeere jẹ ailopin, ati pe kii ṣe opin si ṣeto oye ti awọn aye to ṣeeṣe;
Il Clustering: Nibo ni o wa ti ṣeto data ti pin si awọn ẹgbẹ eyiti, sibẹsibẹ, ko yato si tito, ti a ko mọ tẹlẹ priori kan.Adaṣe pupọ ti awọn iṣoro ti o jẹ ẹya yii jẹ ki wọn jẹ ki wọn ṣe awọn iṣẹ ṣiṣe ikẹkọ ti ko ni abojuto.

Awoṣe iforukọsilẹ o rọrun

Ilana pẹtẹlẹ niawoṣe ti a lo jakejado ti a lo lati ṣe idiyele awọn idiyele gidi bii:

iye owo ti awọn ile,
nọmba awọn ipe,
lapapọ tita fun eniyan,

o si tẹle itẹlera ti awọn iyatọ lemọlemọ:

onigun mẹrin
alabapin si akọọlẹ lọwọlọwọ,
eko ti eniyan

Ninu iforukọsilẹ laini, ibatan laarin awọn oniyipada ominira ati awọn oniyipada ti o gbẹkẹle ni atẹle nipasẹ laini kan ti o ṣe aṣoju ibasepọ laarin awọn oniyipada mejeeji.

Laini ti o baamu ni a mọ bi laini ijẹniniya ati pe o jẹ aṣoju nipasẹ idogba ala kan ti Iru Y = a * X + b.

Imula naa da lori interpolating data lati ṣe idapo meji tabi awọn abuda diẹ sii pẹlu ara wọn. Nigbati o ba fun algorithm ẹya iwa ti ohun kikọ silẹ, iforukọsilẹ pada ẹya ti iwa miiran.

Awoṣe ilana iforukọsilẹ pupọ

Nigba ti a ba ni iyipada ti o yatọ ju ọkan lọ ni ominira, lẹhinna a sọrọ ti iṣipopada laini ọpọ, ni iṣiro awoṣe kan bi atẹle:

y=b₀ + b₁x₁ + b₂x₂ +… + B_nx_n

y jẹ esi si awọn iye, ie o duro abajade ti asọtẹlẹ nipasẹ awoṣe;
b₀ ni kikọlu naa, iyẹn ni iye ti y nigbati x_igbogbo wọn dogba si 0;
ti iwa akọkọ b₁ ni olùsọdipúpọ ti x₁;
sibe ẹya miiran b_n ni olùsọdipúpọ ti x_n;
x₁,x₂,…, X_n jẹ awọn iyatọ ominira ti awoṣe.

Ni iṣe, idogba ṣalaye ibasepọ laarin oniyipada ti o gbẹkẹle lemọlemọfún (y) ati awọn iyatọ meji tabi ominira diẹ sii (x1, x2, x3…).

Fun apẹẹrẹ, ti a ba fẹ ṣe idiyele ifasilẹ CO2 ti ọkọ ayọkẹlẹ kan (oniyipada igbẹkẹle y) n ṣakiyesi agbara engine, nọmba awọn agolo gigun ati agbara epo. Awọn ifosiwewe igbeyin wọnyi jẹ awọn oniyipada ominira ominira x1, x2 ati x3. Awọn oniwun jẹ awọn nọmba gidi ati pe wọn pe ni iṣiro awọn ifisilẹ ifilọlẹ awoṣe YII jẹ iyipada ti o gbẹkẹle lemọlemọ, i.e. jije akopọ ti b0, b1 x1, b2 x2, ati be be lo. y n ni nọmba gidi.

Onínọmbà ọpọ ilana atunyẹwo jẹ ọna ti a lo lati ṣe idanimọ ipa ti awọn oniyipada ominira ni lori oniyipada ti o gbẹkẹle kan.

Loye bii iyatọ oniyipada ṣe yipada bi awọn oniyipada ominira ṣe gba wa laaye lati ṣe asọtẹlẹ awọn ipa tabi awọn ipa ti awọn ayipada ninu awọn ipo gidi.

Lilo iforukọsilẹ laini ọpọ o ṣee ṣe lati ni oye bi titẹ ẹjẹ ṣe n yipada bi atọka ibi-ara ṣe iyipada nipa iṣaro awọn okunfa bii ọjọ ori, ibalopọ, ati bẹbẹ lọ, nitorinaa ro pe ohun ti o le ṣẹlẹ.

Pẹlu iforukọsilẹ pupọ ti a le gba awọn iṣiro lori awọn ipo idiyele, gẹgẹ bi aṣa ti ọjọ iwaju fun ororo tabi goolu.

Lakotan, iforukọsilẹ laini ọpọ ni wiwa anfani ti o pọ si ni aaye ti ẹkọ ẹrọ ati oye atọwọda bi o ṣe gba lati gba awọn awoṣe eto ẹkọ paapaa ni ọran ti nọmba nla ti awọn igbasilẹ lati ṣe itupalẹ.

Awoṣe Igbadun iyipo

Isinmi logistic jẹ ohun elo iṣiro ti o ni ero lati ṣe apẹẹrẹ abajade alakomeji pẹlu ọkan tabi awọn iyatọ ti o tumọ si pupọ.

O lo igbagbogbo fun awọn iṣoro alakomeji, nibiti awọn kilasi meji wa, fun apẹẹrẹ Bẹẹni tabi Bẹẹkọ, 0 tabi 1, akọ tabi abo bẹbẹ ...

Ni ọna yii o ṣee ṣe lati ṣe apejuwe data ati ṣalaye ibasepọ laarin oniyipada alakomeji aladani ati ọkan tabi diẹ ẹ sii ti ominira tabi awọn oniwun iyatọ.

Abajade naa jẹ ipinnu ọpẹ si lilo iṣẹ eekadẹri, eyiti o ṣe iṣiro iṣeeṣe kan ati lẹhinna defidopin kilasi ti o sunmọ julọ (rere tabi odi) si iye iṣeeṣe ti o gba.

A le gbero iṣipopada ohun elo bi ọna ti ṣiṣe iyasọtọ idile ti abojuto algorithms ẹkọ.

Lilo awọn ọna iṣiro, iṣipopada logistic ngbanilaaye lati ṣafihan abajade eyiti, ni otitọ, ṣe aṣoju iṣeeṣe ti iye ifunni ti a fun ni jẹ ti kilasi ti a fun.

Ninu awọn iṣoro atunkọ binomial, iṣeeṣe ti iṣelọpọ jẹ ti kilasi kan yoo jẹ P, lakoko ti o jẹ ti kilasi keji 1-P (nibiti nọmba P wa laarin 0 ati 1 nitori o ṣalaye iṣeeṣe).

Awọn iforukọsilẹ binomial logistic ṣiṣẹ daradara ni gbogbo awọn ọran wọnyẹn eyiti oniyipada ti a n gbiyanju lati sọtẹlẹ jẹ alakomeji, iyẹn ni, o le gba awọn iye meji nikan: iye 1 eyiti o duro fun kilasi didara, tabi iye 0 eyiti o duro fun kilasi odi.

Awọn apẹẹrẹ awọn iṣoro ti o le yanju nipasẹ iṣipopada logistic ni:

e-meeli jẹ àwúrúju tabi rara;
ohun rira ori ayelujara jẹ jegudujera tabi rara, ṣe iṣiro awọn ipo rira;
alaisan ni o ni eegun kan, ti o ṣe agbeyewo rada rẹ.

Pẹlu iforukọsilẹ logistic a le ṣe asọtẹlẹ asọtẹlẹ, wiwọn ibatan laarin ohun ti a fẹ lati ṣe asọtẹlẹ (oniyipada ti o gbẹkẹle) ati ọkan tabi diẹ awọn oniyipada ominira, awọn abuda. Iṣiro iṣeeṣe ṣeeṣe nipasẹ iṣẹ ṣiṣe eewu kan.

Awọn iṣeeṣe naa ni a yipada ni atẹle si awọn iye alakomeji, ati lati ṣe asọtẹlẹ naa di gidi, abajade yii ni a yan si kilasi si eyiti o jẹ, ti o da lori boya o sunmọ kilasi naa funrararẹ.

Fun apẹẹrẹ, ti ohun elo ti iṣẹ logistic ba pada 0,85, lẹhinna o tumọ si pe igbewọle ti ṣe ipilẹ kilasi rere nipa fifunni si kilasi 1. Ni idakeji ti o ba ti gba iye bii 0,4 tabi diẹ sii ni gbogbogbo <0,5 ..

Isinmi logistic nlo iṣẹ ṣiṣe eewuro lati ṣe iṣiro ipin-iṣe ti awọn iye igbewọle.

Iṣẹ ṣiṣe eewu, ti a tun pe ni sigmoid, jẹ ohun ti tẹ ti o lagbara lati mu nọmba eyikeyi ti iye gidi ati kiko aworan rẹ si iye laarin 0 ati 1, laisi awọn ohun ti o gaju. Iṣẹ naa ni:

Nibo ni o wa:

e: ipilẹ ti awọn logarithms adayeba (nọmba Euler, tabi iṣẹ didara julọ ())
b0 + b1 * x: ni iye nọmba gangan ti o fẹ yipada.

Aṣoju ti a lo fun iṣakojọpọ logistic

Isinmi logistic nlo idogba bi oniduro kan, pupọ fẹran gbigbasilẹ laini

Awọn iye titẹ sii (x) ni apapọ laini iwọn ni lilo awọn iwuwo tabi awọn iye ti ko fi ọwọ ṣiṣẹ, lati ṣe asọtẹlẹ iye iṣe (y). Iyatọ bọtini lati titogun laini ni pe iye iṣelọpọ ipo jẹ iye alakomeji (0 tabi 1) dipo iye nọmba.

Eyi ni apẹẹrẹ kan ti idogba ibaramu iṣapẹẹrẹ:

y = e^(b0 + b1 * x) / (1 + e^(b0 + b1 * x))

Àdàbà:

y jẹ oniyipada ti o gbẹkẹle, i.e. iye ti anro;
b0 ni ipo ikede tabi ikede kikọlu;
b1 jẹ alafisodipupo fun iye titẹsi kanna (x).

Oju-iwe kọọkan ninu data titẹ sii ni nkan alapọpo b (o jẹ idiyele gidi nigbagbogbo) ti o gbọdọ kọ ẹkọ lati ọdọ ikẹkọ ikẹkọ.

Aṣoju gangan ti awoṣe ti iwọ yoo fipamọ ni iranti tabi faili kan jẹ awọn alajọpọ ninu idogba (beta ati b iye naa).

Ayojuuṣe logistic sọ asọtẹlẹ awọn iṣeeṣe (sakani imọ-ẹrọ)

Awọn iforukọsilẹ logistic ṣe apẹẹrẹ iṣeeṣe ti kilasi aiyipada.

Gẹgẹbi apẹẹrẹ, jẹ ki a ro pe a n ṣe apẹẹrẹ ibalopo ti eniyan bi akọ tabi abo lati giga wọn, kilasi akọkọ le jẹ akọ, ati awoṣe iṣipopada logistic le kọ bi iṣeeṣe ti jije ọkunrin ti o fun eniyan ni giga eniyan, tabi diẹ sii. gẹgẹbi aṣa:

P (ibalopo = akọ | iga)

Ti a kọ ni ọna miiran, a n ṣe apẹẹrẹ iṣeeṣe pe igbewọle (X) jẹ ti iṣaaju kilasidefinite (Y = 1), a le kọ bi:

P(X) = P(Y = 1 | X)

Asọtẹlẹ iṣeeṣe gbọdọ wa ni yipada si awọn iye alakomeji (0 tabi 1) lati le ṣe asọtẹlẹ iṣeeṣe gidi ni.

Isinpada logistic jẹ ọna laini, ṣugbọn awọn asọtẹlẹ ni a yipada nipasẹ lilo iṣẹ eewu. Ipa ti eyi ni pe a ko le ni oye awọn asọtẹlẹ mọ bi apapo ila ti awọn igbewọle bi a ṣe le ṣe pẹlu ilana iforukọsilẹ, fun apẹẹrẹ, tẹsiwaju lati oke, awoṣe le ṣee ṣalaye bi:

p (X) = e^(b0 + b1 * X) / (1 + e^(b0 + b1 * X))

Bayi a le yi idogba bi atẹle. Lati yiyipada o a le tẹsiwaju nipa yiyọ e ni ẹgbẹ kan nipa fifi kun logarithm kan ni apa keji.

ln (p (X)) 1 - p (X)) = b0 + b1 * X

Ni ọna yii a gba ni otitọ pe iṣiro ti iṣelọpọ lori apa ọtun jẹ laini lẹẹkansi (o kan bi laiseniyan laini), ati titẹ si apa osi jẹ logarithm ti iṣeeṣe ti kilasi alaifọwọyi.

Awọn iṣeeṣe ti wa ni iṣiro bi ipin ti iṣeeṣe ti iṣẹlẹ pin nipasẹ iṣeeṣe ti iṣẹlẹ kankan, fun apẹẹrẹ. 0,8 / (1-0,8) ti abajade rẹ jẹ 4. Nitorina a le dipo kọ:

LN (awọn aidọgba) = b0 + b1 * X

Niwọn igba ti awọn iṣeeṣe ti jẹ iyipada-pada, a pe ni awọn aami-apa osi-apa osi tabi probit.

A le da apanirun pada si apa ọtun ati kọ ọ bi:

iṣeeṣe = e ^ (b0 + b1 * X)

Gbogbo eyi ṣe iranlọwọ fun wa lati loye pe nitootọ awoṣe tun jẹ apapo laini ti awọn igbewọle, ṣugbọn pe apapọ laini yii tọka si awọn iṣeeṣe log ti kilasi iṣaaju.definita.

Kọ ẹkọ awoṣe ẹrọ iṣipopada

Awọn alasọtẹlẹ (awọn iye beta tabi b) ti algoridimu imọ-ẹrọ iṣipopada jẹ iṣiro ni alakoso ẹkọ. Lati ṣe eyi, a lo iṣiro o ṣeeṣe o pọju.

Iṣiro iṣeeṣe ti o pọju jẹ algorithm ẹkọ ti a lo nipasẹ ọpọlọpọ awọn algoridimu ikẹkọ ẹrọ. Awọn olusọdipúpọ ti o waye lati inu awoṣe ṣe asọtẹlẹ iye kan ti o sunmọ 1 (fun apẹẹrẹ akọ) fun kilasi iṣaaju-ile-iwedefinite ati iye ti o sunmọ 0 (fun apẹẹrẹ obinrin) fun kilasi miiran. O ṣeeṣe ti o pọju fun ipadasẹhin logistic jẹ ilana ti wiwa awọn iye fun awọn onisọdipúpọ (Beta tabi awọn iye ob) ti o dinku aṣiṣe ninu awọn iṣeeṣe asọtẹlẹ nipasẹ awoṣe ni ibatan si awọn ti o wa ninu data (fun apẹẹrẹ iṣeeṣe 1 ti data ba jẹ kilasi akọkọ) .

A yoo lo algorithm iyọkuro lati jẹ ki awọn ohun elo aladapọ dara julọ fun data ikẹkọ. Eyi ni a ṣe nigbagbogbo ni adaṣe ni lilo algorithm imuṣiṣẹ ti o munadoko daradara.

Ercole Palmeri