Sunu5_parametric_regression_IPADx2.38 MB

MEH535 Örüntü Tanıma
5. Parametrik Bağlanım
Doç.Dr. M. Kemal GÜLLÜ
Elektronik ve Haberleşme Mühendisliği Bölümü
web: http://akademikpersonel.kocaeli.edu.tr/kemalg/
E-posta: [email protected]
Bağlanım (Regression)
,rY
park )~N(g(
{
,
-
determinists .k
fonksiyon
t.fr/)+Efjinilti
-
gutted
:b
"
-
Nco
,8 )
Hot
rd
x
x
⇐x×f¥vµ
=Wxt=DK
x
a
.no '
'
2
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)
Bağlanım
• iid örnek kümesi için log olabilirlik:
( Dyle birgc
aarpiml
L
.
)
bulahmhi
maksi
|X
mum
her
dsun )
,
N
log
p xt , r t
t 1
N
log
obablirlikleinin
model
isrnekisin
Q
N
p r t |x t
p xt
log
t 1
t 1
,
hestm
,
a
.
cider bajmht
tlabilir
.
3
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)
Bağlanım
• Log olabilirlikten hataya geçiş:
L
atlab
|X
N
log
t 1
1
2
r
exp
t
t
g x|
2
2
.µ€:
bm
E
N
1
N log 2
2
2
rt
2
2
g xt |
t 1
• Bu eşitliği en büyüklemek, aşağıdaki eşitliği en
küçüklemek anlamındadır:
bilv
otfhlek
folk ]
12£
(
=
r±g( xt
lot )
2
+ .
4
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)
Doğrusal Bağlanım
• Doğrusal model:
gall
-0 )
-
glxtlw
,
,w° )
wnktwo
-
wop
EHIX
)=tz§wlr±w,xt
-
went
-
§w
2
.
)
O
-
E=o
±(§r±[
{ i=Ewnnt+§w=
¥-0
jwo
own
dwo
N
N
a
N
=§rt
,§nt+Nw
.
l¥±¥IEitt¥¥t¥er¥mt¥no
§rtnt=§w(ntP+§wont
.
An
r=y
¥xeE#y
{
rtxet
=w
,
.SE#ltw.Ent
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)
5
"
GokboyuHa=
rt
=
i ' Iwo
(
g
=
wot
Efflk
wise
)
s±÷=o
§rt
§
:&
=
, ,
+
.
i
,
wart
,
Ego
Nw
nirtaw
.
wd
,
.
I § ( rtw
=
.
w
,
§
"
x
.
. t
,
-
.
+
wie
-
,
,
wznz
E
,
~N
( 0,64
want )
-
ii.
-
"
twdsexta
'"
kitttenimtt
§ rnttwn
,
,
.
,
+
{ ntxsttwienzustt
:iHnt¥
Eating
t.IE#s.u
E
+
wdkd
nitwhmtt
we ,{
rdtrttwosndttw
,
E
+
iseweo
"
,
.
)
wirnatsnst
.tw#lD2
'
'
Yj¥
"
XTXW
w*
-
*
-
"
r
=
(
xTx5
X
r
of
( ntl Ot
went
=
two
'
HI÷;¥:¥¥÷÷t
>
3 W
ft
ff ]
Fifth
xtxw
.
X
'
in
to si
=
sire
inverse )
( pseudo
X
of
=
=
xtr
two
,
5 we
6 W
@em
T
X
two
we
two
overdetermined
'
w*= ( xTx5 xtr
-
z
=
two
,
1
=
=
=
4
5
Polinomal Bağlanım
• Polinomal model:
GCXTIO
.
)=w*(
ntlhtwq ,( utlhtti twzlntttwerttwo
.
:
:&
's :¥IH¥:t
Hindi
.
w=(DtD5'§
×
×
'Hx×xx×x×
se××¥E
's
x
×
's
x
××
×
x
6
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)
Polinomal Bağlanım
• Hata ölçütleri:
– Karesel Hata (Square Error)
– Bağıl Karesel Hata (Relative Square Error)
– Mutlak Hata (Absolute Error)
– ε-Hassas Hata (ε-Sensitive Error)
.
7
Lecture Notes for E Alpaydın 2004 Introduction to Machine Learning © The MIT Press (V1.1)