Rekurentné neurónové siete

Prepis

1 Reurentné neurónové sete HOPFIELDOA NEURÓNOÁ SIEŤ RIEŠENIE OPTIMALIZAČNÝCH ÚLOH

2 Hopfeldova seť Hopfeldova seť so svoím učacm algortmom patrí do tredy plne reurentných setí s bnárnym vstupom, trénovaných bez dozoru. Po prvýrát u popísal J. J. Hopfeld v rou

3 Hopfeldova seť Topológa sete. Každý neurón v set e prepoený so všetým ostatným neurónm, prčom prepoena sú symetrcé, to znamená, že w =w pre, =,...,n. Žaden neurón vša nemá prepoene samého so sebou, teda w = 0 pre =,...,n. Stav -teho neurónu označíme s. Platí s =. Atvačná hodnota (stav) aždého neurónu e daná vzťahom n s g( h ) g w x de h e celový vstup do -teho neurónu a x,...,x n sú vstupné hodnoty neurónov, toré spolu tvora vstupný vetor x=(x,...,x n ), prčom platí, že x =. Atvačná funcu g(x)=sgn(x) tvrdé ohrančene. etor atvačných hodnôt (stavov) všetých neurónov s=(s,..., s n ) tvorí stav sete 3

4 Hopfeldova seť Pre ednoduchosť prdáme do sete dodatočný neurón s onštantným vstupom -, taže ďale môžeme uvažovať prahové hodnoty = 0 a vzťah napísať v tvare Práca sete spočíva v tom, že stavy neurónov v čase t sú opäť použté na vstupe sete v čase t+, taže x (t+)= s (t) pre =,...,n a teda seť v aždom časovom rou upravue stavy neurónov podľa pravdla 4 n n t s w g t x w g t s 0 0 ) ( ) ( ) ( n x w g s 0

5 Hopfeldova seť až ým sa stav sete nezmení v dvoch po sebe nasleduúcch rooch, teda nastane rovnosť s (t)= s (t+)= s pre =,...,n (*) Tento stav sete s=(s,...,s n ) nazývame stablným stavom. Atvačné hodnoty (stavy) s neurónov po onvergenc tvora výstup sete, teda y = s pre =,...,n šety vetory y=(y,..., y n ), u torým sonvergue seť, a na e vstup podávame rôzne vetory x=(x,..., x n ), nazývame exemplárnym vzorm sete. Pre aždý exemplárny vzor teda platí pre =,, n s g n 0 w s 5

6 Hopfeldova seť Zhrnute A zohľadníme hlavné obmedzena Hopfeldove sete, ta táto seť nachádza veľé uplatnene namä pre problémy rozpoznávana vzorov s bnárnou reprezentácou. Taým sú naprílad černo-bele obrazy reprezentované pomocou matce pxelov, prčom aždý bod obrazu má hodnotu - (bely) alebo (černy). hodná e tež pre použte pre optmalzačné problémy. 6

7 Konvergenca Hopfeldove sete ýpočet edného neurónu, stav -tého neurónu - ýpočet bude poračovať, poaľ nebude dosahnutý stablný stav. Kvôl zednodušenu dôazu budeme uvažovať, že seť počíta {0, }, atvačné hodnoty sú 0,. Prevodové funce sú ednoduché. Každý neurón dostane váženú sumu vstupov od ných neurónov: h A vstup e poztívny, stav bude, na 0: N h. w, 0 a a h h 0 0 7

8 Konvergenca Hopfeldove sete Dosahne needy Hopfeldova seť stablný stav (onvergue)? Aby sme toto vyhodnotl, hodnotu energe asocueme so seťou: E 2 N w, Systém bude sonvergovaný, eď energa bude mnmalzovaná 8

9 Konvergenca Hopfeldove sete Prečo onverguú? N h. w, 0 f f h 0 h 0 E 2 N w, 2 N w, 2 h a h 0 a, potom sa nezmení h h 0 a h 0 a 0, potom sa zmení na h 0 a h 0 a 0, potom sa nezmení h 0 a h 0 a, potom sa zmení na 0 h h 0 Teda príspevo od aždého člena e nezáporný, teda zmenou stavu energa neraste. 9

10 Konvergenca Hopfeldove sete Zmeny E pr zmene stavu neurónu: old new old new old new h h h h h h E E E. 2 ) ( 2 ) 2 2 ( ) 2 2 ( a a a a a a a a new old new old new old new old h h h h h h h h N w h,. 0 a 0 0 a h h N w E, 2 h 2 aždom prípade energa bude lesať alebo zostane nezmenená, a teda seť sa snaží dostať do stablného stavu.

11 Energetcá funca Energetcá funca e podobná vacrozmernému (N) terénu, a e vyreslená v závslost od edného parametra Loálne Mnmum Loálne Mnmum Globálne Mnmum

12 Problém obchodného cestuúceho Mame danú množnu n mest a vzdalenosť d(,) pre všety dvoce mest [, ]. Potrebueme zstť, v aom poradí má obchodný cestuúc prechádzať mestá ta, aby sa vrátl do mesta, z torého vyrazl a zároveň aždé mesto na trase navštívl práve edenrát. Podmenou vša e, že vzdalenosť, torú precestoval, e naratša možná. Rešene tohto problému e prípustné, a sú splnené nasleduúce obmedzena : obchodný cestuúc prechádza aždým mestom práve edenrát, eho cesta v grafe tvorí cylus. 2

13 Prílad 5 mest Návrh sete. Kvôl prehľadnost ne sú zareslené prepoena neurónov. Rešene e zobrazené pomocou čar. Rešením e postupnosť mest , prípadne e cylcá permutáca. 3

14 Hopeldove neurónové sete Problém n veºí, resp n, n > na ²achovnc n veºí má by umestnených na ²achovnc typu n n ta, aby sa navzáom neohrozoval. Pre n = 4 Hopeldova se bude navrhnutá ta, ºe pre aºdé polí o bude obsahova neurón. Se by mala sonvergova re²enu. October, 208 / 20

15 Problém n veºí, resp n, n > na ²achovnc áhy medz neurónm budú nastavené ta, ºe neuróny, toré sú v tom stom radu alebo v tom stom st pc maú váhu -2 a na sú rovné 0. sám sebe e 0. áha medz, -tym a, l- tym neurónom e w(,,, l), teda w(,,, l) = 2 pre v²ety, w(,,, ) = 2 pre v²ety. ²ety neuróny maú prahy rovné -. Teda T (, ) = pre v²ety,. Kaºý neurón nastavený na nhbue ubovo ný ný neurón v tom stom radu radu a v tom stom st pc. October, / 20

16 Problém n veºí, resp n, n > na ²achovnc Energa sete pr oby anom o íslovaní neurónov E Hop = 2 w, x x + θ x () = = = Energa sete pr o íslovaní neurónov v mreºe E Hopm = 2 w,,,l x, x,l + θ, x, (2) = = = l= = = October, / 20

17 Problém n veºí, resp n, n > na ²achovnc Aá bude energa sete pre nastavena zadané vy²²e? Aý bude príspevo energ od neurónu 2, 3? Teda = 2, = 3 E 2,3 = 2 E 2,3 = 2 = l= = l= w 2,3,,l x 2,3 x,l + θ 2,3 x 2,3 (3) w 2,3,,l x,l + ( ) = (4) = 6 October, / 20

18 TSP (The Travellng Salesman Problem) - Hopeldov prístup Mame danú mnoºnu n mest a vzdalenost' d, pre v²ety dvoce mest,. Potrebueme zstt', v aom poradí má obchodný cestuúc prechádzat' cez mestá ta, aby sa vrátl do mesta, z torého vyrazl a zárove aºdé mesto na trase nav²tívl práve edenrát. Podmenou v²a e, ºe vzdalenost', torú precestoval, e narat²a moºná. Re²ene tohto problému e prípustné, a sú splnené nasleduúce obmedzena:. obchodný cestuúc prechádza aºdým mestom práve edenrát,. eho cesta v grafe tvorí cylus. October, / 20

19 TSP problém Prípustnost' re²ena e teda daná nádením hamltonovse ruºnce a meru optmalty re²ena popsue sú et vzdaleností medz mestam na hamltonovse ruºnc. Neurónová set', torá tento problém re² musí vyadrt' pre dané mesto, toré mesto mu predchádza a toré mesto za ním nasledue. Toto e vyadrtel'né v set s n 2 neurónm pr matcovom usporadaní uvedenom na obr.. Kvôl prehl'adnost ne sú zareslené prepoena neurónov. October, / 20

20 TSP problém Mestá Zastávy d 2, d,3 3 d 4,2 3 d 4, = d,4 3 Obr.. Neurónová se pre TSP pr n = 4. Re²ením e postupnost' mest (4,-2,2-,3-3,4), prípadne e cylcá premutáca. October, / 20

21 TSP problém Je zremé, ºe usporadane v tomto tvare pomáha pr pochopení re²ena, na e nepodstatné. zt'ah pre energu sete e moºné upravt' pomocou zavedena dvoch ndexov pre eden neurón. Jedná sa len o techncú úpravu vzt'ahu, význam zostane nezmenený. Teraz sformulueme túto úlohu pomocou nove sústavy dvostavových premenných ta, aby hl'adane prípustného re²ena mohlo byt' vyadrené ao mnmalzúca funce týchto nových premenných. Zadenume matcu typu nxn s prvam, toré nadobúdaú hodnoty 0 alebo, pre, <, n >. = vtedy, ed' obchodný cestuúc prechádza mestom v -tom rou. opa nom prípade = 0. October, / 20

22 TSP problém Prípustnému re²enu pôvodne úlohy teraz zodpovedá stav matce, torý sa dá popísat' nasledovne : a) v aºdom radu e navac edna edn a, t. pre x-te mesto platí x xl = 0, a l, b) v aºdom st pc e navac edna edn a, t. pre x-ty ro obchodného cestuúceho platí x x = 0, a, c) v matc e práve n edn e, t. n n = n, d) sú et vzdaleností medz mestam e ur ený matcou vzdaleností, pr om celová d ºa cesty e 2 n n n y d y (,y +,y+ ) October, / 20

23 Teraz vytvoríme funce E a, E b, E c a E d, toré nadobúdaú mnmálne hodnoty pr splnení predchádzaúcch podmeno. Funce sú vytvárané na zálade vzt'ahov uvedených v podmenách a)-d). E a = A 2 E b = B 2 x x xl (5) l x x (6) x E c = C 2 ( n) 2 (7) E d = D 2 d y (,y +,y+ ) (8) y October, / 20

24 TSP problém o vzt'ahoch ()-(4) A, B, C a D sú voltel'né parametre. Taºe re²ene e optmílne a E = E a + E b + E c + E d nadobúda svoe mnmum. Na tomto meste e vhodné prpomenút' s, ao vyzerá energetcá funca pre dsrétny model Hopeldove sete pr matcovom o íslovaní neurónov: E hop = 2 w,l l + + l Θ (9) October, 208 / 20

25 TSP problém Prepísaním (), (2), (3) a (4) na tvar energetce funce (5) dosahneme to, ºe tvar "na²e" funce E bude evvalentný tvaru funce E hop, torá sa po as onvergence sete mnmalzue (záladná vlastnost' Hopeldove sete). Po tomto prepísaní nám teda bude sta t' porovnat' výsledy s (5) a l'aho vypo ítame nastavene váh a prahov. Nasleduúce úpravy spo ívaú v zavedení symbolu Cronecerovo delta, t. δ =, a =, na δ = 0, o nám umoºní doplnt' do netorých výrazov d'al²e sumy. October, / 20

26 Z () vyplýva E a = A 2 δ ( δ l ) l (0) l ýraz δ ( δ l ) e rovný 0, a alebo = l. E a = 2 Aδ ( δ l ) l () l Tento výraz e vlastne výraz (5), de w a,l = Aδ ( δ l ) (2) October, / 20

27 Analogcy z (2) dostaneme Z (3) dostaneme w b,l = Bδ l( δ ) (3) E c = C 2 ( l 2n l + n 2 ) (4) October, / 20

28 Po prenásobení výrazu v zátvore výrazom C 2 dostaneme E c = 2 C l + l Cn + C 2 n2 (5) Pretoºe posledný len C 2 n2 nezmení polohu mnma vy²²e uvedene funce E c, zanedbáme ho a dostávame w c,l = C, Θ = Cn. (6) October, / 20

29 Zo (4) vyplýva E d = D 2 d y,y + D 2 y d y,y+ ) (7) y pr om platí, ºe d = 0, a =. Zavedením Cronecerovho symbolu δ lx a nahradením ndexu y ndexom l vo výraze pre E d dostávame E d = D 2 x E d = 0, a l x. l d δ lx l,x + D 2 x l d δ lx l,x+ (8) October, / 20

30 Poloºíme = x v prve ast výrazu a = x + v druhe ast a dostaneme = D 2 = 2 (d δ l,+ l + d δ l, l ) (9) l Dd (δ l,+ + d δ l, ) l (20) l w d,l = Dd (δ l,+ + δ l, ) (2) October, / 20

31 Taºe naonec pre nastavene váh prepoení v set medz neurónm x a x l bude platt' w,l = w a,l + wb,l + wc,l + wd,l (22) w d,l = Aδ ( δl) Bδ l ( δ ) C Dd (δ l,+ δ l, ) (23) Po odvodení vy²²e uvedených vzt'ahov moºeme uvest' nasleduúc algortmus: October, / 20

32 ALGORITMUS pre TSP: Kro. Prradene váh prepoenam w,l = Aδ ( δ l ) Bδ l ( δ ) C Dd (δ l,+ + δ l, ) pre,,, l n, - A,B,C,D sú zvolené parametre sete (sú mentel'né), Kro 2. Incalzáca (0) = x, pre, n, teto formule (t) e výstup vrcholu v ase t = 0 a x e náhodná premenná, torá nadobúda hodnotu 0 alebo. Kro 3. Iteráca, poal' set' nesovergovala (t + ) = g h [ n n = = w,l. l (t)] pre, n. Kro on í, a set' sonvergovala, t. e stav sa uº nemení. Tu môºe dôst' zacylenu sete. Kro 4. Opaovane od rou 2. October, / 20

33 Poznáma: A do²lo zacylenu sete, e potrebný nový výpo et za ínaúc nastavením nových po ato ných hodnôt sete. Teº e moºné zment' parametre sete a nastavt' nové váhy, t. za at' room. October, / 20

34 Hopeldove neurónové sete Problém n veºí, resp n, n > na ²achovnc n veºí má by umestnených na ²achovnc typu n n ta, aby sa navzáom neohrozoval. Pre n = 4 Hopeldova se bude navrhnutá ta, ºe pre aºdé polí o bude obsahova neurón. Se by mala sonvergova re²enu. October, 208 / 20

35 Problém n veºí, resp n, n > na ²achovnc áhy medz neurónm budú nastavené ta, ºe neuróny, toré sú v tom stom radu alebo v tom stom st pc maú váhu -2 a na sú rovné 0. sám sebe e 0. áha medz, -tym a, l- tym neurónom e w(,,, l), teda w(,,, l) = 2 pre v²ety, w(,,, ) = 2 pre v²ety. ²ety neuróny maú prahy rovné -. Teda T (, ) = pre v²ety,. Kaºý neurón nastavený na nhbue ubovo ný ný neurón v tom stom radu radu a v tom stom st pc. October, / 20

36 Problém n veºí, resp n, n > na ²achovnc Energa sete pr oby anom o íslovaní neurónov E Hop = 2 x ( w, x θ ) () = = Energa sete pr o íslovaní neurónov v mreºe E Hopm = 2 = = = l= w,,,l x, x,l + 2 θ, x, (2) = = October, / 20

37 Problém n veºí, resp n, n > na ²achovnc Aá bude energa sete pre nastavena zadané vy²²e? Aý bude príspevo energ od neurónu 2, 3? Teda = 2, = 3 E 2,3 = 2 E 2,3 = 2 = l= = l= w 2,3,,l x 2,3 x,l + 2 θ 2,3 x 2,3 (3) w 2,3,,l x,l + ( ) = (4) 2 ( ) + ( ) + ( ) + ( ) 2 = 5.5 October, / 20

38 TSP (The Travellng Salesman Problem) - Hopeldov prístup Mame danú mnoºnu n mest a vzdalenost' d, pre v²ety dvoce mest,. Potrebueme zstt', v aom poradí má obchodný cestuúc prechádzat' cez mestá ta, aby sa vrátl do mesta, z torého vyrazl a zárove aºdé mesto na trase nav²tívl práve edenrát. Podmenou v²a e, ºe vzdalenost', torú precestoval, e narat²a moºná. Re²ene tohto problému e prípustné, a sú splnené nasleduúce obmedzena:. obchodný cestuúc prechádza aºdým mestom práve edenrát,. eho cesta v grafe tvorí cylus. October, / 20

39 TSP problém Prípustnost' re²ena e teda daná nádením hamltonovse ruºnce a meru optmalty re²ena popsue sú et vzdaleností medz mestam na hamltonovse ruºnc. Neurónová set', torá tento problém re² musí vyadrt' pre dané mesto, toré mesto mu predchádza a toré mesto za ním nasledue. Toto e vyadrtel'né v set s n 2 neurónm pr matcovom usporadaní uvedenom na obr.. Kvôl prehl'adnost ne sú zareslené prepoena neurónov. October, / 20

40 TSP problém Mestá Zastávy d 2, d,3 3 d 4,2 3 d 4, = d,4 3 Obr.. Neurónová se pre TSP pr n = 4. Re²ením e postupnost' mest (4,-2,2-,3-3,4), prípadne e cylcá premutáca. October, / 20

41 TSP problém Je zremé, ºe usporadane v tomto tvare pomáha pr pochopení re²ena, na e nepodstatné. zt'ah pre energu sete e moºné upravt' pomocou zavedena dvoch ndexov pre eden neurón. Jedná sa len o techncú úpravu vzt'ahu, význam zostane nezmenený. Teraz sformulueme túto úlohu pomocou nove sústavy dvostavových premenných ta, aby hl'adane prípustného re²ena mohlo byt' vyadrené ao mnmalzúca funce týchto nových premenných. Zadenume matcu typu nxn s prvam, toré nadobúdaú hodnoty 0 alebo, pre, <, n >. = vtedy, ed' obchodný cestuúc prechádza mestom v -tom rou. opa nom prípade = 0. October, / 20

42 TSP problém Prípustnému re²enu pôvodne úlohy teraz zodpovedá stav matce, torý sa dá popísat' nasledovne : a) v aºdom radu e navac edna edn a, t. pre x-te mesto platí x xl = 0, a l, b) v aºdom st pc e navac edna edn a, t. pre x-ty ro obchodného cestuúceho platí x x = 0, a, c) v matc e práve n edn e, t. n n = n, d) sú et vzdaleností medz mestam e ur ený matcou vzdaleností, pr om celová d ºa cesty e 2 n n n y d y (,y +,y+ ) October, / 20

43 Teraz vytvoríme funce E a, E b, E c a E d, toré nadobúdaú mnmálne hodnoty pr splnení predchádzaúcch podmeno. Funce sú vytvárané na zálade vzt'ahov uvedených v podmenách a)-d). E a = A 2 E b = B 2 x x xl (5) l x x (6) x E c = C 2 ( n) 2 (7) E d = D 2 d y (,y +,y+ ) (8) y October, / 20

44 TSP problém o vzt'ahoch ()-(4) A, B, C a D sú voltel'né parametre. Taºe re²ene e optmílne a E = E a + E b + E c + E d nadobúda svoe mnmum. Na tomto meste e vhodné prpomenút' s, ao vyzerá energetcá funca pre dsrétny model Hopeldove sete pr matcovom o íslovaní neurónov: E hop = 2 w,l l + 2 l Θ (9) October, 208 / 20

45 TSP problém Prepísaním (), (2), (3) a (4) na tvar energetce funce (5) dosahneme to, ºe tvar "na²e" funce E bude evvalentný tvaru funce E hop, torá sa po as onvergence sete mnmalzue (záladná vlastnost' Hopeldove sete). Po tomto prepísaní nám teda bude sta t' porovnat' výsledy s (5) a l'aho vypo ítame nastavene váh a prahov. Nasleduúce úpravy spo ívaú v zavedení symbolu Cronecerovo delta, t. δ =, a =, na δ = 0, o nám umoºní doplnt' do netorých výrazov d'al²e sumy. October, / 20

46 Z () vyplýva E a = A 2 δ ( δ l ) l (0) l ýraz δ ( δ l ) e rovný 0, a alebo = l. E a = 2 Aδ ( δ l ) l () l Tento výraz e vlastne výraz (5), de w a,l = Aδ ( δ l ) (2) October, / 20

47 Analogcy z (2) dostaneme Z (3) dostaneme w b,l = Bδ l( δ ) (3) E c = C 2 ( l 2n l + n 2 ) (4) October, / 20

48 Po prenásobení výrazu v zátvore výrazom C 2 dostaneme E c = 2 C l + l Cn + C 2 n2 (5) Pretoºe posledný len C 2 n2 nezmení polohu mnma vy²²e uvedene funce E c, zanedbáme ho a dostávame w c,l = C, Θ = 2 Cn. (6) October, / 20

49 Zo (4) vyplýva E d = D 2 d y,y + D 2 y d y,y+ ) (7) y pr om platí, ºe d = 0, a =. Zavedením Cronecerovho symbolu δ lx a nahradením ndexu y ndexom l vo výraze pre E d dostávame E d = D 2 x E d = 0, a l x. l d δ lx l,x + D 2 x l d δ lx l,x+ (8) October, / 20

50 Poloºíme = x v prve ast výrazu a = x + v druhe ast a dostaneme = D 2 = 2 (d δ l,+ l + d δ l, l ) (9) l Dd (δ l,+ + d δ l, ) l (20) l w d,l = Dd (δ l,+ + δ l, ) (2) October, / 20

51 Taºe naonec pre nastavene váh prepoení v set medz neurónm x a x l bude platt' w,l = w a,l + wb,l + wc,l + wd,l (22) w d,l = Aδ ( δl) Bδ l ( δ ) C Dd (δ l,+ δ l, ) (23) Po odvodení vy²²e uvedených vzt'ahov moºeme uvest' nasleduúc algortmus: October, / 20

52 ALGORITMUS pre TSP: Kro. Prradene váh prepoenam a prahom w,l = Aδ ( δ l ) Bδ l ( δ ) C Dd (δ l,+ + δ l, ), Θ = 2 Cn. pre,,, l n, - A,B,C,D - zvolené parametre (mentel'né), Kro 2. Incalzáca (0) = x, pre, n, teto formule (t) e výstup vrcholu v ase t = 0 a x e náhodná premenná, torá nadobúda hodnotu 0 alebo. Kro 3. Iteráca, poal' set' nesovergovala (t + ) = g h [ n n = = w,l. l (t) Θ ] pre, n. Kro on í, a set' sonvergovala, t. e stav sa uº nemení. Tu môºe dôst' zacylenu sete. Kro 4. Opaovane od rou 2. October, / 20

53 Poznáma: A do²lo zacylenu sete, e potrebný nový výpo et za ínaúc nastavením nových po ato ných hodnôt sete. Teº e moºné zment' parametre sete a nastavt' nové váhy, t. za at' room. October, / 20