Umjetne neuronske mreže

Transcription

1 . Motvacja Umjetne neuronske mreže Automatzranu obradu odataka danas uglavnom rade dgtalna računala. Iak, još je uvjek daleko vše odataka čja obrada nje automatzrana. Te odatke obrađuju žvčan sustav žvh organzama! Zavod za elektronku, mkroelektronku, računalne ntelgentne sustave v.., 7. ožujak. Bojana Dalbelo Bašć Marko Čuć Jan Šnajder Razvoj jedne grane računarstva motvran je razmatranjem revladavajućeg načna obrade odataka u svjetu u kojem žvmo. Tražmo drugačj koncet obrade odataka koj b bo slčnj funkconranju bološkog mozga. A.I. - sustav koj usješno oonaša rad mozga bo b ntelgentan. Sadržaj. Motvacja razvoja neuro-računarstva. Uvod u neuro-računarstvo Povjesn regled Pravc AI Defncja vrste Prmjena Učenje Žvčan sustav bološk neuron Model neurona vrste Arhtektura mreža Procesn element Percetron Pravlo ercetrona Prmjer Učenje booleovh funkcja Lnearna odvojvost XOR roblem Všeslojna mreža ercetrona Lnearna regresja Srednja kvadratna ogreška Gradjentn sust LMS algortam. Backroagaton algortam BACKPROPAGATIO algortam nterretacja skrvenog sloja Prmjer uorabe neuronskh mreža Prmjer sustava za rasoznavanje Istražvanja u neurofzologj kogntvnoj znanost uućuju: mozak se sastoj od velkog broja neurona koj rade aralelno. ajslčnj model: računaln sustav u kojem brojn rocesn element odatke obrađuju aralelno. Paradgma: umjetna neuronska mreža - UM [artfcal neural network A] Područje koje se bav tm asektom obrade: neuro-računarstvo Grane računarstva z skune tzv. mekog računarstva engl. soft comutng.. Usoredba ljudskog mozga računala. mozga suer-računala? Arhtektura organzacja mozga gotovo je otuno razlčta od arhtekture konvenconalnh računala koja su danas u šrokoj uorab von eumannova računala: atrbut mozak računalo gradben element neuron > vrsta logčka vrata brzna rjenosa ms cklus ns cklus broj rocesora oko < * broj veza - < * načn rada serjsk, aralelno serjsk Earth Smulator EC - Kanazawa, Jaan sgnal nformacje analogn sravne/nesravne dgtaln sravne čvorova sa o 8 vektorskh rocesora rocesora brž od dosadašnjeg rvaka IBM ASCI Whte, 89 rocesora htt:// korst se LIPACK benchmark test

2 . Povjesn regled neuro-računarstva. Hebbovo učenje 9. Von eumann EDVAC zvješće 9. McCulloch Ptts MIT matematčk model neurona Automata Theor. Procesna moć ondašnjh računala je šarmantno slaba - rva raktčka ostvarenja tek u kasnm 7 ojava LSI računala. 98. Wener - kbernetka 99. Hebb - učenje kao metabolčka romjena u neuronma - temelje razvoja mehanzama učenja mreža Hebbovo ravlo. 9. Mnsk Edmonds - učenje stroja temeljenog na mrežnoj struktur. Hebbovo ravlo zravno tumač Pavlovljev uvjetn refleks. Povjesn regled neuro-računarstva. Povjesn regled neuro-računarstva 98. Rosenblatt Percetron Pravlo ercetrona. 99. Mnsk McCarth - AILab 99. Entuzjazma nestaje: Credt assgnment roblem Credt assgnment roblem Kako odredt kolko je svak rocesn element odgovoran za ogrešku mreže na zlazu?! Mnsk Paert: Percetrons, 99. Zaključuju: nema mnogo nade da će se roblem učenja všeslojne mreže kada rješt - ne možemo rješt robleme koj nsu lnearno odvojv. A na -tak godna ostaju scenta non grata Daljnja stražvanja u sjen manstream AI Grossberg, Fukushma, Kohonen, Aleksander.. Povjesn regled neuro-računarstva. Prstu neuronskm mrežama 98 Renesansa A: Hofeld uvod ojam energje mreže fzčar zanteresran fzka materjala, 98. Pronađeno rješenje za credt assgnment roblem back error roagaton BACKPROPAGATIO. Vše autora BP: otkrven Werbos, onovo otkrven Parker, naosljetku još jednom onovo otkrven oularzran Rumelhart, Hnton Wllams, Porast stražvanja u tom odručju daljnj razvoj matematke, razvoj nformatčke tehnologje, conductve scentfc Zetgest. Pojedn rstu A maju drugačje cljeve stražvanja dovode do razlčth deja njhove uorabe: Pshologja neurologja: modelranje mozga bološkog ostuka učenja, Računarske znanost: aralelna dstrburana obrada u svrhu klasfkacje, asocjatvna memorja otmzacja, Matematka fzka: roučavanje UM u okvru statstčke mehanke, teorje automata nelnearnh dnamčkh sustava.

3 . Pravc razvoja umjetne ntelgencje. Pravc razvoja umjetne ntelgencje Od rvh dana razvoja umjetne ntelgencje rane ostoje dva rstua razvoju ntelgentnh sustava: rvm rstuom nastoj se znanje z neke domene obuhvatt skuom atomčkh semantčkh objekata smbola zatm čnt manulacja th smbola omoću algortamskh ravla, drug rstu temelj se na zgradnj sustava arhtekture slčne arhtektur mozga koj, umjesto da ga se rogramra, uč samostalno na temelju skustva. Razlčta odručja zahtjevaju razlčte rstue. Smbolčk rstu je dobar u mnogm odručjma osobto slatv ostao je razvojem eksertnh sustava, al nje suno rana ekstravagantna obećanja. eusjeh lež u ogrešnoj retostavc da je svako znanje moguće formalzrat da je mozak stroj koj odatke obrađuje formalnm ravlma.. Konektvstčk rstu. Von eumannovo računalo Smolensk 88 ekslctno razlučuje koje je znanje moguće formalzrat, a koje nje, čneć odjelu zmeđu: kulturalnog javnog znanja rvatnog ntutvnog znanja. Prema konektvstčkom shvaćanju, ntutvno se znanje ne može obuhvatt skuom formalnh ravla. Mnog su svakodnevn zadac revše složen za smbolčko redočavanje, nr. rasoznavanje uzoraka Majku možemo reoznat u. s euron u mozgu ale svake ms U serj, dakle, al samo neurona Očgledno aralelna obrada! 9. von eumann/burks/goldstne. Podac nstrukcje rograma ohranjen su zajedno u jednoj memorj međusobno se ne razlkuju. Postoj samo jedan tok odataka jedan tok nstrukcja SISD. Sv odac sve oeracje rolaze tm tokom - von eummanovo usko grlo Backus Fzčko, al mentalno ogrančenje.. Umjetne neuronske mreže vs. von eumann. Imlementacja umjetne neuronske mreže Von eumannova računala odlčna su za smbolčk rstu jer se roblem rješavaju algortamsk na sekvencjalnom stroju. Umjetne neuronske mreže su dstrburan araleln sustav. Btne karakterstčne razlke dvju aradgm/arhtektura: Von eumannovo računalo možemo korstt kao emulator neuronske mreže - samo rogramska mlementacja UM. Danas se stražuju druge ogodnje arhtekture za mlementacju A - eta generacja računala. von eumann Unarjed detaljno osujemo algortam kroz korake Samo se reczn odac adekvatno obrađuju Funkconalnost ovs o svakom elementu Ekslctna veza: sematčk objekt - skloov računala A Uč samostalno l s učteljem Podac mogu bt nejasn šum l nezrazt Obrada rezultat ne ovs mnogo o jednom elementu Imlctno znanje teška nterretacja

4 . Umjetna neuronska mreža - defncja. Vrste umjetnh neuronskh mreža U šrem smslu: umjetna relka ljudskog mozga kojom se nastoj smulrat ostuak učenja obrade odataka. Zaravo dosta klmava analogja. euronska mreža sku međusobno ovezanh jednostavnh rocesnh elemenata jednca, čvorova čja se funkconalnost temelj na bološkom neuronu koj služe dstrburanoj aralelnoj obrad odataka.. Prmjena umjetnh neuronskh mreža. Prmjena umjetnh neuronskh mreža Odlčno rješavaju robleme klasfkacje redvđanja sve robleme kod kojh ostoj složena nelnearna veza ulaza zlaza. eke osobtost: Dobre u rocjen nelnearnost. Mogu radt s nejasnm l manjkavm odacma sensor data. Robusne na ogreške u odacma. Rade s velkm brojem varjabl arametara. Prlagodljve okoln. Sosobne učt. ajčešć zadac: Rasoznavanje uzoraka. Obrada slke govora. Problem otmzacje. elnearno uravljanje. Obrada nerecznh neotunh odataka. Smulacje. Prognoza vremenskh serja. Slka okazuje usoredbu razlčth ML ostuaka rema razlčtm zadacma Moustaks. Istče se rmjena A kao klasfkatora.. Učenje umjetne neuronske mreže. Učenje umjetne neuronske mreže Dvje faze rada s A: Faza učenja trenranja Faza obrade odataka skorštavanja, eksloatacje. Učenje teratvan ostuak redočavanja ulaznh rmjera uzoraka, skustva eventualno očekvana zlaza r čemu dolaz do ostunog rlagođavanja težna veza neurona Jedno redočavanje svh uzoraka nazva se eohom Razlkujemo: Pojednačno učenje on-lne za svak rmjer odešavamo faktore Gruno učenje batch cjela eoha u jednoj teracj Znanje o zlazu kao funkcj ulaza ohranjeno je mlctno u težnama veza neurona Dva načna učenja: Učenje s učteljem suervsed learnng ostoje rmjer oblka ulaz, zlaz Učenje bez učtelja unsuervsed learnng zlaz je a ror neoznat

5 . Učenje umjetne neuronske mreže. aš žvčan sustav Sku rmjera za učenje često djelmo na: Sku za učenje služ za teratvno odešavanje težna Sku za testranje rovjeravamo rad mreže Sku za rovjeru konačna rovjera neurona, razlčth vrsta, rasoređen o defnranom rasoredu, svak ovezan s drugh Djelov: soma, dendrt, akson, završn članc Učenje se rovod dok mreža ne daje odgovarajuću točnost obrade odataka uvod se mjera ogreške Pretrenranost A gub oželjno svojstvo generalzacje ostaje stručnjak za odatke z skua za učenje štreber. Umjetn neuron. Umjetn neuron McCulloch-Ptts model 9.: Threshold Logc Unt Analogja: sgnal su numerčke vrjednost, jakost snase osuje težnsk faktor w, tjelo stance je zbrajalo, akson je rjenosna aktvacjska funkcja f net ω ω ω n n θ n X, w -theta o f ω f net net ω ω ω ω ω n n n. Umjetn neuron. Arhtektura mreža Razlčte funkcje dolaze u obzr kao rjenosne funkcje: Moguće arhtekture: ADALIE Sgmodalna jednca Acklčka feedforward Mreža s ovratnom vezom recurrent net Lateralno ovezana mreža rešetkasta

6 . Arhtektura mreža Sadržaj Podvrsta acklčke mreže je slojevta acklčka mreža -ne ostoj sku od tr neurona B, C, D takav da je ulaz na C zlaz z B D, te da je stovremeno zlaz z D sojen na ulaz neurona B. Uvod u neuro-računarstvo Povjesn regled Pravc AI Defncja vrste Prmjena Učenje Žvčan sustav bološk neuron Model neurona vrste Arhtektura mreža nje slojevta! Procesn element Percetron Pravlo ercetrona Prmjer Učenje booleovh funkcja Lnearna odvojvost XOR roblem Všeslojna mreža ercetrona Lnearna regresja Srednja kvadratna ogreška Gradjentn sust LMS algortam Unformno slojevta mreža Potuno sojena mreža. Backroagaton algortam BACKPROPAGATIO algortam nterretacja skrvenog sloja Prmjer uorabe neuronskh mreža Prmjer sustava za rasoznavanje Klasfkacja Klasfkacja Čovjek svakodnevno nerestano obavlja klasfkacju! Postoj sku objekata/uzoraka koj maju određen sku svojstava. Klasfkacja rdjeljvanje nazva/oznaka svakom uzorku z rostora uzoraka. Jedna moguća klasfkacja Domnantno lav lkov Uzorc Prostor uzoraka Domnantno žut lkov Klasfkacja Klasfkacja Druga moguća klasfkacja Može sat Svak uzorak osjeduje određena svojstva boja, oblk, dmenzje,. Klasfkacju čnmo na temelju nekh od svojstava. Uzoraka može bt beskonačno ne možemo unarjed generrat sve uzorke radne klasfkacje čovjek ak dobro generalzra Želmo ostuak kojm bsmo na temelju malog broja oznath uzoraka mogl naučt ravlno klasfcrat nevđene rmjere. e može sat

7 Klasfkacja Klasfkacja Prmjer konceta Dobra tajnca svak objekt ma dva svojstva: Svojstvo Komunkatvnost Svojstvo Snalažljvost Za otrebe računala svojstva treba kvantzrat računalo rad s brojevma. Ocjenjujemo svojstva na skal od do. je najlošja vrjednost. je najbolja vrjednost. Oznake Dobra tajnca ne- Dobra tajnca kodramo: Dobra tajnca e- Dobra tajnca - Prmjer Dobra tajnca Komunkatvnost Snalažljvost Oznaka Kodrano "Dobra tajnca" "Dobra tajnca" ne-"dobra tajnca" - ne-"dobra tajnca" - Kada su ulaz zlaz brojev, za klasfkacju možemo korstt ercetron. ercetron ercetron 9. McCulloch Ptts Percetron. 9. McCulloch Ptts Percetron. ercetron ercetron 9. McCulloch Ptts Percetron. Izlaz računamo u oćem slučaju rema formul: Dvje defncje rjenosne funkcje: Ste, Ste, < Ste -, < Oba oblka korste se odjednako. U rmjerma ćemo korstt :-,. r T r o Ste net Ste w Ste Ste w K w w Ekslctno se uvod: n n [ w L w ] n n M 7

8 ercetron ercetron Kada dolaz do romjene klasfkacje? U našem rmjeru ercetron ma dva ulaza: net w wn n K w Točke koje zadovoljavaju ovu jednadžbu čne grancu! deczjska funkcja Kada mamo dvje značajke svojstva granca je ravac. Vše značajk rezultra herravnnom. Btno je uočt granca je lnearna. Snalažljvost Komunkatvnost Pretostavmo: [ w w w ] [..8] ercetron ercetron U našem rmjeru zlaz računamo rema formul: o Ste [ w w w ] Ste w w w Težnsk faktor Komun. Snal. Suma Izlaz Točan Isravno w w w net osnet t. -.8, DA. -.8,7 DA. -.8, - E. -.8, - E 99. Hebb učt znač mjenjat jakost veza! Potrebno je mjenjat težnske faktore. 98. Rosenblatt: soj Hebbove deje McCulloch-Ptts modela Pravlo Percetrona Ukolko se uzorak klasfcra sravno ne rad korekcju Ukolko se uzorak klasfcra nesravno rmjen korekcju Cklčk uzmaj sve uzorke redom, a ostuak zaustav kada su sv uzorc za redom klasfcran sravno Korekcja: w k w k η t o k ercetron ercetron Učenje ercetrona uz: η. [ w w w ] [..8] Kako se klasfcra nov uzorak [ ]? Ste Ste.7 Kako se klasfcra nov uzorak [ ]? Ste Ste.7 Postuak završava s: [ w w w ] [.9.9.9] Vdmo da je ercetron AUČIO klasfcrat uzorke koje rethodno nje vdo! 8

9 ercetron ercetron Učenje je usjelo jer su razred bl LIEARO RAZDVOJIVI! može naučt neke logčke funkcje I, ILI, E, Komunkatvnost Logčko I Istnu kodramo s Laž kodramo s - w w w Logčko I s M ulaza: w L w w M{ } M 7 Snalažljvost Prmjer ercetron ercetron može naučt neke logčke funkcje I, ILI, E, može naučt neke logčke funkcje I, ILI, E, - - Logčko ILI Istnu kodramo s Laž kodramo s - w w w Logčko ILI s M ulaza: w L w w M M - Logčko E Istnu kodramo s Laž kodramo s - w w Jednostavnje: negacju ostvart korsteć ercetron koj već obavlja neku drugu funkcju tako da težnskom faktoru koj dovod tu varjablu romjenmo redznak! XOR roblem XOR roblem Što je s logčkom funkcjom XOR? je lnearno razdvojvo! - -??? 99. Mnsk Paert Percetrons Percetron nje dobar kada ne može rješt tako jednostavan roblem out XOR elementarne logčke funkcje! Što je s logčkom funkcjom XOR? Treba konstrurat mrežu!

10 XOR roblem XOR roblem Što je s logčkom funkcjom XOR? Treba konstrurat mrežu! Rješenje nje jednoznačno! Kada je ILI nje I ercetron ercetron Što je s logčkom funkcjom XOR? Treba konstrurat mrežu! Povećanjem dmenzonalnost ulaza ostć lnearnu odvojvost trk oznat z kernel machnes! o Prmjer Všeslojna mreža ercetrona Všeslojna mreža ercetrona Za redočavanje složenjh odnosa moramo korstt mrežu od vše međusobno ovezanh ercetrona Prmjer rojektranja A za klasfkacju uzoraka unarjed znane rasodjele Všeslojna mreža ercetrona Všeslojna mreža ercetrona w w w w w w Všeslojna mreža ercetrona Všeslojna mreža ercetrona d c b a Všeslojna mreža ercetrona Všeslojna mreža ercetrona d c b a

11 ercetron Aroksmacja funkcja Problem s mrežama ercetrona jest nemogućnost učenja konvenconalnm ostucma! Rješenje tražmo na drugom mjestu Također vrlo težak roblem vrlo korstan ako se može rješt! ercetron nje rkladan za aroksmacju funkcja zlaz ma samo dvje razne. Jedno moguće rješenje jest z -a zbact nelnearnost! Takav rocesn element nazva se ADALIE. Adalne Adalne Osnovno svojstvo lnearna regresja??? t w t w t w E ε ½ MSE engl. Mean Square Error ε t w ε t w Adalne Adalne de dw d dw w t w t w t e može se uvjek rješavat analtčk Gradjentn sust jedno moguće rješenje d w k w k η E k dw U oćentom slučaju w je vektor umjesto dervacje je Gradjent ½ MSE-a: de we dw d dw ε ovs o SVIM uzorcma - neoželjno E d ε ε dw

12 Adalne Adalne Wdrow-Hoff 9. aroksmacja gradjenta: d we ε k ε k ε k k dw Konačna formula LMS ravlo w k w k η ε k k on-lne zvedba - ojednačno učenje Prmjer Potuno funkconaln ADALIE D ulaza: net wd D wd D L w w ε t t D w w w w D w k k, D D, D L, k Dalje je rča oznata Umjesto skalara vektor LMS: r r r r w k w k η E k w k η ε k k, w w o w w w w w w w w w, w,, w w w w w o o w w w, w,, o w Adalne mreža o w w w o o w o w w, o w w w o wa wb w w w w w w A w w w w w B w w w w,,,, w w Oet občan adalne, Lnearna kombnacja lnearnh kombnacja oet je lnearna kombnacja Trebamo nelnearne rjenosne funkcje! Adalne mreža Često se korst sgmodalna logstčka rjenosna funkcja. Ovakve mreže su unverzaln aroksmator mogu aroksmrat rozvoljnu funkcju s rozvoljnom recznošću. Kolmogorovljev teorem Sadržaj Kolmogorov egzstencjaln teorem 97 kontnurana funkcja f od s varjabl može se rkazat u oblku konačne sume odgovarajućh kontnuranh funkcja g q jedne varjable: s q f,,, s gq[ Ψq ]. Uvod u neuro-računarstvo Povjesn regled Pravc AI Defncja vrste Prmjena Učenje Žvčan sustav bološk neuron Model neurona vrste Arhtektura mreža Procesn element Percetron Pravlo ercetrona Prmjer Učenje booleovh funkcja Lnearna odvojvost XOR roblem Všeslojna mreža ercetrona Lnearna regresja Srednja kvadratna ogreška Gradjentn sust LMS algortam. Backroagaton algortam BACKPROPAGATIO algortam nterretacja skrvenog sloja Prmjer uorabe neuronskh mreža Prmjer sustava za rasoznavanje

13 . BACKPROPAGATIO algortam. BACKPROPAGATIO algortam A s ercetronma može redstavt samo lnearne odnose Kako b mreža mogla redstavt vsoko nelnearne funkcje, rjenosna funkcja rocesnh elemenata mora sama bt nelnearna funkcja Rad gradjentne metode rjenosna funkcja mora bt dervablna Rješenje sgmodalna funkcja Korstmo neuron sa sgmodalnom funkcjom Algortam korst metodu gradjentnog susta kako b mnmzrao nastalu ogrešku Ew na zlazu mreže nad skuom rmjera za učenje D koja ma rvu dervacju df/d f [-f] Kod všeslojne mreže zlazn sloj može sačnjavat vše neurona, a defnramo ogrešku kao. BACKPROPAGATIO algortam. BACKPROPAGATIO algortam Učenje se svod na retražvanje u n-dmenzonalnom rostoru hoteza n ukuan broj težna Površna ogreške Ew nje arabolčka kao kod jednog rocesnog elementa, već sadržava brojne lokalne mnmume Unatoč tome algortam daje dobre rezultate osobto stohastčka varjanta otacja: Incjalzraj težnske faktore slučajne vrjednost Dok nje sunjen uvjet zaustavljanja čn Za svak, t z D čn Izračunaj zlaz o u za svaku jedncu u Za svaku zlaznu jedncu k zračunaj ogrešku δ o o t o k k k k k Za svaku skrvenu jedncu zračunaj ogrešku δ o o h h h ω δ hs s Downstream h s δ k Ugod svak težnsk faktor w j ω ω ω j j j gdje je Kraj Kraj ω ηδ j j j. BACKPROPAGATIO algortam. Interretacja skrvenog sloja ulazn sloj skrven sloj skrven sloj w hs zlazn sloj s, s Pokazalo se da BP ma zanmljvo svojstvo ronalaženja karakterstčnh oblježja ulaznh rmjera koja nsu ekslctno zadana, al su btna za ravlno učenje cljne funkcje Prmjer: mreža 88 koju učmo funkcj f h w hs s, s Downstreamh {s, s } s o s - o s t s -o s s o s - o s t s o s h o h - o h w hs s w hs s h će služt za ugađanje ulaza u h 7 8

14 Interretacja skrvenog sloja.. Prmjer rmjene u medcn Det. Anesthesolog, Unverst of Utah Izlaz z neurona nakon jedne eohe učenja mreže odgovaraju nakon zaokružvanja na cjelobrojnu vrjednost uravo bnarnom kodu za 8 razlčth ulaza Ulaz. Skrven sloj Izlaz Prmjer rmjene u agronomj. 8th Australan Agronom Conference, Toowoomba, 99 Prostorno redvđanje kolčne adalna u Australj Mreža je trenrana s godšnjm odacma od 9. do 97. sakuljenma u 87 meteorološkh ostaja Provjera redvđanja učnjena je na drugh ostaja Ostvarena je zadovoljavajuća točnost redvđanja za 9 ostaja:. Prmjer: Rasoznavanje novčanca Uzorc se rje dovođenja na ulaze A redrocesraju: Razvoj sve češća uoraba A u obrad fzološkh sgnala odataka u odručju anestezologje: Alarmranje: dvje A kontrolraju resratorn sustav acjenta. Jedna otkrva smetnje sustava točnost 9.%, a druga h locra točnost 9%. Lječncma bez A za djagnostcranje smetnje treba sekund, s A samo 7 sekund. Krvn tlak: A obrađuje osclometrčke sgnale s čela acjenta. Kontrola dubne anestezje: redvđanje na temelju dob, težne, ulsa, dsanja krvnog tlaka acjenta. A usješno emulra rodukcjsk sustav s rodukcjskh ravla! EEG: klasfkacja nterretacja uzoraka sgnala. Također otkrvanje neurološkh oremećaja mentalne atologje, nr. šzofrenja, Parknsonova bolest, oremećaj savanja, elesja. Zadatak klasfcranje četr vrste arnath novčanca neovsno o orjentacj Sku rmjera za učenje sačnjava razlčth uzoraka uzorkovanh s slkovna elementa:. Prmjer: Rasoznavanje novčanca Prmjer: Rasoznavanje novčanca Uzorc su u stvar dgtalzrane slke, a će se međusobno razlkovat u ntenztetu odgovarajućh slkovnh elemenata osljedca razlke u stunju strošenost novčance, zgužvanost ara, oštećenost. U rmjeru je koršten generator umjetnh uzoraka koj generra uzorke razlčtog stunja oštećenja u svrhu rovjere rada mreže ugađanja njeznh arametara. Prednost: dostunost velkog broja uzoraka za rovjeru, mogućnost romatranja odzva mreže u ovsnost o romjen samo jednog arametra uzorka, mogućnost defnranja raga tolerancje oštećenh uzoraka. edostac: generran uzorc nsu u otunost stohastčke rrode, generatorom se rjetko mogu obuhvatt sva oblježja ravh uzoraka.

15 . Prmjer: Rasoznavanje novčanca Lteratura Parametr mreže acklčka otuno sojena unformno-slojevta mreža strukture 99, stoa učenja., moment., rovjera nad skuom za testranje svakh eoha Rezultat klasfkacje odgovara neuronu čj je zlaz najveć Mreža nje učena s ant-rmjerma, no međusoban odnos zlaznh vrjednost može oslužt kao mjera ouzdanost klasfkacje Moguće je utvrdt nek rag tolerancje oštećenja uzorka T. M. Mtchell, Machne Learnng. The McGraw-Hll Comanes, Inc., 997. R. S. Mchalsk, I. Bratko, M. Kubat, Machne Learnng And Data Mnng, John Wle & Sons Ltd., 998 P. Pcton, eural etworks. PALGRAVE, 99. B. Dalbelo Bašć, Blješke s redavanja. Fakultet elektrotehnke računarstva, Zagreb, K. Gurne, "Comuters and Smbols versus ets and eurons". Det. Human Scences, Brunel Unverst, Ubrdge, K. Gurne, "Drawng thngs together some ersectves". Det. Human Scences, Brunel Unverst, Ubrdge, D. Mšljenčevć, I. Maršć, Umjetna ntelgencja. Školska knjga, Zagreb, 99. AutomataTheor. Enccloaeda Brtannca Inc., CD-ROM Edton.