Holografická redukovaná reprezentácia v umelej inteligencii a kognitívnej vede
|
|
- Geraldine Franklin
- 5 years ago
- Views:
Transcription
1 Holografická redukovaná reprezentácia v umelej inteligencii a kognitívnej vede Vladimír Kvasnička Ústav aplikovanej informatiky FIIT STU November 2007 priesvitka 1
2 Hologram (Denis Gabor, 1948) priesvitka 2
3 Hologram ako metafora pamäti P. J. van Heerden: A new Optical Method of Storing and Retrieving Informatoin. Applied Optics (1963). D. Gabor: Holographic model of temporal recall. Nature (1968). K. R. Pribram: The Neurophysiology of Remembering. Scientific American (1966). B. B. Murdock: Convolution and Correlation Perception and memory. Perspectives of memory (1979). D. Willshaw: Holography, Associative Memory and Inductive Generalization. Parallel Models of Associative Memory (1981) T. A. Plate: Holographic Reduced Representations. IEEE Transactions on Neural Network (1995). T. A. Plate: Holographic Reduced Representation. Distributed Representation for Cognitive structures (2003). priesvitka 3
4 Základné postuláty holografického prístupu k pamäti Pamäť je v mozgu realizovaná distribuovaným spôsobom (je experimentálne zistené, že jednotlivé položky pamäti nemajú lokalistický charakter, lézie mozgu, Lashleyho experimenty na potkanoch) Graceful degradation of memory ( pôvabná degradácia pamäti) Distribuovaný charakter pamäťových stôp v mozgu. Možnosť implementácie asociatívnej pamäti bez nutnosti prehľadávania priesvitka 4
5 FTP anonymný server obsahuje niekoľko desiatok prác o HRR ftp://math.chtf.stuba.sk/pub/vlado/ DistributedRepresentation/ priesvitka 5
6 Čo je distribuovaná reprezentácia? Distribuovaná reprezentácia poznatkov (vedomostí, koncepcií,...) používa také kódovaniu, ktoré je založené na neurónových sieťach - neurónové aktivity sú interpretované ako neurálalne koreláty daných poznatkov. Kognitívna aktivita spočíva v časovom slede distribuovaných reprezentácií, pričom existujú pravidlá, ako meniť vybranú reprezentáciu na inú reprezentáciu. Tento prístup poskytuje všeobecnú metódu, ktorá kombinuje efektívnosť symbolického prístupu s robustnosťou, učením a schopnosťou generalizovať (indukciou) subsymbolického prístupu. priesvitka 6
7 Význam holografickej distribuovanej reprezentácie pre umelú inteligenciu a kognitívnu vedu Vzťah medzi symbolickým a subsymbolickým prístupom, alebo medzi kognitivizmom a konekcionizmom. Holografická distribuovaná reprezentácia ponúka určité kompromisné riešenie na polceste medzi kognitivizmom a konekcionizmom. Pre konekcionizmus je endless problémom interpretáciu koncepcie symbolu, ktorá v kognitivistickom prístupe hrá centrálnu úlohu. Holografická distribuovaná reprezentácia symboly (koncepcie) vyjadruje pomocou mnohorozmerných konceptuálnych vektorov. Operácie nad symbolmi sú nahradené numerickými operáciami nad konceptuálnymi vektormi. Jednoduché modelovanie asociačnej pamäti (chunking effect) priesvitka 7
8 Prechod od neurónovej siete k distribuovanej reprezentácii... distribuovaná reprezentácia neurónová sieť priesvitka 8
9 Konceptuálne vektory (1) n-rozmerny vektor a a n R = ( ) a,a,...,a 0 2 n 1 (2) náhodne generovaný 1 ai = N 0, i 01,,...,n 1 n { } priesvitka 9
10 Cirkulárna konvolúcia n n n : R R R c = a b b a c = a b + ab + a b c = a b + ab + a b c = a b + ab + a b c 2 c 0 c 1 priesvitka 10
11 n 1 c = a b i =,,...,n i j i j j= 0 [ ] ( 01 1 ) [ k] = k mod n Cirkulárna konvolúcia spĺňa tieto vlastnosti: 1. a b= b a 2. ( a b) c = a ( b c) a α b+βc = α a b + β a c 3. ( ) ( ) ( ) 4. 1 a = a 1 = ( 10,,..., 0) ( ) 5. a -1 a=1 (pre circ( ) 0 a ) priesvitka 11
12 Jednoduchá implementácia konvolúcie vyžaduje výpočet n skalárnych súčinov 2 on algoritmus. vektora b s vektorom a, tj. táto naivná implementácia produkuje ( ) Implementácia konvolúcie pomocou rýchlej Fourierovej transformácie (FFT) 1 1 c = F Fa Fb = F Fa Fb n n znižuje časovú náročnosť na o( nlog ( n )). (( ) ( )) diag ( )( ) ( ) priesvitka 12
13 matrix convolution time ( sec ) dimension FFT convolution priesvitka 13
14 Unárna operácia involúcia ( ) : R n R n ( ) b = a = a,a,...,a,a [ 0] [ 1] [ n+ 2] [ n+ 1] ( a, a, a,..., a, a )* =( a, a, a,..., a, a) n-2 n-1 0 n-1 n Involúcia c* je približne rovná inverznému vektoru c -1 c c 1 priesvitka 14
15 n 1 n 1 ( ) * c c = cc k [ i k] = c[ k] c [ i k] i k= 0 k= 0 ( for i 0) c c = = n 1 c c i k = 0 [ ] [ ] ( for > 0 k i k ) A histogram plot of single components of c c, where c is randomly generated conceptual vector for n= priesvitka 15
16 Rekonštrukcia x z c x x ( ) ( ) 1 1 = c c x = c c x 1 = c c x c c x pretože konvolúcia c* s vektorom c x produkuje vektor x, ktorý je blízky pôvodnému vektoru x, x x, x0 1 x1+η 1 x = = x+ ( c c) η... xn 1+ηn 1 kde η je náhodný šum s normálnou distribúciou s nulovou strednou hodnotou a štandardnou odchýlkou podstatne menšou ako x. priesvitka 16
17 1,0 frekvencia výskytu 0,5 0,0 0,4 0,5 0,6 0,7 0,8 0,9 1,0 prekryv( x,x) Histogram prekryvov medzi vektormi x a x (dimenzie n=1000) je s najväčšou frekvenciou okolo 0.7, z čoho vyplýva, že vektory x a x sú si podobné. priesvitka 17
18 Asociatívna pamäť { ; 12 } A = c x i =,,...,m t = c1 x cm x m i i asociačná narážka predmet pamäťová stopa x = c t prekryv = x x max x A x x Proces upratovania (clean-up) nájde pre asociatívnu narážku (cue) vektor c A = c x ; i = 12,,...,m. priradený predmet x z množiny { } i i priesvitka 18
19 Ilustračný príklad 10 párov vektorov c a x (dĺžky n=4000) je náhodne generovaných pomocou N(0,1/n), stopa t pre všetkých 10 párov je zostrojená, pre 20 pokusov aplikujeme s 50% pravdepodobnosťou buď narážku c z A alebo použijeme náhodne generovaný vektor pomocou N(0,1/n), potom x = c t je vypočítaný, súhlas medzi x a x z A je určený pomocou prekryvu x x prekryv = max x A xx priesvitka 19
20 # prekryv index narážky index výstupu hodnota prekryvu je menšia ako práhová hodnota priesvitka 20
21 Alternatívna interpretácia asociatívnej pamäti holografická transformácia { a b ; 12 } A = i =,,...,m train i i Hladáme takú transformáciu, ktorá vyhovuje podmienke bi ai T i { 12,,...,m} Približný tvar transformácie T je m T = a b a T b i= 1 i i i i i { 12,,...,m} a 1 b 1 a 2 b 2 a 3 b a m b m = f ( ) b a bi T a i i i look-up table funkcia transformácia priesvitka 21
22 0,6 Aditívna pamäť t m = x i= 1 i 0,4 0,2 0, ,2 items included in addition memory items not included in addition memory priesvitka 22
23 Aký je rozdiel medzi asociatívnou a aditívnou pamäťou Vyvolávanie pamäťovej položky pre asociatívnu pamäť je založená na použití narážky (cue). Asociatívna pamäť t obsahuje položku x, ktorá je asociovaná s narážkou c, Rozhodneme sa podľa veľkosti prekryvu ( xx c t) prekryv, = >ϑ Vyvolávanie pamäťovej položky pre aditívnu pamäť je založená na použití samotnej položky. Aditívna pamäť t obsahuje položku x, ktorá je asociovaná s narážkou c, Rozhodneme sa podľa veľkosti prekryvu ( xx x t) prekryv, = >ϑ priesvitka 23
24 Postupnosť položiek (koncepcií) postupnosť = a b c d e f t = a a b a b c a b c d + a b c d e+ a b c d e f 1. krok: = upratovanie( ) Rekonštrukcia a t 0, t1:= t0 a, t 1:= a * t1, 2. krok: b = upratovanie( t 1), t2 := t1 a b, t 2 : = ( a b) t2, 3. krok: c = upratovanie( t 2 ), t3:= t2 a b c, t 3 : = ( a b c) t3,.. priesvitka 24
25 Priebeh prekryvov pri rekonštrukcii pamäťového vektora t 0 postupnosti obsahujúcej 6 položiek (n=4000) strength stack item priesvitka 25
26 Pozorovanie Rýchla degradácia rekonštrukcie pamäťového vektora t0 = a+ a b+ a b c +... Približne 6 položiek je spoľahlivo rekonštruktovateľných Tento prístup môžeme pokladať za matematický model krátkodobej pamäti, ktorá je schopná si zapamätať približne 6-7 položiek (Miller, 1956). G. A. Miller, Human memory and the storage of information. IEEE Trans. Info. Theory. 2 (1956), priesvitka 26
27 Agregovaná pamäť Agregovaná pamäť pomáha prekonať problémy s rýchlo degradáciou rekonštrukcie pamäťového vektora postupnosti viac ako 6 položiek ( i j ) S = S S S S... S S =, i j for Príklad S1 S = { a,b,c,d,e, f,g,h} = { a,b,c}, S = { d,e}, S = { f }, and S = { g,h} priesvitka 27
28 s b a s 1 d s e 3 f s 2 h c g i s 4 s = a+ a b+ a b c, s = d + d e, s = f, s = g+ g h t = s1 + s1 s2 + s1 s2 s3 + s1 s2 s3 s 4 priesvitka 28
29 Rekonštrukcia je dvojkrokový proces: 1. krok rekonštrukcia agregátov 2. krok zistené agregáty sú ďalej rekonštruktované na jednotlivé položky 1,0 abc a d f g 0,8 de b e h strength 0,6 0,4 f gh c 0,2 0, aggregate of chunks ( abc,de,f,gh) 1st chunk ( abc) 2nd chunk 4th chunk ( cde) ( gh) 3rd chunk () f priesvitka 29
30 Reprezentácia predikátov Študujme predikát dvoch argumentov P(x,y) špecifikovaný ako funkcia ( : : ) function P x variable ; y variable 1 2 Táto funkcia je holograficky reprezentovaná pomocou asociatívneho pamäťového vektora takto t = function P + variable x + variable y s narážkovými (cue) vektormi function, variable 1, a variable 2. V mnohých prípadoch budeme používať zjednodušený tvar reprezentácie t = P + variable x + variable y priesvitka 30
31 Reprezentácia vnorených (nested) predikátov ( ) Študujme príklad Q x,p( y,z ) Reprezentácia tohto vnoreného predikátu má tento tvar, kde druhý argument predikátu Q je predikát P(x,y). ( : 1 : 2) ( : : ) function Q x variable ; u variable function P y variable ; z variable 3 4 t1 = Q + variable1 x + variable2 u t = P + variable y + variable z ( ) t = Q + variable x + variable P + variable y + variable z = Q + variable x + variable P + 1 variable variable y + variable variable z priesvitka 31
32 Usudzovanie modus ponens a modus tollens p q p q modus ponens : p, modus tollens : q q p Holografická reprezentácia implikácie p q má tvar t = p q op impl + var + 1 p var2 q Pomocou transformačného vektora T = var1 p p q + var2 q q p zostrojíme holografickú reprezentáciu modus ponens a modus tollens p T tp q q a p q q T t p priesvitka 32
33 A similarity between geometric figures priesvitka 33
34 Holografická reprezentácia jednotlivých prípadov t = ver + ver _ var lg x + ver _ var lg y 1, xy, 1 2 t = hor + hor _ var lg x + hor _ var lg y t 2, xy, 1 2 3, xy, ver + ver _ var1 lg x + ver _ var2 sm y = ver + ver _ var1 sm x + ver _ var2 lg y hor + hor _ var1 lg x + hor _ var2 sm y t4, xy, = hor + hor _ var1 sm x + hor _ var2 lg y t = ver + ver _ var sm x + ver _ var sm y 5, xy, 1 2 t = hor + hor _ var sm x + hor _ var sm y 6, xy, 1 2 ( ) = ( tt ) similarity X,X overlap, priesvitka 34
35 priesvitka 35
36 Závery Holografická redukovaná reprezentácia ponúka nové nekonvenčné riešenie jedného zo základných problémov umelej inteligencie a kognitívnej vedy, ktorý spočíva v distribuovanom kódovaní štruktúrovanej informácie (postupnosť znakov, vnorené relačné štruktúry, a pod.). Pomocou holografickej distribuovanej reprezentácie môžeme modelovať rôzne typy asociatívnej pamäti, ktoré sú reprezentované konceptuálnym vektorom a taktiež dekódovať pamäťový vektor. Proces agregácie vektorov umožňuje prekonať ťažkosti rýchlej degradácie rekognoskácie pamäťového vektora. priesvitka 36
37 Holografická redukovaná reprezentácia umožňuje hľadať podobnosť medzi dvoma štruktúrovanými konceptami pomocou jednoduchej algebraickej operácie skalárneho súčinu medzi ich distribuovanými reprezentáciami. Táto skutočnosť môže byť veľmi užitočnou pre modelovanie procesov prehľadávania pamäti na základe podobnosti. Holografická redukovaná reprezentácia môže byť taktiež použitá k modelovaniu procesov usudzovania. priesvitka 37
Maticové algoritmy I maticová algebra operácie nad maticami súčin matíc
Maticové algoritmy I maticová algebra operácie nad maticami súčin matíc priesvitka Maurits Cornelis Escher (898-97) Ascending and Descending, 960, Lithograph priesvitka Matice V mnohých prípadoch dáta
More informationADM a logika. 4. prednáška. Výroková logika II, logický a sémantický dôsledok, teória a model, korektnosť a úplnosť
ADM a logika 4. prednáška Výroková logika II, logický a sémantický dôsledok, teória a model, korektnosť a úplnosť 1 Odvodzovanie formúl výrokovej logiky, logický dôsledok, syntaktický prístup Logický dôsledok
More information2. prednáška Logické neuróny a neurónové siete
2. prednáška Logické neuróny a neurónové siete priesvitka: Mozog a neurónové siete Metafora ľudského mozgu hrá dôležitú úlohu v modernej informatike. Pomocou tejto metafory boli navrhnuté nové paralelné
More informationIng. Tomasz Kanik. doc. RNDr. Štefan Peško, CSc.
Ing. Tomasz Kanik Školiteľ: doc. RNDr. Štefan Peško, CSc. Pracovisko: Študijný program: KMMOA, FRI, ŽU 9.2.9 Aplikovaná informatika 1 identifikácia problémovej skupiny pacientov, zlepšenie kvality rozhodovacích
More informationPrednáška 3. Optimalizačné metódy pre funkcie n-premenných. Študujme reálnu funkciu n-premenných. f: R R
Prednáška 3 Optimalizačné metódy pre funkcie n-premenných Študujme reálnu funkciu n-premenných n f: R R Našou úlohou bude nájsť také x opt R n, pre ktoré má funkcia f minimum x opt = arg min ( f x) Túto
More informationKapitola S5. Skrutkovica na rotačnej ploche
Kapitola S5 Skrutkovica na rotačnej ploche Nech je rotačná plocha určená osou rotácie o a meridiánom m. Skrutkový pohyb je pohyb zložený z rovnomerného rotačného pohybu okolo osi o a z rovnomerného translačného
More informationQuiz 1. Directions: Show all of your work and justify all of your answers.
Quiz 1 1. Let p and q be the following statements. p : Maxwell is a mathematics major. q : Maxwell is a chemistry major. (1) a. Write each of the following in symbolic form using logical connectives. i.
More informationReview 1. Andreas Klappenecker
Review 1 Andreas Klappenecker Summary Propositional Logic, Chapter 1 Predicate Logic, Chapter 1 Proofs, Chapter 1 Sets, Chapter 2 Functions, Chapter 2 Sequences and Sums, Chapter 2 Asymptotic Notations,
More informationA thesis submitted to the. School of Computing. in conformity with the requirements for. the degree of Master of Science. Queen s University
ADVANCING THE THEORY AND UTILITY OF HOLOGRAPHIC REDUCED REPRESENTATIONS by MATTHEW ALEXANDER KELLY A thesis submitted to the School of Computing in conformity with the requirements for the degree of Master
More informationHolography, Associative Memory, and Inductive General ization
Holography, Associative Memory, and Inductive General ization David Willshaw National Institute for Medical Research, United Kingdom 3.1. INTRODUCTION In this chapter I review the work on the theory of
More informationMetódy vol nej optimalizácie
Matematické programovanie Metódy vol nej optimalizácie p. 1/35 Informácie o predmete Informácie o predmete p. 2/35 Informácie o predmete METÓDY VOL NEJ OPTIMALIZÁCIE Prednášajúca: M. Trnovská (M 267) Cvičiaci:
More informationSegmentace textury. Jan Kybic
Segmentace textury Případová studie Jan Kybic Zadání Mikroskopický obrázek segmentujte do tříd: Příčná vlákna Podélná vlákna Matrice Trhliny Zvolená metoda Deskriptorový popis Učení s učitelem ML klasifikátor
More informationVYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY
VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY FAKULTA INFORMAČNÍCH TECHNOLOGIÍ FACULTY OF INFORMATION TECHNOLOGY ÚSTAV POČÍTAČOVÝCH SYSTÉMŮ DEPARTMENT OF COMPUTER SYSTEMS AUTOMATIZACE VERIFIKACE
More informationTeória grafov. RNDr. Milan Stacho, PhD.
Teória grafov RNDr. Milan Stacho, PhD. Literatúra Plesník: Grafové algoritmy, Veda Bratislava 1983 Sedláček: Úvod do teórie grafů, Academia Praha 1981 Bosák: Grafy a ich aplikácie, Alfa Bratislava 1980
More informationGeometric Analogue of Holographic Reduced Representations
Geometric Analogue of Holographic Reduced Representations Agnieszka Patyk Ph.D. Supervisor: prof. Marek Czachor Faculty of Applied Physics and Mathematics, Gdańsk University of Technology, Poland and Centrum
More informationThis is a repository copy of Improving the associative rule chaining architecture.
This is a repository copy of Improving the associative rule chaining architecture. White Rose Research Online URL for this paper: http://eprints.whiterose.ac.uk/75674/ Version: Accepted Version Book Section:
More informationExtending the Associative Rule Chaining Architecture for Multiple Arity Rules
Extending the Associative Rule Chaining Architecture for Multiple Arity Rules Nathan Burles, James Austin, and Simon O Keefe Advanced Computer Architectures Group Department of Computer Science University
More informationDISCRETE MATH: FINAL REVIEW
DISCRETE MATH: FINAL REVIEW DR. DANIEL FREEMAN 1) a. Does 3 = {3}? b. Is 3 {3}? c. Is 3 {3}? c. Is {3} {3}? c. Is {3} {3}? d. Does {3} = {3, 3, 3, 3}? e. Is {x Z x > 0} {x R x > 0}? 1. Chapter 1 review
More informationErrors-in-variables models
Univerzita Karlova v Praze Matematicko-fyzikální fakulta BAKALÁŘSKÁ PRÁCE Ida Fürjesová Errors-in-variables models Katedra pravděpodobnosti a matematické statistiky Vedoucí bakalářské práce: RNDr. Michal
More informationFUZZY-NEURO ALGORITMY MODELOVANIA NELINEÁRNYCH PROCESOV V DOPRAVE
Slovenská technická univerzita v Bratislave FAKULTA INFORMATIKY A INFORMAČNÝCH TECHNOLÓGIÍ FIIT-5212-35461 Jozef Macho FUZZY-NEURO ALGORITMY MODELOVANIA NELINEÁRNYCH PROCESOV V DOPRAVE Bakalárska práca
More informationTECHNICKÁ UNIVERZITA V KOŠICIACH Fakulta elektrotechniky a informatiky
TECHNICKÁ UNIVERZITA V KOŠICIACH Fakulta elektrotechniky a informatiky Prof.Ing.Štefan HUDÁK, DrSc. TEORETICKÁ INFORMATIKA: Katedra počítačov a informatiky FEI TU November 2002 2 Obsah 1 Algebra algoritmov
More informationPSEUDOINVERZNÁ MATICA
PSEUDOINVERZNÁ MATICA Jozef Fecenko, Michal Páleš Abstrakt Cieľom príspevku je podať základnú informácie o pseudoinverznej matici k danej matici. Ukázať, že bázický rozklad matice na súčin matíc je skeletným
More informationOdhady veľkosti pokrytí náhodne indukovaných podgrafov n-rozmernej hyperkocky
KATEDRA INFORMATIKY FAKULTA MATEMATIKY FYZIKY A INFORMATIKY UNIVERZITA KOMENSKÉHO Odhady veľkosti pokrytí náhodne indukovaných podgrafov nrozmernej hyperkocky Diplomová práca Bc. Ján Kliman študijný odbor:
More informationNeurónové siete v C# Neural networks in C# Michal Pavlech
Neurónové siete v C# Neural networks in C# Michal Pavlech Diplomová práce 2009 ABSTRAKT Hlavným cieľom tejto práce je vytvoriť knižnicu na vytváranie a prácu s umelými neurónovými sieťami v jazyku C#.
More informationCOT3100 SI Final Exam Review
1 Symbols COT3100 SI Final Exam Review Jarrett Wendt Spring 2018 You ve learned a plethora of new Mathematical symbols this semester. Let s see if you know them all and what they re used for. How many
More informationLarge Patterns Make Great Symbols: An Example of Learning from Example
Large Patterns Make Great Symbols: An Example of Learning from Example Pentti Kanerva RWCP 1 Theoretical Foundation SICS 2 Laboratory SICS, Box 1263, SE-164 29 Kista, Sweden e-mail: kanerva@sics.se Abstract
More informationCSC 125 :: Final Exam May 3 & 5, 2010
CSC 125 :: Final Exam May 3 & 5, 2010 Name KEY (1 5) Complete the truth tables below: p Q p q p q p q p q p q T T T T F T T T F F T T F F F T F T T T F F F F F F T T 6-15. Match the following logical equivalences
More informationAlgoritmizácia Elmanovej rekuretnej neurónovej siete
Algoritmizácia Elmanovej rekuretnej neurónovej siete Vladimír Kvasnička ÚAI FIIT STU 1. Diagramatická reprezentácia Elanovej rekurentnej neurónovej siete Diagramatická rereprezentácia Elamovej neurónovej
More informationSymbolic vs. subsymbolic representation in cognitive science and artificial intelligence Vladimír Kvasnička FIIT STU.
Symbolic vs. subsymbolic representation in cognitive science and artificial intelligence Vladimír Kvasnička FIIT STU Transparency 1 1. Classical (symbolic) artificial intelligence Basic problem of classical
More informationCSCE 222 Discrete Structures for Computing. Predicate Logic. Dr. Hyunyoung Lee. !!!!! Based on slides by Andreas Klappenecker
CSCE 222 Discrete Structures for Computing Predicate Logic Dr. Hyunyoung Lee Based on slides by Andreas Klappenecker 1 Predicates A function P from a set D to the set Prop of propositions is called a predicate.
More informationPre-Calculus Team Questions Florida Regional Competition March C = ( )
Florida Regional Competition March 08. Given: sin ( ) sin α = for 0 < α
More informationDeductive rules in holographic reduced representation
Neurocomputing 69 (2006) 2127 2139 www.elsevier.com/locate/neucom Deductive rules in holographic reduced representation Vladimı r Kvasnicˇka, Jirˇı Pospı chal Institute of Applied Informatics, Faculty
More informationFormulas to remember
Complex numbers Let z = x + iy be a complex number The conjugate z = x iy Formulas to remember The real part Re(z) = x = z+z The imaginary part Im(z) = y = z z i The norm z = zz = x + y The reciprocal
More informationModule 3. Convolution. Aim
Module Convolution Digital Signal Processing. Slide 4. Aim How to perform convolution in real-time systems efficiently? Is convolution in time domain equivalent to multiplication of the transformed sequence?
More information1 Vektory. 1.1 Definovanie vektorov. Vektor = jednorozmerné pole. explicitným vymenovaním zoznamu prvkov
1 Vektory Vektor = jednorozmerné pole Definovanie je možné viacerými spôsobmi: explicitným vymenovaním zoznamu prvkov vygenerovaním pomocou zabudovaných matlabovských funkcií načítaním externého súboru
More informationWhat is the decimal (base 10) representation of the binary number ? Show your work and place your final answer in the box.
Question 1. [10 marks] Part (a) [2 marks] What is the decimal (base 10) representation of the binary number 110101? Show your work and place your final answer in the box. 2 0 + 2 2 + 2 4 + 2 5 = 1 + 4
More informationAnalýza multispektrálnych dát z konfokálnej mikroskopie. DIPLOMOVÁ PRÁCA
Analýza multispektrálnych dát z konfokálnej mikroskopie. DIPLOMOVÁ PRÁCA Kamil Paulíny UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY FYZIKY A INFORMATIKY KATEDRA APLIKOVANEJ INFORMATIKY Študijný
More informationUNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY. Robustné metódy vo faktorovej analýze
UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY Robustné metódy vo faktorovej analýze DIPLOMOVÁ PRÁCA Bratislava 2013 Bc. Zuzana Kuižová UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA
More informationKompresia dát a jej použitie
Kompresia dát a jej použitie alebo Veľa muziky na malom diskovom priestore Záverečná práca Peter Vook Univerzita Karlova v Praze Matematicko-fyzikální fakulta 0 1 Reálna situácia alebo Zo života Anička
More informationSLOVENSKÁ TECHNICKÁ UNIVERZITA V BRATISLAVE FAKULTA CHEMICKEJ A POTRAVINÁRSKEJ TECHNOLÓGIE ÚSTAV INFORMATIZÁCIE, AUTOMATIZÁCIE A MATEMATIKY
SLOVENSKÁ TECHNICKÁ UNIVERZITA V BRATISLAVE FAKULTA CHEMICKEJ A POTRAVINÁRSKEJ TECHNOLÓGIE ÚSTAV INFORMATIZÁCIE, AUTOMATIZÁCIE A MATEMATIKY OPTIMÁLNE RIADENIE PROCESOV BAKALARÁSKA PRÁCA FCHPT-5415-17457
More informationUsing Variable Threshold to Increase Capacity in a Feedback Neural Network
Using Variable Threshold to Increase Capacity in a Feedback Neural Network Praveen Kuruvada Abstract: The article presents new results on the use of variable thresholds to increase the capacity of a feedback
More informationUNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY REKURENTNÉ POSTUPNOSTI
UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY Evidenčné číslo: 74b93af3-8dd5-43d9-b3f2-05523e0ba177 REKURENTNÉ POSTUPNOSTI 2011 András Varga UNIVERZITA KOMENSKÉHO V BRATISLAVE
More informationZákladné predpoklady. Linguistica ONLINE. Published: November 22,
Linguistica ONLINE. Published: November 22, 2012 http://www.phil.muni.cz/linguistica/art/kramar/kra-001.pdf ISSN 1801-5336 POTREBUJÚ KOGNITÍVNE VEDY ROBUSTNÚ TEÓRIU PRAVDY? Robert Kramár (Katedra filozofie,
More informationChapter 5 Vocabulary:
Geometry Week 11 ch. 5 review sec. 6.3 ch. 5 review Chapter 5 Vocabulary: biconditional conclusion conditional conjunction connective contrapositive converse deductive reasoning disjunction existential
More informationModely, metódy a algoritmy pre analýzu longitudinálnych dát
Vedecká rada Fakulty matematiky, fyziky a informatiky Univerzity Komenského v Bratislave Mgr Gejza Wimmer Autoreferát dizertačnej práce Modely, metódy a algoritmy pre analýzu longitudinálnych dát pre získanie
More informationLucia Fuchsová Charakteristiky pravděpodobnostních
Univerzita Karlova v Praze Matematicko-fyzikální fakulta BAKALÁŘSKÁ PRÁCE Lucia Fuchsová Charakteristiky pravděpodobnostních předpovědí Katedra pravděpodobnosti a matematické statistiky Vedoucí bakalářské
More informationZVUKOVÝ EFEKT CHORUS S POUŽITÍM DSP
FAKULTA ELEKTROTECHNIKY A INFORMATIKY STU V BRATISLAVE Bc. Milan Slama ZVUKOVÝ EFEKT CHORUS S POUŽITÍM DSP Diplomová práca FEI-5404-22390 Študijný program: Rádioelektronika Pracovisko: Katedra rádioelektroniky
More informationCSE 1400 Applied Discrete Mathematics Proofs
CSE 1400 Applied Discrete Mathematics Proofs Department of Computer Sciences College of Engineering Florida Tech Fall 2011 Axioms 1 Logical Axioms 2 Models 2 Number Theory 3 Graph Theory 4 Set Theory 4
More informationThirty-Ninth Annual Columbus State Invitational Mathematics Tournament
Thirty-Ninth Annual Columbus State Invitational Mathematics Tournament Sponsored by The Columbus State University Department of Mathematics and Philosophy March nd, 0 ************************* Solutions
More informationa Practical Theory of Programming
a Practical Theory of Programming 2018-6-22 edition Eric C.R. Hehner Department of Computer Science University of Toronto Toronto ON M5S 2E4 Canada The first edition of this book was published by Springer-Verlag
More informationNotation for Logical Operators:
Notation for Logical Operators: always true always false... and...... or... if... then...... if-and-only-if... x:x p(x) x:x p(x) for all x of type X, p(x) there exists an x of type X, s.t. p(x) = is equal
More informationGENEROVANIE STABILNÝCH MODELOV VYUŽÍVANÍM CUDA TECHNOLÓGIE
UNIVERZITA KOMENSKÉHO FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY KATEDRA INFORMATIKY GENEROVANIE STABILNÝCH MODELOV VYUŽÍVANÍM CUDA TECHNOLÓGIE BAKALÁRSKA PRÁCA PETER CIEKER Štúdijný odbor : Vedúci : 9.2.1
More informationarxiv:cs.ai/ v2 23 Oct 2006
On Geometric Algebra representation of Binary Spatter Codes Diederik Aerts 1, Marek Czachor 1,2, and Bart De Moor 3 1 Centrum Leo Apostel (CLEA) and Foundations of the Exact Sciences (FUND) Brussels Free
More informationROZPOZNÁVANIE FONÉM ČÍSIEL SLOVENSKÉHO JAZYKA NEURÓNOVOU SIEŤOU VOJTECH SLOVIK
ROZPOZNÁVANIE FONÉM ČÍSIEL SLOVENSKÉHO JAZYKA NEURÓNOVOU SIEŤOU VOJTECH SLOVIK 2007 UNIVERZITA KOMENSKÉHO V BRATISLAVE FAKULTA MATEMATIKY, FYZIKY A INFORMATIKY KATEDRA APLIKOVANEJ INFORMATIKY ROZPOZNÁVANIE
More informationDiscrete Mathematical Structures: Theory and Applications
Chapter 1: Foundations: Sets, Logic, and Algorithms Discrete Mathematical Structures: Theory and Applications Learning Objectives Learn about sets Explore various operations on sets Become familiar with
More information1. Consider the conditional E = p q r. Use de Morgan s laws to write simplified versions of the following : The negation of E : 5 points
Introduction to Discrete Mathematics 3450:208 Test 1 1. Consider the conditional E = p q r. Use de Morgan s laws to write simplified versions of the following : The negation of E : The inverse of E : The
More information10. Hidden Markov Models (HMM) for Speech Processing. (some slides taken from Glass and Zue course)
10. Hidden Markov Models (HMM) for Speech Processing (some slides taken from Glass and Zue course) Definition of an HMM The HMM are powerful statistical methods to characterize the observed samples of
More informationComputational Intelligence Winter Term 2017/18
Computational Intelligence Winter Term 2017/18 Prof. Dr. Günter Rudolph Lehrstuhl für Algorithm Engineering (LS 11) Fakultät für Informatik TU Dortmund Plan for Today Fuzzy relations Fuzzy logic Linguistic
More informationReification of Boolean Logic
526 U1180 neural networks 1 Chapter 1 Reification of Boolean Logic The modern era of neural networks began with the pioneer work of McCulloch and Pitts (1943). McCulloch was a psychiatrist and neuroanatomist;
More informationarxiv: v1 [cs.ai] 30 Mar 2010
Geometric Algebra Model of Distributed Representations arxiv:1003.5899v1 [cs.ai] 30 Mar 2010 Agnieszka Patyk Abstract Formalism based on GA is an alternative to distributed representation models developed
More informationLogic for Computer Science - Week 5 Natural Deduction
Logic for Computer Science - Week 5 Natural Deduction Ștefan Ciobâcă November 30, 2017 1 An Alternative View of Implication and Double Implication So far, we have understood as a shorthand of However,
More informationBrownian Motion. An Undergraduate Introduction to Financial Mathematics. J. Robert Buchanan. J. Robert Buchanan Brownian Motion
Brownian Motion An Undergraduate Introduction to Financial Mathematics J. Robert Buchanan 2010 Background We have already seen that the limiting behavior of a discrete random walk yields a derivation of
More informationNeviem ci vam Jirko spominal, ale tesne po novom roku som mu poslal uz jeden hotovy clanok ktory este nebol publikovany. Prikladam ho v prilohe.
Dobry den pan profesor. Neviem ci vam Jirko spominal, ale tesne po novom roku som mu poslal uz jeden hotovy clanok ktory este nebol publikovany. Prikladam ho v prilohe. Ma nazov: Pouzitie optimalizovanej
More informationAMTH140 Trimester Question 1. [8 marks] Answer
Question 1 Let A B = {(1, 1), (2, 2), (3, 1), (3, 2), (1, 2), (1, 4), (2, 1), (2, 4), (3, 4)}. Find the power set of B, P(B). The set B = {1, 2, 4}. Then P(B) = {, {1}, {2}, {4}, {1, 2}, {1, 4}, {2, 4},
More informationRadka Sabolová Znaménkový test
Univerzita Karlova v Praze Matematicko-fyzikální fakulta BAKALÁŘSKÁ PRÁCE Radka Sabolová Znaménkový test Katedra pravděpodobnosti a matematické statistiky Vedoucí bakalářské práce: Mgr. Martin Schindler
More informationCompare the growth rate of functions
Compare the growth rate of functions We have two algorithms A 1 and A 2 for solving the same problem, with runtime functions T 1 (n) and T 2 (n), respectively. Which algorithm is more efficient? We compare
More informationChapter 4. Combinational: Circuits with logic gates whose outputs depend on the present combination of the inputs. elements. Dr.
Chapter 4 Dr. Panos Nasiopoulos Combinational: Circuits with logic gates whose outputs depend on the present combination of the inputs. Sequential: In addition, they include storage elements Combinational
More informationUsing a Hopfield Network: A Nuts and Bolts Approach
Using a Hopfield Network: A Nuts and Bolts Approach November 4, 2013 Gershon Wolfe, Ph.D. Hopfield Model as Applied to Classification Hopfield network Training the network Updating nodes Sequencing of
More informationPre-Regional Mathematical Olympiad Solution 2017
Pre-Regional Mathematical Olympiad Solution 07 Time:.5 hours. Maximum Marks: 50 [Each Question carries 5 marks]. How many positive integers less than 000 have the property that the sum of the digits of
More informationPredicate Logic. Andreas Klappenecker
Predicate Logic Andreas Klappenecker Predicates A function P from a set D to the set Prop of propositions is called a predicate. The set D is called the domain of P. Example Let D=Z be the set of integers.
More informationA matrix over a field F is a rectangular array of elements from F. The symbol
Chapter MATRICES Matrix arithmetic A matrix over a field F is a rectangular array of elements from F The symbol M m n (F ) denotes the collection of all m n matrices over F Matrices will usually be denoted
More informationReview 3. Andreas Klappenecker
Review 3 Andreas Klappenecker Final Exam Friday, May 4, 2012, starting at 12:30pm, usual classroom Topics Topic Reading Algorithms and their Complexity Chapter 3 Logic and Proofs Chapter 1 Logic and Proofs
More informationEECS 126 Probability and Random Processes University of California, Berkeley: Fall 2014 Kannan Ramchandran November 13, 2014.
EECS 126 Probability and Random Processes University of California, Berkeley: Fall 2014 Kannan Ramchandran November 13, 2014 Midterm Exam 2 Last name First name SID Rules. DO NOT open the exam until instructed
More informationBobby Hunt, Mariappan S. Nadar, Paul Keller, Eric VonColln, and Anupam Goyal III. ASSOCIATIVE RECALL BY A POLYNOMIAL MAPPING
Synthesis of a Nonrecurrent Associative Memory Model Based on a Nonlinear Transformation in the Spectral Domain p. 1 Bobby Hunt, Mariappan S. Nadar, Paul Keller, Eric VonColln, Anupam Goyal Abstract -
More informationSatisfiability Modulo Theories (SMT)
CS510 Software Engineering Satisfiability Modulo Theories (SMT) Slides modified from those by Aarti Gupta Textbook: The Calculus of Computation by A. Bradley and Z. Manna 1 Satisfiability Modulo Theory
More informationCHAPTER 10 VECTORS POINTS TO REMEMBER
For more important questions visit : www4onocom CHAPTER 10 VECTORS POINTS TO REMEMBER A quantity that has magnitude as well as direction is called a vector It is denoted by a directed line segment Two
More informationA Hysteresis-Based Energy-Saving Mechanism for Data Centers Christian Schwartz, Rastin Pries, Phuoc Tran-Gia www3.informatik.uni-wuerzburg.
Institute of Computer Science Chair of Communication Networks Prof. Dr.-Ing. P. Tran-Gia A Hysteresis-Based Energy-Saving Mechanism for Data Centers Christian Schwartz, Rastin Pries, Phuoc Tran-Gia www3.informatik.uni-wuerzburg.de
More informationPHIL 50 - Introduction to Logic
Truth Validity Logical Consequence Equivalence V ψ ψ φ 1, φ 2,, φ k ψ φ ψ PHIL 50 - Introduction to Logic Marcello Di Bello, Stanford University, Spring 2014 Week 2 Friday Class Overview of Key Notions
More informationOptimization Theory. Linear Operators and Adjoints
Optimization Theory Linear Operators and Adjoints A transformation T. : X Y y Linear Operators y T( x), x X, yy is the image of x under T The domain of T on which T can be defined : D X The range of T
More informationJádrové odhady gradientu regresní funkce
Monika Kroupová Ivana Horová Jan Koláček Ústav matematiky a statistiky, Masarykova univerzita, Brno ROBUST 2018 Osnova Regresní model a odhad gradientu Metody pro odhad vyhlazovací matice Simulace Závěr
More informationQUADRANT MARKED MESH PATTERNS IN 132-AVOIDING PERMUTATIONS III
#A39 INTEGERS 5 (05) QUADRANT MARKED MESH PATTERNS IN 3-AVOIDING PERMUTATIONS III Sergey Kitaev Department of Computer and Information Sciences, University of Strathclyde, Glasgow, United Kingdom sergey.kitaev@cis.strath.ac.uk
More informationMEDZINÁRODNÝ VEDECKÝ ČASOPIS MLADÁ VEDA / YOUNG SCIENCE
MEDZINÁRODNÝ VEDECKÝ ČASOPIS MLADÁ VEDA / YOUNG SCIENCE November 2014 (číslo 3) Ročník druhý ISSN 1339-3189 Kontakt: info@mladaveda.sk, tel.: +421 908 546 716, www.mladaveda.sk Fotografia na obálke: Kuala
More informationn Empty Set:, or { }, subset of all sets n Cardinality: V = {a, e, i, o, u}, so V = 5 n Subset: A B, all elements in A are in B
Discrete Math Review Discrete Math Review (Rosen, Chapter 1.1 1.7, 5.5) TOPICS Sets and Functions Propositional and Predicate Logic Logical Operators and Truth Tables Logical Equivalences and Inference
More informationMETRICKÉ ÚLOHY V PRIESTORE
1. ÚVOD METRICKÉ ÚLOHY V PRIESTORE Monika ĎURIKOVIČOVÁ 1 Katedra Matematiky, Strojnícka fakulta STU, Abstrakt: Popisujeme možnosti použitia programového systému Mathematica pri riešení špeciálnych metrických
More informationChapter 16 Holography
Chapter 16 Holography Virtually all recording devices for light respond to light intensity. Problem: How to record, and then later reconstruct both the amplitude and phase of an optical wave. [This question
More informationThe 70th William Lowell Putnam Mathematical Competition Saturday, December 5, 2009
The 7th William Lowell Putnam Mathematical Competition Saturday, December 5, 9 A1 Let f be a real-valued function on the plane such that for every square ABCD in the plane, f(a) + f(b) + f(c) + f(d) =.
More informationCell-Probe Lower Bounds for Prefix Sums and Matching Brackets
Cell-Probe Lower Bounds for Prefix Sums and Matching Brackets Emanuele Viola July 6, 2009 Abstract We prove that to store strings x {0, 1} n so that each prefix sum a.k.a. rank query Sumi := k i x k can
More informationIntroduction...iv. Glossary of Statistical Terms Calculator Instructions...231
CONTENTS Introduction...iv. Coordinate Geometr of the Line.... Geometr Theorems.... Constructions.... Transformation Geometr...6. Trigonometr I...8 6. Trigonometr II: Real-World Applications...0 7. Perimeter
More informationTopic 17. Analysis of Algorithms
Topic 17 Analysis of Algorithms Analysis of Algorithms- Review Efficiency of an algorithm can be measured in terms of : Time complexity: a measure of the amount of time required to execute an algorithm
More informationProgressive & Algorithms & Systems
University of California Merced Lawrence Berkeley National Laboratory Progressive Computation for Data Exploration Progressive Computation Online Aggregation (OLA) in DB Query Result Estimate Result ε
More informationRecitation 7: Existence Proofs and Mathematical Induction
Math 299 Recitation 7: Existence Proofs and Mathematical Induction Existence proofs: To prove a statement of the form x S, P (x), we give either a constructive or a non-contructive proof. In a constructive
More informationCSC 125 :: Final Exam December 14, 2011
1-5. Complete the truth tables below: CSC 125 :: Final Exam December 14, 2011 p q p q p q p q p q p q T T F F T F T F (6 9) Let p be: Log rolling is fun. q be: The sawmill is closed. Express these as English
More informationComputational Intelligence Lecture 6: Associative Memory
Computational Intelligence Lecture 6: Associative Memory Farzaneh Abdollahi Department of Electrical Engineering Amirkabir University of Technology Fall 2011 Farzaneh Abdollahi Computational Intelligence
More informationWe might divide A up into non-overlapping groups based on what dorm they live in:
Chapter 15 Sets of Sets So far, most of our sets have contained atomic elements (such as numbers or strings or tuples (e.g. pairs of numbers. Sets can also contain other sets. For example, {Z,Q} is a set
More informationComputation of Information Value for Credit Scoring Models
Jedovnice 20 Computation of Information Value for Credit Scoring Models Martin Řezáč, Jan Koláček Dept. of Mathematics and Statistics, Faculty of Science, Masaryk University Information value The special
More informationCSE548, AMS542: Analysis of Algorithms, Fall 2017 Date: Oct 26. Homework #2. ( Due: Nov 8 )
CSE548, AMS542: Analysis of Algorithms, Fall 2017 Date: Oct 26 Homework #2 ( Due: Nov 8 ) Task 1. [ 80 Points ] Average Case Analysis of Median-of-3 Quicksort Consider the median-of-3 quicksort algorithm
More informationNumber Theory Homework.
Number Theory Homewor. 1. The Theorems of Fermat, Euler, and Wilson. 1.1. Fermat s Theorem. The following is a special case of a result we have seen earlier, but as it will come up several times in this
More information1 Take-home exam and final exam study guide
Math 215 - Introduction to Advanced Mathematics Fall 2013 1 Take-home exam and final exam study guide 1.1 Problems The following are some problems, some of which will appear on the final exam. 1.1.1 Number
More informationMODELOVANIE PRIESTOROVÝCH DÁT V MODEL DRIVEN DEVELOPMENT
MODELOVANIE PRIESTOROVÝCH DÁT V MODEL DRIVEN DEVELOPMENT Branislav, DEVEČKA 1, Ivan, MUDROŇ 1, Josef, STROMSKÝ 2, Martin, KRČMARIK 1 1 Institut geoinformatiky, Hornicko-geologická fakulta, VŠB-TU Ostrava,
More informationPUTNAM TRAINING POLYNOMIALS. Exercises 1. Find a polynomial with integral coefficients whose zeros include
PUTNAM TRAINING POLYNOMIALS (Last updated: December 11, 2017) Remark. This is a list of exercises on polynomials. Miguel A. Lerma Exercises 1. Find a polynomial with integral coefficients whose zeros include
More information