finding hidden components

8/18/2019 Finding Hidden Components

1/21

N SF- CBM SL

e c t ur e S eri e s

L e c t ur e1 :

Fi n d i n gHi d d en C om p on en t s

B y

D a t aAn al y s i s

D a vi d D on oh o

S t a t i s t i c s D e p ar t m en t

S t anf or d Uni v er s i t y

A g en

d a

•

Hi d d en C om p on en t s

•

Pr i n ci p al C om p on en t s

•

B e y on d Pr i n ci p al C om p on en t s

•

S t a t i s t i c al An al y s i s of I m a g e s

•

L o ok Ah e a d

N S F- CBM S T al k 1 : Fi n d i n gHi d d en C om p on en t s b yD a t aAn al y si s

3

I .AHi d

d en C om p on en t s i nL i gh t

( a ) N e w t on

( b ) Pr i s m

N S F- CBM S

T al k 1 : Fi n d i n gHi d d en C om p on en t s b yD a t aAn al y si s

4

Fr omN e w t on

’ s N o t e b o ok


2/21

I .BHi d

d en C om p on en t s i nH e a t

F i g ur e2 : F o ur i er

Di ff u s i on

of H e a t

I ni t i al T em p er a t ur ePr ofi l e:

f ( θ , t = 0 ) ,f or θ ∈ [ 0 ,2 π )

Pr o

fi l e a t l a t er t i m e:

f ( θ , t ) ,f or θ

∈ [ 0 ,2 π )

S h o

w s

•

l e s s v ar i a t i on

•

m or e s m o o t h n e s s

•

e v en t u al uni f or mi t y


7

0

1

2

3

4

5

6

- 0 . 5 0

0 . 5 1

1 . 5

f(θ,t)

θ

S t a g e s of D i f f u s i on

N S F- CBM S


8

F o uri er’ s

I n s i gh t

Ex p an d i n S i n u s oi d al C om p on en t s

f ( θ , t = 0 ) =

n

c n ex p { i n θ }

Pr o

fi l em a d e of ‘ w a v e s ’ .

Pr o

fi l e a t l a t er t i m e:

f ( θ , t ) =

n

λ n ( t

) · c n ex p { i n θ }

D am pi n gf a c t or :

λ n ( t ) = ex p { − n2 t }

D e cr e a s e s r a pi d l y wi t h w a v el en g t h ,

t i m e


3/21

0

5

- 0 . 5 0

0 . 5 1

1 . 5

f(θ,0)

θ

I ni t i al D en s i t y t = 0

0

5

0 1 2 3 4 5 6 7 8 9 1 0

Component

θ

C om p on en t s t = 0

0

5

0 1 2 3 4 5 6 7 8 9 1 0

Component

θ

C om p on en t s t =. 0 4 6 9

0

5

- 0 . 5 0

0 . 5 1

1 . 5

f(θ,t=.)

θ

D en s i t y

a t t =. 0 4 6 9

I n t er pr e

t a t i on

•

F o ur i er An al y s i s i s ak i n d of Pr i s m

•

Hi d d en C om p on en t s : S i n u s oi d a

l C om p on en t s

•

P o s t F a c t o: S i n u s oi d s F un d am e

n t al

•

D omi n an t t r en d ,1 9 t h c en t ur yM a t h em a t i c al Ph y s i c s


1 1

M o d ern Vi e w p oi n t –I

f ( · , 0 )

F o u ri e r

−→

( c n ( 0 ) )

Di ff u s i on

↓

↓

× λ n ( t )

f ( · , t )

F o u ri e r−1

←−

( c n ( t ) )

N S F- CBM S


1 2

M o d ern Vi e w p oi n t –I I

L i n

e ar Tr an s f or m a t i on

( T c ) n= n

m

T n , m c m

Di a

g on al Tr an s f or m a t i on

( T c ) n=T n , n c n

Di a

g on al –n oi n t er a c t i on b e t w e en c om p on en t s .


4/21

M o

d ern Vi e w p oi n t –I I I

f ( · ,

0 ) F o u ri e r

−→

( c n ( 0 ) )

Di ff u s i on

↓

↓

Di a

g on al

f ( · ,

t ) F o u ri e r−1

←−

( c n ( t ) )

I I .Pri n ci p al C om p on en t s

( a ) K ar h un en

( b ) L ò e v e


1 5

( a )

P e ar s on

( b ) H o t el l i n g

N S F- CBM S


1 6

K arh un en-L ò e v eTr an s f orm

•

X ( t ) , t ∈T ar an d om pr o c e s s i nL 2 ( T )

•

Γ ( t , s ) i t s c o v ar i an c e:

C o v ( X ( t ) ,X ( s ) ) =E ( X ( t

) −EX ( t ) ) ( X ( s ) −EX ( s ) )

•

Un d er g en er al c on d i t i on s ,∃ or t h o b a si s φ 1 , φ 2 ,... ,

φ n , φ m

= δ n , m

•

Ei g en v e c t or s

Γ ( t , s ) φ n ( s ) d s= λ n× φ n ( t )

•

Ei g en v al u e s

λ 1 ≥ λ 2

≥ λ 3 ...


5/21

M o d ern Vi e w p oi n t

f

KLT

−→

( c n )

C o v ar i an

c e ↓

↓

× λ n

Γ f

KLT−1

←−

( d n )

KLT R e pr e

s en t a t i on

•

X ( t ) , t ∈T ar an d om pr o c e s s i nL 2 ( T )

•

X n= X , φ n ,i t s n- t h c o or d i n a t ei nKL b a s i s

•

V ar i an c e s

V a rX n

= λ n

•

C o v ar i an c e s

C o v ( X n ,X m

) = λ n× δ n , m

•

R e pr e s en t a t i on

X ( t ) =

n

X n· φ n ( t )

h er e t h eX n

ar e or t h o g on al .


1 9

S om eK e yA p pl i c a t i on s

•N oi s e R em o v al – Wi en er

•D a t a C om pr e s s i on

– S h ann on

N S F- CBM S


2 0

N oi s e R em o v al

Y ( t ) o b s er v e d d a t a

X ( t ) d e s i r e d s i gn al t or e c o v er

Y ( t ) =X ( t

) +N ( t )

N ( t ) G a u s s i ann oi s e pr o c e s s , wi t h

•

S am eKL b a s i s a s X: ( φ n )

•

Ei g en v al u e s ( µ n ) E

{ X ( t ) | Y } =

n

w nY n φ n ( t )

wh er e

w n=

λ n

λ n

+ µ n .


6/21

M o d ern Vi e w p oi n t

Y

KLT

−→

( Y n )

Ex p e c t a t i on

↓

↓

× w n

E { X ( t ) | Y }

KLT−1

←−

( ˆ X

n )

D a t a C om

pr e s s i on


2 3

K e yEx am pl e

B ( t ) Br o wni anBr i d g e

.

• G a u s s i an

•B ( 0 ) =B ( 1 ) = 0

•Γ ( t , s ) = m i n ( t , s )

− t s.

• Cl o s el yr el a t e d t o

Br o wni anM o t i on

N S F- CBM S


2 4

0

0 .1

0 .2

0 . 3

0 .4

0 . 5

0 . 6

0 .7

0 . 8

0 . 9

1

-2 0

-1 5

-1 0 - 5 0 5

1 0

1 5

2 0

2 5

3 0

t

B(t)

B r owni anB r i d g e


7/21

KL T of Br o wni an

• φ n ( t ) = √2 s i n ( π n t )

• φ n ( 0 ) = φ n ( 1 ) = 0

• λ n= C o n s t / n2

• R e pr e s en t a t i on:

B ( t ) =

n

Z n φ n ( t )

•Pr i n ci p al S c or e s Z n

i n d e pN ( 0 , λ n ) .

“ S i n u s oi d s ar e t h ePr i n ci p al C om p on en t s of Br o wni an

Br i d g e.”

I I I .B e y on d Pri n ci p al C om p on en t s

•

I n d e p en d en t C om p on en t s

•

S p ar s e C om p on en t s


2 7

I I I .AI n d e p en d en t C om p on en t

s

X ( t ) =

n

ξ n ψ n ( t )

• ξ n

I n d e p en d en t

• ψ n

B a s i s F un c t i on

s

R em ar k s

•N e e d n o t exi s t

•N e e d n o t b e or t h o

g on al

•N o pr o c e d ur ei n g

en er al

N S F- CBM S


2 8

I n d e p en d en t C om p on en t s of G a u s s i anPr o c e s s

F or

G a u s s i anPr o c e s s ,I C=P C.

Pr o

of :

•

I f ( X n ) un c or r el a t e d & j oi n t l y G a u s s i an , t h e ( X n ) ar e

i n d e p en d en t .

•

F or a G a u s s i anPr o c e s s , t h e pr i n ci p al s c or e s ar e un c or r el a t e d

an d j oi n t l y G a u s s i an.


8/21

R am p:

AN on G a u s s i anPr o c e s

s

S c al ar R V ω∼ U ( 0 ,1 )

.

S t o ch a s t i cPr o c e s s ( Y.M e y er )

X

( t , ω ) = t

t < ω

t −1

t ≥ ω

Pr o p er t i e s :

•EX ( t ) = 0

•X ( 1 ) =X ( 0 ) = 0

0

0 .1

0 .2

0 . 3

0 .4

0 . 5

0 . 6

0 .7

0 . 8

0 . 9

1

- 0 .4

- 0 .2 0

0 .2

0 .4

0 . 6

0 . 8 1

t

Ramp(t)

R am

p


3 1

C

o v ari an c e of R am p

•Γ ( t , s ) = C o v ( X ( t

) ,X ( s ) ) = m i n ( t , s ) − t s

• S e c on d - Or d er E q u

i v al en t t oBr o wni anBr i d g e!

N S F- CBM S


3 2

0

0 .1

0 .2

0 . 3

0 .4

0 . 5

0 . 6

0 .7

0 . 8

0 . 9

1

-2 0

-1 0 0

1 0

2 0

3 0

4 0

5 0

t

B(t)

B r owni an

B r i d g e

0

0 .1

0 .2

0 . 3

0 .4

0 . 5

0 . 6

0 .7

0 . 8

0 . 9

1

- 0 .4

- 0 .2 0

0 .2

0 .4

0 . 6

0 . 8 1

t

Ramp(t)

R am

p


9/21

C on t r a s t

•Pr i n ci p al C om p on

en t s ar e s e c on d - or d er i n d e p en d en t , b u t

p er h a p s n o t i n d e p

en d en t .

•I n d e p en d en t C om p on en t s ar ei n d e p en d en t , b u t p er h a p s c ann o t

b ef o un d or d on o

t exi s t .

I I I .BA p pr ox

i m a t eI CA

A t t

em p t t o a p pr oxi m a t eHi gh er - Or

d er I n d e p en d en c e

F or

m C u m u l a n t T e n s o r of or d er >

2

A t t

em p t t oDi a g on al i z eT en s or


3 5

F o ur t h

- or d er J oi n t C um ul an t s

K ur t o s i s : K4 ( X ) =E ( X− µ ) 4 − 3 V a r ( X ) 2

C u m4 ( X1 ,... ,X4 )

=

E ( X1 X2 X 3 X4 )

−

E ( X1 ) · E ( X2 X 3 X4 ) −E ( X2

) · E ( X1 X 3 X4 )

−

E ( X 3 ) · E ( X1 X2 X4 ) −E ( X4

) · E ( X1 X2 X 3 )

+

E ( X1 X2 ) · E ( X 3 X4 )

+

E ( X1 X 3 ) · E ( X2 X4 ) +E ( X1 X4 ) · E ( X2 X 3 )

+

2 ( EX1 ) ( EX2 ) ( EX 3 ) ( EX4 )

N S F- CBM S


3 6

I n d e p en d en c e an d C um ul an t T en s or s

L e t

X n= X , φ n c o effi ci en t i n b a s i s ( φ n ) .

C um ul an t T en s or K4 , φ

4 - w a y ar r a y

:

K4 , φ ( i 1 , i 2 , i 3 , i 4 ) = C u m

4 ( X i 1 ,X i 2 ,X i 3 ,X i 4 )

I f ( X n ) a r e i n d e p e n d e n t r a n d o m

v a r i a b l e s ,K4 , φ

i s h y p e r d i a g o n a l :

K4 , φ ( i 1 , i 2 , i 3 , i 4 ) = 0

n o t al l i n d i c e s s am e

i 1 = i 2 = i 3 = i 4


10/21

N u

m eri c al Ex p eri m en t

F i ni t e R am pPr o c e s s :

•T = { 1 / 3 2 ,... , 3 2 / 3 2 }

•Ω= { 1 / 3 2 ,... , 3 2 / 3 2 }

•D a t a b a s eX ( i , j ) =X ( ω i , t j ) .

–N

= 3 2 r e al i z a t i on s X ( i ,· )

–N

= 3 2 v ar i a b l e s X ( · , t )

• U s e J e an-F r an c oi s

C ar d o s o“ J ADE” Al g or i t h m

•A t t em p t Di a g on al i z a t i on of Em pi r i c al C um ul an t T en s or

•M o v e s 9 0 % of K ur t i cEn er g y onDi a g on al .

R e s ul t s f r om J ADE

an al y s i s of R am p

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1


3 9

D a u b e ch i e s N e arl y S ymm e t ri c W a v el e t s

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

0

2 0

-1 0 1

N S F- CBM S


4 0

C om p ari s on s

0

2 0

-1 - 0 . 5 0

0 . 5 1

J a d el e t 1 6

0

2 0

-1 - 0 . 5 0

0 . 5 1

W av el e t 1 2

0

2 0

-1 - 0 . 5 0

0 . 5 1

J a d el e t 5

0

2 0

-1 - 0 . 5 0

0 . 5 1

W av el e t 2 1

0

2 0

-1

- 0 . 5 0

0 . 5 1

J a d el e t 9

0

2 0

-1

- 0 . 5 0

0 . 5 1

W av el e t 2 3

0

2 0

-1 - 0 . 5 0

0 . 5 1

J a d el e t 1 3

0

2 0

-1 - 0 . 5 0

0 . 5 1

W av el e t 2 5


11/21

I n t er pr e t a t i on s

Hi d d en C om p on en t s d

i s c o v er e d b y J ADE

•D y a d i c S c al e s

•N e ar -Tr an s l a t e s

•A p pr ox.D a u b e ch i e s N e ar l y S ymm e t r i c

“ Q u a s i - W a v el e t s ar e t h e al m o s t -i n d e p en d en t c om p on e

n t s of R am p”

I I I .D S p ar s e C om p on en t s An al y s i s

X ( t ) =

n

X n φ n ( t )

•

( X n ) a s p ar s e v e c t or : f e wl ar g e

en t r i e s .

•

φ n a b a s i s or d i c t i on ar y– t o b ef o un d

•

G o al – ch o o s e ( φ n ) t o o p t i mi z e

s p ar s i t y

R em ar k s :

•

N e e d n o t exi s t

•

N o g en er al d efi ni t i on

•

N o g en er al al g or i t h m


4 3

C om p a

ri s on of S CA wi t h P CA

P CA

•A

( m ) ( X , ( φ n ) ) fi r s

t m- t er m a p pr oxi m a t i on ,

A ( m ) X

=

m n

=1 c n φ n

•F i n d B a s i s ( φ n ) o p t i mi zi n g

ar gmi n

( φ n ) E X−A

( m ) ( X , ( φ n ) ) 2 2

N S F- CBM S


4 4

C om p ari s on of S CA

wi t h P CA ( c on t )

S CA ( On e a p pr o a ch )

•

B ( m ) ( X , ( φ n ) ) b e s t m- t er m a p pr oxi m a t i on ,

X−B

( m ) ( X , ( φ n ) ) 2 = a

r gmi n

( n j ) X−

m j

=1 c n j φ n j 2

•

F i n d B a s i s o p t i mi zi n g

ar gmi n

( φ n ) E X−

B ( m ) ( X , ( φ n ) ) 2 2


12/21

Ex am pl e of A p pr oxi m a t e S CA: R am p

W a v el e t R e pr e s en t a t i o

nX ( t ) =

n

α j , k ψ j , k ( t )

• ( ψ j , k ) Or t h on or m al W a v el e t s b a s i s , 3 v ani s h i n gM

om en t s .

• ( α j , k ) s p ar s e v e c t or : f e wl ar g e en t r i e s .

•A t l e v el j a t m o s t

Cn onz er o s , ∀ k

• Wi t h 5 4 c o effi ci en

t s c anr e pr e s en t t o a c c ur a c y1 0 − 6

S p ar s i t y C o

m p ari s on

W a

v el e t B a s i s ( q u a s i - S CA )

•

Wi t h 5 4 c o effi ci en t s c anr e pr e s en t t o a c c ur a c y1 0 − 6

•

X−B

( m ) ( X , wa velet s ) 2 ≤ C1 ex p ( − C2 m )

F o u

r i er B a s i s ( P CA )

•

N e e d 1 9 0 2 c o effi ci en t s f or a c c ur a c y1 0 − 6 .

•

X−A

( m ) ( X , s i n u s oi d s ) 2 ≤ C / √ m

•

X−B

( m ) ( X , s i n u s oi d s ) 2 ≤ C / √ m


4 7

0

2 0

4 0

6 0

8 0

1 0 0

1 2 0

1 4 0

1 6 0

1 8

0

2 0 0

- 8 -7 - 6 - 5 -4 - 3 -2 -1 0

n

Log(cn)

C om pr e s s i onN um b er s f or D S T an d W av el e t A n al y s i s of R am p

S i n eT r an s f or m

W av el e t T r an s f or m

N S F- CBM S


4 8

0

0 .2

0 .4

0 . 6

0 . 8

1

- 0 .4

- 0 .2 0

0 .2

0 .4

0 . 6

0 . 8 1

R am p

t

Ramp(t)

0

0 .2

0 .4

0 . 6

0 . 8

1

-1 0 - 8 - 6 -4 -2

W av el e t T r an s f or m of R am p

0

1 0 0

2 0 0

3 0 0

- 0 . 5 0 0 . 5

S i n eT r an s f or m of R am p

0

1 0 0

2 0 0

3 0 0

1 0 - 6 1 0 -4 1 0 -2 1 0 0

Or d er e d T r an s f or m C o ef f i c i en t s

k - t h l ar g e s t c o ef f i c i en t

Coefficient Amplitude

S i n eT r an s f or m

W av el e t T r an s f or m


13/21

C on t r a s t of I CA / S CA / P CA

I CA

S CA

N e w C on c e p

t Hi gh - Or d er

B e s t -mT er

m

I n d e p en d en c e

A p pr oxi m a t i on

P CA C on c e p t S e c on d - Or d er

F i r s t -mT er m

I n d e p en d en c e

A p pr oxi m a t i on

C om p ari s on o

f I CA / S CA

A s p e c t

I CA

S CA

P o p ul ar i t y

I mm en s e

R ar i fi e d

M o d e

S t a t i s t i c al

A p pr oxi m a t i onTh e or y

H ar m oni cAn al y s i s

Pl a u s i b i l i t y

N on e

S uffi ci en t

Al g or i t h m s

M an yH e ur i s t i c

s F e wH e ur i s t i c s


5 1

S i mi l ar O u t c om ef r omI CA & S CA:

R am p

• W a v el e t s gi v e v er yh i gh r a t e of m- t er mA p pr oxi m

a t i on.

• W a v el e t s al m o s t d

i a g on al i z e t h e c um ul an t t en s or .

C anfi n d q u al i t a t i v el y

s am e o u t c om e b y ei t h er pr i n ci p

l e.

N S F- CBM S


5 2

Al m o s t -Di a g on al i t y o

f C um ul an t T en s or s

K4 , φ AD ( p ) = s u p

i 1

( i 1 , i

2 , i 3

| K4 , φ ( i 1 , i 2 , i 3 , i 4 ) | p ) 1 / p

I n t er e s t i n g c a s e ; p≈ 0 ; s a y s e a ch s l i c e s p ar s e.

Th e or em.F o r c i r c u l a r R a m p p r o c e s s o n [ 0 ,2 π ) ,

D a u b e c h i e s n e a r l y

s y m

m e t r i c w a v e l e t s w i t h ≥ 3 v a n i s h

i n g m o m e n t s

K4 , ψ AD ( p ) < ∞

Al m

o s t - d i a g on al i n s en s e of g o o d d e c a y a w a yf r omh y p er - d i a g on al .


14/21

I n t er pr e t a t i on

• S t u d y1 − d o b j e c t s wi t h s i n g ul ar i t i e s

•Th e y ar en on g a u s s i an

•P CA w o ul d gi v e s

i n s u oi d al c om p on en t s

•I CA & S CA gi v e w a v el e t c om p on en t s

Wh a t i f w e s t u d y2 − d o b j e c t s –I m a g e s?

I V. Vi s u al N e ur o s ci en c e

I nf or m a t i onF l o wi n t h e Vi s u al S y s

t em

I m a g e

→

R e t i n a

→

...

→

V1 →

...

V1

C om p on en t of Vi s u al C or t ex:

•

L i n e ar R e c e p t i v eF i el d s –H u b el an d Wi e s el .

Ne u ral O utp ut n= I ma ge , φ n

•

Pr o p er t i e s of ( φ n )

–L o c al i z e d

– Or i en t e d

– W a v el e t / G a b or M o d el s


5 5

C ari c a t ur e of V1

N S F- CBM S


5 6

I V.AT w o

S l o g an s

( a ) B ar l o w

( b ) Fi el d


15/21

B arl o w

• Vi s u al S y s t em d o e s ar em ar k a b l e j o b of i m a g e c om

pr e s s i on.

•1 0 7 b i t s / s e c a t i n p u t

•2 0 −4 0 b i t s / s e c a t en d of pr o c e s s i n g

Vi s u al s y s t em t ak e s h i gh l yr e d un d an t d a t a ,r em o v e s t h e

r e d un d an c y , pr o d u c e s

n e ar l yi n d e p en d en t d a t a.

Fi el d

•

S t r u c t ur e of n a t ur al i m a g e s d r i v e s s t r u c t ur e of vi s u al s y s t em

•

R e d un d an c y of n a t ur al i m a g e s

c o ul d t e a ch vi s u al s y s t emh o w

t o b e s p ar s e

S t a

t i s t i c al an al y s i s of i m a g e s an d n e ur o d e v el o pm en t ? ( C a t s )


5 9

S p ar s e C om p on en t s of N a t ur al I m

a g e s

( a ) Ol s h a u s en

( b ) Fi el d

N S F- CBM S


6 0

Ol s h a u s en-Fi el d Ex p eri m en t

•

A p p e ar e d i nN a t u r e ,1 9 9 6

•

C ol l e c t i on of n a t ur al i m a g e s

•

Ex t r a c t 1 6 ×1 6 p a t ch e s .

•

D a t a b a s e of p a t ch e s

•

S p ar s e C om p on en t s An al y s i s

•

D e pi c t r e s ul t s


16/21

D a t a

b a s e of I m a g eP a t ch e s

• C ol l e c t i on of n a t u

r al i m a g e s

•Ex t r a c t 1 6 ×1 6 p a t ch e s .

•P a t ch P ( p ) = ( P ( p )

( s , t ) ,1 ≤ s , t ≤1 6

•X ( p ,· ) = en t r i e s o

f P ( p ) i nr o w-m a j or or d er .

• R e s ul t : X

anN

b

y2 5 6 m a t r i x

Em pi ri c al S p ar s e C o

m p on en t s An al y s i s

•

W an t X ( p , j ) ≈ θ j ( p ) φ j

•

F i n d b o t h c o effi ci en t s θ j ( p ) an

d b a s i s φ j .

•

W an t θ j ( p ) s p ar s e.

•

F or m al O b j e c t i v e

mi n

( φ j )

mi n

( θ j ( p ) )

p

X ( p ,· ) −

X j ( p ) φ j 2 + λ S ( θ ( p ) )

•

S p ar s i t ym e a s ur e

S ( θ ) =

j

l o g ( 1 + θ 2 j )


6 3

N S F- CBM S


6 4

I n t er pr e

t a t i on

•

M ul t i - Or i en t e d

•

M ul t i s c al e

•

B an d p a s s

I ni t i al l y , w a v el e t s .L a t er n o t i n t i t l e.

Cl e

ar l y ( t om e ) n o t w a v el e t s .


17/21

Wh a t Ar eTh e s eTh i n g s ?

•N o t W a v el e t s – t o

om an y d i r e c t i on s

•N o t G a b or – t o om an y s c al e s

• S i mi l ar i t i e s t o R e c en t CHAi d e a s

– Ri d g el e t s

– C ur v el e t s

–B e aml e t s


6 7

I n d e p en d en t C om p on en t s of N a t ur al

I m a g e s

( a ) B el l

( b ) S e j n o wk s i

N S F- CBM S


6 8

I n d e p en d en t C om p on en t s An al y s i s

•

I CA-2 0 0 0 C onf er en c e

•

NI P S C onf er en c e s

•

H un d r e d s of p a p er s

•

L e wi ck i - S e j n o wk s i

•

H y v ar i n en

•

v an d er S ch a af an d v anH a t er en


18/21

I n d e p en d en t C om p on en t s of N a t ur al

M o vi e s

F i g ur e 8 : H an s v anH a t er en

A R ol ef orM a t h ?

•

P CAD a t aAn al y s i s fi n d s S i n u s

oi d s

•

I CA / S CAD a t aAn al y s i s of 1 - d

Di s c on t i n ui t i e s fi n d s W a v el e t s

•


Di s c on t i n ui t i e s fi n d s ? ? ?

•


Di s c on t i n ui t i e s fi n d s ? ? ?

•

L i t t l ePr o s p e c t of s u b s t an t i al l y

l ar g er d a t a an al y s i s


7 1

L e c t ur e s t o C om e

•An al o g y b e t w e en S t a t i s t i c al An al y s i s of I m a g eD a

t a b a s e s &

H ar m oni cAn al y s i s of I m a g eM o d el s .

• C omm onF a c t or : S p ar s e R e pr e s en t a t i on

•P oi n t S i n g ul ar i t i e s v s .L i n e S i n g ul ar i t i e s

•L i n e S i n g ul ar i t i e s

v s . C ur v e S i n g ul ar i t i e s

•H ar m oni cAn al y s i s of L i n e & C ur v e S i n g ul ar i t i e s

• Wh a t L i e s B e y on d

N S F- CBM S


7 2

L e c t ur e

Pl an

M

on.

T u e s .

W e d .

Th ur s .

F r i .

D a t aAn al .

Ri d g el e t s

Ri d g el e t s C ur v el e t s

B e aml e t s

M

a t h An al .

Ri d g el e t s

C ur v el e

t s C ur v el e t s

C om b i n e d


19/21

Wh

a t ’ s Th e C onn e c t i on?

( a ) Ri d g el e t s

( b ) I m a g el e t s

Wh a t ’ s a

t S t ak e

•

A p pl i c a t i on s

–D a t a C om pr e s s i on

–N oi s e R em o v al

–D e t e c t i on , Cl a s s i fi c a t i on

•

N e wA p pr oxi m a t i onTh e or y

•

N e w C onn e c t i on s wi t h M a t h em

a t i c s

•

N e w R e s e ar ch i nH ar m oni cAn al y s i s


7 5

C ol l a b or a t or s ( 1 )

F i g ur e 9 : I ai n J oh n s t on e

N S F- CBM S


7 6

C ol l a b or a

t or s ( 2 )

( a ) E. C an d ` e s

( b ) X.H u o


20/21

C

ol l a b or a t or s ( 3 a b )

( a ) A v er b u ch

( b ) C oi f m an

C ol l a b or a t

or s ( 3 c d )

( a ) I s r a el i

( b )

W al d ´ en


7 9

C ol l a b or a t or s ( 4 )

( a ) G.Fl e s i a

( b ) E.Ar i a s

( c ) O.L e vi

N S F- CBM S


8 0

C ol l a b or a

t or s ( 5 )

( a ) H.H el - Or

( b ) Y.H el - Or


21/21

Th ank s ...

( a ) S t o d d en

( b ) D un c an

finding hidden components

Documents