dynamic programming search

7/28/2019 Dynamic Programming Search

1/39

D y n a m i c P r o g r a m m i n g S e a r c h

f o r C o n t i n u o u s S p e e c h R e c o g n i t i o n

H e r m a n n N e y , S t e f a n O r t m a n n s

L e h r s t u h l f u r I n f o r m a t i k V I

C o m p u t e r S c i e n c e D e p a r t m e n t

R W T H A a c h e n U n i v e r s i t y o f T e c h n o l o g y

D - 5 2 0 5 6 A a c h e n , G e r m a n y

s u b m i t t e d t o I E E E S i g n a l P r o c e s s i n g M a g a z i n e

6 4 k o n l y v e r s i o n : 1 4 A p r 1 9 9 9 , u p d a t e : 2 0 t h J u n e 1 9 9 9

C o n t e n t s

1 I n t r o d u c t i o n 2

2 S y s t e m A r c h i t e c t u r e 5

2 . 1 W h y i s C S R h a r d ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

2 . 2 B a y e s D e c i s i o n R u l e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

2 . 3 S p e c i c a t i o n o f t h e S e a r c h P r o b l e m . . . . . . . . . . . . . . . . . . . . . . . . . . 7

3 O n e P a s s D P S e a r c h u s i n g a L i n e a r L e x i c o n 9

3 . 1 D e n i t i o n o f t h e S e a r c h S p a c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

3 . 2 D P R e c u r s i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 0

4 O n e P a s s D P S e a r c h u s i n g a T r e e L e x i c o n 1 4

4 . 1 D e n i t i o n o f t h e S e a r c h S p a c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 4

4 . 2 D P R e c u r s i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 6

5 R e n e m e n t s a n d I m p l e m e n t a t i o n I s s u e s 2 0

5 . 1 P r u n i n g R e n e m e n t s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 0

5 . 2 L a n g u a g e M o d e l L o o k - A h e a d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1

5 . 3 I m p l e m e n t a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2

6 O n e P a s s D P S e a r c h f o r W o r d G r a p h C o n s t r u c t i o n 2 4

6 . 1 W o r d G r a p h S p e c i c a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 4

6 . 2 W o r d P a i r A p p r o x i m a t i o n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7

6 . 3 W o r d G r a p h G e n e r a t i o n A l g o r i t h m . . . . . . . . . . . . . . . . . . . . . . . . . . 2 7

7 E x p e r i m e n t a l R e s u l t s 3 0

7 . 1 S e a r c h S p a c e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0

7 . 2 L M L o o k - A h e a d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0

7 . 3 W o r d G r a p h M e t h o d . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1

8 E x t e n s i o n s a n d M o d i c a t i o n s 3 3

9 S u m m a r y 3 3

1


2/39

A b s t r a c t . I n i t i a l l y i n t r o d u c e d i n t h e l a t e 1 9 6 0 s a n d e a r l y 1 9 7 0 s , d y n a m i c p r o g r a m m i n g a l -

g o r i t h m s h a v e b e c o m e i n c r e a s i n g l y p o p u l a r i n a u t o m a t i c s p e e c h r e c o g n i t i o n . T h e r e a r e t w o

r e a s o n s w h y t h i s h a s o c c u r r e d : F i r s t , t h e d y n a m i c p r o g r a m m i n g s t r a t e g y c a n b e c o m b i n e d w i t h

a v e r y e c i e n t a n d p r a c t i c a l p r u n i n g s t r a t e g y s o t h a t v e r y l a r g e s e a r c h s p a c e s c a n b e h a n d l e d .

S e c o n d , t h e d y n a m i c p r o g r a m m i n g s t r a t e g y h a s t u r n e d o u t t o b e e x t r e m e l y e x i b l e i n a d a p t i n g

t o n e w r e q u i r e m e n t s . E x a m p l e s o f s u c h r e q u i r e m e n t s a r e t h e l e x i c a l t r e e o r g a n i z a t i o n o f t h e

p r o n u n c i a t i o n l e x i c o n a n d t h e g e n e r a t i o n o f a w o r d g r a p h i n s t e a d o f t h e s i n g l e b e s t s e n t e n c e .

I n t h i s p a p e r , w e a t t e m p t t o s y s t e m a t i c a l l y r e v i e w t h e u s e o f d y n a m i c p r o g r a m m i n g s e a r c h

s t r a t e g i e s f o r s m a l l v o c a b u l a r y a n d l a r g e v o c a b u l a r y c o n t i n u o u s s p e e c h r e c o g n i t i o n . T h e f o l -

l o w i n g m e t h o d s a r e d e s c r i b e d i n d e t a i l : s e a r c h u s i n g a l i n e a r l e x i c o n , s e a r c h u s i n g a l e x i c a l t r e e ,

l a n g u a g e - m o d e l l o o k - a h e a d a n d w o r d g r a p h g e n e r a t i o n .

1 I n t r o d u c t i o n

S e a r c h s t r a t e g i e s b a s e d o n d y n a m i c p r o g r a m m i n g D P a r e c u r r e n t l y b e i n g u s e d s u c c e s s f u l l y

f o r a l a r g e n u m b e r o f s p e e c h r e c o g n i t i o n t a s k s , r a n g i n g f r o m d i g i t s t r i n g r e c o g n i t i o n t h r o u g h

m e d i u m - s i z e v o c a b u l a r y r e c o g n i t i o n u s i n g h e a v i l y c o n s t r a i n e d g r a m m a r s t o l a r g e v o c a b u l a r y

c o n t i n u o u s s p e e c h r e c o g n i t i o n L V C S R w i t h v i r t u a l l y u n c o n s t r a i n e d s p e e c h i n p u t .

S e v e r a l v a r i a n t s o f D P s e a r c h w e r e a l r e a d y k n o w n i n t h e e a r l y d a y s o f a u t o m a t i c s p e e c h r e c o g -

n i t i o n 2 4 , 3 7 , 6 5 , 6 6 , 7 5 , 7 6 , 7 7 . O v e r t h e p a s t t h r e e d e c a d e s , t h e s e a n d r e l a t e d D P s t r a t e g i e s

h a v e t u r n e d o u t t o b e s u r p r i s i n g l y s u c c e s s f u l i n h a n d l i n g v o c a b u l a r i e s o f 2 0 k o r m o r e w o r d s .

N e v e r t h e l e s s , u n t i l r e c e n t l y , a m o n g t h e e x p e r t s , i t w a s a h i g h l y c o n t r o v e r s i a l i s s u e w h e t h e r

h i g h - p e r p l e x i t y L V C S R c o u l d b e h a n d l e d b y D P .

T h e s k e p t i c i s m s e e m s t o h a v e b e e n c o n c e r n e d m a i n l y w i t h t h e f o l l o w i n g i s s u e s , w h i c h w e w i l l

a d d r e s s e s p e c i a l l y i n t h i s p a p e r :

T h e e x t e n s i o n f r o m a 1 0 - d i g i t v o c a b u l a r y t o a 2 0 k - w o r d v o c a b u l a r y w o u l d b l o w u p t h e

s e a r c h s p a c e d r a m a t i c a l l y . C o u l d t h i s h u g e s e a r c h s p a c e b e h a n d l e d b y D P i n a n e c i e n t

w a y ?

I n p a r t i c u l a r , e a c h v a r i a n t o f D P s e a r c h i n s p e e c h r e c o g n i t i o n i s m o r e o r l e s s ' n o t o r i o u s '

f o r i t s o p e r a t i o n s a t t h e 1 0 - m s f r a m e l e v e l . H o w c o u l d t h i s l o w - l e v e l a c o u s t i c s e a r c h

i n t e r a c t e c i e n t l y w i t h t h e h i g h - l e v e l k n o w l e d g e s o u r c e s i n t h e r e c o g n i t i o n s y s t e m s u c h a s

t h e p r o n u n c i a t i o n l e x i c o n a n d t h e l a n g u a g e m o d e l L M ? I n a d d i t i o n , i n o r d e r t o n a r r o w

d o w n t h e s e a r c h , a n e a r l y i n t e g r a t i o n o f t h e s e k n o w l e d g e s o u r c e s m i g h t b e m a n d a t o r y .

D P t y p i c a l l y c o m p u t e s o n l y t h e s i n g l e b e s t s e n t e n c e . B u t i n m a n y r e c o g n i t i o n s y s t e m s , i t

i s d e s i r a b l e f o r v a r i o u s r e a s o n s t o p r o d u c e a l t e r n a t i v e s e n t e n c e s o r a w o r d g r a p h . C o u l d

t h e c o n v e n t i o n a l D P s t r a t e g y b e e x t e n d e d t o g e n e r a t e a w o r d g r a p h r a t h e r t h a n o n l y t h e

s i n g l e b e s t s e n t e n c e ?

W h e r e d o w e s t a n d i n s p e e c h r e c o g n i t i o n i n c o m p a r i s o n w i t h 2 0 y e a r s a g o ? A t t h a t t i m e ,

w i d e l y h e l d o p i n i o n s w e r e q u i t e d i e r e n t , w i t h r e s p e c t t o b o t h a c o u s t i c - p h o n e t i c m o d e l i n g a n d

t o s e a r c h . A n u m b e r o f e x p e r t s p r e d i c t e d t h a t c o n s i d e r a b l e p r o g r e s s c o u l d b e m a d e b y g e t t i n g

r i d o f p r i m i t i v e t e c h n i q u e s " l i k e s t a t i s t i c a l p a t t e r n r e c o g n i t i o n a n d b e a m s e a r c h . H o w e v e r , t h e

e x p e r i e n c e g a i n e d o v e r t h e l a s t t w o d e c a d e s h a s s h o w n t h a t t h e j u d g e m e n t p a s s e d b y K l a t t o n

t h e p r i n c i p l e s o f t h e D R A G O N a n d H A R P Y s y s t e m s d e v e l o p e d i n 1 9 7 6 i s n o w m o r e t r u e t h a n

e v e r b e f o r e 2 6 , p p . 2 6 1 :

. . . t h e a p p l i c a t i o n o f s i m p l e s t r u c t u r e d m o d e l s t o s p e e c h r e c o g n i t i o n . I t m i g h t s e e m t o

s o m e o n e v e r s e d i n t h e i n t r i c a c i e s o f p h o n o l o g y a n d t h e a c o u s t i c - p h o n e t i c c h a r a c t e r i s t i c s

o f s p e e c h t h a t a s e a r c h o f a g r a p h o f e x p e c t e d a c o u s t i c s e g m e n t s i s a n a v e a n d f o o l i s h

t e c h n i q u e t o u s e t o d e c o d e a s e n t e n c e . I n f a c t s u c h a g r a p h a n d s e a r c h s t r a t e g y a n d

2


3/39

p r o b a b l y a n u m b e r o f o t h e r s i m p l e m o d e l s c a n b e c o n s t r u c t e d a n d m a d e t o w o r k v e r y

w e l l i n d e e d i f t h e p r o p e r a c o u s t i c - p h o n e t i c d e t a i l s a r e e m b o d i e d i n t h e s t r u c t u r e " .

B y e x t e n d i n g K l a t t ' s s t a t e m e n t t o i n c l u d e t h e l a n g u a g e m o d e l , w e o b t a i n t h e t o p i c o f t h i s

p a p e r . T a b l e 1 s u m m a r i z e s t h e d e n i t i o n s o f s o m e f r e q u e n t l y u s e d t e r m s i n t h e c o n t e x t o f t h e

s e a r c h p r o c e s s i n s p e e c h r e c o g n i t i o n . I n t h i s p a p e r , w e w i l l a t t e m p t t o g i v e a u n i f y i n g v i e w o f

t h e d y n a m i c p r o g r a m m i n g a p p r o a c h t o t h e s e a r c h p r o b l e m . F o r a d i s c u s s i o n o f o t h e r s e a r c h

s t r a t e g i e s a n d r e l a t e d t o p i c s , s e e a c o m p a n i o n p a p e r a p p e a r i n g i n t h i s i s s u e 1 6 .

T h e o r g a n i z a t i o n o f t h e p a p e r i s a s f o l l o w s . I n S e c t i o n 2 , w e w i l l r e v i e w t h e s e a r c h p r o b l e m f r o m

t h e s t a t i s t i c a l p o i n t - o f - v i e w a n d s h o w h o w t h e s e a r c h s p a c e r e s u l t s f r o m t h e a c o u s t i c m o d e l a n d

l a n g u a g e m o d e l r e q u i r e d b y t h e s t a t i s t i c a l a p p r o a c h . I n S e c t i o n 3 , w e w i l l p r e s e n t t h e o n e p a s s

a l g o r i t h m u s i n g a l i n e a r l e x i c o n . T h i s b a s e l i n e a l g o r i t h m w i l l t h e n b e e x t e n d e d t o h a n d l e a

p r e x t r e e o r g a n i z a t i o n o f t h e p r o n u n c i a t i o n l e x i c o n i n S e c t i o n 4 . I n S e c t i o n 5 , w e w i l l d i s c u s s

t h e p r a c t i c a l i m p l e m e n t a t i o n o f t h e s e a r c h s t r a t e g y a n d r e l a t e d i s s u e s s u c h a s t h e d e t a i l s o f

t h e p r u n i n g o p e r a t i o n s a n d t h e l a n g u a g e m o d e l l o o k - h e a d . I n S e c t i o n 6 , w e w i l l e x t e n d t h e

o n e p a s s s t r a t e g y f r o m t h e s i n g l e b e s t s e n t e n c e t o a w o r d g r a p h i n o r d e r t o g e n e r a t e s e n t e n c e

a l t e r n a t i v e s . F i n a l l y , w e w i l l p r e s e n t e x p e r i m e n t a l r e s u l t s f o r t h e s e a r c h a l g o r i t h m s o n a 6 4 k -

w o r d s p e e c h r e c o g n i t i o n t a s k .

3


4/39


5/39

2 S y s t e m A r c h i t e c t u r e

2 . 1 W h y i s C S R h a r d ?

T h e u l t i m a t e l o n g - t e r m g o a l o f a u t o m a t i c s p e e c h r e c o g n i t i o n i s t o b u i l d a s y s t e m o r m a c h i n e

w h i c h i s a b l e t o h e a r " i n t h e s e n s e t h a t f o r a s p o k e n u t t e r a n c e i t c o n v e r t s t h e a c o u s t i c s i g n a l

i n t o t h e s e q u e n c e o f w r i t t e n w o r d s . T h e m a j o r p r o b l e m s f o r u n r e s t r i c t e d , c o n t i n u o u s s p e e c h

r e c o g n i t i o n c a n b e s u m m a r i z e d a s f o l l o w s :

- I n t h e a c o u s t i c s i g n a l , t h e r e i s n o c l e a r i n d i c a t i o n o r n o i n d i c a t i o n a t a l l o f t h e b o u n d a r i e s

b e t w e e n w o r d s o r p h o n e m e s . T h u s , n o t o n l y t h e s p o k e n w o r d s , b u t a l s o t h e p h o n e m e

b o u n d a r i e s a n d t h e w o r d b o u n d a r i e s a r e u n k n o w n .

- T h e r e i s a l a r g e v a r i a t i o n i n t h e s p e a k i n g r a t e s i n c o n t i n u o u s s p e e c h .

- T h e w o r d s a n d e s p e c i a l l y t h e w o r d e n d i n g s a r e p r o n o u n c e d l e s s c a r e f u l l y i n u e n t s p e e c h

t h a n i n a n i s o l a t e d s p e a k i n g m o d e .

- T h e r e i s a g r e a t d e a l o f i n t e r - a s w e l l a s i n t r a - s p e a k e r v a r i a b i l i t y , c a u s e d b y a n u m b e r o f

f a c t o r s s u c h a s s e x , p h y s i o l o g i c a l a n d p s y c h o l o g i c a l c o n d i t i o n s .

- T h e q u a l i t y o f t h e s p e e c h s i g n a l m a y b e a e c t e d b y e n v i r o n m e n t a l n o i s e o r t h e t r a n s f e r

f u n c t i o n o f t h e t r a n s m i s s i o n s y s t e m , e . g . m i c r o p h o n e a n d t e l e p h o n e .

- F o r u n r e s t r i c t e d n a t u r a l - l a n g u a g e s p e e c h i n p u t , t h e t a s k - i n h e r e n t s y n t a c t i c - s e m a n t i c c o n -

s t r a i n t s o f t h e l a n g u a g e s h o u l d b e e x p l o i t e d b y t h e r e c o g n i t i o n s y s t e m , i n a w a y s i m i l a r t o

h u m a n - t o - h u m a n c o m m u n i c a t i o n .

2 . 2 B a y e s D e c i s i o n R u l e

E v e r y a p p r o a c h t o a u t o m a t i c s p e e c h r e c o g n i t i o n i s f a c e d w i t h t h e p r o b l e m o f m a k i n g d e c i s i o n s i n

t h e p r e s e n c e o f a m b i g u i t y a n d c o n t e x t a n d o f m o d e l i n g t h e i n t e r d e p e n d e n c e o f t h e s e d e c i s i o n s a t

v a r i o u s l e v e l s . I f i t w e r e p o s s i b l e t o r e c o g n i z e p h o n e m e s o r w o r d s w i t h a v e r y h i g h r e l i a b i l i t y , i t

w o u l d n o t b e n e c e s s a r y t o r e l y h e a v i l y o n d e l a y e d d e c i s i o n t e c h n i q u e s , e r r o r c o r r e c t i n g t e c h n i q u e s

a n d s t a t i s t i c a l m e t h o d s . C o n s i d e r i n g t h e e x p e r i e n c e g a i n e d o v e r t h e l a s t 3 0 y e a r s , w e d o n o t

e x p e c t t h a t t h i s p r o b l e m o f r e l i a b l e a n d v i r t u a l l y e r r o r f r e e p h o n e m e o r w o r d r e c o g n i t i o n w i t h o u t

u s i n g h i g h l e v e l k n o w l e d g e w i l l b e p o s s i b l e , e s p e c i a l l y f o r l a r g e v o c a b u l a r y c o n t i n u o u s s p e e c h

r e c o g n i t i o n . A s a c o n s e q u e n c e , t h e r e c o g n i t i o n s y s t e m h a s t o d e a l w i t h a l a r g e n u m b e r o f

h y p o t h e s e s a b o u t p h o n e m e s , w o r d s a n d s e n t e n c e s , a n d i d e a l l y h a s t o t a k e i n t o a c c o u n t t h e

h i g h l e v e l c o n s t r a i n t s " a s g i v e n b y s y n t a x , s e m a n t i c s a n d p r a g m a t i c s . G i v e n t h i s s t a t e o f

a a i r s , s t a t i s t i c a l d e c i s i o n t h e o r y t e l l s u s h o w t o m i n i m i z e t h e p r o b a b i l i t y o f r e c o g n i t i o n e r r o r s

7 :

M a x i m i z e t h e p o s t e r i o r p r o b a b i l i t y P r w

1

: : : w

N

j x

1

: : : x

T

, i . e . d e t e r m i n e t h e s e q u e n c e o f

w o r d s w

1

: : : w

n

: : : w

N

o f u n k n o w n l e n g t h N w h i c h h a s m o s t p r o b a b l y c a u s e d t h e o b s e r v e d

s e q u e n c e o f a c o u s t i c v e c t o r s x

1

: : : x

t

: : : x

T

o v e r t i m e t = 1 : : : T , w h i c h a r e d e r i v e d f r o m t h e

s p e e c h s i g n a l i n t h e p r e p r o c e s s i n g s t e p o f a c o u s t i c a n a l y s i s .

B y a p p l y i n g B a y e s t h e o r e m o n c o n d i t i o n a l p r o b a b i l i t i e s , t h e p r o b l e m c a n b e w r i t t e n i n t h e

f o l l o w i n g f o r m : D e t e r m i n e t h e s e q u e n c e o f w o r d s w

1

: : : w

n

: : : w

N

w h i c h m a x i m i z e s

P r w

1

: : : w

n

: : : w

N

P r x

1

: : : x

t

: : : x

T

j w

1

: : : w

n

: : : w

N

:

T h i s s o c a l l e d B a y e s d e c i s i o n r u l e i s i l l u s t r a t e d i n F i g . 1 . I t r e q u i r e s t w o t y p e s o f p r o b a b i l i t y

d i s t r i b u t i o n s w h i c h w e r e f e r t o a s s t o c h a s t i c k n o w l e d g e s o u r c e s a l o n g w i t h a s e a r c h s t r a t e g y :

5


6/39

Speech Input

AcousticAnalysis

Phoneme Inventory

Pronunciation Lexicon

Language Model

Global Search:

maximize

x1...x

T

Pr(w1... w

N) Pr(x

1... x

T| w1...wN)

w1...wN

RecognizedWord Sequence

over

Pr(x1... x

T| w1...wN )

Pr(w1... w

N)

F i g u r e 1 : B a y e s d e c i s i o n r u l e f o r s p e e c h r e c o g n i t i o n .

T h e l a n g u a g e m o d e l , i . e . P r w

1

: : : w

N

, i s i n d e p e n d e n t o f t h e a c o u s t i c o b s e r v a t i o n s a n d

i s m e a n t t o i n c o r p o r a t e p r o b a b i l i s t i c r e s t r i c t i o n s o n h o w t o c o n c a t e n a t e w o r d s o f t h e

v o c a b u l a r y t o f o r m w h o l e s e n t e n c e s . T h e s e r e s t r i c t i o n s r e s u l t f r o m t h e s y n t a c t i c , s e m a n t i c

a n d p r a g m a t i c c o n s t r a i n t s o f t h e r e c o g n i t i o n t a s k a n d m a y b e m o d e l e d b y p r o b a b i l i s t i c o r

n o n p r o b a b i l i s t i c ' y e s n o ' m e t h o d s . I n l a r g e v o c a b u l a r y r e c o g n i t i o n t a s k s , t h e l a n g u a g e

m o d e l p r o b a b i l i t i e s a r e t y p i c a l l y a p p r o x i m a t e d b y b i g r a m o r t r i g r a m m o d e l s :

P r w

n

j w

1

: : : w

n , 1

= p w

n

j w

n , 1

P r w

n

j w

1

: : : w

n , 1

= p w

n

j w

n , 2

; w

n , 1

:

T h e a c o u s t i c p h o n e t i c m o d e l , i . e . P r x

1

: : : x

T

j w

1

: : : w

N

, i s t h e c o n d i t i o n a l p r o b a b i l i t y o f

o b s e r v i n g t h e a c o u s t i c v e c t o r s x

1

: : : x

T

w h e n t h e s p e a k e r u t t e r s t h e w o r d s w

1

: : : w

N

. L i k e t h e

l a n g u a g e m o d e l p r o b a b i l i t i e s , t h e s e p r o b a b i l i t i e s a r e e s t i m a t e d d u r i n g t h e t r a i n i n g p h a s e

o f t h e r e c o g n i t i o n s y s t e m . F o r a l a r g e v o c a b u l a r y s y s t e m , t h e r e i s t y p i c a l l y a s e t o f b a s i c

r e c o g n i t i o n u n i t s t h a t a r e s m a l l e r t h a n w h o l e w o r d s . E x a m p l e s o f t h e s e s o c a l l e d s u b w o r d

u n i t s a r e p h o n e m e s , d e m i s y l l a b l e s o r s y l l a b l e s . T h e w o r d m o d e l s a r e t h e n o b t a i n e d b y

c o n c a t e n a t i n g t h e s u b w o r d m o d e l s a c c o r d i n g t o t h e p h o n e t i c t r a n s c r i p t i o n o f t h e w o r d s i n

a p r o n u n c i a t i o n l e x i c o n o r d i c t i o n a r y . I n m o s t s y s t e m s , t h e s e s u b w o r d u n i t s a r e m o d e l e d

b y H i d d e n M a r k o v M o d e l s H M M . H i d d e n M a r k o v M o d e l s a r e s t o c h a s t i c n i t e s t a t e

a u t o m a t a o r s t o c h a s t i c r e g u l a r g r a m m a r s w h i c h c o n s i s t o f a M a r k o v c h a i n o f a c o u s t i c

s t a t e s , m o d e l i n g t h e t e m p o r a l s t r u c t u r e o f s p e e c h , a n d a p r o b a b i l i s t i c f u n c t i o n f o r e a c h

o f t h e s t a t e s , m o d e l i n g t h e e m i s s i o n a n d o b s e r v a t i o n o f a c o u s t i c v e c t o r s 7 , 9 , 2 5 , 3 5 , 6 2 .

6


7/39

PHONEMEX

X2

X3

X1

STATEINDEX

TIME INDEX

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

...

F i g u r e 2 : S t r u c t u r e o f a p h o n e m e m o d e l a n d s e a r c h s p a c e .

I n t h e e x p e r i m e n t s r e p o r t e d i n t h i s p a p e r , t h e p h o n e m e m o d e l s h a v e a s t r u c t u r e t h a t i s

d e p i c t e d i n F i g . 2 a l o n g w i t h t h e r e s u l t i n g s e a r c h s p a c e . T h e p h o n e m e X c o n s i s t s o f t h r e e

p a r t s X

1

; X

2

; X

3

, r e s u l t i n g i n a l i n e a r a r r a n g e m e n t o f s i x s t a t e s . W o r d s a r e o b t a i n e d b y

c o n c a t e n a t i n g t h e H M M p h o n e m e u n i t s a c c o r d i n g t o t h e b a s e l i n e p h o n e t i c t r a n s c r i p t i o n

a s i t c a n b e f o u n d i n a p r o n u n c i a t i o n d i c t i o n a r y . U s u a l l y , f o r a g i v e n s t a t e s

0

i n a w o r d

m o d e l w , w e h a v e a t r a n s i t i o n p r o b a b i l i t y p s j s

0

; w f o r g o i n g t o s t a t e s a n d a n e m i s s i o n

p r o b a b i l i t y d e n s i t y p x

t

j s

0

; w f o r o b s e r v i n g v e c t o r x

t

. F o r t h e f o l l o w i n g , i t i s s u c i e n t

t o c o n s i d e r o n l y t h e p r o d u c t o f t h e e m i s s i o n a n d t r a n s i t i o n p r o b a b i l i t i e s :

p x

t

; s j s

0

; w = p s j s

0

; w p x

t

j s ; w ;

w h i c h i s t h e c o n d i t i o n a l p r o b a b i l i t y t h a t , g i v e n s t a t e s

0

i n w o r d w , t h e a c o u s t i c v e c t o r x

t

i s o b s e r v e d a n d t h e s t a t e s i s r e a c h e d .

2 . 3 S p e c i c a t i o n o f t h e S e a r c h P r o b l e m

T h e d e c i s i o n o n t h e s p o k e n w o r d s m u s t b e t a k e n b y a n o p t i m i z a t i o n p r o c e d u r e w h i c h c o m b i n e s

i n f o r m a t i o n o f s e v e r a l k n o w l e d g e s o u r c e s : t h e l a n g u a g e m o d e l , t h e a c o u s t i c p h o n e t i c m o d e l s o f

s i n g l e p h o n e m e s , a n d t h e p r o n u n c i a t i o n l e x i c o n . T h e o p t i m i z a t i o n p r o c e d u r e i s u s u a l l y r e f e r r e d

t o a s s e a r c h i n a s t a t e s p a c e d e n e d b y t h e k n o w l e d g e s o u r c e s .

F o r a h y p o t h e s i z e d w o r d s e q u e n c e w

N

1

= w

1

: : : w

N

, w e i m a g i n e a s u p e r H M M t h a t i s o b t a i n e d

b y c o n c a t e n a t i n g t h e c o r r e s p o n d i n g p h o n e m e H M M s u s i n g a p r o n u n c i a t i o n l e x i c o n s e e F i g . 2 .

N o t e t h a t b y t h i s p r o c e s s , w e e n d u p w i t h a l a r g e n u m b e r o f c o p i e s f o r e a c h p h o n e m e a n d t h a t

t h e s e c o p i e s m u s t b e k e p t s e p a r a t e d u r i n g t h e s e a r c h p r o c e s s t o s a t i s f y t h e c o n s t r a i n t s o f t h e

p r o n u n c i a t i o n l e x i c o n . A t p h o n e m e a n d w o r d b o u n d a r i e s , w e h a v e t o a l l o w f o r t r a n s i t i o n s t h a t

l i n k t h e t e r m i n a l s t a t e s o f a n y p r e d e c e s s o r H M M t o t h e i n i t i a l s t a t e s o f a n y s u c c e s s o r H M M .

I n s u c h a w a y , w e c a n c o m p u t e t h e j o i n t p r o b a b i l i t y o f o b s e r v i n g t h e s e q u e n c e x

T

1

= x

1

: : : x

T

o f

a c o u s t i c i n p u t v e c t o r s a n d t h e s t a t e s e q u e n c e s

T

1

= s

1

: : : s

T

t h r o u g h t h i s s u p e r H M M :

P r

x

T

1

; s

T

1

w

N

1

=

T

Y

t = 1

p x

t

; s

t

j s

t , 1

; w

N

1

;

=

T

Y

t = 1

h

p s

t

j s

t , 1

; w

N

1

p x

t

j s

t

i

;

7


8/39

w h e r e p x

t

; s

t

j s

t , 1

; w

N

1

d e n o t e s t h e p r o d u c t o f t h e t r a n s i t i o n a n d e m i s s i o n p r o b a b i l i t i e s f o r t h e

s u p e r H M M w

N

1

. T h e d e c o m p o s i t i o n h a s b e e n f o r m u l a t e d i n s u c h a w a y t h a t w e c a n d i s t i n g u i s h

b e t w e e n t w o c o m p o n e n t s o f t h e a p p r o a c h :

t h e r e f e r e n c e m o d e l s w i t h t h e e m i s s i o n p r o b a b i l i t y d i s t r i b u t i o n s p x

t

j s f o r t h e a c o u s t i c

s t a t e s , e . g . a f t e r t y i n g t h e e m i s s i o n d i s t r i b u t i o n s u s i n g d e c i s i o n t r e e s 8 0 o r s o m e o t h e r

m e t h o d . N o t e t h a t , f o r t h e e m i s s i o n p r o b a b i l i t y p x

t

j s , w e s t r e t c h n o t a t i o n a l i t t l e b i t

a n d d o n o t n e c e s s a r i l y d i s t i n g u i s h b e t w e e n t h e s t a t e i n a p h o n e m e o r w o r d m o d e l a n d i t s

a s s o c i a t e d g e n e r i c e m i s s i o n p r o b a b i l i t y d i s t r i b u t i o n .

t h e t r a n s i t i o n p r o b a b i l i t i e s p s

t

j s

t , 1

; w

N

1

d e p e n d i n g o n a w o r d s e q u e n c e h y p o t h e s i s w

N

1

:

t h i s i m p l i e s a h u g e n i t e n e t w o r k o f s t a t e s s u p e r H M M t h a t h a s t o b e c o n s i d e r e d f o r

e a c h w o r d s e q u e n c e h y p o t h e s i s w

N

1

.

D e n o t i n g t h e l a n g u a g e m o d e l L M p r o b a b i l i t y b y P r w

N

1

, t h e B a y e s d e c i s i o n r u l e r e s u l t s i n

t h e f o l l o w i n g o p t i m i z a t i o n p r o b l e m :

w

N

1

= a r g m a x

w

N

1

8

:

P r w

N

1

X

s

T

1

P r

x

T

1

; s

T

1

w

N

1

9

=

;

= a r g m a x

w

N

1

P r w

N

1

m a x

s

T

1

P r

x

T

1

; s

T

1

w

N

1

:

H e r e , w e h a v e m a d e u s e o f t h e s o - c a l l e d m a x i m u m a p p r o x i m a t i o n w h i c h i s a l s o r e f e r r e d t o

a s V i t e r b i a p p r o x i m a t i o n 2 5 . I n s t e a d o f s u m m i n g o v e r a l l p a t h s , w e c o n s i d e r o n l y t h e m o s t

p r o b a b l e p a t h . N o t e t h a t f o r t h e m a x i m u m a p p r o x i m a t i o n t o w o r k , w e n e e d o n l y t h e a s s u m p t i o n

t h a t t h e r e s u l t i n g o p t i m a l w o r d s e q u e n c e s a r e t h e s a m e , n o t n e c e s s a r i l y t h a t t h e m a x i m u m

p r o v i d e s a g o o d a p p r o x i m a t i o n t o t h e s u m .

I n t h i s m a x i m u m a p p r o x i m a t i o n , t h e s e a r c h s p a c e c a n b e d e s c r i b e d a s a h u g e n e t w o r k t h r o u g h

w h i c h t h e b e s t t i m e a l i g n m e n t p a t h h a s t o b e f o u n d . T h e s e a r c h h a s t o b e p e r f o r m e d a t t w o

l e v e l s : a t t h e s t a t e l e v e l s

T

1

a n d a t t h e w o r d l e v e l w

N

1

. A s w e w i l l s e e , a s a r e s u l t o f t h e

m a x i m u m a p p r o x i m a t i o n , i t w i l l b e p o s s i b l e t o r e c o m b i n e h y p o t h e s e s e c i e n t l y a t b o t h l e v e l s b y

D P . T h u s t h e c o m b i n a t o r i a l e x p l o s i o n o f t h e n u m b e r o f s e a r c h h y p o t h e s e s c a n b e l i m i t e d , w h i c h

i s o n e o f t h e m o s t i m p o r t a n t c h a r a c t e r i s t i c s o f D P . A t t h e s a m e t i m e , t h e s e a r c h h y p o t h e s e s a r e

c o n s t r u c t e d a n d e v a l u a t e d i n a s t r i c t l y l e f t - t o - r i g h t t i m e - s y n c h r o n o u s f a s h i o n . T h i s c h a r a c t e r i s t i c

p r o p e r t y a l l o w s a n e c i e n t p r u n i n g s t r a t e g y t o e l i m i n a t e u n l i k e l y s e a r c h h y p o t h e s e s , w h i c h i s

u s u a l l y r e f e r r e d t o a s b e a m s e a r c h .

8


9/39

A

B

C

t3 t3t2t2 t4t1 n=3n=2n=1

TIME t / WORD POSITION n

B

C

AA

B

C

A

B

C

...

...

...

...

...

...

F i g u r e 3 : I l l u s t r a t i o n o f t h e s e a r c h p r o b l e m f o r a t h r e e - w o r d v o c a b u l a r y A ; B ; C .

3 O n e P a s s D P S e a r c h u s i n g a L i n e a r L e x i c o n

3 . 1 D e n i t i o n o f t h e S e a r c h S p a c e

I n t h i s s e c t i o n , f o r a l i n e a r l e x i c o n , w e d e s c r i b e t h e o n e p a s s a l g o r i t h m w h i c h f o r m s t h e b a s e l i n e

f o r a l l s e a r c h s t r a t e g i e s d e s c r i b e d i n t h i s p a p e r . O r i g i n a l l y t h e o n e p a s s a l g o r i t h m h a d b e e n

d e s i g n e d f o r s m a l l v o c a b u l a r y r e c o g n i t i o n t a s k s l i k e d i g i t s t r i n g r e c o g n i t i o n 1 3 , 4 1 , 4 2 , 7 7 .

O v e r t h e l a s t 3 0 y e a r s , h o w e v e r , t h e s e a l g o r i t h m s a n d i t s e x t e n s i o n s h a v e t u r n e d o u t t o b e

s u r p r i s i n g l y s u c c e s s f u l i n h a n d l i n g v o c a b u l a r i e s o f 2 0 0 0 0 o r m o r e w o r d s .

T h e t e r m ' l i n e a r l e x i c o n ' d e n o t e s t h e f a c t t h a t t h e w o r d s a r e k e p t s t r i c t l y s e p a r a t e i n t h e s e a r c h

p r o c e s s . U n l i k e a t r e e l e x i c o n , t h e r e i s n o s h a r i n g b e t w e e n t h e w o r d s a s f a r a s t h e s e a r c h

h y p o t h e s e s a r e c o n c e r n e d . F o r a t h r e e w o r d v o c a b u l a r y , t h e s e a r c h s p a c e i s i l l u s t r a t e d i n F i g . 3 .

T h e r e a r e t w o t y p e s o f t r a n s i t i o n s , n a m e l y t h e a c o u s t i c t r a n s i t i o n s r e p r e s e n t i n g t h e p r o b a b i l i t i e s

o f t h e a c o u s t i c w o r d m o d e l s A ; B ; C i n F i g . 3 . a n d t h e l a n g u a g e t r a n s i t i o n s r e p r e s e n t i n g

t h e l a n g u a g e m o d e l p r o b a b i l i t i e s . I n F i g . 3 , a b i g r a m l a n g u a g e m o d e l i s a s s u m e d . F o r e a c h

p o s s i b l e w o r d b i g r a m v ; w , t h e r e i s a L M t r a n s i t i o n t h a t i s a s s i g n e d t h e c o n d i t i o n a l b i g r a m

L M p r o b a b i l i t y p w j v a n d t h a t l i n k s t h e e n d o f p r e d e c e s s o r v t o t h e b e g i n n i n g o f w o r d w . F o r

r e c o g n i t i o n , a s s h o w n i n F i g . 3 , w e u n f o l d t h e n i t e - s t a t e m a c h i n e a l o n g t h e t i m e a x i s o f t h e

s p o k e n u t t e r a n c e . F o r t h e s a k e o f s i m p l i c i t y , F i g . 3 d o e s n o t c o v e r t h e d e t a i l s o f t h e a c o u s t i c

m o d e l s a n d s h o w s t h e l a n g u a g e m o d e l t r a n s i t i o n s a t t i m e s t

2

a n d t

3

, o n l y . B o t h t h e a c o u s t i c

t r a n s i t i o n s a s s h o w n i n F i g . 2 a n d t h e l a n g u a g e t r a n s i t i o n s m u s t b e c o n s i d e r e d e v e r y 1 0 - m s

t i m e f r a m e . A s a r e s u l t , t h e r e i s a h u g e n u m b e r o f p o s s i b l e s t a t e s e q u e n c e s , a n d a l l c o m b i n a t i o n s

o f s t a t e a n d t i m e m u s t b e c o n s i d e r e d s y s t e m a t i c a l l y f o r r e c o g n i t i o n .

I n t h e m a x i m u m a p p r o x i m a t i o n , t h e s e a r c h p r o b l e m c a n b e s p e c i e d a s f o l l o w s . W e w i s h t o

a s s i g n e a c h a c o u s t i c v e c t o r o b s e r v e d a t t i m e t t o a s t a t e , w o r d i n d e x p a i r . T h i s m a p p i n g c a n

b e v i e w e d a s a t i m e a l i g n m e n t p a t h , w h i c h i s a s e q u e n c e o f s t a t e , w o r d i n d e x p a i r s s t r e t c h i n g

n o t a t i o n :

s

1

; w

1

; : : : ; s

t

; w

t

; : : : ; s

T

; w

T

:

A n e x a m p l e o f s u c h a t i m e a l i g n m e n t p a t h i n c o n n e c t e d w o r d r e c o g n i t i o n i s d e p i c t e d i n F i g . 4 .

F o r s u c h p a t h s , t h e r e a r e o b v i o u s c o n t i n u i t y c o n s t r a i n t s o r t r a n s i t i o n r u l e s a s s h o w n i n F i g . 5 .

S i n c e t h e w o r d m o d e l s a r e o b t a i n e d b y c o n c a t e n a t i n g p h o n e m e m o d e l s , t h e t r a n s i t i o n r u l e s i n t h e

w o r d i n t e r i o r F i g . 5 t o p a r e t h o s e o f t h e u s e d H M M s a s s h o w n i n F i g . 2 . A t w o r d b o u n d a r i e s

F i g . 5 b o t t o m , w e h a v e t o a l l o w f o r t r a n s i t i o n s t h a t l i n k t h e t e r m i n a l s t a t e S

v

o f a n y p r e d e c e s s o r

w o r d v t o t h e b e g i n n i n g s t a t e s s = 1 a n d s = 2 o f a n y w o r d w . T h e d y n a m i c p r o g r a m m i n g

s e a r c h t o b e p r e s e n t e d w i l l a l l o w u s t o c o m p u t e t h e p r o b a b i l i t i e s s t r e t c h i n g n o t a t i o n

P r w

1

: : : w

t

P r x

1

: : : x

t

; s

1

: : : s

t

j w

1

: : : w

t

9


10/39

i n a l e f t t o r i g h t f a s h i o n o v e r t i m e t a n d t o c a r r y o u t t h e o p t i m i z a t i o n o v e r t h e u n k n o w n w o r d

s e q u e n c e a t t h e s a m e t i m e . N o t e t h a t t h e u n k n o w n w o r d s e q u e n c e a n d t h e u n k n o w n s t a t e

s e q u e n c e a r e d e t e r m i n e d s i m u l t a n e o u s l y . W i t h i n t h e f r a m e w o r k o f t h e m a x i m u m a p p r o x i m a t i o n

o r V i t e r b i c r i t e r i o n , t h e d y n a m i c p r o g r a m m i n g a l g o r i t h m p r e s e n t s a c l o s e d f o r m s o l u t i o n f o r

h a n d l i n g t h e i n t e r d e p e n d e n c e o f n o n l i n e a r t i m e a l i g n m e n t , w o r d b o u n d a r y d e t e c t i o n a n d w o r d

i d e n t i c a t i o n i n c o n t i n u o u s s p e e c h r e c o g n i t i o n 1 3 , 3 4 , 3 7 , 4 0 , 4 2 , 6 5 , 7 7 .

3 . 2 D P R e c u r s i o n

T h e k e y c o n c e p t o f t h e d y n a m i c p r o g r a m m i n g s t r a t e g y t o b e p r e s e n t e d i s b a s e d o n t h e f o l l o w i n g

t w o q u a n t i t i e s :

Q t ; s ; w : = s c o r e o f t h e b e s t p a t h u p t o t i m e t

t h a t e n d s i n s t a t e s o f w o r d w .

B t ; s ; w : = s t a r t t i m e o f t h e b e s t p a t h u p t o t i m e t

t h a t e n d s i n s t a t e s o f w o r d w .

L o o k i n g a t t h e m a i n m e m o r y s i z e s a v a i l a b l e t o d a y , w e s h o u l d a d d t h a t t h e b a c k p o i n t e r B t ; s ; w

i s n o t a b s o l u t e l y n e e d e d f o r s m a l l - v o c a b u l a r y t a s k s l i k e d i g i t s t r i n g r e c o g n i t i o n . F o r v o c a b u l a r i e s

o f 2 0 0 0 0 o r m o r e w o r d s , h o w e v e r , i t i s e s s e n t i a l t o r e d u c e t h e s t o r a g e r e q u i r e m e n t s a s m u c h a s

p o s s i b l e .

A s s h o w n i n F i g . 4 , t h e r e a r e t w o t y p e s o f t r a n s i t i o n r u l e s f o r t h e p a t h , n a m e l y r u l e s i n t h e

w o r d i n t e r i o r a n d a t w o r d b o u n d a r i e s . T h e c o n c e p t o f d y n a m i c p r o g r a m m i n g i s t o u s e t h e s e

r u l e s t o d e c o m p o s e t h e p a t h i n t o t w o p a r t s a n d f o r m u l a t e r e c u r r e n c e r e l a t i o n s , w h i c h c a n b e

s o l v e d b y l l i n g i n t a b l e s , w h i c h i n t h i s c a s e i s t h e t a b l e Q t ; s ; w . I n a m o r e g e n e r a l s e t t i n g

o f o p t i m i z a t i o n p r o b l e m s , t h i s c o n c e p t i s o f t e n r e f e r r e d t o a s B e l l m a n ' s p r i n c i p l e o f o p t i m a l i t y

1 0 . I n t h e w o r d i n t e r i o r , w e h a v e t h e r e c u r r e n c e e q u a t i o n :

Q t ; s ; w = m a x

s

0

p x

t

; s j s

0

; w Q t , 1 ; s

0

; w

B t ; s ; w = B t , 1 ; s

m a x

t ; s ; w ; w ;

w h e r e s

m a x

t ; s ; w i s t h e o p t i m u m p r e d e c e s s o r s t a t e f o r t h e h y p o t h e s i s t ; s ; w . T h e b a c k

p o i n t e r s B t ; s ; w a r e p r o p a g a t e d s i m p l y a c c o r d i n g t o t h e D P d e c i s i o n a s s h o w n i n F i g . 6

a n d r e p o r t t h e s t a r t t i m e f o r e a c h w o r d e n d h y p o t h e s i s . W h e n e n c o u n t e r i n g a p o t e n t i a l w o r d

b o u n d a r y , w e h a v e t o p e r f o r m t h e r e c o m b i n a t i o n o v e r t h e p r e d e c e s s o r w o r d s a n d t h e r e f o r e d e n e :

H w ; t : = m a x

v

f p w j v Q t ; S

v

; v g ;

w h e r e p w j v i s t h e c o n d i t i o n a l L M p r o b a b i l i t y o f w o r d b i g r a m v ; w . T h e s y m b o l S

v

d e n o t e s

t h e t e r m i n a l s t a t e o f w o r d v . T o a l l o w f o r s u c c e s s o r w o r d s t o b e s t a r t e d , w e i n t r o d u c e a s p e c i a l

s t a t e s = 0 a n d p a s s o n b o t h t h e s c o r e a n d t h e t i m e i n d e x :

Q t , 1 ; s = 0 ; w = H w ; t , 1

B t , 1 ; s = 0 ; w = t , 1 :

T h i s e q u a t i o n a s s u m e s t h a t r s t t h e n o r m a l s t a t e s s = 1 ; : : : ; S

w

a r e e v a l u a t e d f o r e a c h w o r d

w b e f o r e t h e s t a r t - u p s t a t e s s = 0 a r e e v a l u a t e d . T h e s a m e t i m e i n d e x t i s u s e d i n t e n t i o n a l l y ,

b e c a u s e t h e l a n g u a g e m o d e l d o e s n o t ' a b s o r b ' a n a c o u s t i c v e c t o r . N o t e t h a t t h e s c o r e s Q t ; s ; w

c a p t u r e b o t h t h e a c o u s t i c o b s e r v a t i o n d e p e n d e n t p r o b a b i l i t i e s r e s u l t i n g f r o m t h e H M M a n d t h e

l a n g u a g e m o d e l p r o b a b i l i t i e s .

1 0


11/39

TIME t1 T

w=1

w=2

w=3

w=4

w=5

1

1

1

1

1

S(1)

S(2)

S(3)

S(4)

S(5)

STATESs

F i g u r e 4 : E x a m p l e o f a t i m e a l i g n m e n t p a t h .

1 Tt

1

S(w)

s

STATESsOFWORDw

TIME

STATES 1

S(w)

1 Tt

1

S(v)

TIME

F i g u r e 5 : P a t h r e c o m b i n a t i o n s .

1 1


12/39

T h e o p e r a t i o n s t o b e p e r f o r m e d a r e s u m m a r i z e d i n T a b l e 2 . T h e s e q u e n c e o f a c o u s t i c v e c t o r s

e x t r a c t e d f r o m t h e i n p u t s p e e c h s i g n a l i s p r o c e s s e d s t r i c t l y f r o m l e f t t o r i g h t . A c c o r d i n g t o

t h e D P e q u a t i o n s , t w o l e v e l s a r e d i s t i n g u i s h e d i n T a b l e 2 : t h e a c o u s t i c l e v e l a t w h i c h t h e

w o r d i n t e r n a l r e c o m b i n a t i o n s a r e p e r f o r m e d a n d t h e w o r d p a i r l e v e l a t w h i c h t h e b i g r a m L M

r e c o m b i n a t i o n s a r e p e r f o r m e d . T h e s e a r c h p r o c e d u r e w o r k s w i t h a t i m e s y n c h r o n o u s b r e a d t h

r s t s t r a t e g y , i . e . a l l h y p o t h e s e s f o r w o r d s e q u e n c e s a r e e x t e n d e d i n p a r a l l e l f o r e a c h i n c o m i n g

a c o u s t i c v e c t o r . T o r e d u c e t h e s t o r a g e r e q u i r e m e n t s , i t i s s u i t a b l e t o i n t r o d u c e a t r a c e b a c k a r r a y

i n a d d i t i o n t o t h e b a c k p o i n t e r s . F o r e a c h t i m e f r a m e , t h e t r a c e b a c k a r r a y i s u s e d t o r e c o r d t h e

d e c i s i o n a b o u t t h e b e s t w o r d e n d h y p o t h e s i s a n d i t s s t a r t t i m e . U s i n g t h e t r a c e b a c k a r r a y , t h e

r e c o g n i z e d w o r d s e q u e n c e c a n b e r e c o v e r e d e c i e n t l y b y a f e w t a b l e l o o k - u p s i n t o t h e t r a c e b a c k

a r r a y s a t t h e e n d o f t h e u t t e r a n c e a s s h o w n i n F i g . 7 .

1 2


13/39

1 Tt

S(w)

TIME

1 Tt

1

S(w)

s

STATESsOFW

ORDw

TIME

F i g u r e 6 : I l l u s t r a t i o n o f b a c k p o i n t e r s .

0 TTIME t

3 253 1 4

START TIME ARRAY

PREDECESSOR ARRAY 0

F i g u r e 7 : I l l u s t r a t i o n o f t r a c e b a c k a r r a y s .

1 3


14/39

T a b l e 2 : O n e p a s s D P a l g o r i t h m u s i n g a l i n e a r l e x i c o n .

p r o c e e d o v e r t i m e t f r o m l e f t t o r i g h t

A C O U S T I C L E V E L : p r o c e s s w o r d , s t a t e - h y p o t h e s e s

i n i t i a l i z a t i o n : Q t , 1 ; s = 0 ; w = H w ; t , 1

B t , 1 ; s = 0 ; w = t , 1

t i m e a l i g n m e n t : Q t ; s ; w u s i n g D P

p r o p a g a t e b a c k p o i n t e r s B t ; s ; w

p r u n e u n l i k e l y h y p o t h e s e s

p u r g e b o o k k e e p i n g l i s t s

W O R D P A I R L E V E L : p r o c e s s w o r d e n d h y p o t h e s e s

f o r e a c h w o r d w d o

H w ; t = m a x

v

f p w j v Q t ; S

w

; w g

v

0

w ; t = a r g m a x

v

f p w j v Q t ; S

w

; w g

s t o r e b e s t p r e d e c e s s o r v

0

: = v

0

w ; t

s t o r e b e s t b o u n d a r y

0

: = B t ; S

v

0

; v

0

B e a m S e a r c h

S i n c e , f o r a x e d t i m e f r a m e , a l l w o r d , s t a t e - h y p o t h e s e s c o v e r t h e s a m e p o r t i o n o f t h e i n p u t ,

t h e i r s c o r e s c a n b e d i r e c t l y c o m p a r e d . T h i s e n a b l e s t h e s y s t e m t o a v o i d a n e x h a u s t i v e s e a r c h

a n d t o p e r f o r m a d a t a d r i v e n s e a r c h i n s t e a d , i . e . t o f o c u s t h e s e a r c h o n t h o s e h y p o t h e s e s w h i c h

a r e m o s t l i k e l y t o r e s u l t i n t h e b e s t s t a t e s e q u e n c e 3 7 . E v e r y 1 0 m s f r a m e , t h e s c o r e o f t h e

b e s t h y p o t h e s i s i s d e t e r m i n e d , t h e n a l l h y p o t h e s e s w h o s e s c o r e s f a l l s h o r t o f t h i s o p t i m a l s c o r e

b y m o r e t h a n a x e d f a c t o r a r e p r u n e d , i . e . a r e r e m o v e d f r o m f u r t h e r c o n s i d e r a t i o n . T h e

e x p e r i m e n t a l t e s t s i n d i c a t e t h a t f o r t h i s t y p e o f b e a m s e a r c h , d e p e n d i n g o n t h e a c o u s t i c i n p u t

a n d t h e l a n g u a g e m o d e l c o n s t r a i n t s , o n l y a s m a l l f r a c t i o n o f t h e o v e r a l l n u m b e r o f p o s s i b l e

w o r d , s t a t e - h y p o t h e s e s h a v e t o b e p r o c e s s e d f o r e v e r y 1 0 m s o f t h e i n p u t s p e e c h w h i l e a t t h e

s a m e t i m e t h e n u m b e r o f r e c o g n i t i o n e r r o r s i s v i r t u a l l y n o t i n c r e a s e d . T h i s b e a m s e a r c h s t r a t e g y

w i l l b e c o n s i d e r e d i n f u l l d e t a i l l a t e r i n t h e c o n t e x t o f a t r e e o r g a n i z a t i o n o f t h e p r o n u n c i a t i o n

l e x i c o n . I n a d d i t i o n , t o f u l l y e x p l o i t t h e c o m p u t a t i o n a l a d v a n t a g e s o f t h i s b e a m s e a r c h s t r a t e g y ,

a d y n a m i c c o n s t r u c t i o n o f t h e a c t i v e s e a r c h s p a c e i s s u i t a b l e a s w e w i l l a l s o d i s c u s s l a t e r . T h i s

o n e p a s s d y n a m i c p r o g r a m m i n g a l g o r i t h m i n c o m b i n a t i o n w i t h b e a m s e a r c h f o r m s t h e b a s i c

c o m p o n e n t o f t h e s e a r c h c o m p o n e n t i n m a n y s u c c e s s f u l s y s t e m s f o r b o t h s m a l l - v o c a b u l a r y a n d

l a r g e - v o c a b u l a r y s p e e c h r e c o g n i t i o n 1 , 5 , 1 4 , 1 7 , 2 1 , 2 3 , 3 0 , 3 3 , 3 4 , 3 9 , 4 6 , 5 5 , 7 2 , 7 9 .

4 O n e P a s s D P S e a r c h u s i n g a T r e e L e x i c o n

4 . 1 D e n i t i o n o f t h e S e a r c h S p a c e

W h e n a p p l y i n g t h e a l g o r i t h m p r e s e n t e d t o l a r g e - v o c a b u l a r y r e c o g n i t i o n , s a y a 2 0 0 0 0 - w o r d t a s k ,

i t s e e m s n a t u r a l a n d v e r y d e s i r a b l e f o r e c i e n c y r e a s o n s t o o r g a n i z e t h e p r o n u n c i a t i o n l e x i c o n

i n t h e f o r m o f a p r e x t r e e , i n w h i c h e a c h a r c r e p r e s e n t s a p h o n e m e m o d e l , b e i t c o n t e x t

d e p e n d e n t o r i n d e p e n d e n t 2 2 , 4 6 , 5 5 . A p a r t o f s u c h a l e x i c a l p r o n u n c i a t i o n t r e e i s s h o w n

1 4


15/39

speak

spell

speechs

p ee

k

ch

eh

l

aw

eh

ey

tk

l

say

talk

tell

F i g u r e 8 : T r e e - o r g a n i z e d p r o n u n c i a t i o n l e x i c o n .

i n F i g . 8 . T h i s i d e a o f u s i n g a t r e e r e p r e s e n t a t i o n w a s a l r e a d y s u g g e s t e d i n t h e s e v e n t i e s i n

t h e C A S P E R S s y s t e m 2 8 a n d i n t h e L A F S s y s t e m L A F S = l e x i c a l a c c e s s f r o m s p e c t r a 2 7 .

H o w e v e r , w h e n u s i n g s u c h a l e x i c a l t r e e i n t h e f r a m e w o r k o f a l a n g u a g e m o d e l , e . g . a b i g r a m

m o d e l , a n d d y n a m i c p r o g r a m m i n g , t h e r e a r e D P - s p e c i c t e c h n i c a l d e t a i l s t h a t h a v e t o b e t a k e n

i n t o a c c o u n t a n d r e q u i r e a s u i t a b l e s t r u c t u r i n g o f t h e s e a r c h s p a c e 2 2 , 4 6 . N e x t w e w i l l p r e s e n t

t h e s e a r c h a l g o r i t h m f o r s u c h a c o n t e x t i n f u l l d e t a i l .

W h e n u s i n g a b i g r a m L M i n c o n n e c t i o n w i t h s u c h a t r e e r e p r e s e n t a t i o n o f t h e p r o n u n c i a t i o n

l e x i c o n , w e f a c e t h e p r o b l e m t h a t t h e i d e n t i t y o f t h e h y p o t h e s i z e d w o r d w i s k n o w n o n l y w h e n a

l e a f o f t h e t r e e h a s b e e n r e a c h e d . T h e r e f o r e t h e l a n g u a g e m o d e l p r o b a b i l i t i e s c a n o n l y b e f u l l y

i n c o r p o r a t e d a f t e r r e a c h i n g t h e t e r m i n a l s t a t e o f t h e s e c o n d w o r d o f t h e b i g r a m . A s a r e s u l t , w e

c a n a p p l y t h e l a n g u a g e m o d e l p r o b a b i l i t y o n l y a t t h e e n d o f a t r e e . T o m a k e t h e a p p l i c a t i o n

o f t h e d y n a m i c p r o g r a m m i n g p r i n c i p l e s p o s s i b l e , w e s t r u c t u r e t h e s e a r c h s p a c e a s f o l l o w s . F o r

e a c h p r e d e c e s s o r w o r d v , w e i n t r o d u c e a s e p a r a t e c o p y o f t h e l e x i c a l t r e e s o t h a t d u r i n g t h e

s e a r c h p r o c e s s w e w i l l a l w a y s k n o w t h e p r e d e c e s s o r w o r d v w h e n a w o r d e n d h y p o t h e s i s w i s

h y p o t h e s i z e d . F i g . 9 i l l u s t r a t e s t h i s c o n c e p t f o r a t h r e e - w o r d v o c a b u l a r y A ; B ; C , w h e r e t h e

l e x i c a l t r e e i s d e p i c t e d i n a s i m p l i e d s c h e m a t i c f o r m . T o a v o i d a n y p o t e n t i a l m i s c o n c e p t i o n s ,

w e w o u l d l i k e t o s t r e s s t h a t F i g . 9 s h o w s t h e c o n c e p t u a l s e a r c h s p a c e , w h i c h i s t o o b i g t o b e

c o n s t r u c t e d a s a w h o l e . I n s t e a d , a s w e w i l l s h o w l a t e r , w e w i l l c o n s t r u c t t h e a c t i v e p o r t i o n s

o f t h i s s e a r c h s p a c e d y n a m i c a l l y i n c o m b i n a t i o n w i t h b e a m s e a r c h . I n t h e s e t - u p o f F i g . 9 , w e

a p p l y t h e b i g r a m L M p r o b a b i l i t y p w j v w h e n t h e n a l s t a t e o f w o r d w w i t h p r e d e c e s s o r v h a s

b e e n r e a c h e d , a n d u s e t h e r e s u l t i n g o v e r a l l s c o r e t o s t a r t u p t h e c o r r e s p o n d i n g l e x i c a l t r e e , i . e .

t h e t r e e t h a t h a s w o r d w a s p r e d e c e s s o r .

I n t h e r e c o g n i t i o n p r o c e s s , i n a d d i t i o n t o t h e s p o k e n w o r d s , w e h a v e t o a c c o u n t f o r p o s s i b l e p a u s e s

b e t w e e n t h e s p o k e n w o r d s . T o h a n d l e t h e s e s o - c a l l e d i n t r a p h r a s e p a u s e s , w e h a v e a s p e c i a l H M M

s i l e n c e m o d e l a n d a d d a s e p a r a t e c o p y o f t h i s m o d e l S i l t o e a c h t r e e . F u r t h e r m o r e , f o r t h e

p o s s i b l e p a u s e a t t h e s e n t e n c e b e g i n n i n g , w e h a v e a s e p a r a t e c o p y o f t h e l e x i c a l t r e e f o r t h e

r s t w o r d i n t h e s e n t e n c e ; t h i s t r e e c o p y i s g i v e n s i l e n c e a s i t s p r e d e c e s s o r w o r d . A s a r e s u l t o f

t h i s a p p r o a c h , t h e s i l e n c e m o d e l c o p i e s d o n o t r e q u i r e a s p e c i a l t r e a t m e n t , b u t c a n b e p r o c e s s e d

l i k e r e g u l a r w o r d s o f t h e v o c a b u l a r y . H o w e v e r , t h e r e i s o n e e x c e p t i o n : a t w o r d b o u n d a r i e s ,

t h e r e i s n o l a n g u a g e m o d e l p r o b a b i l i t y f o r t h e s i l e n c e m o d e l s . A s s h o w n i n F i g . 9 , t h e r e a r e

t w o t y p e s o f p a t h e x t e n s i o n s a n d r e c o m b i n a t i o n s , n a m e l y i n t h e i n t e r i o r o f t h e w o r d s o r l e x i c a l

t r e e s a n d a t w o r d b o u n d a r i e s . I n t h e w o r d i n t e r i o r , w e h a v e t h e b o l d l i n e s r e p r e s e n t i n g t h e

t r a n s i t i o n s i n t h e H i d d e n M a r k o v m o d e l s . A t w o r d b o u n d a r i e s , w e h a v e t h e t h i n a n d t h e d a s h e d

l i n e s , w h i c h r e p r e s e n t t h e b i g r a m L M r e c o m b i n a t i o n s . L i k e t h e a c o u s t i c r e c o m b i n a t i o n s , t h e y ,

t o o , a r e p e r f o r m e d e v e r y 1 0 - m s t i m e f r a m e . T h e d a s h e d l i n e s a r e r e l a t e d t o r e c o m b i n a t i o n s f o r

i n t r a p h r a s e s i l e n c e c o p i e s . T o s t a r t u p a n e w w o r d h y p o t h e s i s , w e h a v e t o i n c o r p o r a t e t h e b i g r a m

p r o b a b i l i t y i n t o t h e s c o r e a n d t o d e t e r m i n e t h e b e s t p r e d e c e s s o r w o r d . T h i s b e s t s c o r e i s t h e n

1 5


16/39

p r o p a g a t e d i n t o t h e r o o t o f t h e a s s o c i a t e d l e x i c a l t r e e , w h i c h i s r e p r e s e n t e d b y t h e s y m b o l 2 .

T h e s y m b o l d e n o t e s a w o r d e n d .

tt

LANGUAGE

MODEL

ACOUSTIC

MODEL

ACOUSTIC

MODEL

A A

B

C

A

B

C

A

B

C

A

B

C

B

C

A

B

C

A

B

C

A

B

C

Sil Sil

Sil

Sil

Sil

Sil

A

B

C

Sil

Sil

Sil B

C

Sil

A

F i g u r e 9 : B i g r a m L M r e c o m b i n a t i o n a n d i n t r a p h r a s e s i l e n c e S i l h a n d l i n g f o r a t r e e l e x i c o n

t h r e e - w o r d v o c a b u l a r y : A , B , C ;

s y m b o l s : : w o r d e n d h y p o t h e s e s A ; B ; C ;

2 : r o o t o f a t r e e c o p y f o r h i s t o r y A ; B ; C ;

b o l d l i n e : a c o u s t i c m o d e l r e c o m b i n a t i o n w i t h i n a t r e e c o p y ;

t h i n l i n e : b i g r a m l a n g u a g e m o d e l r e c o m b i n a t i o n ;

d a s h e d l i n e : w o r d b o u n d a r y r e c o m b i n a t i o n f o r s i l e n c e h y p o t h e s e s .

4 . 2 D P R e c u r s i o n

F o r a q u a n t i t a t i v e s p e c i c a t i o n o f t h e s e a r c h p r o c e d u r e , w e a s s u m e t h a t e a c h a r c o f t h e l e x i c a l

t r e e i s r e p r e s e n t e d b y a H i d d e n M a r k o v m o d e l . W e w i l l u s e t h e s t a t e i n d e x s d i r e c t l y a n d a s s u m e

t h a t t h e l e x i c a l s t r u c t u r e i s c a p t u r e d b y t h e t r a n s i t i o n p r o b a b i l i t i e s o f t h e H i d d e n M a r k o v m o d e l .

T o f o r m u l a t e t h e d y n a m i c p r o g r a m m i n g a p p r o a c h , w e i n t r o d u c e t h e f o l l o w i n g t w o q u a n t i t i e s 4 5 :

1 6


17/39

Q

v

t ; s : = s c o r e o f t h e b e s t p a r t i a l p a t h t h a t e n d s a t t i m e t

s t a t e s o f t h e l e x i c a l t r e e f o r p r e d e c e s s o r v .

B

v

t ; s : = s t a r t t i m e o f t h e b e s t p a r t i a l p a t h t h a t e n d s a t t i m e t

i n s t a t e s o f t h e l e x i c a l t r e e f o r p r e d e c e s s o r v .

I n o t h e r w o r d s B

v

t ; s i s t h e b a c k p o i n t e r w h i c h p o i n t s b a c k t o t h e s t a r t t i m e o f t h e l e x i c a l

t r e e c o p y f o r p r e d e c e s s o r w o r d v . T h i s b a c k p o i n t e r i s n e e d e d b e c a u s e t h e d e n i t i o n o f t h e

s c o r e Q

v

t ; s i m p l i e s t h a t t h e o p t i m i z a t i o n o v e r t h e u n k n o w n s t a r t t i m e o f t h e l e x i c a l t r e e c o p y

f o r p r e d e c e s s o r w o r d v h a s b e e n c a r r i e d o u t . B o t h q u a n t i t i e s a r e e v a l u a t e d u s i n g t h e d y n a m i c

p r o g r a m m i n g r e c u r s i o n f o r Q

v

t ; s :

Q

v

t ; s = m a x

s

0

p x

t

; s j s

0

Q

v

t , 1 ; s

0

B

v

t ; s = B

v

t , 1 ; s

m a x

v

t ; s ;

w h e r e s

m a x

v

t ; s i s t h e o p t i m u m p r e d e c e s s o r s t a t e f o r t h e h y p o t h e s i s t ; s a n d p r e d e c e s s o r w o r d

v . A s b e f o r e , t h e b a c k p o i n t e r s B

v

t ; s a r e p r o p a g a t e d a c c o r d i n g t o t h e d y n a m i c p r o g r a m m i n g

d e c i s i o n . U n l i k e t h e p r e d e c e s s o r w o r d v , t h e i n d e x w f o r t h e w o r d u n d e r c o n s i d e r a t i o n i s o n l y

n e e d e d a n d k n o w n w h e n a p a t h h y p o t h e s i s r e a c h e s a n e n d n o d e o f t h e l e x i c a l t r e e : e a c h e n d

n o d e o f t h e l e x i c a l t r e e i s l a b e l e d w i t h t h e c o r r e s p o n d i n g w o r d o f t h e v o c a b u l a r y .

U s i n g a s u i t a b l e i n i t i a l i z a t i o n f o r s = 0 , t h i s e q u a t i o n i n c l u d e s t h e o p t i m i z a t i o n o v e r t h e u n k n o w n

w o r d b o u n d a r i e s . A t w o r d b o u n d a r i e s , w e h a v e t o n d t h e b e s t p r e d e c e s s o r w o r d v f o r e a c h

w o r d w . A s i n t h e c a s e o f a l i n e a r l e x i c o n , w e d e n e :

H w ; t : = m a x

v

f p w j v Q

v

t ; S

w

g ;

w h e r e t h e s t a t e S

w

d e n o t e s t h e t e r m i n a l s t a t e o f w o r d w i n t h e l e x i c a l t r e e . T o p r o p a g a t e t h e

p a t h h y p o t h e s i s i n t o t h e l e x i c a l t r e e h y p o t h e s e s o r t o s t a r t t h e m u p i n c a s e t h e y d o n o t e x i s t

y e t , w e h a v e t o p a s s o n t h e s c o r e a n d t h e t i m e i n d e x b e f o r e p r o c e s s i n g t h e h y p o t h e s e s f o r t i m e

f r a m e t :

Q

v

t , 1 ; s = 0 = H v ; t , 1

B

v

t , 1 ; s = 0 = t , 1 :

T h e d e t a i l s o f t h e a l g o r i t h m a r e s u m m a r i z e d i n T a b l e 3 .

E x t e n s i o n t o T r i g r a m L a n g u a g e M o d e l s

S o f a r , w e h a v e c o n s i d e r e d t h e o n e p a s s s e a r c h a p p r o a c h o n l y i n t h e c o n t e x t o f a b i g r a m l a n g u a g e

m o d e l . T o e x t e n d t h e t r e e s e a r c h m e t h o d f r o m a b i g r a m t o a t r i g r a m L M , w e h a v e t o t a k e i n t o

a c c o u n t t h a t f o r a t r i g r a m t h e l a n g u a g e m o d e l p r o b a b i l i t i e s a r e c o n d i t i o n e d o n t h e p r e v i o u s t w o

w o r d s r a t h e r t h a n o n o n e p r e d e c e s s o r w o r d i n t h e c a s e o f a b i g r a m L M 4 5 , 5 0 , 5 7 . T h e r e f o r e ,

t h e i n c o r p o r a t i o n o f a t r i g r a m L M i n t o t h e t r e e s e a r c h m e t h o d r e q u i r e s a r e s t r u c t u r i n g o f t h e

s e a r c h s p a c e o r g a n i z a t i o n . F i g . 1 0 i l l u s t r a t e s t h e s e a r c h s p a c e u s i n g a t r i g r a m m o d e l . F o r e a c h

t w o - w o r d h i s t o r y u ; v , w e i n t r o d u c e a s e p a r a t e c o p y o f t h e l e x i c a l t r e e ; i n F i g . 1 0 , t h e r o o t o f

e a c h t r e e c o p y i s l a b e l e d w i t h i t s t w o - w o r d h i s t o r y . A s i n t h e c a s e o f a b i g r a m L M , t h e s t r u c t u r e

o f t h e s e a r c h s p a c e i s d e n e d i n s u c h a w a y t h a t i n t h e s e a r c h n e t w o r k t h e p r o b a b i l i t i e s o r c o s t s

o f e a c h e d g e d e p e n d o n l y o n t h e e d g e i t s e l f a l o n g w i t h i t s s t a r t a n d e n d v e r t e x a n d n o t h i n g

e l s e . T h i s p r o p e r t y o f t h e s e a r c h n e t w o r k a l l o w s u s t o d i r e c t l y a p p l y t h e p r i n c i p l e o f d y n a m i c

p r o g r a m m i n g . N o t e t h a t i n c o m p a r i s o n w i t h a b i g r a m L M o r g a n i z e d s e a r c h s p a c e , t h e s i z e o f t h e

1 7


18/39

T a b l e 3 : O n e p a s s D P a l g o r i t h m u s i n g a t r e e l e x i c o n .

p r o c e e d o v e r t i m e t f r o m l e f t t o r i g h t

A C O U S T I C L E V E L : p r o c e s s t r e e , s t a t e h y p o t h e s e s

i n i t i a l i z a t i o n : Q

v

t , 1 ; s = 0 = H v ; t , 1

B

v

t , 1 ; s = 0 = t , 1

t i m e a l i g n m e n t : Q

v

t ; s u s i n g D P

p r o p a g a t e b a c k p o i n t e r s B

v

t ; s

p r u n e u n l i k e l y h y p o t h e s e s

p u r g e b o o k k e e p i n g l i s t s

W O R D P A I R L E V E L : p r o c e s s w o r d e n d h y p o t h e s e s

f o r e a c h w o r d w d o

H w ; t = m a x

v

f p w j v Q

v

t ; S

w

g

v

0

w ; t = a r g m a x

v

f p w j v Q

v

t ; S

w

g

s t o r e b e s t p r e d e c e s s o r v

0

: = v

0

w ; t

s t o r e b e s t b o u n d a r y

0

: = B

v

0

t ; S

w

p o t e n t i a l s e a r c h s p a c e i s i n c r e a s e d d r a s t i c a l l y b y a n a d d i t i o n a l f a c t o r , w h i c h i s t h e v o c a b u l a r y

s i z e . H e n c e , i n o r d e r t o k e e p t h e s e a r c h e o r t m a n a g e a b l e , a n e c i e n t p r u n i n g s t r a t e g y a s

d e s c r i b e d b e f o r e i s e v e n m o r e c r u c i a l f o r t h e c a s e o f a t r i g r a m l a n g u a g e m o d e l .

F o r s i m p l i c i t y , w e h a v e o m i t t e d t h e s i l e n c e c o p i e s i n F i g . 1 0 . T o a l l o w f o r i n t r a p h r a s e s i l e n c e , w e

u s e t h e s a m e c o n c e p t a s f o r t h e b i g r a m l a n g u a g e m o d e l 2 2 , 4 6 . F o r t h e t r i g r a m l a n g u a g e m o d e l

r e c o m b i n a t i o n , w e n e e d t h e i d e n t i t y o f t h e t w o n o n - s i l e n c e p r e d e c e s s o r w o r d s , a n d t h e r e f o r e a

s e p a r a t e c o p y o f t h e s i l e n c e m o d e l i s r e q u i r e d f o r e a c h p a i r o f n o n - s i l e n c e p r e d e c e s s o r w o r d s .

1 8


19/39

tt

LANGUAGEMODEL

ACOUSTICMODEL

ACOUSTICMODEL

A

B

C

AA

A

B

C

BA

A

B

C

CA

A

B

C

AB

A

B

C

BB

A

B

C

CB

A

B

C

AC

A

B

C

BC

A

B

C

CC

A

B

C

AA

A

B

C

BA

A

B

C

CA

A

B

C

AB

A

B

C

BB

A

B

C

CB

A

B

C

AC

A

B

C

BC

A

B

C

CC

F i g u r e 1 0 : T r i g r a m L M r e c o m b i n a t i o n f o r a t r e e l e x i c o n t h r e e - w o r d v o c a b u l a r y : A , B , C

s y m b o l s : : w o r d e n d h y p t h e s e s A ; B ; C ;

2 : r o o t o f t r e e c o p y o f h i s t o r y A A ; B A ; C A ; A B ; : : : ;

b o l d l i n e : a c o u s t i c m o d e l r e c o m b i n a t i o n w i t h i n a t r e e c o p y ;

t h i n l i n e : t r i g r a m l a n g u a g e m o d e l r e c o m b i n a t i o n .

1 9


20/39

5 R e n e m e n t s a n d I m p l e m e n t a t i o n I s s u e s

T o o b t a i n a n e s t i m a t e o f t h e o v e r a l l n u m b e r o f s t a t e h y p o t h e s e s , w e c o n s i d e r a t y p i c a l t a s k s u c h

a s t h e 2 0 k - w o r d N A B t a s k 2 9 :

2 0 0 0 0 - w o r d v o c a b u l a r y w i t h a 6 5 0 0 0 - a r c t r e e f o r t h e p r o n u n c i a t i o n l e x i c o n ,

b i g r a m l a n g u a g e m o d e l ,

6 s t a t e s p e r H M M a r c .

F o r t h i s t a s k , w e o b t a i n t h e f o l l o w i n g s i z e o f t h e p o t e n t i a l s e a r c h s p a c e :

2 0 k t r e e s 6 5 k a r c s t r e e 6 H M M s t a t e s a r c = 7 . 8 1 0

9

H M M s t a t e s .

T h e r e f o r e , i n f u l l D P s e a r c h , t h e r e a r e t h i s n u m b e r o f H M M s t a t e s f o r w h i c h t h e D P r e c u r s i o n s

h a v e t o b e e v a l u a t e d e v e r y 1 0 - m s t i m e f r a m e o f t h e i n p u t s i g n a l . I n c o n t r a s t w i t h t h i s a s t r o n o m i c

n u m b e r , t h e e x p e r i m e n t s w i l l s h o w t h a t , w i t h o u t l o s s i n r e c o g n i t i o n a c c u r a c y , i t i s s u c i e n t t o

e v a l u a t e o n l y 1 0 0 0 0 a n d l e s s s t a t e h y p o t h e s e s o n a v e r a g e p e r 1 0 - m s t i m e f r a m e .

5 . 1 P r u n i n g R e n e m e n t s

E v i d e n t l y , f u l l s e a r c h i s p r o h i b i t i v e . T h e r e f o r e , w e u s e t h e t i m e s y n c h r o n o u s b e a m s e a r c h s t r a t -

e g y , w h e r e , f o r e v e r y t i m e f r a m e , o n l y t h e m o s t p r o m i s i n g h y p o t h e s e s a r e r e t a i n e d . T h e p r u n i n g

a p p r o a c h c o n s i s t s o f t h r e e s t e p s t h a t a r e p e r f o r m e d e v e r y 1 0 - m s t i m e f r a m e 7 3 :

A c o u s t i c p r u n i n g

i s u s e d t o r e t a i n o n l y h y p o t h e s e s w i t h a s c o r e c l o s e t o t h e b e s t s t a t e h y p o t h e s i s f o r f u r t h e r

c o n s i d e r a t i o n . D e n o t i n g t h e b e s t s c o r i n g s t a t e h y p o t h e s i s b y

Q

A C

t : = m a x

v ; s

f Q

v

t ; s g ;

w e p r u n e a s t a t e h y p o t h e s i s t ; s ; v i f :

Q

v

t ; s f

A C

Q

A C

t :

T h e s o - c a l l e d b e a m w i d t h , i . e . t h e n u m b e r o f s u r v i v i n g s t a t e h y p o t h e s e s , i s c o n t r o l l e d b y

t h e s o - c a l l e d a c o u s t i c p r u n i n g t h r e s h o l d f

A C

.

L a n g u a g e m o d e l p r u n i n g o r w o r d e n d p r u n i n g

i s o n l y a p p l i e d t o t r e e s t a r t - u p h y p o t h e s e s a s f o l l o w s . F o r w o r d e n d h y p o t h e s e s , t h e b i g r a m

L M p r o b a b i l i t y i s i n c o r p o r a t e d i n t o t h e a c c u m u l a t e d s c o r e , a n d t h e b e s t s c o r e f o r e a c h

p r e d e c e s s o r w o r d i s u s e d t o s t a r t u p t h e c o r r e s p o n d i n g t r e e h y p o t h e s i s o r i s p r o p a g a t e d

i n t o t h i s t r e e h y p o t h e s i s i f i t a l r e a d y e x i s t s . T h e s c o r e s o f t h e s e t r e e s t a r t - u p h y p o t h e s e s

a r e s u b j e c t e d t o a n a d d i t i o n a l p r u n i n g s t e p :

Q

L M

t : = m a x

v

f Q

v

t ; s = 0 g ;

w h e r e s = 0 i s t h e c t i t i o u s s t a t e o f t h e t r e e r o o t u s e d f o r i n i t i a l i z a t i o n . T h u s a t r e e

s t a r t - u p h y p o t h e s i s t ; s = 0 ; v i s r e m o v e d i f :

Q

v

t ; s = 0 f

L M

Q

L M

t ;

w h e r e f

L M

i s t h e s o - c a l l e d l a n g u a g e m o d e l p r u n i n g t h r e s h o l d .

H i s t o g r a m p r u n i n g

l i m i t s t h e n u m b e r o f s u r v i v i n g s t a t e h y p o t h e s e s t o a m a x i m u m n u m b e r M

S t a

. I f t h e

n u m b e r o f a c t i v e s t a t e s i s l a r g e r t h a n M

S t a

, o n l y t h e b e s t M

S t a

h y p o t h e s e s a r e r e t a i n e d

w h i l e t h e o t h e r h y p o t h e s e s a r e r e m o v e d . T h i s p r u n i n g m e t h o d i s c a l l e d h i s t o g r a m p r u n i n g

b e c a u s e w e u s e a h i s t o g r a m o f t h e s c o r e s o f t h e a c t i v e s t a t e s 7 3 .

2 0


21/39

v

s

m a x

w 2 W s

f p w j v g

W s

F i g u r e 1 1 : A n t i c i p a t e d L M p r o b a b i l i t i e s f o r L M l o o k - a h e a d .

5 . 2 L a n g u a g e M o d e l L o o k - A h e a d

T h e b a s i c i d e a o f t h e l a n g u a g e m o d e l l o o k - a h e a d i s t o i n c o r p o r a t e t h e l a n g u a g e m o d e l p r o b a -

b i l i t i e s a s e a r l y a s p o s s i b l e i n t o t h e s e a r c h p r o c e s s a n d t h u s i n t o t h e a s s o c i a t e d p r u n i n g p r o c e s s .

T h i s i s a c h i e v e d b y a n t i c i p a t i n g t h e L M p r o b a b i l i t i e s a s a f u n c t i o n o f t h e n o d e s o f t h e l e x i c a l

t r e e s o t h a t e a c h n o d e c o r r e s p o n d s t o t h e m a x i m u m L M p r o b a b i l i t y o v e r a l l w o r d s t h a t c a n

b e r e a c h e d v i a t h i s s p e c i c n o d e . U s i n g t h e b i g r a m L M c o n d i t i o n a l p r o b a b i l i t y p w j v , t h e

a n t i c i p a t e d L M p r o b a b i l i t y

v

s f o r s t a t e s a n d p r e d e c e s s o r w o r d v i s d e n e d a s :

v

s : = m a x

w 2 W s

p w j v ;

w h e r e W s i s t h e s e t o f w o r d s t h a t c a n b e r e a c h e d f r o m t r e e s t a t e s . S t r i c t l y s p e a k i n g , w e

s h o u l d u s e t h e t r e e n o d e s o r a r c s r a t h e r t h a n t h e s t a t e s o f t h e H i d d e n M a r k o v m o d e l s t h a t a r e

a s s o c i a t e d w i t h e a c h a r c . H o w e v e r , e a c h i n i t i a l s t a t e o f a p h o n e m e a r c c a n b e i d e n t i e d w i t h

i t s a s s o c i a t e d t r e e n o d e . T h e c o n c e p t o f a n t i c i p a t i n g t h e L M p r o b a b i l i t i e s f o r e a c h n o d e o f t h e

l e x i c a l t r e e i s i l l u s t r a t e d i n F i g . 1 1 .

T o i n c o r p o r a t e t h e a n t i c i p a t e d L M p r o b a b i l i t i e s i n t o t h e t h r e e p r u n i n g o p e r a t i o n s o f t h e s e a r c h ,

w e c o m b i n e t h e a n t i c i p a t e d L M p r o b a b i l i t i e s w i t h t h e s c o r e o f t h e h y p o t h e s i s t ; s ; v a n d d e n e

a m o d i e d s c o r e

~

Q

v

t ; s :

~

Q

v

t ; s : =

v

s Q

v

t ; s :

F o r t h e a c o u s t i c p r u n i n g , w e c o m p u t e t h e m o d i e d s c o r e o f t h e b e s t s t a t e h y p o t h e s i s :

~

Q

A C

t : = m a x

v ; s

n

~

Q

v

t ; s

o

:

a n d p r u n e a h y p o t h e s i s t ; s ; v i f

~

Q

v

t ; s f

A C

~

Q

A C

t :

T h e s a m e m o d i e d s c o r e i s u s e d f o r t h e h i s t o g r a m p r u n i n g . T h e l a n g u a g e m o d e l p r u n i n g i s n o t

a e c t e d s i n c e , a t t r e e s t a r t h y p o t h e s e s , t h e r e i s n o d i e r e n c e b e t w e e n s c o r e Q

v

t ; s a n d m o d i e d

s c o r e

~

Q

v

t ; s . A s t h e r e c o g n i t i o n e x p e r i m e n t s w i l l s h o w , t h e n u m b e r o f s t a t e h y p o t h e s e s c a n b e

s i g n i c a n t l y r e d u c e d b y t h i s l o o k - a h e a d .

W h e n c o m p u t i n g a l l e n t r i e s o f t h e t a b l e

v

s b e f o r e h a n d , w e h a v e t o k e e p a h u g e t a b l e i n m a i n

m e m o r y . I n t h e t a s k u n d e r c o n s i d e r a t i o n , a b o u t 2 0 0 0 0 6 5 0 0 0 a n t i c i p a t e d L M p r o b a b i l i t i e s

2 1


22/39


23/39

T a b l e 4 : T y p i c a l m e m o r y r e q u i r e m e n t s f o r t h e D P t r e e s e a r c h 2 0 0 0 0 - w o r d t a s k , b i g r a m l a n -

g u a g e m o d e l , s i n g l e b e s t s e n t e n c e w i t h o u t s t o r a g e f o r a c o u s t i c a n d l a n g u a g e m o d e l .

T y p e o f a r r a y K e n t r i e s e n t r y s t r u c t u r e K b y t e s

T r e e h y p o t h e s e s 2 0 3 4 B y t e 2 4 0

A r c h y p o t h e s e s 2 0 0 2 4 B y t e 1 6 0 0

S t a t e h y p o t h e s e s 6 0 0 3 4 B y t e 7 2 0 0

A u x i l i a r y a r c h y p o t h e s e s 6 5 4 4 B y t e 1 0 4 0

T r a c e b a c k a r r a y 2 0 0 5 4 B y t e 4 0 0 0

T o t a l a m o u n t 1 0 8 5 - 1 3 8 2 0

T h e r e i s o n e c o n d i t i o n f o r w h i c h w e c a n n o t u s e t h e d i r e c t a c c e s s a p p r o a c h , n a m e l y t h e L M

r e c o m b i n a t i o n f o r a t r i g r a m L M . T h e p r o b l e m i s t h a t t h e r e m i g h t b e u p t o W

2

p r e d e c e s s o r

h i s t o r i e s f o r a v o c a b u l a r y o f W w o r d s . T h e r e f o r e , w e r e p l a c e t h e d i r e c t a c c e s s m e t h o d b y a

h a s h i n g a p p r o a c h 5 9 . T h e i n d e x f o r t h e h a s h t a b l e i s c o m p u t e d b y h a s h i n g a b i j e c t i v e f u n c t i o n

o f t h e w o r d p a i r i n d e x u ; v , e . g . f u ; v = W u + v .

T r a c e b a c k a n d G a r b a g e C o l l e c t i o n

F o r l a r g e - v o c a b u l a r y r e c o g n i t i o n , i t i s e s s e n t i a l t o k e e p t h e s t o r a g e c o s t s a s l o w a s p o s s i b l e . T o

t h i s p u r p o s e , i n a d d i t i o n t o b a c k p o i n t e r s , w e u s e a s p e c i a l t r a c e b a c k a r r a y w h o s e e n t r i e s k e e p

t r a c k o f w o r d e n d h y p o t h e s e s . T h e c o n c e p t o f t h i s t r a c e b a c k a r r a y i s b a s e d o n a n e x t e n s i o n o f

t h e t r a c e b a c k m e t h o d p r e s e n t e d i n F i g . 7 . F o r e a c h w o r d e n d h y p o t h e s i s , w e s t o r e t h e f o l l o w i n g

p i e c e s o f i n f o r m a t i o n : w o r d i n d e x , e n d t i m e o f t h e p r e d e c e s s o r w o r d , s c o r e a n d b a c k p o i n t e r ,

i . e . a p o i n t e r i n t o t h e a r r a y i t s e l f f o r n d i n g t h e p r e d e c e s s o r w o r d e n d h y p o t h e s i s . T h e e n d

t i m e o f t h e p r e d e c e s s o r w o r d i s n o t r e a l l y n e e d e d , b u t u s e f u l f o r d i a g n o s t i c p u r p o s e s . D u r i n g t h e

r e c o g n i t i o n p r o c e s s , m a n y o f t h e h y p o t h e s i s e n t r i e s i n t h e t r a c e b a c k a r r a y s w i l l b e c o m e o b s o l e t e

b e c a u s e t h e i r p a t h e x t e n s i o n s d i e o u t o v e r t i m e d u e t o b o t h t h e r e c o m b i n a t i o n a n d t h e p r u n i n g

o f h y p o t h e s e s . I n o r d e r t o r e m o v e t h e s e o b s o l e t e h y p o t h e s i s e n t r i e s f r o m t h e t r a c e b a c k a r r a y s ,

w e a p p l y a g a r b a g e c o l l e c t i o n o r p u r g i n g m e t h o d a s f o l l o w s . E a c h e n t r y o f t h e t r a c e b a c k a r r a y i s

e x t e n d e d b y a n a d d i t i o n a l c o m p o n e n t w h i c h i s t h e s o - c a l l e d t i m e s t a m p a s s u g g e s t e d b y S t e i n b i s s

7 1 . U s i n g t h e b a c k p o i n t e r s B

v

t ; s o f t h e s t a t e h y p o t h e s e s , w e p e r f o r m a t r a c e b a c k f o r e a c h

h y p o t h e s i s a n d m a r k t h e t r a c e b a c k e n t r i e s r e a c h e d w i t h t h e c u r r e n t t i m e f r a m e a s t i m e s t a m p .

H e n c e , a l l t r a c e b a c k e n t r i e s t h a t h a v e a t i m e s t a m p d i e r e n t f r o m t h e c u r r e n t t i m e f r a m e c a n

b e r e - u s e d t o s t o r e n e w h y p o t h e s e s . N o t e t h a t t h i s g a r b a g e c o l l e c t i o n p r o c e s s i s c o n t r o l l e d u s i n g

o n l y t h e s t a t e h y p o t h e s e s a n d r e a c h a b l e t r a c e b a c k e n t r i e s s o t h a t t h e n u m b e r o f d e a d t r a c e b a c k

e n t r i e s d o e s n o t m a t t e r . I n p r i n c i p l e , t h i s g a r b a g e c o l l e c t i o n p r o c e s s c a n b e p e r f o r m e d e v e r y

t i m e f r a m e , b u t t o r e d u c e t h e o v e r h e a d , i t i s s u c i e n t t o p e r f o r m i t i n r e g u l a r t i m e i n t e r v a l s ,

s a y e v e r y 5 0 - t h t i m e f r a m e .

M e m o r y R e q u i r e m e n t s

B y u s i n g t h e a b o v e p r e s e n t e d m e t h o d s , w e o b t a i n t y p i c a l m e m o r y c o s t s a s s h o w n i n T a b l e 4 . F o r

e a c h o f t h e v a r i o u s a r r a y s u s e d , w e s i m p l y r e p o r t t h e n u m b e r o f b y t e s r e q u i r e d w i t h o u t g o i n g i n t o

a l l t e c h n i c a l d e t a i l s . T h e t h r e e a r r a y s o f t r e e , a r c a n d s t a t e h y p o t h e s e s s t o r e t h e c o r r e s p o n d i n g

h y p o t h e s e s p e r t i m e f r a m e , a n d t h u s w e h a v e a m a x i m u m o f 2 0 0 0 0 t r e e h y p o t h e s e s , 2 0 0 0 0 0

a r c h y p o t h e s e s o v e r a l l t r e e h y p o t h e s e s a n d a t o t a l o f 6 0 0 0 0 0 s t a t e h y p o t h e s e s o v e r a l l t r e e

a n d a r c h y p o t h e s e s . F o r t h e r e c o m b i n a t i o n a t t h e a r c l e v e l , a n a u x i l i a r y a r r a y i s i n c l u d e d i n

T a b l e 4 . A s a r e s u l t , t h e t o t a l s t o r a g e c o s t f o r t h e 2 0 0 0 0 - w o r d t a s k i s a b o u t 1 4 M b y t e f o r t h e

s e a r c h p r o c e d u r e .

2 3


24/39

6 O n e P a s s D P S e a r c h f o r W o r d G r a p h C o n s t r u c t i o n

T h e m a i n i d e a o f a w o r d g r a p h i s t o c o m e u p w i t h w o r d a l t e r n a t i v e s i n r e g i o n s o f t h e s p e e c h

s i g n a l , w h e r e t h e a m b i g u i t y a b o u t t h e a c t u a l l y s p o k e n w o r d s i s h i g h . T h e e x p e c t e d a d v a n t a g e

i s t h a t t h e a c o u s t i c r e c o g n i t i o n p r o c e s s i s d e c o u p l e d f r o m t h e a p p l i c a t i o n o f a c o m p l e x l a n g u a g e

m o d e l a n d t h a t t h i s l a n g u a g e m o d e l c a n b e a p p l i e d i n a s u b s e q u e n t p o s t p r o c e s s i n g s t e p . E x a m -

p l e s o f l o n s p a n l a n g u a g e m o d e l s a r e c a c h e - b a s e d l a n g u a g e m o d e l s 3 1 , t r i g g e r - b a s e d l a n g u a g e

m o d e l s 7 4 a n d l o n g - r a n g e t r i g r a m l a n g u a g e m o d e l s 1 5 t h a t c a n b e v i e w e d a s s t o c h a s t i c l e x i -

c a l i z e d c o n t e x t - f r e e g r a m m a r s . T h e n u m b e r o f w o r d a l t e r n a t i v e s s h o u l d b e a d a p t e d t o t h e l e v e l

o f a m b i g u i t y i n t h e a c o u s t i c r e c o g n i t i o n .

6 . 1 W o r d G r a p h S p e c i c a t i o n

I n t h i s s e c t i o n , w e w i l l f o r m a l l y s p e c i f y t h e w o r d g r a p h g e n e r a t i o n p r o b l e m a n d p a v e t h e w a y f o r

t h e w o r d g r a p h a l g o r i t h m . W e s t a r t w i t h t h e f u n d a m e n t a l p r o b l e m o f w o r d g r a p h g e n e r a t i o n :

H y p o t h e s i z i n g a w o r d w a n d i t s e n d t i m e t , h o w c a n w e n d a l i m i t e d n u m b e r o f ' m o s t

l i k e l y ' p r e d e c e s s o r w o r d s ? T h i s t a s k i s d i c u l t s i n c e t h e s t a r t t i m e o f w o r d w m a y v e r y w e l l

d e p e n d o n t h e p r e d e c e s s o r w o r d u n d e r c o n s i d e r a t i o n , w h i c h r e s u l t s i n a n i n t e r d e p e n d e n c e

o f s t a r t t i m e s a n d p r e d e c e s s o r w o r d s .

I n v i e w o f t h e m o s t s u c c e s s f u l o n e p a s s b e a m s e a r c h s t r a t e g y , w h a t w e w a n t t o a c h i e v e c o n c e p -

t u a l l y , i s t o k e e p t r a c k o f w o r d s e q u e n c e h y p o t h e s e s w h o s e s c o r e s a r e v e r y c l o s e t o t h e l o c a l l y

o p t i m a l h y p o t h e s i s , b u t t h a t d o n o t s u r v i v e d u e t o t h e r e c o m b i n a t i o n p r o c e s s .

T h e b a s i c i d e a i s t o r e p r e s e n t a l l t h e s e w o r d s e q u e n c e s b y a w o r d g r a p h , i n w h i c h e a c h e d g e

r e p r e s e n t s a w o r d h y p o t h e s i s . E a c h w o r d s e q u e n c e c o n t a i n e d i n t h e w o r d g r a p h s h o u l d b e c l o s e

i n t e r m s o f s c o r i n g t o t h e s i n g l e b e s t s e n t e n c e p r o d u c e d b y t h e o n e p a s s a l g o r i t h m . I n t h e

o n e p a s s a l g o r i t h m f o r c o m p u t i n g t h e s i n g l e - b e s t s e n t e n c e , w e h a v e c o m p u t e d t h e h y p o t h e s e s

i n a t i m e - s y n c h r o n o u s f a s h i o n a n d h a v e p r o p a g a t e d t h e h y p o t h e s e s f r o m l e f t t o r i g h t o v e r t h e

t i m e a x i s . W e w i l l u s e t h e s a m e p r i n c i p l e o f t i m e s y n c h r o n y f o r t h e w o r d g r a p h g e n e r a t i o n . T o

t h i s p u r p o s e , w e i n t r o d u c e t h e f o l l o w i n g d e n i t i o n s :

h w ; ; t : = m a x

s

t

+ 1

P r x

t

+ 1

; s

t

+ 1

j w

= c o n d i t i o n a l p r o b a b i l i t y t h a t w o r d w p r o d u c e s t h e a c o u s t i c v e c t o r s x

t

+ 1

.

G w

n

1

; t : = P r w

n

1

m a x

s

t

1

P r x

t

1

; s

t

1

j w

n

1

= j o i n t p r o b a b i l i t y o f o b s e r v i n g t h e a c o u s t i c v e c t o r s x

t

1

a n d a w o r d s e q u e n c e w

n

1

w i t h e n d t i m e t .

U s i n g t h e s e d e n i t i o n s , w e c a n i s o l a t e t h e p r o b a b i l i t y c o n t r i b u t i o n s o f a p a r t i c u l a r w o r d h y -

p o t h e s i s w i t h r e s p e c t t o b o t h t h e l a n g u a g e m o d e l a n d t h e a c o u s t i c m o d e l s e e F i g . 1 2 . T h i s

d e c o m p o s i t i o n c a n b e v i s u a l i z e d a s f o l l o w s :

x

1

; ; ; x

| z

G w

n , 1

1

;

x

+ 1

; ; x

t

| z

h w

n

; ; t

x

t + 1

; ; ; x

T

| z

: : :

F r o m t h i s d e c o m p o s i t i o n , i t i s c l e a r t h a t t h e s c o r e G w

n

1

; t c a n b e c o m p u t e d f r o m t h e s c o r e s

G w

n , 1

1

; a n d h w ; ; t b y o p t i m i z i n g o v e r t h e u n k n o w n w o r d b o u n d a r y :

G w

n

1

; t = m a x

n

P r w

n

j w

n , 1

1

G w

n , 1

1

; h w

n

; ; t

o

= P r w

n

j w

n , 1

1

m a x

n

G w

n , 1

1

; h w

n

; ; t

o

;

2 4


25/39

TIMEt T

...w1 ... wn - 1

referencemodelwn

wn

1

F i g u r e 1 2 : I l l u s t r a t i o n o f p a t h d e c o m p o s i t i o n .

w h e r e w e h a v e u s e d t h e c o n d i t i o n a l p r o b a b i l i t y P r w

n

j w

n , 1

1

o f t h e l a n g u a g e m o d e l . T o c o n -

s t r u c t a w o r d g r a p h , w e i n t r o d u c e a f o r m a l d e n i t i o n o f t h e w o r d b o u n d a r y w

n

1

; t b e t w e e n

t h e w o r d h y p o t h e s i s w

n

e n d i n g a t t i m e t a n d t h e p r e d e c e s s o r s e q u e n c e h y p o t h e s i s w

n , 1

1

:

t ; w

n

1

: = a r g m a x

n

G w

n , 1

1

; h w

n

; ; t

o

;

I t s h o u l d b e e m p h a s i z e d t h a t t h e l a n g u a g e m o d e l p r o b a b i l i t y d o e s n o t a e c t t h e o p t i m a l w o r d

b o u n d a r y a n d i s t h e r e f o r e o m i t t e d i n t h e d e n i t i o n o f t h e w o r d b o u n d a r y f u n c t i o n w

n

1

; t . T h u s

f a r w e h a v e c o n s i d e r e d t h e m o s t g e n e r a l c a s e i n t w o a s p e c t s : F i r s t , t h e w o r d b o u n d a r y f u n c t i o n

h a s n o t b e e n c o n s t r a i n e d i n a n y w a y . S e c o n d , t h e l a n g u a g e m o d e l h a s n o t b e e n c o n s t r a i n e d i n

a n y w a y . W e w i l l r s t n a r r o w d o w n t h e l a n g u a g e m o d e l t o t h e w i d e l y u s e d m - g r a m l a n g u a g e

m o d e l s a n d c o m e b a c k t o t h e w o r d b o u n d a r y f u n c t i o n l a t e r .

E x p l o i t i n g a n m - g r a m l a n g u a g e m o d e l p u

m

j u

m , 1

1

, w e c a n r e c o m b i n e w o r d s e q u e n c e h y p o t h e s e s

a t t h e p h r a s e l e v e l i f t h e y d o n o t d i e r i n t h e i r n a l m , 1 w o r d s . T h e r e f o r e i t i s s u c i e n t t o

d i s t i n g u i s h p a r t i a l w o r d s e q u e n c e h y p o t h e s e s w

n

1

o n l y b y t h e i r n a l w o r d s u

m

2

: = w

n

n , m + 2

. T h e

c o r r e s p o n d i n g s c o r e i s

dynamic programming search

Documents