aimag final

8/2/2019 Aimag Final

http://slidepdf.com/reader/full/aimag-final 1/28

W h a t i s a K n o w l e d g e R e p r e s e n t a t i o n ?

1

R a n d a l l D a v i s

M I T A I L a b

H o w a r d S h r o b e

M I T A I L a b a n d S y m b o l i c s , I n c .

P e t e r S z o l o v i t s

M I T L a b f o r C o m p u t e r S c i e n c e

A b s t r a c t

A l t h o u g h k n o w l e d g e r e p r e s e n t a t i o n i s o n e o f t h e c e n t r a l a n d i n s o m e w a y s m o s t

f a m i l i a r c o n c e p t s i n A I , t h e m o s t f u n d a m e n t a l q u e s t i o n a b o u t i t | W h a t i s i t ? | h a s

r a r e l y b e e n a n s w e r e d d i r e c t l y . N u m e r o u s p a p e r s h a v e l o b b i e d f o r o n e o r a n o t h e r v a r i -

e t y o f r e p r e s e n t a t i o n , o t h e r p a p e r s h a v e a r g u e d f o r v a r i o u s p r o p e r t i e s a r e p r e s e n t a t i o n

s h o u l d h a v e , w h i l e s t i l l o t h e r s h a v e f o c u s e d o n p r o p e r t i e s t h a t a r e i m p o r t a n t t o t h e

n o t i o n o f r e p r e s e n t a t i o n i n g e n e r a l .

I n t h i s p a p e r w e g o b a c k t o b a s i c s t o a d d r e s s t h e q u e s t i o n d i r e c t l y . W e b e l i e v e

t h a t t h e a n s w e r c a n b e s t b e u n d e r s t o o d i n t e r m s o f v e i m p o r t a n t a n d d i s t i n c t l y

d i e r e n t r o l e s t h a t a r e p r e s e n t a t i o n p l a y s , e a c h o f w h i c h p l a c e s d i e r e n t a n d a t t i m e s

c o n i c t i n g d e m a n d s o n t h e p r o p e r t i e s a r e p r e s e n t a t i o n s h o u l d h a v e .

W e a r g u e t h a t k e e p i n g i n m i n d a l l v e o f t h e s e r o l e s p r o v i d e s a u s e f u l l y b r o a d

p e r s p e c t i v e t h a t s h e d s l i g h t o n s o m e l o n g s t a n d i n g d i s p u t e s a n d c a n i n v i g o r a t e b o t h

r e s e a r c h a n d p r a c t i c e i n t h e e l d .

1

T h i s r e p o r t d e s c r i b e s r e s e a r c h d o n e a t t h e A r t i c i a l I n t e l l i g e n c e L a b o r a t o r y a n d t h e L a b o r a t o r y

f o r C o m p u t e r S c i e n c e a t M I T . S u p p o r t f o r t h i s w o r k w a s r e c e i v e d f r o m t h e A d v a n c e d R e s e a r c h

P r o j e c t s A g e n c y o f t h e D e p a r t m e n t o f D e f e n s e u n d e r O c e o f N a v a l R e s e a r c h c o n t r a c t N 0 0 0 1 4 - 8 5 -

K - 0 1 2 4 , t h e N a t i o n a l L i b r a r y o f M e d i c i n e u n d e r g r a n t R 0 1 L M 0 4 4 9 3 , t h e N a t i o n a l H e a r t , L u n g

a n d B l o o d I n s t i t u t e u n d e r g r a n t R 0 1 H L 3 3 0 4 1 , D i g i t a l E q u i p m e n t C o r p o r a t i o n a n d t h e G e n e r a l

D y n a m i c s C o r p .

T h i s p a p e r w a s p u b l i s h e d a s R . D a v i s , H . S h r o b e , a n d P . S z o l o v i t s . W h a t i s a K n o w l e d g e R e p r e -

s e n t a t i o n ? A I M a g a z i n e , 1 4 ( 1 ) : 1 7 - 3 3 , 1 9 9 3 .



C o n t e n t s

1 I n t r o d u c t i o n 1

2 T e r m i n o l o g y a n d P e r s p e c t i v e 2

3 W h a t i s a K n o w l e d g e R e p r e s e n t a t i o n ? 2

3 . 1 R o l e I : A K R i s a S u r r o g a t e : : : : : : : : : : : : : : : : : : : : : : : 2

3 . 1 . 1 I m p e r f e c t s u r r o g a t e s m e a n i n c o r r e c t i n f e r e n c e s a r e i n e v i t a b l e 3

3 . 2 R o l e I I : A K R i s a S e t o f O n t o l o g i c a l C o m m i t m e n t s : : : : : : : : : : 4

3 . 2 . 1 C o m m i t m e n t b e g i n s w i t h t h e e a r l i e s t c h o i c e s : : : : : : : : : : 5

3 . 2 . 2 T h e c o m m i t m e n t s a c c u m u l a t e i n l a y e r s : : : : : : : : : : : : : 6

3 . 2 . 3 R e m i n d e r : A K R i s n o t a d a t a s t r u c t u r e : : : : : : : : : : : : 6

3 . 3 R o l e I I I : A K R i s a F r a g m e n t a r y T h e o r y O f I n t e l l i g e n t R e a s o n i n g 7

3 . 3 . 1 W h a t i s i n t e l l i g e n t r e a s o n i n g ? : : : : : : : : : : : : : : : : : : 8

3 . 3 . 1 . 1 I n t e l l i g e n t r e a s o n i n g : t h e l o g i c a l v i e w a n d t h e p s y c h o -

l o g i c a l v i e w : : : : : : : : : : : : : : : : : : : : : : : 9

3 . 3 . 2 W h i c h i n f e r e n c e s a r e s a n c t i o n e d ? : : : : : : : : : : : : : : : : 1 1

3 . 3 . 2 . 1 F o r m a n d c o n t e n t o f t h e a n s w e r s : : : : : : : : : : : 1 2

3 . 3 . 3 W h i c h i n f e r e n c e s a r e r e c o m m e n d e d ? : : : : : : : : : : : : : : 1 3

3 . 4 R o l e I V : A K R i s a M e d i u m f o r E c i e n t C o m p u t a t i o n : : : : : : : : 1 5

3 . 5 R o l e V : A K R i s a M e d i u m o f H u m a n E x p r e s s i o n : : : : : : : : : : : 1 6

4 C o n s e q u e n c e s F o r R e s e a r c h a n d P r a c t i c e 1 7

4 . 1 C o n s e q u e n c e f o r P r a c t i c e : C h a r a c t e r i z i n g t h e S p i r i t o f a R e p r e s e n t a t i o n 1 7

4 . 1 . 1 T h e s p i r i t s h o u l d b e i n d u l g e d , n o t o v e r c o m e : : : : : : : : : : 1 8

4 . 2 C o n s e q u e n c e f o r R e s e a r c h : R e p r e s e n t a t i o n a n d R e a s o n i n g a r e I n t e r -

t w i n e d : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1 9

4 . 3 C o n s e q u e n c e f o r R e s e a r c h : C o m b i n i n g R e p r e s e n t a t i o n s : : : : : : : : 2 0

4 . 4 C o n s e q u e n c e f o r R e s e a r c h : A r g u m e n t s A b o u t F o r m a l E q u i v a l e n c e 2 1

4 . 5 C o n s e q u e n c e f o r R e s e a r c h : A l l F i v e R o l e s M a t t e r : : : : : : : : : : : 2 2

5 T h e G o a l o f K R R e s e a r c h 2 3

6 S u m m a r y 2 3



1 I N T R O D U C T I O N 1

1 I n t r o d u c t i o n

W h a t i s a k n o w l e d g e r e p r e s e n t a t i o n ? W e a r g u e t h a t t h e n o t i o n c a n b e s t b e u n d e r s t o o d

i n t e r m s o f v e d i s t i n c t r o l e s i t p l a y s , e a c h c r u c i a l t o t h e t a s k a t h a n d :

A k n o w l e d g e r e p r e s e n t a t i o n ( K R ) i s m o s t f u n d a m e n t a l l y a s u r r o g a t e , a s u b s t i -

t u t e f o r t h e t h i n g i t s e l f , u s e d t o e n a b l e a n e n t i t y t o d e t e r m i n e c o n s e q u e n c e s

b y t h i n k i n g r a t h e r t h a n a c t i n g , i . e . , b y r e a s o n i n g a b o u t t h e w o r l d r a t h e r t h a n

t a k i n g a c t i o n i n i t .

I t i s a s e t o f o n t o l o g i c a l c o m m i t m e n t s , i . e . , a n a n s w e r t o t h e q u e s t i o n : I n w h a t

t e r m s s h o u l d I t h i n k a b o u t t h e w o r l d ?

I t i s a f r a g m e n t a r y t h e o r y o f i n t e l l i g e n t r e a s o n i n g , e x p r e s s e d i n t e r m s o f t h r e e

c o m p o n e n t s : ( i ) t h e r e p r e s e n t a t i o n ' s f u n d a m e n t a l c o n c e p t i o n o f i n t e l l i g e n t r e a -

s o n i n g ; ( i i ) t h e s e t o f i n f e r e n c e s t h e r e p r e s e n t a t i o n s a n c t i o n s ; a n d ( i i i ) t h e s e t o f

i n f e r e n c e s i t r e c o m m e n d s

I t i s a m e d i u m f o r p r a g m a t i c a l l y e c i e n t c o m p u t a t i o n , i . e . , t h e c o m p u t a t i o n a l

e n v i r o n m e n t i n w h i c h t h i n k i n g i s a c c o m p l i s h e d . O n e c o n t r i b u t i o n t o t h i s p r a g -

m a t i c e c i e n c y i s s u p p l i e d b y t h e g u i d a n c e a r e p r e s e n t a t i o n p r o v i d e s f o r o r g a -

n i z i n g i n f o r m a t i o n s o a s t o f a c i l i t a t e m a k i n g t h e r e c o m m e n d e d i n f e r e n c e s .

I t i s a m e d i u m o f h u m a n e x p r e s s i o n , i . e . , a l a n g u a g e i n w h i c h w e s a y t h i n g s a b o u t

t h e w o r l d .

U n d e r s t a n d i n g t h e r o l e s a n d a c k n o w l e d g i n g t h e i r d i v e r s i t y h a s s e v e r a l u s e f u l c o n -

s e q u e n c e s . F i r s t , e a c h r o l e r e q u i r e s s o m e t h i n g s l i g h t l y d i e r e n t f r o m a r e p r e s e n t a t i o n ;

e a c h a c c o r d i n g l y l e a d s t o a n i n t e r e s t i n g a n d d i e r e n t s e t o f p r o p e r t i e s w e w a n t a r e p -

r e s e n t a t i o n t o h a v e .

S e c o n d , w e b e l i e v e t h e r o l e s p r o v i d e a f r a m e w o r k u s e f u l f o r c h a r a c t e r i z i n g a w i d e

v a r i e t y o f r e p r e s e n t a t i o n s . W e s u g g e s t t h a t t h e f u n d a m e n t a l \ m i n d s e t " o f a r e p r e -

s e n t a t i o n c a n b e c a p t u r e d b y u n d e r s t a n d i n g h o w i t v i e w s e a c h o f t h e r o l e s , a n d t h a t

d o i n g s o r e v e a l s e s s e n t i a l s i m i l a r i t i e s a n d d i e r e n c e s .

T h i r d , w e b e l i e v e t h a t s o m e p r e v i o u s d i s a g r e e m e n t s a b o u t r e p r e s e n t a t i o n a r e u s e -

f u l l y d i s e n t a n g l e d w h e n a l l v e r o l e s a r e g i v e n a p p r o p r i a t e c o n s i d e r a t i o n . W e d e m o n -

s t r a t e t h i s b y r e v i s i t i n g a n d d i s s e c t i n g t h e e a r l y a r g u m e n t s c o n c e r n i n g f r a m e s a n d

l o g i c .

F i n a l l y , w e b e l i e v e t h a t v i e w i n g r e p r e s e n t a t i o n s i n t h i s w a y h a s c o n s e q u e n c e s f o r

b o t h r e s e a r c h a n d p r a c t i c e . F o r r e s e a r c h , t h i s v i e w p r o v i d e s o n e d i r e c t a n s w e r t o a

q u e s t i o n o f f u n d a m e n t a l s i g n i c a n c e i n t h e e l d . I t a l s o s u g g e s t s a d o p t i n g a b r o a d

p e r s p e c t i v e o n w h a t ' s i m p o r t a n t a b o u t a r e p r e s e n t a t i o n , a n d i t m a k e s t h e c a s e t h a t

o n e s i g n i c a n t p a r t o f t h e r e p r e s e n t a t i o n e n d e a v o r | c a p t u r i n g a n d r e p r e s e n t i n g t h e

r i c h n e s s o f t h e n a t u r a l w o r l d | i s r e c e i v i n g i n s u c i e n t a t t e n t i o n . W e b e l i e v e t h i s v i e w

c a n a l s o i m p r o v e p r a c t i c e b y r e m i n d i n g p r a c t i t i o n e r s a b o u t t h e i n s p i r a t i o n s t h a t a r e

t h e i m p o r t a n t s o u r c e s o f p o w e r f o r a v a r i e t y o f r e p r e s e n t a t i o n s .



2 T E R M I N O L O G Y A N D P E R S P E C T I V E 2

2 T e r m i n o l o g y a n d P e r s p e c t i v e

T w o p o i n t s o f t e r m i n o l o g y w i l l a s s i s t i n o u r p r e s e n t a t i o n . F i r s t , w e u s e t h e t e r m

i n f e r e n c e i n a g e n e r i c s e n s e , t o m e a n a n y w a y t o g e t n e w e x p r e s s i o n s f r o m o l d . W e

a r e o n l y r a r e l y t a l k i n g a b o u t s o u n d l o g i c a l i n f e r e n c e a n d w h e n d o i n g s o r e f e r t o t h a t

e x p l i c i t l y .

S e c o n d , t o g i v e t h e m a s i n g l e c o l l e c t i v e n a m e , w e r e f e r t o t h e f a m i l i a r s e t o f

b a s i c r e p r e s e n t a t i o n t o o l s l i k e l o g i c , r u l e s , f r a m e s , s e m a n t i c n e t s , e t c . , a s k n o w l e d g e

r e p r e s e n t a t i o n t e c h n o l o g i e s

I t w i l l a l s o p r o v e u s e f u l t o t a k e e x p l i c i t n o t e o f t h e c o m m o n p r a c t i c e o f b u i l d i n g

k n o w l e d g e r e p r e s e n t a t i o n s i n m u l t i p l e l e v e l s o f l a n g u a g e s , t y p i c a l l y w i t h o n e o f t h e

k n o w l e d g e r e p r e s e n t a t i o n t e c h n o l o g i e s a t t h e b o t t o m l e v e l . H a y e s ' o n t o l o g y o f l i q u i d s

1 2 ] , f o r e x a m p l e , i s a t o n e l e v e l a r e p r e s e n t a t i o n c o m p o s e d o f c o n c e p t s l i k e p i e c e s

o f s p a c e , t h a t h a v e p o r t a l s , f a c e s , s i d e s , e t c . T h e l a n g u a g e a t t h e n e x t m o r e

p r i m i t i v e ( a n d a s i t t u r n s o u t , b o t t o m ) l e v e l i s r s t o r d e r l o g i c , w h e r e , f o r e x a m p l e ,

I n ( s

1

, s

2

) i s a r e l a t i o n e x p r e s s i n g t h a t s p a c e s

1

i s c o n t a i n e d i n s

2

T h i s v i e w i s u s e f u l i n p a r t b e c a u s e i t a l l o w s o u r a n a l y s i s a n d d i s c u s s i o n t o c o n -

c e n t r a t e l a r g e l y o n t h e K R t e c h n o l o g i e s . A s t h e p r i m i t i v e r e p r e s e n t a t i o n a l l e v e l a t

t h e f o u n d a t i o n o f K R l a n g u a g e s , t h e y e n c o u n t e r a l l o f t h e i s s u e s c e n t r a l t o k n o w l e d g e

r e p r e s e n t a t i o n o f a n y v a r i e t y . T h e y a r e a l s o u s e f u l e x e m p l a r s b e c a u s e t h e y a r e w i d e l y

f a m i l i a r t o t h e e l d a n d t h e r e i s a s u b s t a n t i a l b o d y o f e x p e r i e n c e w i t h t h e m t o d r a w

o n

3 W h a t i s a K n o w l e d g e R e p r e s e n t a t i o n ?

P e r h a p s t h e m o s t f u n d a m e n t a l q u e s t i o n a b o u t t h e c o n c e p t o f k n o w l e d g e r e p r e s e n t a -

t i o n i s , W h a t i s i t ? W e b e l i e v e t h a t t h e a n s w e r i s b e s t u n d e r s t o o d i n t e r m s o f t h e

v e f u n d a m e n t a l r o l e s t h a t i t p l a y s .

3 . 1 R o l e I : A K R i s a S u r r o g a t e

A n y i n t e l l i g e n t e n t i t y t h a t w i s h e s t o r e a s o n a b o u t i t s w o r l d e n c o u n t e r s a n i m p o r t a n t ,

i n e s c a p a b l e f a c t : r e a s o n i n g i s a p r o c e s s t h a t g o e s o n i n t e r n a l l y , w h i l e m o s t t h i n g s

i t w i s h e s t o r e a s o n a b o u t e x i s t o n l y e x t e r n a l l y . A p r o g r a m ( o r p e r s o n ) e n g a g e d i n

p l a n n i n g t h e a s s e m b l y o f a b i c y c l e , f o r i n s t a n c e , m a y h a v e t o r e a s o n a b o u t e n t i t i e s l i k e

w h e e l s , c h a i n s , s p r o c k e t s , h a n d l e b a r s , e t c . , y e t s u c h t h i n g s e x i s t o n l y i n t h e e x t e r n a l

w o r l d .

T h i s u n a v o i d a b l e d i c h o t o m y i s a f u n d a m e n t a l r a t i o n a l e a n d r o l e f o r a r e p r e s e n -

t a t i o n : i t f u n c t i o n s a s a s u r r o g a t e i n s i d e t h e r e a s o n e r , a s t a n d - i n f o r t h e t h i n g s t h a t

e x i s t i n t h e w o r l d . O p e r a t i o n s o n a n d w i t h r e p r e s e n t a t i o n s s u b s t i t u t e f o r o p e r a t i o n s

o n t h e r e a l t h i n g , i . e . , s u b s t i t u t e f o r d i r e c t i n t e r a c t i o n w i t h t h e w o r l d . I n t h i s v i e w

r e a s o n i n g i t s e l f i s i n p a r t a s u r r o g a t e f o r a c t i o n i n t h e w o r l d , w h e n w e c a n n o t o r d o

n o t ( y e t ) w a n t t o t a k e t h a t a c t i o n .

2

2

C o n v e r s e l y , a c t i o n c a n s u b s t i t u t e f o r r e a s o n i n g . T h i s d u a l i s m o e r s o n e w a y t o u n d e r s t a n d



3 W H A T I S A K N O W L E D G E R E P R E S E N T A T I O N ? 3

V i e w i n g r e p r e s e n t a t i o n s a s s u r r o g a t e s l e a d s n a t u r a l l y t o t w o i m p o r t a n t q u e s t i o n s .

T h e r s t q u e s t i o n a b o u t a n y s u r r o g a t e i s i t s i n t e n d e d i d e n t i t y : w h a t i s i t a s u r r o g a t e

f o r ? T h e r e m u s t b e s o m e f o r m o f c o r r e s p o n d e n c e s p e c i e d b e t w e e n t h e s u r r o g a t e

a n d i t s i n t e n d e d r e f e r e n t i n t h e w o r l d ; t h e c o r r e s p o n d e n c e i s t h e s e m a n t i c s f o r t h e

r e p r e s e n t a t i o n .

T h e s e c o n d q u e s t i o n i s d e l i t y : h o w c l o s e i s t h e s u r r o g a t e t o t h e r e a l t h i n g ?

W h a t a t t r i b u t e s o f t h e o r i g i n a l d o e s i t c a p t u r e a n d m a k e e x p l i c i t , a n d w h i c h d o e s i t

o m i t ? P e r f e c t d e l i t y i s i n g e n e r a l i m p o s s i b l e , b o t h i n p r a c t i c e a n d i n p r i n c i p l e . I t

i s i m p o s s i b l e i n p r i n c i p l e b e c a u s e a n y t h i n g o t h e r t h a n t h e t h i n g i t s e l f i s n e c e s s a r i l y

d i e r e n t f r o m t h e t h i n g i t s e l f ( i n l o c a t i o n i f n o t h i n g e l s e ) . P u t t h e o t h e r w a y a r o u n d ,

t h e o n l y c o m p l e t e l y a c c u r a t e r e p r e s e n t a t i o n o f a n o b j e c t i s t h e o b j e c t i t s e l f . A l l o t h e r

r e p r e s e n t a t i o n s a r e i n a c c u r a t e ; t h e y i n e v i t a b l y c o n t a i n s i m p l i f y i n g a s s u m p t i o n s a n d

p o s s i b l y a r t i f a c t s .

T w o m i n o r e l a b o r a t i o n s e x t e n d t h i s v i e w o f r e p r e s e n t a t i o n s a s s u r r o g a t e s . F i r s t , i t

a p p e a r s t o s e r v e e q u a l l y w e l l f o r i n t a n g i b l e o b j e c t s a s i t d o e s f o r t a n g i b l e o b j e c t s l i k e

g e a r w h e e l s : R e p r e s e n t a t i o n s f u n c t i o n a s s u r r o g a t e s f o r a b s t r a c t n o t i o n s l i k e a c t i o n s ,

p r o c e s s e s , b e l i e f s , c a u s a l i t y , c a t e g o r i e s , e t c . , a l l o w i n g t h e m t o b e d e s c r i b e d i n s i d e a n

e n t i t y s o i t c a n r e a s o n a b o u t t h e m . S e c o n d , f o r m a l o b j e c t s c a n o f c o u r s e e x i s t i n s i d e

t h e m a c h i n e w i t h p e r f e c t d e l i t y : M a t h e m a t i c a l e n t i t i e s , f o r e x a m p l e , c a n b e c a p t u r e d

e x a c t l y , p r e c i s e l y b e c a u s e t h e y a r e f o r m a l o b j e c t s . S i n c e a l m o s t a n y r e a s o n i n g t a s k

w i l l e n c o u n t e r t h e n e e d t o d e a l w i t h n a t u r a l o b j e c t s ( i . e . , t h o s e e n c o u n t e r e d i n t h e r e a l

w o r l d ) a s w e l l a s f o r m a l o b j e c t s , i m p e r f e c t s u r r o g a t e s a r e p r a g m a t i c a l l y i n e v i t a b l e .

3 . 1 . 1 I m p e r f e c t s u r r o g a t e s m e a n i n c o r r e c t i n f e r e n c e s a r e i n e v i t a b l e

T w o i m p o r t a n t c o n s e q u e n c e s f o l l o w f r o m t h e i n e v i t a b i l i t y o f i m p e r f e c t s u r r o g a t e s .

O n e c o n s e q u e n c e i s t h a t i n d e s c r i b i n g t h e n a t u r a l w o r l d , w e m u s t i n e v i t a b l y l i e , b y

o m i s s i o n a t l e a s t . A t a m i n i m u m w e m u s t o m i t s o m e o f t h e e e c t i v e l y l i m i t l e s s

c o m p l e x i t y o f t h e n a t u r a l w o r l d ; o u r d e s c r i p t i o n s m a y i n a d d i t i o n i n t r o d u c e a r t i f a c t s

n o t p r e s e n t i n t h e w o r l d .

T h e s e c o n d a n d m o r e i m p o r t a n t c o n s e q u e n c e i s t h a t a l l s u c i e n t l y b r o a d - b a s e d

r e a s o n i n g a b o u t t h e n a t u r a l w o r l d m u s t e v e n t u a l l y r e a c h c o n c l u s i o n s t h a t a r e i n c o r -

r e c t , i n d e p e n d e n t o f t h e r e a s o n i n g p r o c e s s u s e d a n d i n d e p e n d e n t o f t h e r e p r e s e n t a t i o n

e m p l o y e d . S o u n d r e a s o n i n g c a n n o t s a v e u s : I f t h e w o r l d m o d e l i s s o m e h o w w r o n g

( a n d i t m u s t b e ) s o m e c o n c l u s i o n s w i l l b e i n c o r r e c t , n o m a t t e r h o w c a r e f u l l y d r a w n .

A b e t t e r r e p r e s e n t a t i o n c a n n o t s a v e u s : a l l r e p r e s e n t a t i o n s a r e i m p e r f e c t a n d a n y

i m p e r f e c t i o n c a n b e a s o u r c e o f e r r o r .

T h e s i g n i c a n c e o f t h e e r r o r m a y o f c o u r s e v a r y ; i n d e e d m u c h o f t h e a r t o f s e l e c t i n g

a g o o d r e p r e s e n t a t i o n i s i n n d i n g o n e t h a t m i n i m i z e s ( o r p e r h a p s e v e n e l i m i n a t e s )

e r r o r f o r t h e s p e c i c t a s k a t h a n d . B u t t h e u n a v o i d a b l e i m p e r f e c t i o n o f s u r r o g a t e s

t h e r e l a t i o n b e t w e e n t r a d i t i o n a l s y m b o l i c r e p r e s e n t a t i o n s a n d t h e s i t u a t e d a c t i o n a p p r o a c h , w h i c h

a r g u e s t h a t a c t i o n c a n b e l i n k e d d i r e c t l y t o p e r c e p t i o n , w i t h o u t t h e n e e d f o r i n t e r m e d i a t i n g s y m b o l i c

r e p r e s e n t a t i o n s .




m e a n s w e c a n s u p p l y a t l e a s t o n e g u a r a n t e e f o r a n y e n t i t y r e a s o n i n g i n a n y f a s h i o n

a b o u t t h e n a t u r a l w o r l d : i f i t r e a s o n s l o n g e n o u g h a n d b r o a d l y e n o u g h , i t i s g u a r a n t e e d

t o e r r .

D r a w i n g o n l y s o u n d i n f e r e n c e s t h u s d o e s n o t f r e e r e a s o n i n g f r o m e r r o r ; i t c a n o n l y

e n s u r e t h a t i n f e r e n c e i s n o t t h e s o u r c e o f t h a t e r r o r . G i v e n t h a t b r o a d b a s e d r e a s o n i n g

w i l l i n e v i t a b l y b e w r o n g , t h e s t e p f r o m s o u n d i n f e r e n c e t o o t h e r m o d e l s o f i n f e r e n c e

i s t h u s n o t a m o v e f r o m t o t a l a c c u r a c y t o e r r o r , b u t i s i n s t e a d a q u e s t i o n o f b a l a n c i n g

o t h e p o s s i b i l i t y o f o n e m o r e s o u r c e o f e r r o r a g a i n s t t h e g a i n s ( e . g . , e c i e n c y ) i t m a y

o e r .

W e d o n o t s u g g e s t t h a t u n s o u n d r e a s o n i n g o u g h t t o b e e m b r a c e d c a s u a l l y , b u t d o

c l a i m t h a t , g i v e n t h e i n e v i t a b i l i t y o f e r r o r e v e n w i t h s o u n d r e a s o n i n g , i t m a k e s s e n s e

t o e v a l u a t e p r a g m a t i c a l l y t h e r e l a t i v e c o s t s a n d b e n e t s t h a t c o m e f r o m u s i n g b o t h

s o u n d a n d u n s o u n d r e a s o n i n g m e t h o d s .

3 . 2 R o l e I I : A K R i s a S e t o f O n t o l o g i c a l C o m m i t m e n t s

I f , a s w e h a v e a r g u e d , a l l r e p r e s e n t a t i o n s a r e i m p e r f e c t a p p r o x i m a t i o n s t o r e a l i t y ,

e a c h a p p r o x i m a t i o n a t t e n d i n g t o s o m e t h i n g s a n d i g n o r i n g o t h e r s , t h e n i n s e l e c t i n g

a n y r e p r e s e n t a t i o n w e a r e i n t h e v e r y s a m e a c t u n a v o i d a b l y m a k i n g a s e t o f d e c i s i o n s

a b o u t h o w a n d w h a t t o s e e i n t h e w o r l d . T h a t i s , s e l e c t i n g a r e p r e s e n t a t i o n m e a n s

m a k i n g a s e t o f o n t o l o g i c a l c o m m i t m e n t s .

3

T h e c o m m i t m e n t s a r e i n e e c t a s t r o n g

p a i r o f g l a s s e s t h a t d e t e r m i n e w h a t w e c a n s e e , b r i n g i n g s o m e p a r t o f t h e w o r l d i n t o

s h a r p f o c u s , a t t h e e x p e n s e o f b l u r r i n g o t h e r p a r t s .

T h e s e c o m m i t m e n t s a n d t h e i r f o c u s i n g / b l u r r i n g e e c t a r e n o t a n i n c i d e n t a l s i d e

e e c t o f a r e p r e s e n t a t i o n c h o i c e ; t h e y a r e o f t h e e s s e n c e : a K R i s a s e t o f o n t o l o g i c a l

c o m m i t m e n t s . I t i s u n a v o i d a b l y s o b e c a u s e o f t h e i n e v i t a b l e i m p e r f e c t i o n s o f r e p r e -

s e n t a t i o n s . I t i s u s e f u l l y s o b e c a u s e j u d i c i o u s s e l e c t i o n o f c o m m i t m e n t s p r o v i d e s t h e

o p p o r t u n i t y t o f o c u s a t t e n t i o n o n a s p e c t s o f t h e w o r l d w e b e l i e v e t o b e r e l e v a n t .

T h e f o c u s i n g e e c t i s a n e s s e n t i a l p a r t o f w h a t a r e p r e s e n t a t i o n o e r s , b e c a u s e t h e

c o m p l e x i t y o f t h e n a t u r a l w o r l d i s o v e r w h e l m i n g . W e ( a n d o u r r e a s o n i n g m a c h i n e s )

n e e d g u i d a n c e i n d e c i d i n g w h a t i n t h e w o r l d t o a t t e n d t o a n d w h a t t o i g n o r e . T h e

g l a s s e s s u p p l i e d b y a r e p r e s e n t a t i o n c a n p r o v i d e t h a t g u i d a n c e : I n t e l l i n g u s w h a t a n d

h o w t o s e e , t h e y a l l o w u s t o c o p e w i t h w h a t w o u l d o t h e r w i s e b e u n t e n a b l e c o m p l e x i t y

a n d d e t a i l . H e n c e t h e o n t o l o g i c a l c o m m i t m e n t m a d e b y a r e p r e s e n t a t i o n c a n b e o n e

o f t h e m o s t i m p o r t a n t c o n t r i b u t i o n s i t o e r s .

T h e r e i s a l o n g h i s t o r y o f w o r k a t t e m p t i n g t o b u i l d g o o d o n t o l o g i e s f o r a v a r i e t y

o f t a s k d o m a i n s , i n c l u d i n g e a r l y w o r k o n a n o n t o l o g y f o r l i q u i d s 1 2 ] , t h e l u m p e d

3

T h e p h r a s e \ o n t o l o g i c a l c o m m i t m e n t " i s p e r h a p s n o t p r e c i s e l y c o r r e c t f o r w h a t w e h a v e i n m i n d

h e r e , b u t i t i s t h e c l o s e s t a v a i l a b l e a p p r o x i m a t i o n . W h i l e o n t o l o g y i s , s t r i c t l y s p e a k i n g , c o n c e r n e d

w i t h w h a t e x i s t s i n t h e w o r l d , w e h a v e p h r a s e d t h i s s e c t i o n c a r e f u l l y i n t e r m s o f h o w t o v i e w t h e

w o r l d , p u r p o s e l y s i d e s t e p p i n g m a n y s t a n d a r d t h o r n y p h i l o s o p h i c a l i s s u e s s u r r o u n d i n g c l a i m s o f w h a t

e x i s t s . A s e c o n d w a y a r o u n d t h e i s s u e i s t o n o t e t h a t t h e \ w o r l d " w e a r e i n t e r e s t e d i n c a p t u r i n g i s

t h e w o r l d i n s i d e t h e m i n d o f s o m e i n t e l l i g e n t h u m a n o b s e r v e r ( e . g . , a p h y s i c i a n , e n g i n e e r , e t c . ) , i n

w h i c h c a s e i t c a n p l a u s i b l y b e a r g u e d t h a t i n t h a t w o r l d r u l e s , p r o t o t y p e s , e t c . , d o e x i s t .




e l e m e n t m o d e l w i d e l y u s e d i n r e p r e s e n t i n g e l e c t r o n i c c i r c u i t s ( e . g . , 3 ] ) , a s w e l l a s

o n t o l o g i e s f o r t i m e , b e l i e f , a n d e v e n p r o g r a m m i n g i t s e l f . E a c h o f t h e s e o e r s a w a y

t o s e e s o m e p a r t o f t h e w o r l d .

T h e l u m p e d e l e m e n t m o d e l , f o r i n s t a n c e , s u g g e s t s t h a t w e t h i n k o f c i r c u i t s i n

t e r m s o f c o m p o n e n t s w i t h c o n n e c t i o n s b e t w e e n t h e m , w i t h s i g n a l s o w i n g i n s t a n -

t a n e o u s l y a l o n g t h e c o n n e c t i o n s . T h i s i s a u s e f u l v i e w , b u t n o t t h e o n l y p o s s i b l e

o n e . A d i e r e n t o n t o l o g y a r i s e s i f w e n e e d t o a t t e n d t o t h e e l e c t r o d y n a m i c s i n t h e

d e v i c e : H e r e s i g n a l s p r o p a g a t e a t n i t e s p e e d a n d a n o b j e c t ( l i k e a r e s i s t o r ) t h a t w a s

p r e v i o u s l y v i e w e d a s a s i n g l e c o m p o n e n t w i t h a n I / O b e h a v i o r m a y n o w h a v e t o b e

t h o u g h t o f a s a n e x t e n d e d m e d i u m t h r o u g h w h i c h a n e l e c t r o m a g n e t i c w a v e o w s .

O n t o l o g i e s c a n o f c o u r s e b e w r i t t e n d o w n i n a w i d e v a r i e t y o f l a n g u a g e s a n d

n o t a t i o n s ( e . g . , l o g i c , l i s p , e t c . ) ; t h e e s s e n t i a l i n f o r m a t i o n i s n o t t h e f o r m o f t h a t

l a n g u a g e b u t t h e c o n t e n t , i . e . , t h e s e t o f c o n c e p t s o e r e d a s a w a y o f t h i n k i n g a b o u t t h e

w o r l d . S i m p l y p u t , t h e i m p o r t a n t p a r t i s n o t i o n s l i k e c o n n e c t i o n s a n d c o m p o n e n t s ,

n o t w h e t h e r w e c h o o s e t o w r i t e t h e m a s p r e d i c a t e s o r l i s p c o n s t r u c t s .

T h e c o m m i t m e n t w e m a k e b y s e l e c t i n g o n e o r a n o t h e r o n t o l o g y c a n p r o d u c e a

s h a r p l y d i e r e n t v i e w o f t h e t a s k a t h a n d . C o n s i d e r t h e d i e r e n c e t h a t a r i s e s i n

s e l e c t i n g t h e l u m p e d e l e m e n t v i e w o f a c i r c u i t r a t h e r t h a n t h e e l e c t r o d y n a m i c v i e w o f

t h e s a m e d e v i c e . A s a s e c o n d e x a m p l e , m e d i c a l d i a g n o s i s v i e w e d i n t e r m s o f r u l e s ( e . g . ,

m y c i n ) l o o k s s u b s t a n t i a l l y d i e r e n t f r o m t h e s a m e t a s k v i e w e d i n t e r m s o f f r a m e s

( e . g . , i n t e r n i s t ) . W h e r e m y c i n s e e s t h e m e d i c a l w o r l d a s m a d e u p o f e m p i r i c a l

a s s o c i a t i o n s c o n n e c t i n g s y m p t o m t o d i s e a s e , i n t e r n i s t s e e s a s e t o f p r o t o t y p e s , i n

p a r t i c u l a r p r o t o t y p i c a l d i s e a s e s , t o b e m a t c h e d a g a i n s t t h e c a s e a t h a n d .

3 . 2 . 1 C o m m i t m e n t b e g i n s w i t h t h e e a r l i e s t c h o i c e s

T h e i n t e r n i s t e x a m p l e a l s o d e m o n s t r a t e s t h a t t h e r e i s s i g n i c a n t a n d u n a v o i d a b l e

o n t o l o g i c a l c o m m i t m e n t e v e n a t t h e l e v e l o f t h e f a m i l i a r r e p r e s e n t a t i o n t e c h n o l o g i e s .

L o g i c , r u l e s , f r a m e s , e t c . , e a c h e m b o d y a v i e w p o i n t o n t h e k i n d s o f t h i n g s t h a t a r e

i m p o r t a n t i n t h e w o r l d . L o g i c , f o r i n s t a n c e , i n v o l v e s a ( f a i r l y m i n i m a l ) c o m m i t m e n t

t o v i e w i n g t h e w o r l d i n t e r m s o f i n d i v i d u a l e n t i t i e s a n d r e l a t i o n s b e t w e e n t h e m . R u l e -

b a s e d s y s t e m s v i e w t h e w o r l d i n t e r m s o f a t t r i b u t e - o b j e c t - v a l u e t r i p l e s a n d t h e r u l e s

o f p l a u s i b l e i n f e r e n c e t h a t c o n n e c t t h e m , w h i l e f r a m e s h a v e u s t h i n k i n g i n t e r m s o f

p r o t o t y p i c a l o b j e c t s .

E a c h o f t h e s e t h u s s u p p l i e s i t s o w n v i e w o f w h a t i s i m p o r t a n t t o a t t e n d t o , a n d

e a c h s u g g e s t s , c o n v e r s e l y , t h a t a n y t h i n g n o t e a s i l y s e e n i n t h o s e t e r m s m a y b e i g n o r e d .

T h i s i s o f c o u r s e n o t g u a r a n t e e d t o b e c o r r e c t , s i n c e a n y t h i n g i g n o r e d m a y l a t e r p r o v e

t o b e r e l e v a n t . B u t t h e t a s k i s h o p e l e s s i n p r i n c i p l e | e v e r y r e p r e s e n t a t i o n i g n o r e s

s o m e t h i n g a b o u t t h e w o r l d | h e n c e t h e b e s t w e c a n d o i s s t a r t w i t h a g o o d g u e s s . T h e

e x i s t i n g r e p r e s e n t a t i o n t e c h n o l o g i e s s u p p l y o n e s e t o f g u e s s e s a b o u t w h a t t o a t t e n d

t o a n d w h a t t o i g n o r e . S e l e c t i n g a n y o f t h e m t h u s i n v o l v e s a d e g r e e o f o n t o l o g i c a l

c o m m i t m e n t : t h e s e l e c t i o n w i l l h a v e a s i g n i c a n t i m p a c t o n o u r p e r c e p t i o n o f a n d

a p p r o a c h t o t h e t a s k , a n d o n o u r p e r c e p t i o n o f t h e w o r l d b e i n g m o d e l e d .




3 . 2 . 2 T h e c o m m i t m e n t s a c c u m u l a t e i n l a y e r s

T h e o n t o l o g i c c o m m i t m e n t o f a r e p r e s e n t a t i o n t h u s b e g i n s a t t h e l e v e l o f t h e r e p r e -

s e n t a t i o n t e c h n o l o g i e s a n d a c c u m u l a t e s f r o m t h e r e . A d d i t i o n a l l a y e r s o f c o m m i t m e n t

a r e m a d e a s w e p u t t h e t e c h n o l o g y t o w o r k . T h e u s e o f f r a m e - l i k e s t r u c t u r e s i n i n -

t e r n i s t o e r s a n i l l u s t r a t i v e e x a m p l e . A t t h e m o s t f u n d a m e n t a l l e v e l , t h e d e c i s i o n t o

v i e w d i a g n o s i s i n t e r m s o f f r a m e s s u g g e s t s t h i n k i n g i n t e r m s o f p r o t o t y p e s , d e f a u l t s ,

a n d a t a x o n o m i c h i e r a r c h y . B u t p r o t o t y p e s o f w h a t , a n d h o w s h a l l t h e t a x o n o m y b e

o r g a n i z e d ?

A n e a r l y d e s c r i p t i o n o f t h e s y s t e m 2 1 ] s h o w s h o w t h e s e q u e s t i o n s w e r e a n s w e r e d

i n t h e t a s k a t h a n d , s u p p l y i n g t h e s e c o n d l a y e r o f c o m m i t m e n t :

T h e k n o w l e d g e b a s e u n d e r l y i n g t h e i n t e r n i s t s y s t e m i s c o m p o s e d o f t w o

b a s i c t y p e s o f e l e m e n t s : d i s e a s e e n t i t i e s a n d m a n i f e s t a t i o n s . I t ] a l s o

c o n t a i n s a h i e r a r c h y o f d i s e a s e c a t e g o r i e s , o r g a n i z e d p r i m a r i l y a r o u n d

t h e c o n c e p t o f o r g a n s y s t e m s , h a v i n g a t t h e t o p l e v e l s u c h c a t e g o r i e s a s

\ l i v e r d i s e a s e , " \ k i d n e y d i s e a s e , " e t c .

T h e p r o t o t y p e s a r e t h u s i n t e n d e d t o c a p t u r e p r o t o t y p i c a l d i s e a s e s ( e . g . , a \ c l a s s i c

c a s e " o f a d i s e a s e ) , a n d t h e y w i l l b e o r g a n i z e d i n a t a x o n o m y i n d e x e d a r o u n d o r g a n

s y s t e m s . T h i s i s a s e n s i b l e a n d i n t u i t i v e s e t o f c h o i c e s b u t c l e a r l y n o t t h e o n l y w a y

t o a p p l y f r a m e s t o t h e t a s k ; h e n c e i t i s a n o t h e r l a y e r o f o n t o l o g i c a l c o m m i t m e n t .

A t t h e t h i r d ( a n d i n t h i s c a s e n a l ) l a y e r , t h i s s e t o f c h o i c e s i s i n s t a n t i a t e d :

w h i c h d i s e a s e s w i l l b e i n c l u d e d a n d i n w h i c h b r a n c h e s o f t h e h i e r a r c h y w i l l t h e y

a p p e a r ? O n t o l o g i c q u e s t i o n s t h a t a r i s e e v e n a t t h i s l e v e l c a n b e q u i t e f u n d a m e n t a l .

C o n s i d e r f o r e x a m p l e d e t e r m i n i n g w h i c h o f t h e f o l l o w i n g a r e t o b e c o n s i d e r e d d i s e a s e s

( i . e . , a b n o r m a l s t a t e s r e q u i r i n g c u r e ) : a l c o h o l i s m , h o m o s e x u a l i t y , a n d c h r o n i c f a t i g u e

s y n d r o m e . T h e o n t o l o g i c c o m m i t m e n t h e r e i s s u c i e n t l y o b v i o u s a n d s u c i e n t l y

i m p o r t a n t t h a t i t i s o f t e n a s u b j e c t o f d e b a t e i n t h e e l d i t s e l f , q u i t e i n d e p e n d e n t o f

b u i l d i n g a u t o m a t e d r e a s o n e r s .

S i m i l a r s o r t s o f d e c i s i o n s h a v e t o b e m a d e w i t h a l l t h e r e p r e s e n t a t i o n t e c h n o l o g i e s ,

b e c a u s e e a c h o f t h e m s u p p l i e s o n l y a r s t o r d e r g u e s s a b o u t h o w t o s e e t h e w o r l d : t h e y

o e r a w a y o f s e e i n g b u t d o n ' t i n d i c a t e h o w t o i n s t a n t i a t e t h a t v i e w . A s f r a m e s s u g g e s t

p r o t o t y p e s a n d t a x o n o m i e s b u t d o n o t t e l l u s w h i c h t h i n g s t o s e l e c t a s p r o t o t y p e s ,

r u l e s s u g g e s t t h i n k i n g i n t e r m s o f p l a u s i b l e i n f e r e n c e s , b u t d o n ' t t e l l u s w h i c h p l a u s i b l e

i n f e r e n c e s t o a t t e n d t o . S i m i l a r l y l o g i c t e l l s u s t o v i e w t h e w o r l d i n t e r m s o f i n d i v i d u a l s

a n d r e l a t i o n s , b u t d o e s n o t s p e c i f y w h i c h i n d i v i d u a l s a n d r e l a t i o n s t o u s e .

C o m m i t m e n t t o a p a r t i c u l a r v i e w o f t h e w o r l d t h u s s t a r t s w i t h t h e c h o i c e o f a

r e p r e s e n t a t i o n t e c h n o l o g y , a n d a c c u m u l a t e s a s s u b s e q u e n t c h o i c e s a r e m a d e a b o u t

h o w t o s e e t h e w o r l d i n t h o s e t e r m s .

3 . 2 . 3 R e m i n d e r : A K R i s n o t a d a t a s t r u c t u r e

N o t e t h a t a t e a c h l a y e r , e v e n t h e r s t ( e . g . , s e l e c t i n g r u l e s o r f r a m e s ) , t h e c h o i c e s b e i n g

m a d e a r e a b o u t r e p r e s e n t a t i o n , n o t d a t a s t r u c t u r e s . P a r t o f w h a t m a k e s a l a n g u a g e




r e p r e s e n t a t i o n a l i s t h a t i t c a r r i e s m e a n i n g 1 3 ] , i . e . , t h e r e i s a c o r r e s p o n d e n c e b e t w e e n

i t s c o n s t r u c t s a n d t h i n g s i n t h e e x t e r n a l w o r l d . T h a t c o r r e s p o n d e n c e i n t u r n c a r r i e s

w i t h i t c o n s t r a i n t .

A s e m a n t i c n e t , f o r e x a m p l e , i s a r e p r e s e n t a t i o n , w h i l e a g r a p h i s a d a t a s t r u c t u r e .

T h e y a r e d i e r e n t k i n d s o f e n t i t i e s , e v e n t h o u g h o n e i s i n v a r i a b l y u s e d t o i m p l e m e n t

t h e o t h e r , p r e c i s e l y b e c a u s e t h e n e t h a s ( s h o u l d h a v e ) a s e m a n t i c s . T h a t s e m a n t i c s w i l l

b e m a n i f e s t i n p a r t b e c a u s e i t c o n s t r a i n s t h e n e t w o r k t o p o l o g y : a n e t w o r k p u r p o r t i n g

t o d e s c r i b e f a m i l y m e m b e r s h i p s a s w e k n o w t h e m c a n n o t h a v e a c y c l e i n i t s p a r e n t

l i n k s , w h i l e g r a p h s ( i . e . , d a t a s t r u c t u r e s ) a r e o f c o u r s e u n d e r n o s u c h c o n s t r a i n t a n d

m a y h a v e a r b i t r a r y c y c l e s .

W h i l e e v e r y r e p r e s e n t a t i o n m u s t b e i m p l e m e n t e d i n t h e m a c h i n e b y s o m e d a t a

s t r u c t u r e , t h e r e p r e s e n t a t i o n a l p r o p e r t y i s i n t h e c o r r e s p o n d e n c e t o s o m e t h i n g i n t h e

w o r l d a n d i n t h e c o n s t r a i n t t h a t c o r r e s p o n d e n c e i m p o s e s .

3 . 3 R o l e I I I : A K R i s a F r a g m e n t a r y T h e o r y O f I n t e l l i g e n t R e a s o n i n g

T h e t h i r d r o l e f o r a r e p r e s e n t a t i o n i s a s a f r a g m e n t a r y t h e o r y o f i n t e l l i g e n t r e a s o n i n g .

T h i s r o l e c o m e s a b o u t b e c a u s e t h e i n i t i a l c o n c e p t i o n o f a r e p r e s e n t a t i o n i s t y p i c a l l y

m o t i v a t e d b y s o m e i n s i g h t i n d i c a t i n g h o w p e o p l e r e a s o n i n t e l l i g e n t l y , o r b y s o m e b e l i e f

a b o u t w h a t i t m e a n s t o r e a s o n i n t e l l i g e n t l y a t a l l .

T h e t h e o r y i s f r a g m e n t a r y i n t w o d i s t i n c t s e n s e s : ( i ) t h e r e p r e s e n t a t i o n t y p i c a l l y

i n c o r p o r a t e s o n l y p a r t o f t h e i n s i g h t o r b e l i e f t h a t m o t i v a t e d i t , a n d ( i i ) t h a t i n s i g h t

o r b e l i e f i s i n t u r n o n l y a p a r t o f t h e c o m p l e x a n d m u l t i - f a c e t e d p h e n o m e n o n o f

i n t e l l i g e n t r e a s o n i n g .

A r e p r e s e n t a t i o n ' s t h e o r y o f i n t e l l i g e n t r e a s o n i n g i s o f t e n i m p l i c i t , b u t c a n b e m a d e

m o r e e v i d e n t b y e x a m i n i n g i t s t h r e e c o m p o n e n t s : ( i ) t h e r e p r e s e n t a t i o n ' s f u n d a m e n -

t a l c o n c e p t i o n o f i n t e l l i g e n t i n f e r e n c e ; ( i i ) t h e s e t o f i n f e r e n c e s t h e r e p r e s e n t a t i o n

s a n c t i o n s ; a n d ( i i i ) t h e s e t o f i n f e r e n c e s i t r e c o m m e n d s

W h e r e t h e s a n c t i o n e d i n f e r e n c e s i n d i c a t e w h a t c a n b e i n f e r r e d a t a l l , t h e r e c o m -

m e n d e d i n f e r e n c e s a r e c o n c e r n e d w i t h w h a t s h o u l d b e i n f e r r e d . ( G u i d a n c e i s n e e d e d

b e c a u s e t h e s e t o f s a n c t i o n e d i n f e r e n c e s i s t y p i c a l l y f a r t o o l a r g e t o b e u s e d i n d i s c r i m i -

n a n t l y . ) W h e r e t h e o n t o l o g y w e e x a m i n e d e a r l i e r t e l l s u s h o w t o s e e , t h e r e c o m m e n d e d

i n f e r e n c e s s u g g e s t h o w t o r e a s o n .

T h e s e c o m p o n e n t s c a n a l s o b e s e e n a s t h e r e p r e s e n t a t i o n ' s a n s w e r s t o t h r e e c o r r e -

s p o n d i n g f u n d a m e n t a l q u e s t i o n s : ( i ) W h a t d o e s i t m e a n t o r e a s o n i n t e l l i g e n t l y ? ( i i )

W h a t c a n w e i n f e r f r o m w h a t w e k n o w ? a n d ( i i i ) W h a t o u g h t w e t o i n f e r f r o m w h a t

w e k n o w ? A n s w e r s t o t h e s e q u e s t i o n s a r e a t t h e h e a r t o f a r e p r e s e n t a t i o n ' s s p i r i t a n d

m i n d s e t ; k n o w i n g i t s p o s i t i o n o n t h e s e i s s u e s t e l l s u s a g r e a t d e a l a b o u t i t .

W e b e g i n w i t h t h e r s t o f t h e s e c o m p o n e n t s , e x a m i n i n g t w o o f s e v e r a l f u n d a -

m e n t a l l y d i e r e n t c o n c e p t i o n s o f i n t e l l i g e n t r e a s o n i n g t h a t h a v e b e e n e x p l o r e d i n A I .

T h o s e c o n c e p t i o n s a n d t h e i r u n d e r l y i n g a s s u m p t i o n s d e m o n s t r a t e t h e b r o a d r a n g e o f

v i e w s o n t h e q u e s t i o n a n d s e t i m p o r t a n t c o n t e x t f o r t h e r e m a i n i n g c o m p o n e n t s .




3 . 3 . 1 W h a t i s i n t e l l i g e n t r e a s o n i n g ?

W h a t a r e t h e e s s e n t i a l , d e n i n g p r o p e r t i e s o f i n t e l l i g e n t r e a s o n i n g ?

A s a c o n s e q u e n c e o f t h e r e l a t i v e y o u t h o f A I a s a d i s c i p l i n e , i n s i g h t s a b o u t t h e

n a t u r e o f i n t e l l i g e n t r e a s o n i n g h a v e o f t e n c o m e f r o m w o r k i n o t h e r e l d s . F i v e e l d s |

m a t h e m a t i c a l l o g i c , p s y c h o l o g y , b i o l o g y , s t a t i s t i c s , a n d e c o n o m i c s | h a v e p r o v i d e d t h e

i n s p i r a t i o n f o r v e d i s t i n g u i s h a b l e n o t i o n s o f w h a t c o n s t i t u t e s i n t e l l i g e n t r e a s o n i n g

( T a b l e I ) .

O n e v i e w , h i s t o r i c a l l y d e r i v e d f r o m m a t h e m a t i c a l l o g i c , m a k e s t h e a s s u m p t i o n

t h a t i n t e l l i g e n t r e a s o n i n g i s s o m e v a r i e t y o f f o r m a l c a l c u l a t i o n , t y p i c a l l y d e d u c t i o n ;

t h e m o d e r n e x e m p l a r s o f t h i s v i e w i n A I a r e t h e l o g i c i s t s . A s e c o n d v i e w , r o o t e d i n

w o r k i n p s y c h o l o g y , s e e s r e a s o n i n g a s a c h a r a c t e r i s t i c h u m a n b e h a v i o r a n d h a s g i v e n

r i s e t o b o t h t h e e x t e n s i v e w o r k o n h u m a n p r o b l e m s o l v i n g a n d t h e l a r g e c o l l e c t i o n o f

k n o w l e d g e - b a s e d s y s t e m s .

A t h i r d a p p r o a c h , l o o s e l y r o o t e d i n b i o l o g y , t a k e s t h e v i e w t h a t t h e k e y t o r e a -

s o n i n g i s t h e a r c h i t e c t u r e o f t h e m a c h i n e r y t h a t a c c o m p l i s h e s i t , h e n c e r e a s o n i n g i s a

c h a r a c t e r i s t i c s t i m u l u s / r e s p o n s e b e h a v i o r t h a t e m e r g e s f r o m p a r a l l e l i n t e r c o n n e c t i o n

o f a l a r g e c o l l e c t i o n o f v e r y s i m p l e p r o c e s s o r s . R e s e a r c h e r s w o r k i n g o n s e v e r a l v a r i e t i e s

o f c o n n e c t i o n i s m a r e t h e c u r r e n t d e s c e n d a n t s o f t h i s l i n e o f w o r k . A f o u r t h a p p r o a c h ,

d e r i v e d f r o m p r o b a b i l i t y t h e o r y , a d d s t o l o g i c t h e n o t i o n o f u n c e r t a i n t y , y i e l d i n g a

v i e w i n w h i c h r e a s o n i n g i n t e l l i g e n t l y m e a n s o b e y i n g t h e a x i o m s o f p r o b a b i l i t y t h e o r y

A f t h v i e w , f r o m e c o n o m i c s , a d d s t h e f u r t h e r i n g r e d i e n t o f v a l u e s a n d p r e f e r e n c e s ,

l e a d i n g t o a v i e w o f i n t e l l i g e n t r e a s o n i n g d e n e d b y a d h e r e n c e t o t h e t e n e t s o f u t i l i t y

t h e o r y




M A T H E M A T I C A L P S Y C H O L O G Y B I O L O G Y S T A T I S T I C S E C O N O M I C S

L O G I C

A r i s t o t l e

D e s c a r t e s

B o o l e J a m e s L a p l a c e B e n t h a m

P a r e t o

F r e g e B e r n o u l l i F r i e d m a n

P e a n o

H e b b L a s h l e y B a y e s

G o e d e l B r u n e r R o s e n b l a t t

P o s t M i l l e r A s h b y T v e r s k y , V o n N e u m a n n

C h u r c h N e w e l l , L e t t v i n K a h n e m a n S i m o n

T u r i n g S i m o n M c C u l l o c h , P i t t s R a i f f a

D a v i s H e u b e l , W e i s e l

P u t n a m

R o b i n s o n

L O G I C S O A R C O N N E C T I O N I S M C A U S A L R A T I O N A L

P R O L O G K B S , F R A M E S N E T W O R K S A G E N T S

T a b l e I . V i e w s o f i n t e l l i g e n t r e a s o n i n g a n d t h e i r i n t e l l e c t u a l o r i g i n s

B r i e y e x p l o r i n g t h e h i s t o r i c a l d e v e l o p m e n t o f t h e r s t t w o o f t h e s e v i e w s w i l l

i l l u s t r a t e t h e d i e r e n t c o n c e p t i o n s t h e y h a v e o f t h e f u n d a m e n t a l n a t u r e o f i n t e l l i g e n t

r e a s o n i n g a n d w i l l d e m o n s t r a t e t h e d e e p - s e a t e d d i e r e n c e s i n m i n d s e t t h a t a r i s e a s a

c o n s e q u e n c e .

3 . 3 . 1 . 1 I n t e l l i g e n t r e a s o n i n g : t h e l o g i c a l v i e w a n d t h e p s y c h o l o g i c a l v i e w

C o n s i d e r r s t t h e t r a d i t i o n t h a t s u r r o u n d s m a t h e m a t i c a l l o g i c a s a v i e w o f i n t e l l i g e n t

r e a s o n i n g . T h i s v i e w h a s i t s h i s t o r i c a l o r i g i n s i n A r i s t o t l e ' s e o r t s t o a c c u m u l a t e

a n d c a t a l o g t h e s y l l o g i s m s , i n a n a t t e m p t t o d e t e r m i n e w h a t s h o u l d b e t a k e n a s a

c o n v i n c i n g a r g u m e n t .

4

T h e l i n e c o n t i n u e s w i t h D e s c a r t e s , w h o s e a n a l y t i c g e o m e t r y

s h o w e d t h a t E u c l i d ' s w o r k , a p p a r e n t l y c o n c e r n e d w i t h t h e s t u o f p u r e t h o u g h t ( l i n e s

o f z e r o w i d t h , p e r f e c t c i r c l e s o f t h e s o r t s o n l y t h e g o d s c o u l d m a k e ) , c o u l d i n f a c t b e

m a r r i e d t o a l g e b r a , a f o r m o f c a l c u l a t i o n , s o m e t h i n g m e r e m o r t a l s c o u l d d o .

4

N o t e t h a t e v e n a t t h e o u t s e t t h e r e i s a h i n t o f t h e i d e a t h a t t h e d e s i r e d f o r m o f r e a s o n i n g m i g h t

b e d e s c r i b a b l e i n a s e t o f f o r m a l r u l e s .



3 W H A T I S A K N O W L E D G E R E P R E S E N T A T I O N ? 1 0

B y t h e t i m e o f L e i b n i t z t h e a g e n d a i s q u i t e s p e c i c a n d t e l l i n g : h e s o u g h t n o t h i n g

l e s s t h a n a \ c a l c u l u s o f t h o u g h t , " o n e t h a t w o u l d p e r m i t t h e r e s o l u t i o n o f a l l h u m a n

d i s a g r e e m e n t w i t h t h e s i m p l e i n v o c a t i o n \ L e t u s c o m p u t e . " B y t h i s t i m e t h e r e i s a

c l e a r a n d c o n c r e t e b e l i e f t h a t , a s E u c l i d ' s o n c e g o d - l i k e a n d u n r e a c h a b l e g e o m e t r y

c o u l d b e c a p t u r e d w i t h a l g e b r a , s o s o m e ( o r p e r h a p s a n y ) v a r i e t y o f t h a t e p h e m e r a l

s t u c a l l e d t h o u g h t m i g h t b e c a p t u r e d i n c a l c u l a t i o n , s p e c i c a l l y l o g i c a l d e d u c t i o n .

I n t h e 1 9 t h c e n t u r y B o o l e p r o v i d e d t h e b a s i s f o r p r o p o s i t i o n a l c a l c u l u s i n h i s

\ L a w s o f T h o u g h t ; " l a t e r w o r k b y F r e g e a n d P e a n o p r o v i d e d a d d i t i o n a l f o u n d a t i o n

f o r t h e m o d e r n f o r m o f p r e d i c a t e c a l c u l u s . W o r k b y D a v i s , P u t n a m a n d R o b i n s o n

i n t h e 2 0 t h c e n t u r y p r o v i d e d t h e n a l s t e p s i n m e c h a n i z i n g d e d u c t i o n s u c i e n t l y t o

e n a b l e t h e r s t a u t o m a t e d t h e o r e m p r o v e r s .

T h e m o d e r n o s p r i n g o f t h i s l i n e o f i n t e l l e c t u a l d e v e l o p m e n t i n c l u d e t h e m a n y

e o r t s t h a t u s e r s t o r d e r l o g i c a s a r e p r e s e n t a t i o n a n d s o m e v a r i e t y o f d e d u c t i o n a s

t h e r e a s o n i n g e n g i n e , a s w e l l a s t h e l a r g e b o d y o f w o r k w i t h t h e e x p l i c i t a g e n d a o f

m a k i n g l o g i c a l r e a s o n i n g c o m p u t a t i o n a l , e x e m p l i e d b y p r o l o g

T h i s l i n e o f d e v e l o p m e n t i l l u s t r a t e s c l e a r l y h o w a p p r o a c h e s t o r e p r e s e n t a t i o n a r e

f o u n d e d o n a n d e m b e d a v i e w o f t h e n a t u r e o f i n t e l l i g e n t r e a s o n i n g . T h e r e i s h e r e ,

f o r e x a m p l e , t h e h i s t o r i c a l d e v e l o p m e n t o f t h e u n d e r l y i n g p r e m i s e t h a t r e a s o n i n g

i n t e l l i g e n t l y m e a n s r e a s o n i n g l o g i c a l l y ; a n y t h i n g e l s e i s a m i s t a k e o r a n a b b e r a t i o n .

A l l i e d w i t h t h i s i s t h e b e l i e f t h a t \ l o g i c a l l y " i n t u r n m e a n s r s t o r d e r l o g i c , t y p i c a l l y

s o u n d d e d u c t i o n . B y s i m p l e t r a n s i t i v i t y t h e s e t w o c o l l a p s e i n t o o n e k e y p a r t o f t h e

v i e w o f i n t e l l i g e n t r e a s o n i n g u n d e r l y i n g l o g i c : r e a s o n i n g i n t e l l i g e n t l y m e a n s r e a s o n i n g

i n t h e f a s h i o n d e n e d b y r s t o r d e r l o g i c .

A s e c o n d i m p o r t a n t p a r t o f t h e v i e w i s t h e a l l i e d b e l i e f t h a t i n t e l l i g e n t r e a s o n -

i n g i s a p r o c e s s t h a t c a n b e c a p t u r e d i n a f o r m a l d e s c r i p t i o n , p a r t i c u l a r l y a f o r m a l

d e s c r i p t i o n t h a t i s b o t h p r e c i s e a n d c o n c i s e .

B u t v e r y d i e r e n t v i e w s o f t h e n a t u r e o f i n t e l l i g e n t r e a s o n i n g a r e a l s o p o s s i b l e . O n e

d i s t i n c t l y d i e r e n t v i e w i s e m b e d d e d i n t h e p a r t o f A I i n u e n c e d b y t h e p s y c h o l o g i c a l

t r a d i t i o n . T h a t t r a d i t i o n , r o o t e d i n t h e w o r k o f H e b b , B r u n e r , M i l l e r , a n d N e w e l l

& S i m o n , b r o k e t h r o u g h t h e s t i m u l u s / r e s p o n s e v i e w d e m a n d e d b y b e h a v i o r i s m a n d

s u g g e s t e d i n s t e a d t h a t h u m a n p r o b l e m s o l v i n g b e h a v i o r c o u l d u s e f u l l y b e v i e w e d i n

t e r m s o f g o a l s , p l a n s , a n d o t h e r c o m p l e x m e n t a l s t r u c t u r e s . M o d e r n m a n i f e s t a t i o n s

i n c l u d e w o r k o n s o a r a s a g e n e r a l m e c h a n i s m f o r p r o d u c i n g i n t e l l i g e n t r e a s o n i n g a n d

k n o w l e d g e b a s e d s y s t e m s a s a m e a n s o f c a p t u r i n g h u m a n e x p e r t r e a s o n i n g .

C o m p a r i n g t h e s e t w o t r a d i t i o n s r e v e a l s s i g n i c a n t d i e r e n c e s a n d i l l u s t r a t e s t h e

c o n s e q u e n c e s o f a d o p t i n g o n e o r t h e o t h e r v i e w o f i n t e l l i g e n t r e a s o n i n g . I n t h e l o g i c i s t

t r a d i t i o n i n t e l l i g e n t r e a s o n i n g i s t a k e n t o b e a f o r m o f c a l c u l a t i o n , t y p i c a l l y d e d u c t i o n

i n r s t o r d e r l o g i c , w h i l e t h e t r a d i t i o n b a s e d i n p s y c h o l o g y t a k e s a s t h e d e n i n g

c h a r a c t e r i s t i c o f i n t e l l i g e n t r e a s o n i n g t h a t i t i s a p a r t i c u l a r v a r i e t y o f h u m a n b e h a v i o r .

I n t h e l o g i c i s t v i e w t h e o b j e c t o f i n t e r e s t i s t h u s a c o n s t r u c t d e n a b l e i n f o r m a l t e r m s

v i a m a t h e m a t i c s , w h i l e f o r t h o s e i n u e n c e d b y t h e p s y c h o l o g i c a l t r a d i t i o n i t i s a n

e m p i r i c a l p h e n o m e n o n f r o m t h e n a t u r a l w o r l d . T h e r e a r e t h u s t w o v e r y d i e r e n t




a s s u m p t i o n s h e r e a b o u t t h e e s s e n t i a l n a t u r e o f t h e f u n d a m e n t a l p h e n o m e n o n t o b e

c a p t u r e d .

A s e c o n d c o n t r a s t a r i s e s i n c o n s i d e r i n g t h e c h a r a c t e r o f t h e a n s w e r s e a c h s e e k s .

T h e l o g i c i s t v i e w h a s t r a d i t i o n a l l y s o u g h t c o m p a c t a n d p r e c i s e c h a r a c t e r i z a t i o n s o f

i n t e l l i g e n c e , l o o k i n g f o r t h e k i n d o f c h a r a c t e r i z a t i o n s e n c o u n t e r e d i n m a t h e m a t i c s ( a n d

a t t i m e s i n p h y s i c s ) . T h e p s y c h o l o g i c a l t r a d i t i o n b y c o n t r a s t s u g g e s t s t h a t i n t e l l i g e n c e

i s n o t o n l y a n a t u r a l p h e n o m e n o n , i t i s a n i n h e r e n t l y c o m p l e x n a t u r a l p h e n o m e n o n :

a s h u m a n a n a t o m y a n d p h y s i o l o g y a r e i n h e r e n t l y c o m p l e x s y s t e m s r e s u l t i n g f r o m a

l o n g p r o c e s s o f e v o l u t i o n , s o p e r h a p s i s i n t e l l i g e n c e . A s s u c h , i n t e l l i g e n c e m a y b e a

l a r g e a n d f u n d a m e n t a l l y a d h o c c o l l e c t i o n o f m e c h a n i s m s a n d p h e n o m e n a , o n e f o r

w h i c h c o m p l e t e a n d c o n c i s e d e s c r i p t i o n s m a y n o t b e p o s s i b l e .

S e v e r a l u s e f u l c o n s e q u e n c e s r e s u l t f r o m u n d e r s t a n d i n g t h e d i e r e n t p o s i t i o n s t a k e n

b y e a c h t r a d i t i o n o n t h i s f u n d a m e n t a l q u e s t i o n . F i r s t , i t d e m o n s t r a t e s t h a t s e l e c t -

i n g a n y o f t h e m o d e r n o s p r i n g o f t h o s e t r a d i t i o n s | i . e . , a n y o f t h e r e p r e s e n t a t i o n

t e c h n o l o g i e s s h o w n a t t h e b o t t o m o f t h e t a b l e | m e a n s c h o o s i n g m o r e t h a n a r e p -

r e s e n t a t i o n : i n t h e s a m e a c t w e a r e a l s o s e l e c t i n g a c o n c e p t i o n o f t h e f u n d a m e n t a l

n a t u r e o f i n t e l l i g e n t r e a s o n i n g .

S e c o n d , t h o s e c o n c e p t i o n s d i e r i n i m p o r t a n t w a y s : t h e r e a r e f u n d a m e n t a l d i e r -

e n c e s i n t h e c o n c e p t i o n o f t h e p h e n o m e n o n w e a r e t r y i n g t o c a p t u r e . T h e d i e r e n t

c o n c e p t i o n s i n t u r n m e a n t h e r e a r e d e e p - s e a t e d d i e r e n c e s i n t h e c h a r a c t e r a n d t h e

g o a l s o f t h e v a r i o u s r e s e a r c h e o r t s t h a t a r e t r y i n g t o c r e a t e i n t e l l i g e n t p r o g r a m s .

S i m p l y p u t : d i e r e n t c o n c e p t i o n s o f t h e n a t u r e o f i n t e l l i g e n t r e a s o n i n g l e a d t o d i e r -

e n t g o a l s , d e n i t i o n s o f s u c c e s s , a n d d i e r e n t a r t i f a c t s b e i n g c r e a t e d .

F i n a l l y , t h o s e d i e r e n c e s a r e r a r e l y a r t i c u l a t e d . T h i s i n t u r n l e a d s t o a r g u m e n t s

t h a t m a y b e p h r a s e d i n t e r m s o f i s s u e s l i k e r e p r e s e n t a t i o n c h o i c e ( e . g . , t h e v i r t u e s

o f s o u n d r e a s o n i n g i n F O P C v s . t h e d i c u l t t o c h a r a c t e r i z e i n f e r e n c e s p r o d u c e d b y

f r a m e - b a s e d s y s t e m s ) , w h e n t h e r e a l i s s u e s a r e , w e b e l i e v e , t h e d i e r e n t c o n c e p t i o n s o f

t h e f u n d a m e n t a l n a t u r e o f i n t e l l i g e n c e . U n d e r s t a n d i n g t h e d i e r e n t p o s i t i o n s a s s i s t s

i n a n a l y z i n g a n d s o r t i n g o u t t h e i s s u e s a p p r o p r i a t e l y .

3 . 3 . 2 W h i c h i n f e r e n c e s a r e s a n c t i o n e d ?

T h e s e c o n d c o m p o n e n t o f a r e p r e s e n t a t i o n ' s t h e o r y o f i n t e l l i g e n t r e a s o n i n g i s i t s s e t o f

s a n c t i o n e d i n f e r e n c e s , i . e . , a s e l e c t e d s e t o f i n f e r e n c e s d e e m e d a p p r o p r i a t e c o n c l u s i o n s

t o d r a w f r o m t h e i n f o r m a t i o n a v a i l a b l e . T h e c l a s s i c d e n i t i o n i s s u p p l i e d b y t r a d i -

t i o n a l f o r m a l l o g i c , w h e r e t h e o n l y s a n c t i o n e d i n f e r e n c e s a r e s o u n d i n f e r e n c e s ( i . e . ,

t h o s e e n c o m p a s s e d b y l o g i c a l e n t a i l m e n t , i n w h i c h e v e r y m o d e l f o r t h e a x i o m s e t i s

a l s o a m o d e l f o r t h e c o n c l u s i o n ) . T h i s a n s w e r h a s a n u m b e r o f i m p o r t a n t b e n e t s ,

i n c l u d i n g b e i n g s a t i s f y i n g i n t u i t i v e l y ( a s o u n d a r g u m e n t w i l l n e v e r i n t r o d u c e e r r o r ) ,

e x p l i c i t ( s o w e k n o w p r e c i s e l y w h a t w e ' r e t a l k i n g a b o u t ) , p r e c i s e e n o u g h t h a t i t c a n b e

t h e s u b j e c t o f f o r m a l p r o o f s , a n d o l d e n o u g h t h a t w e h a v e a c c u m u l a t e d a s i g n i c a n t

b o d y o f e x p e r i e n c e w i t h i t .

L o g i c h a s a l s o e x p l o r e d s e v e r a l v a r i e t i e s o f u n s o u n d i n f e r e n c e , i n c l u d i n g c i r c u m -




s c r i p t i o n a n d a b d u c t i o n . T h i s e x p l o r a t i o n h a s t y p i c a l l y b e e n g u i d e d b y t h e r e q u i r e -

m e n t t h a t t h e r e b e \ a w e l l m o t i v a t e d m o d e l - t h e o r e t i c j u s t i c a t i o n " 1 9 ] , a s f o r e x -

a m p l e t h e m i n i m a l m o d e l c r i t e r i o n o f c i r c u m s c r i p t i o n . T h i s r e q u i r e m e n t m a i n t a i n s

a f u n d a m e n t a l c o m p o n e n t o f t h e l o g i c i s t a p p r o a c h : w h i l e i t i s w i l l i n g t o a r r i v e a t

c o n c l u s i o n s t h a t a r e t r u e i n s o m e s u b s e t o f t h e m o d e l s ( r a t h e r t h a n t r u e i n e v e r y

m o d e l ) t h e s e t o f s a n c t i o n e d i n f e r e n c e s i s s t i l l c o n c e i v e d o f i n m o d e l t h e o r e t i c t e r m s

a n d i s s p e c i e d p r e c i s e l y i n t h o s e t e r m s .

O t h e r r e p r e s e n t a t i o n s h a v e e x p l o r e d o t h e r d e n i t i o n s : p r o b a b i l i s t i c r e a s o n i n g s y s -

t e m s ( e . g . , 2 0 ] ) s a n c t i o n t h e i n f e r e n c e s s p e c i e d b y p r o b a b i l i t y t h e o r y , w h i l e w o r k o n

r a t i o n a l a g e n t s ( e . g . , 7 ] ) r e l i e s o n c o n c e p t s f r o m t h e t h e o r y o f e c o n o m i c r a t i o n a l i t y .

A m o n g t h e c o m m o n k n o w l e d g e r e p r e s e n t a t i o n t e c h n o l o g i e s , r u l e b a s e d s y s t e m s

c a p t u r e g u e s s e s o f t h e s o r t t h e h u m a n e x p e r t m a k e s , g u e s s e s t h a t a r e n o t n e c e s s a r i l y

e i t h e r s o u n d o r t r u e i n a n y m o d e l . A f r a m e - b a s e d r e p r e s e n t a t i o n e n c o u r a g e s j u m p i n g

t o p o s s i b l y i n c o r r e c t c o n c l u s i o n s b a s e d o n g o o d m a t c h e s , e x p e c t a t i o n s , o r d e f a u l t s .

B o t h o f t h e s e s h a r e t h e p s y c h o l o g i c a l t r a d i t i o n o f d e n i n g t h e s e t o f s a n c t i o n e d i n f e r -

e n c e s w i t h r e f e r e n c e t o t h e b e h a v i o r o f t h e h u m a n e x p e r t , r a t h e r t h a n b y r e f e r e n c e

t o a n a b s t r a c t f o r m a l m o d e l .

3 . 3 . 2 . 1 F o r m a n d c o n t e n t o f t h e a n s w e r s

A s t h e s e e x a m p l e s s h o w , d i e r e n t a p p r o a c h e s t o r e p r e s e n t a t i o n s p e c i f y s a n c t i o n e d

i n f e r e n c e s i n w a y s t h a t d i e r i n b o t h c o n t e n t a n d f o r m . W h e r e t h e s p e c i c a t i o n

f o r l o g i c , f o r e x a m p l e , i s e x p r e s s e d i n t e r m s o f m o d e l t h e o r y a n d i s m a t h e m a t i c a l l y

p r e c i s e , o t h e r r e p r e s e n t a t i o n s p r o v i d e a n s w e r s p h r a s e d i n o t h e r t e r m s , o f t e n w i t h

c o n s i d e r a b l y l e s s p r e c i s i o n . F r a m e s t h e o r y , f o r i n s t a n c e , o e r s a d e n i t i o n p h r a s e d i n

t e r m s o f h u m a n b e h a v i o r a n d i s s p e c i e d o n l y a p p r o x i m a t e l y .

T h e d i e r e n c e s i n b o t h c o n t e n t a n d s t y l e i n t u r n h a v e t h e i r o r i g i n i n t h e d i e r e n t

c o n c e p t i o n s o f i n t e l l i g e n t r e a s o n i n g e x p l o r e d a b o v e . P h r a s i n g t h e d e n i t i o n i n t e r m s o f

h u m a n b e h a v i o r i s a p p r o p r i a t e f o r f r a m e s b e c a u s e t h e t h e o r y c o n c e i v e s o f i n t e l l i g e n t

r e a s o n i n g a s a c h a r a c t e r i s t i c f o r m o f h u m a n b e h a v i o r . I n a t t e m p t i n g t o d e s c r i b e

t h a t b e h a v i o r , t h e t h e o r y i s f a c e d w i t h t h e t a s k o f c h a r a c t e r i z i n g a c o m p l e x e m p i r i c a l

p h e n o m e n o n t h a t c a n b e c a p t u r e d o n l y r o u g h l y a t t h e m o m e n t , a n d t h a t m a y n e v e r b e

s p e c i a b l e w i t h m a t h e m a t i c a l p r e c i s i o n , h e n c e t h e a p p r o p r i a t e n e s s o f a n a p p r o x i m a t e

a n s w e r .

F o r f r a m e s t h e o r y , t h e n , t h e s p e c i c a t i o n o f s a n c t i o n e d i n f e r e n c e s i s b o t h i n f o r m a l

a n d e m p i r i c a l , a s a n u n a v o i d a b l e c o n s e q u e n c e o f i t s c o n c e p t i o n o f i n t e l l i g e n c e . T h e

w o r k ( a n d o t h e r w o r k l i k e i t ) i s n e i t h e r s l o p p y n o r c a u s a l l y l a c k i n g i n p r e c i s i o n ; t h e

u n d e r l y i n g c o n c e p t i o n o f i n t e l l i g e n t r e a s o n i n g d i c t a t e s a d i e r e n t a p p r o a c h t o t h e

t a s k , a d i e r e n t s e t o f t e r m s i n w h i c h t o e x p r e s s t h e a n s w e r , a n d a d i e r e n t f o c u s f o r

t h e a n s w e r .

T h e b r o a d e r p o i n t h e r e i s t o a c k n o w l e d g e t h e l e g i t i m a c y o f a v a r i e t y o f a p p r o a c h e s

t o s p e c i f y i n g s a n c t i o n e d i n f e r e n c e s : m o d e l t h e o r y m a y b e f a m i l i a r a n d p o w e r f u l , b u t

e v e n f o r f o r m a l s y s t e m s i t i s n o t t h e o n l y p o s s i b l e l a n g u a g e . M o r e b r o a d l y s t i l l ,




f o r m a l d e n i t i o n s a r e n o t t h e o n l y t e r m s i n w h i c h t h e a n s w e r c a n b e s p e c i e d . T h e

c h o i c e o f a p p r o p r i a t e v o c a b u l a r y a n d d e g r e e o f f o r m a l i t y d e p e n d s i n t u r n o n t h e b a s i c

c o n c e p t i o n o f i n t e l l i g e n t b e h a v i o r .

3 . 3 . 3 W h i c h i n f e r e n c e s a r e r e c o m m e n d e d ?

W h i l e s a n c t i o n e d i n f e r e n c e s t e l l u s w h a t c o n c l u s i o n s w e a r e p e r m i t t e d t o m a k e , t h a t

s e t i s i n v a r i a b l y v e r y l a r g e a n d h e n c e p r o v i d e s i n s u c i e n t c o n s t r a i n t . A n y a u t o m a t e d

s y s t e m a t t e m p t i n g t o r e a s o n , g u i d e d o n l y b y k n o w i n g w h a t i n f e r e n c e s a r e s a n c t i o n e d ,

w i l l s o o n n d i t s e l f o v e r w h e l m e d b y c h o i c e s . H e n c e w e n e e d m o r e t h a n a n i n d i c a t i o n o f

w h i c h i n f e r e n c e s w e c a n l e g a l l y m a k e , w e a l s o n e e d s o m e i n d i c a t i o n o f w h i c h i n f e r e n c e s

w h i c h i n f e r e n c e s a r e a p p r o p r i a t e t o m a k e , i . e . , i n t e l l i g e n t . T h a t i n d i c a t i o n i s s u p p l i e d

b y t h e s e t o f r e c o m m e n d e d i n f e r e n c e s .

N o t e t h a t t h e n e e d f o r a s p e c i c a t i o n o f r e c o m m e n d e d i n f e r e n c e s m e a n s t h a t

i n s p e c i f y i n g a r e p r e s e n t a t i o n w e a l s o n e e d t o s a y s o m e t h i n g a b o u t h o w t o r e a s o n

i n t e l l i g e n t l y . R e p r e s e n t a t i o n a n d r e a s o n i n g a r e i n e x t r i c a b l y , a n d u s e f u l l y , i n t e r t w i n e d :

a k n o w l e d g e r e p r e s e n t a t i o n i s a t h e o r y o f i n t e l l i g e n t r e a s o n i n g .

R e a s o n a b l y o f t e n t h a t t h e o r y h a s b e e n p r o v i d e d b y o b s e r v a t i o n o f h u m a n b e h a v i o r .

M i n s k y ' s o r i g i n a l e x p o s i t i o n o f f r a m e t h e o r y , f o r i n s t a n c e , o e r s a c l e a r e x a m p l e o f

b o t h a s e t o f r e c o m m e n d e d i n f e r e n c e s , a n d a s e t i n s p i r e d b y o b s e r v a t i o n o f h u m a n

b e h a v i o r . C o n s i d e r t h i s , f r o m t h e i n t r o d u c t i o n t o t h e o r i g i n a l f r a m e s p a p e r 1 7 ] :

T h i s i s a p a r t i a l t h e o r y o f t h i n k i n g . W h e n e v e r o n e e n c o u n t e r s a n e w

s i t u a t i o n ( o r m a k e s a s u b s t a n t i a l c h a n g e i n o n e ' s v i e w p o i n t ) , h e s e l e c t s

f r o m m e m o r y a s t r u c t u r e c a l l e d a f r a m e ; a r e m e m b e r e d f r a m e w o r k t o b e

a d a p t e d t o t r e a l i t y b y c h a n g i n g d e t a i l s a s n e c e s s a r y .

A f r a m e r e p r e s e n t s ] a s t e r e o t y p e d s i t u a t i o n , l i k e b e i n g i n a c e r t a i n

k i n d o f l i v i n g r o o m , o r g o i n g t o a c h i l d ' s b i r t h d a y p a r t y .

T h e r s t s e n t e n c e i l l u s t r a t e s t h e i n t e r t w i n i n g o f r e a s o n i n g a n d r e p r e s e n t a t i o n : t h i s

i s a p a p e r a b o u t k n o w l e d g e r e p r e s e n t a t i o n , y e t i t a n n o u n c e s a t t h e o u t s e t t h a t i t i s

a l s o a t h e o r y o f t h i n k i n g . T h a t t h e o r y i n t u r n a r o s e f r o m a n i n s i g h t a b o u t h u m a n

i n t e l l i g e n t r e a s o n i n g , n a m e l y h o w p e o p l e m i g h t m a n a g e t o m a k e t h e s o r t o f s i m p l e

c o m m o n s e n s e i n f e r e n c e s t h a t a p p e a r d i c u l t t o c a p t u r e i n p r o g r a m s . T h e t h e o r y

s i n g l e s o u t a p a r t i c u l a r s e t o f i n f e r e n c e s t o r e c o m m e n d , v i z . , r e a s o n i n g i n t h e s t y l e o f

a n t i c i p a t o r y m a t c h i n g .

S i m i l a r c h a r a c t e r i z a t i o n s o f r e c o m m e n d e d i n f e r e n c e s c a n b e g i v e n f o r m o s t o t h e r

r e p r e s e n t a t i o n t e c h n o l o g i e s . S e m a n t i c n e t s i n t h e i r o r i g i n a l f o r m , f o r i n s t a n c e , r e c -

o m m e n d b i - d i r e c t i o n a l p r o p a g a t i o n t h r o u g h t h e n e t , i n s p i r e d b y t h e i n t e r c o n n e c t e d

c h a r a c t e r o f w o r d d e n i t i o n s a n d t h e p a r t o f h u m a n i n t e l l i g e n c e m a n i f e s t e d i n t h e a b i l -

i t y o f p e o p l e t o n d c o n n e c t i o n s b e t w e e n a p p a r e n t l y d i s p a r a t e c o n c e p t s . T h e r u l e s i n

k n o w l e d g e b a s e d s y s t e m s r e c o m m e n d p l a u s i b l e i n f e r e n c e s , i n s p i r e d b y o b s e r v a t i o n o f

h u m a n e x p e r t r e a s o n i n g .




L o g i c , b y c o n t r a s t , h a s t r a d i t i o n a l l y t a k e n a m i n i m a l i s t s t a n c e o n t h i s i s s u e . T h e

r e p r e s e n t a t i o n i t s e l f o e r s o n l y a t h e o r y o f s a n c t i o n e d i n f e r e n c e s , s e e k i n g t o r e m a i n

s i l e n t o n t h e q u e s t i o n o f w h i c h i n f e r e n c e s t o r e c o m m e n d .

T h e s i l e n c e o n t h i s i s s u e i s m o t i v a t e d b y t h e d e s i r e f o r g e n e r a l i t y i n t h e i n f e r -

e n c e m a c h i n e r y a n d a d e c l a r a t i v e ( i . e . , u s e - i n d e p e n d e n t ) f o r m f o r t h e l a n g u a g e , b o t h

f u n d a m e n t a l g o a l s o f t h e l o g i c i s t a p p r o a c h : \ l o g i c i s t s s t r i v e t o m a k e t h e i n f e r e n c e

p r o c e s s a s u n i f o r m a n d d o m a i n i n d e p e n d e n t a s p o s s i b l e a n d t o r e p r e s e n t a l l k n o w l e d g e

( e v e n t h e k n o w l e d g e a b o u t h o w t o u s e k n o w l e d g e ) d e c l a r a t i v e l y . " 1 9 ]

B u t a r e p r e s e n t a t i o n w i t h t h e s e g o a l s c a n n o t s i n g l e o u t a n y p a r t i c u l a r s e t o f i n f e r -

e n c e s t o r e c o m m e n d , f o r t w o r e a s o n s . F i r s t , i f t h e i n f e r e n c e p r o c e s s i s t o b e g e n e r a l

a n d u n i f o r m ( i . e . , w o r k o n a l l p r o b l e m s , a n d w o r k i n t h e s a m e w a y ) , i t m u s t b e

n e u t r a l a b o u t w h i c h i n f e r e n c e s t o r e c o m m e n d : a n y p a r t i c u l a r s u b s e t o f i n f e r e n c e s i t

a t t e m p t e d t o s i n g l e o u t m i g h t b e a p p r o p r i a t e i n o n e s i t u a t i o n b u t f a t a l l y b a d i n a n -

o t h e r , s i n c e n o i n f e r e n c e s t r a t e g y ( u n i t p r e f e r e n c e , s e t o f s u p p o r t , e t c . ) i s u n i v e r s a l l y

a p p r o p r i a t e . S e c o n d , i f s t a t e m e n t s i n t h e l a n g u a g e a r e t o b e d e c l a r a t i v e , t h e y m u s t

e x p r e s s a f a c t w i t h o u t a n y i n d i c a t i o n o f h o w t o r e a s o n w i t h i t ( u s e - f r e e e x p r e s s i o n

i s a d e n i n g c h a r a c t e r i s t i c o f a d e c l a r a t i v e r e p r e s e n t a t i o n ) . H e n c e t h e i n f e r e n c e e n -

g i n e c a n ' t r e c o m m e n d a n y i n f e r e n c e s ( o r i t l o s e s i t s g e n e r a l i t y a n d u n i f o r m i t y ) a n d

t h e s t a t e m e n t s o f f a c t i n t h e l a n g u a g e c a n n o t r e c o m m e n d a n y i n f e r e n c e s ( s i n c e b y

e m b e d d i n g s u c h i n f o r m a t i o n t h e y l o s e t h e i r t h e i r d e c l a r a t i v e c h a r a c t e r ) .

5

T h e d e s i r e f o r g e n e r a l i t y a n d u s e - f r e e e x p r e s s i o n t h u s p r e v e n t s t h e r e p r e s e n t a t i o n

i t s e l f f r o m s e l e c t i n g i n f e r e n c e s t o r e c o m m e n d . B u t i f t h e r e p r e s e n t a t i o n i t s e l f c a n n o t

m a k e t h e r e c o m m e n d a t i o n , t h e u s e r m u s t , s i n c e t h e a l t e r n a t i v e | u n g u i d e d s e a r c h | i s

u n t e n a b l e .

T h i s i s i n p a r t a d e l i b e r a t e v i r t u e o f t h e l o g i c i s t a p p r o a c h : p r e v e n t i n g t h e r e p r e -

s e n t a t i o n f r o m s e l e c t i n g i n f e r e n c e s a n d h e n c e r e q u i r i n g t h e u s e r t o d o s o o e r s t h e

o p p o r t u n i t y f o r t h a t i n f o r m a t i o n t o b e r e p r e s e n t e d e x p l i c i t l y , r a t h e r t h a n e m b e d -

d e d i m p l i c i t l y i n t h e m a c h i n e r y o f t h e r e p r e s e n t a t i o n ( a s , f o r e x a m p l e , i n r u l e - b a s e d

s y s t e m s , o r P R O L O G

O n e d i c u l t y w i t h t h i s a d m i r a b l e g o a l a r i s e s i n t r y i n g t o p r o v i d e t h e u s e r w i t h

t h e t o o l s t o e x p r e s s t h e s t r a t e g i e s a n d t o g u i d e t h e s y s t e m . T h r e e a p p r o a c h e s a r e

c o m m o n l y e m p l o y e d : h a v e t h e u s e r t e l l t h e s y s t e m w h a t t o d o , h a v e t h e u s e r l e a d

i t i n t o d o i n g t h e r i g h t t h i n g , a n d b u i l d i n s p e c i a l - p u r p o s e i n f e r e n c e s t r a t e g i e s . B y

\ t e l l i n g t h e s y s t e m w h a t t o d o " w e m e a n h a v i n g t h e u s e r r e c o m m e n d a s e t o f i n f e r e n c e s

b y w r i t i n g s t a t e m e n t s i n t h e s a m e ( d e c l a r a t i v e ) l a n g u a g e u s e d t o e x p r e s s f a c t s a b o u t

5

T h e c o n s e q u e n c e s o f t h i s a p p r o a c h a r e e v i d e n t e v e n i n t h e u s e o f d i s j u n c t i v e n o r m a l f o r m a s

a c a n o n i c a l r e p r e s e n t a t i o n : a l t h o u g h X 1 ̂ X 2 ̂ X 3 ! X 4 i s s e m a n t i c a l l y e q u i v a l e n t t o : X 1 _

: X 2 _ X 4 _ : X 3 , s o m e p o t e n t i a l l y u s e f u l i n f o r m a t i o n i s l o s t i n t h e t r a n s f o r m a t i o n . T h e r s t

f o r m m i g h t b e r e a d a s s u g g e s t i n g t h a t X 1 , X 2 , a n d X 3 h a v e s o m e t h i n g i n c o m m o n , v i z . , t h a t t h e y

s h o u l d b e t h o u g h t o f a s t h e p r e c o n d i t i o n s n e e d e d t o e s t a b l i s h X 4 . T h i s m a y b e a u s e f u l h i n t a b o u t

h o w t o r e a s o n i n t h e p r o b l e m , b u t i f s o , i t i s l o s t i n t h e t r a n s f o r m a t i o n t o D N F . C o n s i d e r b y c o n t r a s t

l a n g u a g e s l i k e m i c r o p l a n n e r a n d p r o l o g , w h i c h m a k e e x p l i c i t u s e o f t h e f o r m o f t h e i n f e r e n c e r u l e

t o h e l p g u i d e t h e d e d u c t i o n p r o c e s s .




t h e w o r l d ( e . g . , M R S 9 ] ) . B y \ l e a d i n g t h e s y s t e m i n t o d o i n g t h e r i g h t t h i n g " w e

m e a n h a v i n g t h e u s e r c a r e f u l l y s e l e c t t h e a x i o m s , t h e o r e m s , a n d l e m m a s s u p p l i e d t o

t h e s y s t e m . T h e p r e s e n c e o f a l e m m a , f o r i n s t a n c e , i s n o t s i m p l y a f a c t t h e s y s t e m

s h o u l d k n o w , i t a l s o p r o v i d e s a w a y o f a b b r e v i a t i n g a l o n g c h a i n o f d e d u c t i o n s i n t o a

s i n g l e s t e p , i n e e c t a l l o w i n g t h e s y s t e m t o t a k e a \ l a r g e " s t e p i n a c e r t a i n d i r e c t i o n

( v i z . , t h e d i r e c t i o n i n w h i c h t h e l e m m a t a k e s u s ) . W i t h c a r e f u l s e l e c t i o n o f f a c t s a n d

l e m m a s t h e u s e r c a n i n d i r e c t l y r e c o m m e n d a p a r t i c u l a r s e t o f i n f e r e n c e s . B y \ s p e c i a l

p u r p o s e i n f e r e n c e s t r a t e g i e s " w e m e a n b u i l d i n g s p e c i c c o n t r o l s t r a t e g i e s d i r e c t l y i n t o

t h e t h e o r e m p r o v e r . T h i s c a n o e r s i g n i c a n t s p e e d u p a n d a p r a g m a t i c a l l y u s e f u l l e v e l

o f c o m p u t a t i o n a l e c i e n c y .

E a c h o f t h e s e a p p r o a c h e s h a s b o t h b e n e t s a n d d r a w b a c k s . E x p r e s s i n g r e a s o n i n g

s t r a t e g i e s i n r s t o r d e r l o g i c i s i n k e e p i n g w i t h t h e s p i r i t o f t h e l o g i c i s t a p p r o a c h , v i z . ,

e x p l i c i t r e p r e s e n t a t i o n o f k n o w l e d g e i n a u n i f o r m , d e c l a r a t i v e r e p r e s e n t a t i o n . B u t t h i s

i s o f t e n p r o b l e m a t i c i n p r a c t i c e : a l a n g u a g e d e s i g n e d t o e x p r e s s f a c t s d e c l a r a t i v e l y

i s n o t n e c e s s a r i l y g o o d f o r e x p r e s s i n g t h e i m p e r a t i v e i n f o r m a t i o n c h a r a c t e r i s t i c o f a

r e a s o n i n g s t r a t e g y .

C a r e f u l s e l e c t i o n o f l e m m a s i s a t b e s t a n i n d i r e c t e n c o d i n g o f t h e g u i d a n c e i n f o r m a -

t i o n t o b e s u p p l i e d . F i n a l l y , s p e c i a l - p u r p o s e d e d u c t i o n m e c h a n i s m s a r e p o w e r f u l b u t

e m b e d t h e r e a s o n i n g s t r a t e g y b o t h i n v i s i b l y a n d p r o c e d u r a l l y , d e f e a t i n g t h e o r i g i n a l

g o a l s o f d o m a i n i n d e p e n d e n t i n f e r e n c e a n d e x p l i c i t , d e c l a r a t i v e r e p r e s e n t a t i o n .

T h e g o o d n e w s h e r e i s t h a t b y r e m a i n i n g p u r p o s e l y s i l e n t o n t h e i s s u e o f r e c -

o m m e n d e d i n f e r e n c e s , l o g i c o e r s b o t h a d e g r e e o f g e n e r a l i t y a n d t h e p o s s i b i l i t y o f

m a k i n g i n f o r m a t i o n a b o u t r e c o m m e n d e d i n f e r e n c e s e x p l i c i t a n d a v a i l a b l e t o b e r e a -

s o n e d a b o u t i n t u r n . T h e l e s s g o o d n e w s i s t h a t t h e t a s k o f g u i d i n g t h e s y s t e m

h a s b e e n l e f t t o t h e u s e r w i t h n o c o n c e p t u a l a s s i s t a n c e o e r e d , a n d t h e p r a c t i c e s t h a t

r e s u l t a t t i m e s d e f e a t s o m e o f t h e k e y g o a l s t h a t m o t i v a t e d t h e a p p r o a c h a t t h e o u t s e t .

3 . 4 R o l e I V : A K R i s a M e d i u m f o r E c i e n t C o m p u t a t i o n

F r o m a p u r e l y m e c h a n i s t i c v i e w , r e a s o n i n g i n m a c h i n e s ( a n d s o m e w h a t m o r e d e b a t -

a b l y , i n p e o p l e ) i s a c o m p u t a t i o n a l p r o c e s s . S i m p l y p u t , t o u s e a r e p r e s e n t a t i o n w e

m u s t c o m p u t e w i t h i t . A s a r e s u l t , q u e s t i o n s a b o u t c o m p u t a t i o n a l e c i e n c y a r e

i n e v i t a b l y c e n t r a l t o t h e n o t i o n o f r e p r e s e n t a t i o n .

T h i s h a s l o n g b e e n r e c o g n i z e d , a t l e a s t i m p l i c i t l y , b y r e p r e s e n t a t i o n d e s i g n e r s :

a l o n g w i t h t h e i r s p e c i c a t i o n o f a s e t o f r e c o m m e n d e d i n f e r e n c e s , r e p r e s e n t a t i o n s

t y p i c a l l y o e r a s e t o f i d e a s a b o u t h o w t o o r g a n i z e i n f o r m a t i o n i n w a y s t h a t f a c i l i t a t e

m a k i n g t h o s e i n f e r e n c e s . A s u b s t a n t i a l p a r t o f t h e o r i g i n a l f r a m e s n o t i o n , f o r i n s t a n c e ,

i s c o n c e r n e d w i t h j u s t t h i s s o r t o f a d v i c e , a s m o r e o f t h e i n t r o d u c t i o n t o t h e f r a m e s

p a p e r i l l u s t r a t e s :

A f r a m e r e p r e s e n t s ] a s t e r e o t y p e d s i t u a t i o n , l i k e b e i n g i n a c e r t a i n

k i n d o f l i v i n g r o o m , o r g o i n g t o a c h i l d ' s b i r t h d a y p a r t y .

A t t a c h e d t o e a c h f r a m e a r e s e v e r a l k i n d s o f i n f o r m a t i o n . S o m e o f t h i s




i n f o r m a t i o n i s a b o u t h o w t o u s e t h e f r a m e . S o m e i s a b o u t w h a t o n e c a n

e x p e c t t o h a p p e n n e x t . S o m e i s a b o u t w h a t t o d o i f t h e s e e x p e c t a t i o n s

a r e n o t c o n r m e d .

T h e n o t i o n o f t r i g g e r s a n d p r o c e d u r a l a t t a c h m e n t i n f r a m e s i s n o t s o m u c h a s t a t e m e n t

a b o u t w h a t p r o c e d u r e s t o w r i t e ( o n t h i s t h e t h e o r y i s r a t h e r v a g u e ) , a s i t i s a d e s c r i p -

t i o n o f a u s e f u l w a y t o o r g a n i z e i n f o r m a t i o n : e . g . , ( p a r a p h r a s i n g f r o m a b o v e ) a t t a c h

t o e a c h f r a m e i n f o r m a t i o n a b o u t h o w t o u s e t h e f r a m e , w h a t t o d o i f e x p e c t a t i o n s a r e

n o t c o n r m e d , e t c . S i m i l a r l y , o r g a n i z i n g f r a m e s i n t o t a x o n o m i c h i e r a r c h i e s b o t h s u g -

g e s t s t a x o n o m i c r e a s o n i n g a n d f a c i l i t a t e s i t s e x e c u t i o n ( a s i n s t r u c t u r e d i n h e r i t a n c e

n e t w o r k s ) .

O t h e r r e p r e s e n t a t i o n s p r o v i d e s i m i l a r g u i d a n c e . T r a d i t i o n a l s e m a n t i c n e t s f a c i l i -

t a t e b i - d i r e c t i o n a l p r o p a g a t i o n b y t h e s i m p l e e x p e d i e n t o f p r o v i d i n g a n a p p r o p r i a t e

s e t o f l i n k s , w h i l e r u l e - b a s e d s y s t e m s f a c i l i t a t e p l a u s i b l e i n f e r e n c e s b y s u p p l y i n g i n -

d i c e s f r o m g o a l s t o r u l e s w h o s e c o n c l u s i o n m a t c h e s ( f o r b a c k w a r d c h a i n i n g ) a n d f r o m

f a c t s t o r u l e s w h o s e p r e m i s e m a t c h e s ( f o r w a r d c h a i n i n g ) .

W h i l e t h e i s s u e o f e c i e n t u s e o f r e p r e s e n t a t i o n s h a s b e e n a d d r e s s e d b y r e p r e -

s e n t a t i o n d e s i g n e r s , i n t h e l a r g e r s e n s e t h e e l d a p p e a r s t o h a v e b e e n h i s t o r i c a l l y

a m b i v a l e n t i n i t s r e a c t i o n . E a r l y r e c o g n i t i o n o f t h e n o t i o n o f h e u r i s t i c a d e q u a c y 1 6 ]

d e m o n s t r a t e s t h a t e a r l y o n r e s e a r c h e r s a p p r e c i a t e d t h e s i g n i c a n c e o f t h e c o m p u t a -

t i o n a l p r o p e r t i e s o f a r e p r e s e n t a t i o n , b u t t h e t o n e o f m u c h s u b s e q u e n t w o r k i n l o g i c

( e . g . , 1 3 ] ) s u g g e s t e d t h a t e p i s t e m o l o g y ( k n o w l e d g e c o n t e n t ) a l o n e m a t t e r e d , a n d d e -

n e d c o m p u t a t i o n a l e c i e n c y o u t o f t h e a g e n d a . E p i s t e m o l o g y d o e s o f c o u r s e m a t t e r ,

a n d i t m a y b e u s e f u l t o s t u d y i t w i t h o u t t h e p o t e n t i a l l y d i s t r a c t i n g c o n c e r n s a b o u t

s p e e d . B u t e v e n t u a l l y w e m u s t c o m p u t e w i t h o u r r e p r e s e n t a t i o n s , h e n c e e c i e n c y

m u s t b e p a r t o f t h e a g e n d a .

T h e p e n d u l u m l a t e r s w u n g s h a r p l y o v e r , t o w h a t w e m i g h t c a l l t h e c o m p u t a t i o n a l

i m p e r a t i v e v i e w . S o m e w o r k i n t h i s v e i n ( e . g . , 1 5 ] ) o e r e d r e p r e s e n t a t i o n l a n g u a g e s

w h o s e d e s i g n w a s s t r o n g l y d r i v e n b y t h e d e s i r e t o p r o v i d e n o t o n l y e c i e n c y , b u t

g u a r a n t e e d e c i e n c y . T h e r e s u l t a p p e a r s t o b e a l a n g u a g e o f s i g n i c a n t s p e e d b u t

r e s t r i c t e d e x p r e s s i v e p o w e r 6 ] .

E i t h e r e n d o f t h i s s p e c t r u m s e e m s p r o b l e m a t i c : w e i g n o r e c o m p u t a t i o n a l c o n -

s i d e r a t i o n s a t o u r p e r i l , b u t w e c a n a l s o b e o v e r l y c o n c e r n e d w i t h t h e m , p r o d u c i n g

r e p r e s e n t a t i o n s t h a t a r e f a s t b u t i n a d e q u a t e f o r r e a l u s e .

3 . 5 R o l e V : A K R i s a M e d i u m o f H u m a n E x p r e s s i o n

F i n a l l y , k n o w l e d g e r e p r e s e n t a t i o n s a r e a l s o t h e m e a n s b y w h i c h w e e x p r e s s t h i n g s

a b o u t t h e w o r l d , t h e m e d i u m o f e x p r e s s i o n a n d c o m m u n i c a t i o n i n w h i c h w e t e l l t h e

m a c h i n e ( a n d p e r h a p s o n e a n o t h e r ) a b o u t t h e w o r l d . T h i s r o l e f o r r e p r e s e n t a t i o n s i s

i n e v i t a b l e s o l o n g a s w e n e e d t o t e l l t h e m a c h i n e ( o r o t h e r p e o p l e ) a b o u t t h e w o r l d , a n d

s o l o n g a s w e d o s o b y c r e a t i n g a n d c o m m u n i c a t i n g r e p r e s e n t a t i o n s .

6

T h e f t h r o l e

6

I t w i l l p r e s u m a b l y c o n t i n u e t o b e u s e f u l e v e n i f m a c h i n e s i n v e n t t h e i r o w n k n o w l e d g e r e p r e s e n t a -

t i o n s b a s e d o n i n d e p e n d e n t e x p e r i e n c e o f t h e w o r l d : i f t h e i r r e p r e s e n t a t i o n s b e c o m e i n c o m p r e h e n s i b l e



4 C O N S E Q U E N C E S F O R R E S E A R C H A N D P R A C T I C E 1 7

f o r k n o w l e d g e r e p r e s e n t a t i o n s i s t h u s a s a m e d i u m o f e x p r e s s i o n a n d c o m m u n i c a t i o n

f o r u s e b y u s

T h a t i n t u r n p r e s e n t s t w o i m p o r t a n t s e t s o f q u e s t i o n s . O n e s e t i s f a m i l i a r : H o w

w e l l d o e s t h e r e p r e s e n t a t i o n f u n c t i o n a s a m e d i u m o f e x p r e s s i o n ? H o w g e n e r a l i s i t ?

H o w p r e c i s e ? D o e s i t p r o v i d e e x p r e s s i v e a d e q u a c y ? e t c .

A n i m p o r t a n t q u e s t i o n l e s s o f t e n d i s c u s s e d i s , H o w w e l l d o e s i t f u n c t i o n a s a

m e d i u m o f c o m m u n i c a t i o n ? T h a t i s , h o w e a s y i s i t f o r u s t o \ t a l k " o r t h i n k i n t h a t

l a n g u a g e ? W h a t k i n d s o f t h i n g s a r e e a s i l y s a i d i n t h e l a n g u a g e a n d w h a t k i n d s o f

t h i n g s a r e s o d i c u l t a s t o b e p r a g m a t i c a l l y i m p o s s i b l e ?

N o t e t h a t t h e q u e s t i o n s h e r e a r e o f t h e f o r m \ h o w e a s y i s i t ? " r a t h e r t h a n \ c a n

w e ? " T h i s i s a l a n g u a g e w e m u s t u s e , s o t h i n g s t h a t a r e p o s s i b l e i n p r i n c i p l e a r e u s e f u l

b u t i n s u c i e n t ; t h e r e a l q u e s t i o n i s o n e o f p r a g m a t i c u t i l i t y . I f t h e r e p r e s e n t a t i o n

m a k e s t h i n g s p o s s i b l e b u t n o t e a s y , t h e n a s r e a l u s e r s w e m a y n e v e r k n o w w h e t h e r w e

h a v e m i s u n d e r s t o o d t h e r e p r e s e n t a t i o n a n d j u s t d o n o t k n o w h o w t o u s e i t , o r i t t r u l y

c a n n o t e x p r e s s s o m e t h i n g s w e w o u l d l i k e t o s a y . A r e p r e s e n t a t i o n i s t h e l a n g u a g e i n

w h i c h w e c o m m u n i c a t e , h e n c e w e m u s t b e a b l e t o s p e a k i t w i t h o u t h e r o i c e o r t .

4 C o n s e q u e n c e s F o r R e s e a r c h a n d P r a c t i c e

W e b e l i e v e t h a t t h i s v i e w o f k n o w l e d g e r e p r e s e n t a t i o n c a n u s e f u l l y i n u e n c e p r a c t i c e

a n d c a n h e l p i n f o r m t h e d e b a t e s u r r o u n d i n g s e v e r a l i s s u e s i n r e p r e s e n t a t i o n r e s e a r c h .

F o r p r a c t i c e i t o e r s a f r a m e w o r k t h a t a i d s i n m a k i n g e x p l i c i t t h e i m p o r t a n t i n s i g h t s

a n d \ s p i r i t " o f a r e p r e s e n t a t i o n , a n d i l l u s t r a t e s t h e d i e r e n c e i n d e s i g n t h a t r e s u l t s

f r o m i n d u l g i n g r a t h e r t h a n v i o l a t i n g t h a t s p i r i t .

T h e c o n s e q u e n c e s o f t h e v i e w f o r r e s e a r c h i n c l u d e ( i ) a b r o a d e r c o n c e p t i o n o f

r e p r e s e n t a t i o n , u r g i n g t h a t a l l o f t h e r o l e s s h o u l d b e k e p t i n m i n d w h e n c r e a t i n g

r e p r e s e n t a t i o n l a n g u a g e s , ( i i ) t h e r e c o g n i t i o n t h a t a r e p r e s e n t a t i o n e m b e d s a t h e o r y

o f i n t e l l i g e n t r e a s o n i n g , ( i i i ) t h e a b i l i t y t o u s e t h e b r o a d e r v i e w o f r e p r e s e n t a t i o n t o

g u i d e t h e c o m b i n a t i o n o f r e p r e s e n t a t i o n s , ( i v ) t h e a b i l i t y t o u s e t h e b r o a d e r v i e w t o

d i s s e c t s o m e o f t h e a r g u m e n t s a b o u t f o r m a l e q u i v a l e n c e o f r e p r e s e n t a t i o n s ; a n d ( v ) t h e

b e l i e f t h a t t h e c e n t r a l t a s k o f k n o w l e d g e r e p r e s e n t a t i o n i s c a p t u r i n g t h e c o m p l e x i t y

o f t h e r e a l w o r l d .

S p a c e l i m i t a t i o n s r e q u i r e t h a t w e b r i e y s k e t c h o u t t h e s e c o n s e q u e n c e s h e r e ; a

c o m p l e t e d i s c u s s i o n i s f o u n d i n 5 ] .

4 . 1 C o n s e q u e n c e f o r P r a c t i c e : C h a r a c t e r i z i n g t h e S p i r i t o f a R e p r e s e n -

t a t i o n

T h e r o l e s e n u m e r a t e d a b o v e h e l p t o c h a r a c t e r i z e a n d m a k e e x p l i c i t t h e \ s p i r i t " o f

a r e p r e s e n t a t i o n , t h e i m p o r t a n t s e t o f i d e a s a n d i n s p i r a t i o n s t h a t l i e b e h i n d ( a n d ,

s i g n i c a n t l y , a r e o f t e n l e s s o b v i o u s t h a n ) t h e c o n c r e t e m a c h i n e r y u s e d t o i m p l e m e n t

t h e r e p r e s e n t a t i o n . T h e s p i r i t i s o f t e n d i c u l t t o d e s c r i b e w i t h p r e c i s i o n , b u t w e

t o u s , t h e m a c h i n e s w i l l b e u n a b l e e i t h e r t o t e l l u s w h a t t h e y k n o w o r e x p l a i n t h e i r c o n c l u s i o n s .




b e l i e v e i t i s w e l l c h a r a c t e r i z e d b y t h e l a s t f o u r o f t h e r o l e s e n u m e r a t e d a b o v e ( a l l

r e p r e s e n t a t i o n s a r e s u r r o g a t e s , h e n c e t h e r e i s l i t t l e d i e r e n c e a m o n g t h e m o n t h e

r s t r o l e . ) T h e s t a n c e a r e p r e s e n t a t i o n t a k e s o n e a c h o f t h e s e i s s u e s , a l o n g w i t h i t s

r a t i o n a l e f o r t h a t s t a n c e , i n d i c a t e s w h a t t h e r e p r e s e n t a t i o n i s t r y i n g t o s a y a b o u t h o w

t o v i e w a n d r e a s o n a b o u t t h e w o r l d .

T h e f r a m e s i d e a , f o r e x a m p l e , i s i n i t s o r i g i n a l i n c a r n a t i o n 1 7 ] p r i m a r i l y a n o n -

t o l o g i c a l c o m m i t m e n t a n d a t h e o r y o f i n t e l l i g e n t r e a s o n i n g b a s e d o n i n s i g h t s a b o u t

h u m a n c o g n i t i o n a n d t h e o r g a n i z a t i o n o f k n o w l e d g e i n m e m o r y .

T h e m a j o r o n t o l o g i c c o m m i t m e n t o f c o u r s e i s t o v i e w i n g t h e w o r l d i n t e r m s o f

s t e r e o t y p i c a l d e s c r i p t i o n s , i . e . , c o n c e p t s d e s c r i b e d i n t e r m s o f w h a t i s t y p i c a l l y t r u e

a b o u t t h e m . T h i s i s p a r t i c u l a r l y w e l l s u i t e d t o c o n c e p t s i n t h e n a t u r a l w o r l d , w h e r e

c a t e g o r i e s r a r e l y h a v e p r e c i s e s p e c i c a t i o n s i n t e r m s o f n e c e s s a r y a n d s u c i e n t c o n -

d i t i o n s , a n d w h e r e e x c e p t i o n s a b o u n d . T h e r e i s a d d i t i o n a l o n t o l o g i c c o m m i t m e n t i n

l i n k i n g f r a m e s i n t o s y s t e m s i n o r d e r t o c a p t u r e p e r s p e c t i v e s h i f t s ; t h i s e n c o u r a g e s u s

t o l o o k f o r s u c h s h i f t s w h e n v i e w i n g t h e w o r l d .

T h e t h e o r y o f i n t e l l i g e n t r e a s o n i n g e m b e d d e d i n f r a m e s c l a i m s t h a t m u c h r e a -

s o n i n g i s b a s e d o n r e c o g n i t i o n , p a r t i c u l a r l y m a t c h i n g s t e r e o t y p e s a g a i n s t i n d i v i d u a l

i n s t a n c e s . T h e s u g g e s t i o n s c o n c e r n i n g o r g a n i z a t i o n o f k n o w l e d g e a r e b a s e d o n t h e b e -

l i e f t h a t i n f o r m a t i o n i n h u m a n m e m o r y i s r i c h l y a n d e x p l i c i t l y i n t e r c o n n e c t e d , r a t h e r

t h a n s t r u c t u r e d a s a s e t o f i n d e p e n d e n t o r o n l y i m p l i c i t l y c o n n e c t e d f a c t s .

T h e f r a m e s t h e o r y t h u s r e c o m m e n d s i n f e r e n c e s p r o d u c e d b y s t e r e o t y p e m a t c h i n g

a n d i n s t a n t i a t i o n , a n d f a c i l i t a t e s t h o s e i n f e r e n c e s b y t h e f r a m e s t r u c t u r e i t s e l f , a s w e l l

a s t h e f u r t h e r o r g a n i z a t i o n o f f r a m e s i n t o f r a m e s y s t e m s .

T h e t h e o r y s a n c t i o n s i n f e r e n c e s t h a t a r e u n s o u n d , a s i n t h e a n a l o g i c a l a n d d e f a u l t

r e a s o n i n g d o n e w h e n m a t c h i n g f r a m e s . I t a l s o s a n c t i o n s i n f e r e n c e s t h a t i n v o l v e r e l -

a t i v e l y l a r g e m i s m a t c h e s , i n o r d e r t o m o d e l u n d e r s t a n d i n g t h a t i s t e n a c i o u s e v e n i n

t h e f a c e o f i n c o n s i s t e n c i e s .

T h e t h e o r y p r o v i d e s a m e d i u m f o r p o t e n t i a l l y e c i e n t c o m p u t a t i o n b y c a s t i n g

u n d e r s t a n d i n g a s m a t c h i n g r a t h e r t h a n d e d u c t i o n . F i n a l l y , i t o e r s a m e d i u m o f

e x p r e s s i o n t h a t i s p a r t i c u l a r l y u s e f u l f o r d e s c r i b i n g c o n c e p t s i n t h e n a t u r a l w o r l d ,

w h e r e w e o f t e n n e e d s o m e w a y o f i n d i c a t i n g w h a t p r o p e r t i e s a n o b j e c t t y p i c a l l y h a s ,

w i t h o u t c o m m i t t i n g t o s t a t e m e n t s a b o u t w h a t i s a l w a y s t r u e .

4 . 1 . 1 T h e s p i r i t s h o u l d b e i n d u l g e d , n o t o v e r c o m e

T w o u s e f u l c o n s e q u e n c e s r e s u l t f r o m c h a r a c t e r i z i n g a r e p r e s e n t a t i o n i n t h e s e t e r m s ,

m a k i n g i t s p o s i t i o n o n t h e r o l e s b o t h e x p l i c i t a n d u n d e r s t a n d a b l e . F i r s t , i t e n a b l e s a

k i n d o f e x p l i c i t l y i n v o k e d W h o r a n t h e o r y o f r e p r e s e n t a t i o n u s e . W h i l e t h e r e p r e s e n -

t a t i o n w e s e l e c t w i l l h a v e i n e v i t a b l e c o n s e q u e n c e s f o r h o w w e s e e a n d r e a s o n a b o u t

t h e w o r l d , w e c a n a t l e a s t s e l e c t i t c o n s c i o u s l y a n d c a r e f u l l y , t r y i n g t o n d a p a i r o f

g l a s s e s a p p r o p r i a t e f o r t h e t a s k a t h a n d . S t e p s i n t h i s d i r e c t i o n w o u l d i n c l u d e h a v -

i n g r e p r e s e n t a t i o n d e s i g n e r s c h a r a c t e r i z e c a r e f u l l y t h e n a t u r e o f t h e g l a s s e s t h e y a r e

s u p p l y i n g ( e . g . , m a k i n g e x p l i c i t t h e o n t o l o g i c c o m m i t m e n t s , r e c o m m e n d e d i n f e r e n c e s ,




e t c . ) a n d h a v i n g t h e e l d d e v e l o p p r i n c i p l e s f o r m a t c h i n g r e p r e s e n t a t i o n s t o t a s k s .

S e c o n d , s u c h c h a r a c t e r i z a t i o n s w o u l d f a c i l i t a t e a p p r o p r i a t e u s e o f a r e p r e s e n t a t i o n .

B y a p p r o p r i a t e w e m e a n u s i n g i t i n i t s i n t e n d e d s p i r i t , i . e . , u s e d f o r w h a t i t w a s

i n t e n d e d t o d o , n o t f o r w h a t i t c a n b e m a d e t o d o . Y e t w i t h s t r i k i n g r e g u l a r i t y ,

t h e o r i g i n a l s p i r i t o f a r e p r e s e n t a t i o n i s s e e n a s a n o p p o n e n t t o b e o v e r c o m e . W i t h

s t r i k i n g r e g u l a r i t y t h e s p i r i t g e t s f o r g o t t e n , r e p l a c e d b y a f a r m o r e m e c h a n i s t i c v i e w

t h a t s e e s a d a t a s t r u c t u r e r a t h e r t h a n a r e p r e s e n t a t i o n , c o m p u t a t i o n r a t h e r t h a n

i n f e r e n c e . P a p e r s w r i t t e n i n t h i s m i n d s e t t y p i c a l l y c o n t a i n c l a i m s o f h o w t h e a u t h o r

w a s a b l e , t h r o u g h a c r e a t i v e , h e r o i c , a n d o f t e n o b s c u r e a c t , t o g e t a r e p r e s e n t a t i o n t o

d o s o m e t h i n g w e w o u l d n ' t o r d i n a r i l y h a v e t h o u g h t c a p a b l e o f d o i n g .

B u t i f t h a t ' s w h a t u s i n g a r e p r e s e n t a t i o n i s a l l a b o u t , i t b e c o m e s a n o d d a n d

t e r r i b l y a w k w a r d f o r m o f p r o g r a m m i n g : t h e t a s k b e c o m e s o n e o f d o i n g w h a t w e

a l r e a d y k n o w w e w a n t t o d o , b u t b e i n g f o r c e d t o d o i t u s i n g j u s t t h e c o n s t r u c t s

a v a i l a b l e i n t h e r e p r e s e n t a t i o n , n o m a t t e r h o w g o o d o r b a d t h e t .

I n t h a t c a s e t h e c r e a t i v e w o r k i s o f t e n i n o v e r c o m i n g t h e r e p r e s e n t a t i o n , s e e i n g h o w

w e c a n g e t i t t o b e h a v e l i k e s o m e t h i n g e l s e

7

T h e r e s u l t i s k n o w l e d g e r e p r e s e n t a t i o n s

a p p l i e d i n w a y s t h a t a r e u n i n f o r m e d b y t h e i n s p i r a t i o n s a n d i n s i g h t s t h a t l e d t o

t h e i r i n v e n t i o n a n d t h a t a r e t h e s o u r c e o f t h e i r p o w e r . S y s t e m s b u i l t i n t h i s s p i r i t

o f t e n w o r k d e s p i t e t h e i r r e p r e s e n t a t i o n s , n o t b e c a u s e o f t h e m ; t h e y w o r k b e c a u s e t h e

a u t h o r s , t h o u g h g r e a t e o r t , m a n a g e d t o o v e r c o m e t h e r e p r e s e n t a t i o n .

4 . 2 C o n s e q u e n c e f o r R e s e a r c h : R e p r e s e n t a t i o n a n d R e a s o n i n g a r e I n t e r -

t w i n e d

A t v a r i o u s t i m e s i n t h e d e v e l o p m e n t o f t h e e l d , t h e s u g g e s t i o n h a s b e e n m a d e t h a t

w e o u g h t t o v i e w k n o w l e d g e r e p r e s e n t a t i o n i n p u r e l y e p i s t e m o l o g i c t e r m s , i . e . , t a k e

t h e s i n g u l a r r o l e o f r e p r e s e n t a t i o n t o b e c o n v e y i n g k n o w l e d g e c o n t e n t ( e . g . , 1 3 ] ) .

A s w e n o t e d e a r l i e r , e p i s t e m o l o g y m a t t e r s , b u t i t i s n o t t h e w h o l e o f t h e m a t t e r .

R e p r e s e n t a t i o n a n d r e a s o n i n g a r e i n e x t r i c a b l y i n t e r t w i n e d : w e c a n n o t t a l k a b o u t o n e

w i t h o u t a l s o , u n a v o i d a b l y , d i s c u s s i n g t h e o t h e r . W e a r g u e a s w e l l t h a t t h e a t t e m p t t o

d e a l w i t h r e p r e s e n t a t i o n a s k n o w l e d g e c o n t e n t a l o n e l e a d s t o a n i n c o m p l e t e c o n c e p t i o n

o f t h e t a s k o f b u i l d i n g a n i n t e l l i g e n t r e a s o n e r .

E a c h o f t h e s e c l a i m s i s g r o u n d e d i n a n o b s e r v a t i o n m a d e e a r l i e r . W e o b s e r v e d r s t

t h a t e v e r y r e p r e s e n t a t i o n e m b e d s a t i t s c o r e a c o n c e p t i o n o f w h a t c o n s t i t u t e s i n t e l -

l i g e n t r e a s o n i n g ( e . g . , T a b l e I ) . H e n c e a n y d i s c u s s i o n o f r e p r e s e n t a t i o n u n a v o i d a b l y

c a r r i e s a l o n g w i t h i t a ( p e r h a p s i m p l i c i t ) v i e w o f i n t e l l i g e n t r e a s o n i n g .

W e a l s o o b s e r v e d t h a t , i n b u i l d i n g a n i n t e l l i g e n t r e a s o n e r i t i s n o t e n o u g h t o

i n d i c a t e w h a t i n f e r e n c e s a r e l e g a l , w e a l s o n e e d t o k n o w w h i c h a r e a p p r o p r i a t e ( i . e . ,

r e c o m m e n d e d ) . A f a m i l i a r e x a m p l e f r o m l o g i c m a k e s t h e p o i n t n i c e l y : f r o m A w e c a n

7

T h e r e i s o f c o u r s e u t i l i t y i n e s t a b l i s h i n g t h e e q u i v a l e n c e o f t w o r e p r e s e n t a t i o n s b y s h o w i n g h o w

o n e c a n b e m a d e t o b e h a v e l i k e a n o t h e r . B u t t h i s i s a n e x e r c i s e t h a t n e e d b e d o n e o n l y o n c e , a n d

i t i s d o n e f o r i t s o w n s a k e r a t h e r t h a n b e c a u s e i t i s g o o d s y s t e m c o n s t r u c t i o n p r a c t i c e .




i n f e r A ̂ A , A ̂ A ̂ A , e t c . A l l o f t h e s e a r e l e g a l i n f e r e n c e s , b u t t h e y a r e h a r d l y

i n t e l l i g e n t i n f e r e n c e s .

H e n c e o u r c l a i m t h a t a t h e o r y o f l e g a l ( s a n c t i o n e d ) i n f e r e n c e i s t h u s i n s u c i e n t ;

t o b u i l d a n i n t e l l i g e n t r e a s o n e r w e a l s o n e e d a t h e o r y o f i n t e l l i g e n t i n f e r e n c e . T h e r e

m a y i n f a c t b e m u l t i p l e t h e o r i e s o f i n t e l l i g e n t i n f e r e n c e , e a c h s p e c i c t o a p a r t i c u l a r

t a s k d o m a i n .

4 . 3 C o n s e q u e n c e f o r R e s e a r c h : C o m b i n i n g R e p r e s e n t a t i o n s

R e c a l l t h a t a r e p r e s e n t a t i o n i s a m o n g o t h e r t h i n g s a t h e o r y o f i n t e l l i g e n t r e a s o n i n g

a n d a c o l l e c t i o n o f m e c h a n i s m s f o r i m p l e m e n t i n g t h a t t h e o r y . W e b e l i e v e t h a t a p p r o -

p r i a t e a t t e n t i o n t o b o t h o f t h e s e a s p e c t s , i n t h e a p p r o p r i a t e o r d e r , m a k e s a s i g n i c a n t

d i e r e n c e i n t h e o u t c o m e o f a n y e o r t a t r e p r e s e n t a t i o n c o m b i n a t i o n .

T o o o f t e n , e o r t s a t c o m b i n a t i o n a p p e a r t o b e c o n c e i v e d o f i n t e r m s o f n d i n g

w a y s f o r t h e t w o m e c h a n i s m s t o w o r k t o g e t h e r , w i t h i n s u c i e n t ( a n d s o m e t i m e s n o )

a t t e n t i o n t o w h a t w e c o n s i d e r t o b e t h e m u c h m o r e i m p o r t a n t t a s k : d e t e r m i n i n g h o w

t h e t w o t h e o r i e s o f i n t e l l i g e n t r e a s o n i n g m i g h t w o r k t o g e t h e r . F o c u s i n g o n m e c h a n i s m s

m e a n s d e t e r m i n i n g s u c h t h i n g s a s h o w , s a y , r u l e s , p r o c e d u r e s , a n d o b j e c t s m i g h t

i n v o k e o n e a n o t h e r i n t e r c h a n g e a b l y . F o c u s i n g o n t h e t h e o r i e s o f i n t e l l i g e n t r e a s o n i n g

m e a n s a t t e n d i n g t o w h a t k i n d s o f r e a s o n i n g i s w i t h i n t h e s p i r i t o f e a c h r e p r e s e n t a t i o n

a n d h o w t h o s e v a r i e t i e s o f r e a s o n i n g m i g h t s e n s i b l y b e c o m b i n e d .

T w o e o r t s a t c o m b i n i n g r e p r e s e n t a t i o n s i l l u s t r a t e t h e d i e r e n t c o n c e p t i o n s o f t h e

t a s k t h a t a r i s e f r o m f o c u s i n g o n m e c h a n i s m a n d f r o m f o c u s i n g o n r e a s o n i n g . A s t h e

r s t e x a m p l e , c o n s i d e r , t h i s d e s c r i p t i o n o f t h e l o o p s s y s t e m 2 2 ] a n d i t s e o r t s a t

i n t e g r a t i n g s e v e r a l p a r a d i g m s :

S o m e e x a m p l e s i l l u s t r a t e t h e i n t e g r a t i o n o f p a r a d i g m s i n l o o p s : t h e

\ w o r k s p a c e " o f a r u l e s e t i s a n o b j e c t , r u l e s a r e o b j e c t s , a n d s o a r e r u l e s e t s .

M e t h o d s i n c l a s s e s c a n b e e i t h e r l i s p f u n c t i o n s o r r u l e s e t s . T h e p r o c e -

d u r e s i n a c t i v e v a l u e s c a n b e l i s p f u n c t i o n s , r u l e s e t s , o r c a l l s o n m e t h o d s .

T h e r i n g i n t h e l o o p s l o g o r e e c t s t h e f a c t t h a t l o o p s n o t o n l y c o n -

t a i n s t h e d i e r e n t p a r a d i g m s , b u t i n t e g r a t e s t h e m . T h e p a r a d i g m s a r e

d e s i g n e d n o t o n l y t o c o m p l e m e n t e a c h o t h e r , b u t a l s o t o b e u s e d t o g e t h e r

i n c o m b i n a t i o n .

C o n t r a s t t h e m i n d s e t a n d a p p r o a c h a b o v e w i t h t h i s v i e w o f a s i m i l a r u n d e r t a k i n g ,

a l s o a i m e d a t c o m b i n i n g r u l e s a n d f r a m e s 2 3 ] :

R u l e s a n d f r a m e s a r e t w o c o n t r a s t i n g s c h e m e s f o r r e p r e s e n t i n g d i e r e n t

k i n d s o f k n o w l e d g e . R u l e s a r e a p p r o p r i a t e f o r r e p r e s e n t i n g l o g i c a l i m -

p l i c a t i o n s , o r f o r a s s o c i a t i n g a c t i o n s w i t h c o n d i t i o n s u n d e r w h i c h t h e

a c t i o n s s h o u l d b e t a k e n . . F r a m e s ( o r s e m a n t i c n e t s ) a r e a p p r o -

p r i a t e f o r d e n i n g t e r m s a n d f o r d e s c r i b i n g o b j e c t s a n d t h e t a x o n o m i c




c l a s s / m e m b e r s h i p r e l a t i o n s h i p s a m o n g t h e m . A n i m p o r t a n t r e a s o n i n g c a -

p a b i l i t y o f f r a m e s y s t e m s w i t h w e l l - d e n e d s e m a n t i c s i s t h a t t h e y c a n i n f e r

t h e c l a s s / m e m b e r s h i p r e l a t i o n s b e t w e e n f r a m e s b a s e d o n t h e i r d e n i t i o n s .

S i n c e t h e s t r e n g t h s a n d w e a k n e s s e s o f r u l e s a n d f r a m e s a r e c o m p l e m e n -

t a r y t o e a c h o t h e r , a s y s t e m t h a t i n t e g r a t e s t h e t w o w i l l b e n e t f r o m t h e

a d v a n t a g e s o f b o t h t e c h n i q u e s . T h i s p a p e r d e s c r i b e s a h y b r i d a r c h i t e c t u r e

c a l l e d c l a s s i c a t i o n b a s e d p r o g r a m m i n g w h i c h e x t e n d s t h e p r o d u c t i o n s y s -

t e m a r c h i t e c t u r e u s i n g a u t o m a t i c c l a s s i c a t i o n c a p a b i l i t i e s w i t h i n f r a m e

r e p r e s e n t a t i o n s . I n d o i n g s o , t h e s y s t e m e n h a n c e s t h e p o w e r o f a p a t -

t e r n m a t c h e r i n a p r o d u c t i o n s y s t e m f r o m s y m b o l i c m a t c h i n g t o s e m a n t i c

m a t c h i n g , o r g a n i z e s r u l e s i n t o r u l e c l a s s e s b a s e d o n t h e i r f u n c t i o n a l i t i e s ,

a n d i n f e r s t h e v a r i o u s r e l a t i o n s h i p s a m o n g r u l e s t h a t f a c i l i t a t e e x p l i c i t

r e p r e s e n t a t i o n o f c o n t r o l k n o w l e d g e .

N o t e i n p a r t i c u l a r h o w t h e r s t o f t h e s e e o r t s f o c u s e s o n c o m p u t a t i o n a l m e c h -

a n i s m s , w h i l e t h e s e c o n d i s c o n c e r n e d w i t h r e p r e s e n t a t i o n a n d r e a s o n i n g . T h e r s t

s e e k s t o a l l o w s e v e r a l p r o g r a m m i n g c o n s t r u c t s | a m o n g t h e m r u l e s a n d s t r u c t u r e d

o b j e c t s | t o w o r k t o g e t h e r , w h i l e t h e s e c o n d a t t e m p t s t o a l l o w t w o r e p r e s e n t a t i o n s |

r u l e s a n d s t r u c t u r e d o b j e c t s | t o w o r k t o g e t h e r . T h e r s t s e e k s t o p e r m i t m e c h a n i s m s

t o i n v o k e o n e a n o t h e r , w h i l e t h e s e c o n d c o n s i d e r s t h e d i e r e n t v a r i e t i e s o f i n f e r e n c e

n a t u r a l t o t w o r e p r e s e n t a t i o n s a n d s u g g e s t s h o w t h o s e t w o k i n d s o f r e a s o n i n g c o u l d

w o r k s y n e r g i s t i c a l l y : r u l e s a r e t o b e u s e d f o r t h e k i n d o f r e a s o n i n g t h e y c a p t u r e b e s t |

u n r e s t r i c t e d l o g i c a l i m p l i c a t i o n s | a n d f r a m e s a r e t o b e u s e d f o r t h e i r s t r e n g t h , v i z . ,

t a x o n o m i c r e a s o n i n g . T h e r s t p a p e r t h u s p r o p o s e s a c o m p u t a t i o n a l a r c h i t e c t u r e ,

w h i l e t h e s e c o n d o e r s a r e p r e s e n t a t i o n a n d r e a s o n i n g a r c h i t e c t u r e

B o t h o f t h e s e a r e i m p o r t a n t u n d e r t a k i n g s , b u t w e b e l i e v e t h a t w h e r e t h e g o a l

i s c o m b i n i n g r e p r e s e n t a t i o n s , t h e t a s k s h o u l d b e c o n c e i v e d o f i n t e r m s c e n t r a l t o a

r e p r e s e n t a t i o n : i t s t h e o r y o f i n t e l l i g e n t r e a s o n i n g . T o d o t h i s w e s h o u l d c o n s i d e r

w h a t k i n d o f r e a s o n i n g w e e x p e c t f r o m e a c h r e p r e s e n t a t i o n , w e s h o u l d p r o p o s e a

d e s i g n f o r h o w t h o s e r e a s o n i n g s c h e m e s w i l l w o r k t o g e t h e r , a n d w e s h o u l d h a v e a

r a t i o n a l e f o r b e l i e v i n g t h a t t h i s w i l l b e a n e e c t i v e c o m b i n a t i o n . T h e r s t a n d m o s t

i m p o r t a n t t h i n g w e r e q u i r e i n t h i s t a s k i s a r e p r e s e n t a t i o n a r c h i t e c t u r e ; f r o m t h a t

t h e a p p r o p r i a t e c o m p u t a t i o n a l a r c h i t e c t u r e w i l l f o l l o w . W e b e l i e v e t h a t e o r t s t h a t

a t t e n d t o o n l y t h e s e c o n d o f t h e s e a r e b o t h b e g i n n i n g t h e e o r t i n t h e w r o n g p l a c e

a n d w i l l f a l l f a r s h o r t o f a c r u c i a l p a r t o f t h e g o a l .

4 . 4 C o n s e q u e n c e f o r R e s e a r c h : A r g u m e n t s A b o u t F o r m a l E q u i v a l e n c e

T h e r e i s a f a m i l i a r p a t t e r n i n k n o w l e d g e r e p r e s e n t a t i o n r e s e a r c h i n w h i c h t h e d e s c r i p -

t i o n o f a n e w k n o w l e d g e r e p r e s e n t a t i o n t e c h n o l o g y i s f o l l o w e d b y c l a i m s t h a t t h e n e w

i d e a s a r e i n f a c t f o r m a l l y e q u i v a l e n t t o a n e x i s t i n g t e c h n o l o g y . H i s t o r i c a l l y t h e c l a i m

h a s o f t e n b e e n p h r a s e d i n t e r m s o f e q u i v a l e n c e t o l o g i c . S e m a n t i c n e t s , f o r e x a m p l e ,

h a v e b e e n d e s c r i b e d i n t h e s e t e r m s ( e . g . , 1 1 ] , 1 8 ] ) , w h i l e t h e d e v e l o p m e n t o f f r a m e s




l e d t o a s e q u e n c e o f s u c h c l a i m s , i n c l u d i n g t h e s u g g e s t i o n t h a t \ M o s t o f ` f r a m e s ' i s

j u s t a n e w s y n t a x f o r r s t - o r d e r l o g i c " ( 1 3 ] , e m p h a s i s a d d e d ) .

T h a t f r a m e s m a y a l s o b e a n a l t e r n a t i v e s y n t a x s e e m s c l e a r ; t h a t t h e y a r e m e r e l y

o r j u s t t h a t s e e m s c o n s i d e r a b l y l e s s c l e a r . T h a t f r a m e s a r e n o t e n t i r e l y d i s t i n c t f r o m

l o g i c s e e m s c l e a r ; t h a t a l l o f t h e i d e a c a n b e s e e n a s l o g i c s e e m s c o n s i d e r a b l y l e s s

c l e a r .

W e b e l i e v e t h a t c l a i m s l i k e t h o s e a b o v e a r e s u b s t a n t i v e o n l y i n t h e c o n t e x t o f

a n a r r o w l y c o n s t r u e d n o t i o n o f w h a t a k n o w l e d g e r e p r e s e n t a t i o n i s . H a y e s 1 3 ] i s

e x p l i c i t a b o u t p a r t o f h i s p o s i t i o n o n t h i s : \ O n e c a n c h a r a c t e r i s e a r e p r e s e n t a t i o n a l

l a n g u a g e a s o n e w h i c h h a s ( o r c a n b e g i v e n ) a s e m a n t i c t h e o r y " a n d e x p l i c i t a b o u t t h e

t i g h t l i n e s d r a w n a r o u n d t h e a r g u m e n t : \ A l t h o u g h f r a m e s a r e s o m e t i m e s u n d e r s t o o d

a t t h e m e t a p h y s i c a l l e v e l a n d s o m e t i m e s a t t h e c o m p u t a t i o n a l l e v e l , I w i l l d i s c u s s

t h e m a s a r e p r e s e n t a t i o n a l p r o p o s a l , " i . e . , a s a l a n g u a g e w i t h a s e m a n t i c t h e o r y , a n d

n o t h i n g m o r e . B o t h m e t a p h y s i c s a n d c o m p u t a t i o n h a v e b e e n d e n e d a s o u t o f t h e

a g e n d a . A n d a g a i n : \ N o n e o f t h i s d i s c u s s i o n a b o u t f r a m e s a s a \ c o m p u t a t i o n a l

d e v i c e " f o r o r g a n i z i n g m e m o r y a c c e s s a n d i n f e r e n c e ] e n g a g e s r e p r e s e n t a t i o n a l i s s u e s . "

H e r e i t b e c o m e s e v i d e n t t h a t t h e c l a i m i s l e s s a b o u t f r a m e s a n d m o r e a d e n i t i o n o f

w h a t w i l l b e t a k e n a s c o n s t i t u t i n g \ r e p r e s e n t a t i o n a l i s s u e s . "

N o t e t h a t s p e c i c a l l y e x c l u d e d f r o m t h e d i s c u s s i o n a r e t h e o n t o l o g i c a l c o m m i t -

m e n t o f t h e r e p r e s e n t a t i o n , v i z . , \ w h a t e n t i t i e s s h a l l b e a s s u m e d t o e x i s t i n t h e w o r l d , "

a n d t h e c o m p u t a t i o n a l p r o p e r t i e s t h e r e p r e s e n t a t i o n p r o v i d e s . D e s p i t e c l a i m s t o t h e

c o n t r a r y , w e w o u l d a r g u e t h a t t h e o n t o l o g y o f f r a m e s ( a n d o t h e r r e p r e s e n t a t i o n s ) a n d

c o m p u t a t i o n a l q u e s t i o n s n o t o n l y e n g a g e r e p r e s e n t a t i o n a l i s s u e s , t h e y a r e r e p r e s e n -

t a t i o n a l i s s u e s . T h e s e a n d o t h e r p r o p e r t i e s a r e c r u c i a l t o k n o w l e d g e r e p r e s e n t a t i o n

b o t h i n p r i n c i p l e a n d i n a n y r e a l u s e .

4 . 5 C o n s e q u e n c e f o r R e s e a r c h : A l l F i v e R o l e s M a t t e r

W h i l e r e p r e s e n t a t i o n s a r e o f t e n d e s i g n e d w i t h c o n s i d e r a b l e a t t e n t i o n t o o n e o r a n o t h e r

o f t h e i s s u e s l i s t e d i n o u r v e r o l e s , w e b e l i e v e t h a t a l l o f t h e r o l e s a r e o f s u b s t a n t i a l

s i g n i c a n c e a n d t h a t i g n o r i n g a n y o n e o f t h e m c a n l e a d t o i m p o r t a n t i n a d e q u a c i e s .

W h i l e d e s i g n e r s r a r e l y o v e r l o o k r e p r e s e n t a t i o n ' s r o l e a s a s u r r o g a t e a n d a s a d e n i t i o n

o f s a n c t i o n e d i n f e r e n c e s , i n s u c i e n t g u i d a n c e o n t h e o t h e r s r o l e s i s n o t u n c o m m o n ,

a n d t h e c o n s e q u e n c e s m a t t e r .

A s w e h a v e a r g u e d a b o v e , f o r i n s t a n c e , o n t o l o g i c c o m m i t m e n t m a t t e r s : t h e g u i d -

a n c e i t p r o v i d e s i n m a k i n g s e n s e o f t h e p r o f u s i o n o f d e t a i l i n t h e w o r l d i s a m o n g t h e

m o s t i m p o r t a n t t h i n g s a r e p r e s e n t a t i o n s u p p l y . Y e t s o m e r e p r e s e n t a t i o n s , i n a q u e s t

f o r g e n e r a l i t y , o e r l i t t l e s u p p o r t o n t h i s d i m e n s i o n .

A s i m i l a r a r g u m e n t a p p l i e s t o t h e t h e o r y o f i n t e l l i g e n t r e a s o n i n g : a r e p r e s e n t a t i o n

c a n g u i d e a n d f a c i l i t a t e r e a s o n i n g i f i t h a s a t i t s h e a r t a t h e o r y o f w h a t r e a s o n i n g t o

d o . I n s u c i e n t g u i d a n c e h e r e w i l l l e a v e u s s u s c e p t i b l e t o t h e t r a d i t i o n a l d i c u l t i e s

o f u n g u i d e d c h o i c e .

P r a g m a t i c a l l y e c i e n t c o m p u t a t i o n m a t t e r s b e c a u s e m o s t o f t h e u s e o f a r e p r e -



5 T H E G O A L O F K R R E S E A R C H 2 3

s e n t a t i o n i s ( b y d e n i t i o n ) i n t h e a v e r a g e c a s e . I n t e r e s t i n p r o d u c i n g w e a k e r r e p r e -

s e n t a t i o n s i n o r d e r t o g u a r a n t e e i m p r o v e d w o r s t - c a s e p e r f o r m a n c e m a y b e m i s g u i d e d ,

d e m a n d i n g f a r m o r e t h a n i s n e c e s s a r y a n d p a y i n g a h e a v y p r i c e f o r i t .

8

T h e u s e o f a r e p r e s e n t a t i o n a s a m e d i u m o f e x p r e s s i o n a n d c o m m u n i c a t i o n m a t t e r s

b e c a u s e w e m u s t b e a b l e t o s p e a k t h e l a n g u a g e i n o r d e r t o u s e i t . I f w e c a n ' t d e t e r m i n e

h o w t o s a y w h a t w e ' r e t h i n k i n g , w e c a n ' t u s e t h e r e p r e s e n t a t i o n t o c o m m u n i c a t e w i t h

t h e r e a s o n i n g s y s t e m .

A t t e m p t i n g t o d e s i g n r e p r e s e n t a t i o n s t o a c c o m m o d a t e a l l v e r o l e s i s o f c o u r s e

c h a l l e n g i n g , b u t w e b e l i e v e t h e a l t e r n a t i v e i s t h e c r e a t i o n o f t o o l s w i t h s i g n i c a n t

d e c i e n c i e s .

5 T h e G o a l o f K R R e s e a r c h

W e b e l i e v e t h a t t h e d r i v i n g p r e o c c u p a t i o n o f t h e e l d o f k n o w l e d g e r e p r e s e n t a t i o n

s h o u l d b e u n d e r s t a n d i n g a n d d e s c r i b i n g t h e r i c h n e s s o f t h e w o r l d . Y e t i n p r a c t i c e

r e s e a r c h t h a t d e s c r i b e s i t s e l f a s c o r e k n o w l e d g e r e p r e s e n t a t i o n w o r k h a s c o n c e n t r a t e d

n e a r l y a l l o f i t s e o r t s i n a m u c h n a r r o w e r c h a n n e l , m u c h o f i t c e n t e r e d a r o u n d

t a x o n o m i c a n d d e f a u l t r e a s o n i n g ( e . g . , 2 ] , 1 5 ] , 8 ] ) .

W e b e l i e v e i t i s n o t a n a c c i d e n t t h a t u s e f u l i n s i g h t a b o u t n d i n g a g o o d s e t

o f t e m p o r a l a b s t r a c t i o n s c a m e f r o m c l o s e e x a m i n a t i o n o f a r e a l i s t i c t a s k s e t i n a

r e a l - w o r l d d o m a i n . I t u n d e r s c o r e s o u r c o n v i c t i o n ( s h a r e d b y o t h e r s ; s e e 1 4 ] ) t h a t

a t t e m p t i n g t o d e s c r i b e t h e r i c h n e s s o f t h e n a t u r a l w o r l d i s t h e a p p r o p r i a t e f o r c i n g

f u n c t i o n f o r K R w o r k

O u r p o i n t h e r e c o n c e r n s b o t h l a b e l i n g a n d m e t h o d o l o g y : ( i ) w o r k l i k e 1 0 ] a n d 1 4 ]

s h o u l d b e r e c o g n i z e d b y t h e K R c o m m u n i t y a s o f c e n t r a l r e l e v a n c e t o K R r e s e a r c h ,

n o t c a t e g o r i z e d a s d i a g n o s i s o r q u a l i t a t i v e p h y s i c s a n d s e e n a s u n r e l a t e d , a n d ( i i )

i n s i g h t s o f t h e s o r t o b t a i n e d i n 1 0 ] a n d 1 4 ] c o m e f r o m s t u d y i n g t h e w o r l d , n o t f r o m

s t u d y i n g l a n g u a g e s . W e a r g u e t h a t t h o s e w h o c h o o s e t o i d e n t i f y t h e m s e l v e s a s K R

r e s e a r c h e r s s h o u l d b e d e v e l o p i n g t h e o r y a n d t e c h n o l o g y t h a t f a c i l i t a t e s p r o j e c t s l i k e

t h e s e ; a n d c o n v e r s e l y t h o s e w h o a r e b u i l d i n g p r o j e c t s l i k e t h e s e a r e e n g a g e d i n a

c e n t r a l l y i m p o r t a n t v a r i e t y o f K R r e s e a r c h .

W h i l e t o o l s a n d t e c h n i q u e s a r e i m p o r t a n t , t h e e l d i s a n d o u g h t t o b e m u c h

r i c h e r t h a n t h a t , p r i m a r i l y b e c a u s e t h e w o r l d i s m u c h r i c h e r t h a n t h a t . W e b e l i e v e

t h a t u n d e r s t a n d i n g a n d d e s c r i b i n g t h a t r i c h n e s s s h o u l d b e t h e c e n t r a l p r e o c c u p a t i o n

o f t h e e l d .

6 S u m m a r y

W e h a v e a r g u e d t h a t a k n o w l e d g e r e p r e s e n t a t i o n p l a y s v e d i s t i n c t r o l e s , e a c h i m p o r -

t a n t t o t h e n a t u r e o f r e p r e s e n t a t i o n a n d i t s b a s i c t a s k s . T h o s e r o l e s c r e a t e m u l t i p l e ,

8

A s w e h a v e a r g u e d e l s e w h e r e 4 ] , a \ c o m p u t a t i o n a l c l i " ( i . e . , u n a c c e p t a b l e w o r s t c a s e b e h a v i o r )

i s a p r o b l e m o n l y i f e v e r y i n f e r e n c e , o n c e s e t i n m o t i o n , c a n n o t p o s s i b l y b e i n t e r r u p t e d . T h e s i m p l e

e x p e d i e n t o f r e s o u r c e l i m i t e d c o m p u t a t i o n p r e v e n t s a n y i n f e r e n c e f r o m p e r m a n e n t l y t r a p p i n g t h e

p r o g r a m i n a t a s k r e q u i r i n g u n r e a s o n a b l e a m o u n t s o f t i m e .



6 S U M M A R Y 2 4

s o m e t i m e s c o m p e t i n g d e m a n d s , r e q u i r i n g s e l e c t i v e a n d i n t e l l i g e n t t r a d e o a m o n g t h e

d e s i r e d c h a r a c t e r i s t i c s . T h o s e v e r o l e s a l s o a i d i n c h a r a c t e r i z i n g c l e a r l y t h e s p i r i t o f

r e p r e s e n t a t i o n s a n d r e p r e s e n t a t i o n t e c h n o l o g i e s t h a t h a v e b e e n d e v e l o p e d .

T h i s v i e w h a s c o n s e q u e n c e s f o r b o t h r e s e a r c h a n d p r a c t i c e i n t h e e l d . O n t h e

r e s e a r c h f r o n t i t a r g u e s f o r a c o n c e p t i o n o f r e p r e s e n t a t i o n b r o a d e r t h a n t h e o n e o f t e n

u s e d , u r g i n g t h a t a l l o f t h e v e a s p e c t s a r e e s s e n t i a l r e p r e s e n t a t i o n i s s u e s . I t a r g u e s

t h a t t h e o n t o l o g i c a l c o m m i t m e n t a r e p r e s e n t a t i o n s u p p l i e s i s o n e o f i t s m o s t s i g n i c a n t

c o n t r i b u t i o n s ; h e n c e t h e c o m m i t m e n t s h o u l d b e b o t h s u b s t a n t i a l a n d c a r e f u l l y c h o s e n .

I t a l s o s u g g e s t s t h a t t h e f u n d a m e n t a l t a s k o f r e p r e s e n t a t i o n i s d e s c r i b i n g t h e n a t u r a l

w o r l d a n d c l a i m s t h a t t h e e l d w o u l d a d v a n c e f u r t h e s t b y t a k i n g t h i s a s i t s c e n t r a l

p r e o c c u p a t i o n .

F o r t h e p r a c t i c e o f K R w o r k , t h e v i e w s u g g e s t s t h a t c o m b i n i n g r e p r e s e n t a t i o n s

i s a t a s k t h a t s h o u l d b e d r i v e n b y i n s i g h t s a b o u t h o w t o c o m b i n e t h e i r t h e o r i e s o f

i n t e l l i g e n t r e a s o n i n g , n o t t h e i r i m p l e m e n t a t i o n m e c h a n i s m s . T h e v i e w a l s o u r g e s t h e

u n d e r s t a n d i n g o f a n d i n d u l g e n c e o f t h e f u n d a m e n t a l s p i r i t o f r e p r e s e n t a t i o n s . W e

s u g g e s t t h a t r e p r e s e n t a t i o n t e c h n o l o g i e s s h o u l d n o t b e c o n s i d e r e d a s o p p o n e n t s t o b e

o v e r c o m e , f o r c e d t o b e h a v e i n a p a r t i c u l a r w a y , b u t s h o u l d i n s t e a d b e u n d e r s t o o d o n

t h e i r o w n t e r m s a n d u s e d i n w a y s t h a t r e l y o n t h e i n s i g h t s t h a t w e r e t h e i r o r i g i n a l

i n s p i r a t i o n a n d s o u r c e o f p o w e r .

A c k n o w l e d g m e n t s

E a r l i e r v e r s i o n s o f t h i s m a t e r i a l f o r m e d t h e s u b s t a n c e o f t a l k s d e l i v e r e d a t t h e

S t a n f o r d K n o w l e d g e S y s t e m s L a b a n d a n i n v i t e d t a l k a t A A A I { 9 1 ; m a n y u s e f u l c o m -

m e n t s f r o m t h e a u d i e n c e w e r e r e c e i v e d o n b o t h o c c a s i o n s . J o n D o y l e a n d R a m e s h

P a t i l o e r e d a n u m b e r o f i n s i g h t f u l s u g g e s t i o n s o n d r a f t s o f t h i s p a p e r ; w e a r e a l s o

g r a t e f u l t o R i c h F i k e s , P a t H a y e s , R o n B r a c h m a n , a n d H e c t o r L e v e s q u e f o r e x t e n d e d

d i s c u s s i o n s o f s o m e o f t h i s m a t e r i a l .



R E F E R E N C E S 2 5

R e f e r e n c e s

1 ] B r a c h m a n R , L e v e s q u e H , e d s . , R e a d i n g s i n K n o w l e d g e R e p r e s e n t a t i o n , L o s A l -

t o s : M o r g a n K a u f m a n . 1 9 8 5 .

2 ] B r a c h m a n , R . e t . a l . K L - O N E R e f e r e n c e M a n u a l , B B N R e p o r t N o . 3 8 4 8 , J u l y

1 9 7 8 , B o l t , B e r a n e k a n d N e w m a n , C a m b r i d g e , M A .

3 ] D a v i s R , S h r o b e H E , R e p r e s e n t i n g S t r u c t u r e a n d B e h a v i o r o f D i g i t a l H a r d w a r e ,

I E E E C o m p u t e r , S p e c i a l I s s u e o n K n o w l e d g e R e p r e s e n t a t i o n , 1 6 ( 1 0 ) : 7 5 - 8 2 .

4 ] D a v i s R , A T a l e o f T w o K n o w l e d g e S e r v e r s , A I M a g a z i n e , 1 2 ( 3 ) : 1 1 8 { 1 2 0 , F a l l

1 9 9 1 .

5 ] D a v i s R , S h r o b e H , S z o l o v i t s P , W h a t i s a K n o w l e d g e R e p r e s e n t a t i o n , M e m o ,

M I T A I L a b , f o r t h c o m i n g .

6 ] D o y l e J , P a t i l R , T w o d o g m a s o f k n o w l e d g e r e p r e s e n t a t i o n , M I T L C S T e c h n i c a l

M e m o 3 8 7 B , S e p t e m b e r 1 9 8 9 . A r e v i s e d v e r s i o n o f t h i s p a p e r a p p e a r e d a s D o y l e

J . , a n d P a t i l R , T w o t h e s e s o f k n o w l e d g e r e p r e s e n t a t i o n : L a n g u a g e r e s t r i c t i o n s ,

t a x o n o m i c c l a s s i c a t i o n , a n d t h e u t i l i t y o f r e p r e s e n t a t i o n s e r v i c e s , A r t i c i a l I n -

t e l l i g e n c e , 4 8 ( 3 ) : 2 6 1 { 2 9 7 , 1 9 9 1 .

7 ] D o y l e J . , R a t i o n a l i t y a n d I t s R o l e s i n R e a s o n i n g , C o m p u t a t i o n a l I n t e l l i g e n c e ,

8 : 3 7 6 { 4 0 9 , 1 9 9 2 .

8 ] F a h l m a n S , T o u r e t z k y D a n d v a n R o g g e n W , C a n c e l l a t i o n i n a P a r a l l e l S e m a n t i c

N e t w o r k , I n P r o c I J C A I - 8 1 , 2 5 7 { 2 6 3 , M e n l o P a r k : I n t e r n a t i o n a l J o i n t C o n f e r -

e n c e s o n A I .

9 ] R u s s e l l S , T h e C o m p l e a t G u i d e t o M R S , R e p o r t N o . S T A N { C S { 8 5 { 1 0 8 0 , S t a n -

f o r d C o m p u t e r S c i e n c e D e p t , J u n e 1 9 8 5 ( s e e e s p . c h a p t e r 6 ) .

1 0 ] H a m s c h e r W , M o d e l i n g d i g i t a l c i r c u i t s f o r t r o u b l e s h o o t i n g , A r t i c i a l I n t e l l i g e n c e ,

5 1 : 2 2 3 { 2 7 2 , O c t o b e r 1 9 9 1 .

1 1 ] H a y e s P , I n d e f e n s e o f l o g i c , i n P r o c . I J C A I - 7 7 , 5 5 9 { 5 6 5 , M e n l o P a r k : I n t e r n a -

t i o n a l J o i n t C o n f e r e n c e s o n A I .

1 2 ] H a y e s P , N a i v e p h y s i c s I : O n t o l o g y f o r l i q u i d s . U n i v e r s i t y o f E s s e x r e p o r t , 1 9 7 8 ,

E s s e x , U K .

1 3 ] H a y e s P , T h e L o g i c o f F r a m e s , r e p r i n t e d i n R e a d i n g s i n K n o w l e d g e R e p r e s e n t a -

t i o n , p p . 2 8 8 - 2 9 5 .

1 4 ] L e n a t D , e t a l . , C Y C : T o w a r d s p r o g r a m s w i t h c o m m o n s e n s e , C A C M , 3 3 ( 8 ) : 3 0 {

4 9



R E F E R E N C E S 2 6

1 5 ] L e v e s q u e H , B r a c h m a n R , A f u n d a m e n t a l t r a d e o i n k n o w l e d g e r e p r e s e n t a t i o n

a n d r e a s o n i n g , r e p r i n t e d i n R e a d i n g s i n K n o w l e d g e R e p r e s e n t a t i o n , p p . 4 2 { 7 0 .

1 6 ] M c C a r t h y J , H a y e s P , S o m e p h i l o s o p h i c a l p r o b l e m s f r o m t h e s t a n d p o i n t o f A I ,

i n M a c h i n e I n t e l l i g e n c e 4 , M e l t z e r a n d M i c h i e ( e d s . ) , E d i n b u r g h : E d i n b u r g h

U n i v e r s i t y P r e s s , p p . 4 6 3 - 5 0 4 , 1 9 6 9 .

1 7 ] M i n s k y M , A f r a m e w o r k f o r r e p r e s e n t i n g k n o w l e d g e , M e m o 3 0 6 , M I T A I L a b ,

J u n e 1 9 7 4 . ( A r e v i s e d v e r s i o n a p p e a r e d a s : M i n s k y , M . , A f r a m e w o r k f o r r e p r e -

s e n t i n g k n o w l e d g e , C h a p t e r 6 i n T h e P s y c h o l o g y o f C o m p u t e r V i s i o n , W i n s t o n ,

P . H . ( e d . ) , M c G r a w - H i l l , 1 9 7 5 . )

1 8 ] N a s h - W e b b e r B , R e i t e r R , A n a p h o r a a n d l o g i c a l f o r m , i n : P r o c I J C A I - 7 7 , 1 2 1 {

1 3 1 , M e n l o P a r k : I n t e r n a t i o n a l J o i n t C o n f e r e n c e s o n A I .

1 9 ] N i l s s o n N , L o g i c a n d a r t i c i a l i n t e l l i g e n c e , A I , 4 7 : 3 1 { 5 6 , J a n u a r y 1 9 9 1 .

2 0 ] P e a r l , J . , P r o b a b i l i s t i c R e a s o n i n g i n I n t e l l i g e n t S y s t e m s : N e t w o r k s o f P l a u s i b l e

I n f e r e n c e , L o s A l t o s : M o r g a n - K a u f m a n n , 1 9 8 8 .

2 1 ] P o p l e H , H e u r i s t i c m e t h o d s f o r i m p o s i n g s t r u c t u r e o n i l l - s t r u c t u r e d p r o b l e m s , i n

A I i n M e d i c i n e , S z o l o v i t s ( e d . ) , A A A S S y m p o s i u m 5 1 , B o u l d e r : W e s t v i e w P r e s s .

2 2 ] S t e k M , B o b r o w D , M i t t a l S , a n d L C o n w a y , K n o w l e d g e p r o g r a m m i n g i n l o o p s :

R e p o r t o n a n e x p e r i m e n t a l c o u r s e , A I M a g a z i n e , 4 ( 3 ) : 3 { 1 0 .

2 3 ] Y e n J , N e c h e s R , M a c G r e g o r R , C l a s s i c a t i o n - b a s e d P r o g r a m m i n g : A d e e p i n t e -

g r a t i o n o f f r a m e s a n d r u l e s , R e p o r t I S I / R R { 8 8 { 2 1 3 , U S C , I n f o r m a t i o n S c i e n c e s

I n s t i t u t e , M a r i n a d e l R e y , C A , A p r i l 1 9 8 9 .

aimag final

Documents