breimanoptimalgamblingfavorableoutcome disseminate

Upload: amirbekr

Post on 07-Jul-2018

219 views

Category:

Documents


0 download

TRANSCRIPT

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    1/14

    OPTIMAL

    GAMBLING

    SYSTEMS FOR

    FAVORABLE GAMES

    L .

    BREIMAN

    UNIVERSITY

    OF

    CALIFORNIA,

    LOS ANGELES

    1 .

    I n t r o d u c t i o n

    A s s u m e

    t h a t

    w e a r e

    h a r d e n e d a n d u n s c r u p u l o u s

    t y p e s

    w i t h a n

    i n f i n i t e l y

    w e a l t h y f r i e n d . We i n d u c e

    h i m

    t o

    m a t c h a n y b e t w e w i s h t o

    m a k e o n t h e

    e v e n t

    t h a t

    a

    c o i n

    b i a s e d

    i n

    o u r

    f a v o r

    w i l l

    t u r n

    u p

    h e a d s .

    T h a t

    i s ,

    a t

    e v e r y

    t o s s

    we

    h a v e

    p r o b a b i l i t y

    p

    > 1 / 2 o f d o u b l i n g

    t h e

    a m o u n t

    o f

    o u r

    b e t .

    I f

    w e a r e

    c l e v e r ,

    a s w e l l

    a s

    u n s c r u p u l o u s ,

    we s o o n

    b e g i n

    t o

    w o r r y

    a b o u t

    how m u c h o f

    o u r

    a v a i l a b l e

    f o r -

    t u n e

    t o b e t

    a t

    e v e r y

    t o s s .

    B e t t i n g e v e r y t h i n g w e h a v e

    o n

    h e a d s o n

    e v e r y

    t o s s

    w i l l

    l e a d

    t o

    a l m o s t

    c e r t a i n b a n k r u p t c y . On

    t h e

    o t h e r

    h a n d ,

    i f

    we

    b e t a

    s m a l l ,

    b u t

    f i x e d ,

    f r a c t i o n

    ( w e a s s u m e t h r o u g h o u t t h a t

    m o n e y

    i s

    i n f i n i t e l y d i v i s i b l e )

    o f

    o u r a v a i l a b l e

    f o r t u n e

    a t

    e v e r y t o s s ,

    t h e n

    t h e

    l a w o f

    l a r g e

    n u m b e r s

    i n f o r m s

    u s

    t h a t

    o u r f o r t u n e

    c o n v e r g e s a l m o s t s u r e l y

    t o

    p l u s

    i n f i n i t y .

    W h a t

    t o d o ?

    M o r e

    g e n e r a l l y ,

    l e t

    X

    b e

    a

    r a n d o m v a r i a b l e

    t a k i n g

    v a l u e s

    i n

    t h e s e t

    I

    =

    { 1 ,   * ,

    s }

    s u c h t h a t

    P{X

    =

    i }

    =

    p i

    a n d

    l e t

    t h e r e b e

    a c l a s s

    e o f

    s u b s e t s

    A i

    o f

    I ,

    w h e r e

    e

    =

    { A 1 ,

     

    -

     

    ,

    A r } ,

    w i t h

    U ,

    A ,

    =

    I ,

    t o g e t h e r

    w i t h

    p o s i t i v e

    n u m b e r s

    ( o i ,   * , O r ) .

    We

    p l a y t h i s g a m e

    b y b e t t i n g a m o u n t s

    j l i ,

      *

    * ,

    j 3 ,

    o n t h e

    e v e n t s

    {X E

    A , }

    a n d

    i f

    t h e e v e n t { X

    =

    i }

    i s

    r e a l i z e d ,

    we

    r e c e i v e

    b a c k t h e

    a m o u n t

    F i E A ,

    j , 0 ,

    w h e r e

    t h e sum

    i s

    o v e r a l l

    j

    s u c h t h a t i

    E

    A i .

    We may

    a s s u m e

    t h a t

    o u r

    e n t i r e

    f o r t u n e i s

    d i s t r i b u t e d a t

    e v e r y p l a y

    o v e r t h e

    b e t t i n g

    s e t s

    e ,

    b e c a u s e t h e

    p o s s i b i l i t y

    o f

    h o l d i n g p a r t

    o f o u r

    f o r t u n e

    i n

    r e s e r v e i s

    r e a l i z e d

    b y

    t a k i n g A 1 , s a y ,

    s u c h

    t h a t

    A I

    =

    I ,

    a n d

    o ,

    =

    1 .

    L e t

    S n b e t h e f o r t u n e

    a f t e r

    n

    p l a y s ;

    we

    s a y

    t h a t

    t h e

    g a m e

    i s

    f a v o r a b l e

    i f

    t h e r e i s

    a

    g a m b l i n g

    s t r a t e g y

    s u c h

    t h a t

    a l m o s t

    s u r e l y

    S n

    -+

    o o .

    We

    g i v e

    i n

    t h e

    n e x t

    s e c t i o n

    a

    s i m p l e

    n e c e s s a r y

    a n d s u f f i c i e n t

    c o n d i t i o n

    f o r

    a

    g a m e

    t o b e

    f a v o r a b l e .

    Ho w

    m u c h

    t o

    b e t o n

    t h e v a r i o u s

    a l t e r n a t i v e s

    i n a

    s e q u e n c e o f

    i n d e p e n d e n t

    r e p e t i t i o n s

    o f

    a

    f a v o r a b l e

    g a m e d e p e n d s ,

    o f

    c o u r s e ,

    o n w h a t o u r

    g o a l

    u t i l i t y i s .

    T h e r e a r e

    t w o

    c r i t e r i o n s ,

    a m o n g

    t h e

    many

    p o s s i b i l i t i e s ,

    t h a t

    s e e m

    p r e - e m i n e n t l y

    r e a s o n a b l e .

    O n e i s

    t h e

    m i n i m a l t i m e

    r e q u i r e m e n t ,

    t h a t

    i s , w e

    f i x a n

    a m o u n t

    x

    w e w i s h t o

    w i n

    a n d

    i n q u i r e

    a f t e r

    t h a t

    g a m b l i n g

    s t r a t e g y

    w h i c h w i l l m i n i m i z e

    t h e

    e x p e c t e d

    n u m b e r o f

    t r i a l s n e e d e d t o

    w i n

    o r

    e x c e e d

    x .

    T h e

    o t h e r i s

    a

    m a g n i t u d e

    c o n d i t i o n ;

    we

    f i x

    a t n

    t h e n u m b e r o f

    t r i a l s we a r e

    g o i n g

    t o

    p l a y

    a n d e x a m i n e

    t h e

    s i z e o f

    o u r

    f o r t u n e

    a f t e r

    t h e

    n

    p l a y s .

    T h i s r e s e a r c h w a s

    s u p p o r t e d

    i n

    p a r t b y

    t h e O f f i c e o f

    N a v a l

    R e s e a r c h

    u n d e r

    C o n t r a c t

    N o n r - 2 2 2 ( 5 3 ) .

    6 5

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    2/14

    66 FOURTH

    BERKELEY SYMPOSIUM:

    BREIMAN

    I n t h i s w o r k , w e

    a r e e s p e c i a l l y

    i n t e r e s t e d

    i n t h e a s y m p t o t i c

    p o i n t

    o f

    v i e w .

    We

    s h o w

    t h a t

    i n t h e

    l o n g r u n , f r o m e i t h e r o f

    t h e

    t w o

    a b o v e c r i t e r i o n s , t h e r e i s

    o n e s t r a t e g y

    A *

    w h i c h

    i s

    o p t i m a l .

    T h i s

    s t r a t e g y

    i s

    f o u n d a s

    t h a t

    s y s t e m o f

    b e t t i n g

    ( e s s e n t i a l l y u n i q u e )

    w h i c h

    m a x i m i z e s E ( l o g

    S R ) .

    T h e

    r e a s o n f o r t h i s r e s u l t i s

    h e u r i s t i c a l l y

    c l e a r .

    U n d e r

    r e a s o n a b l e

    b e t t i n g

    s y s t e m s

    S .

    i n c r e a s e s

    e x p o n e n t i a l l y

    a n d

    m a x i m i z i n g

    E ( l o g

    S , )

    m a x i m i z e s t h e

    r a t e

    o f

    g r o w t h .

    I n

    t h e s e c o n d s e c t i o n

    w e

    i n v e s t i g a t e t h e

    n a t u r e o f A * . I t i s

    a

    c o n s e r v a t i v e

    p o l i c y

    w h i c h

    c o n s i s t s

    i n

    b e t t i n g

    f i x e d

    f r a c t i o n s

    o f t h e a v a i l a b l e f o r t u n e o n

    t h e

    v a r i o u s

    A i .

    F o r

    e x a m p l e ,

    i n

    t h e c o i n - t o s s i n g g a m e A * i s : b e t a f r a c t i o n

    p

    -

    q

    o f

    o u r

    f o r t u n e

    o n

    h e a d s

    a t

    e v e r y g a m e .

    I t i s a l s o , i n

    g e n e r a l ,

    a p o l i c y

    o f d i v e r s i f i c a -

    t i o n

    i n v o l v i n g t h e

    p l a c i n g

    o f

    b e t s o n many o f

    t h e

    A j

    r a t h e r t h a n

    t h e

    s i n g l e o n e

    w i t h

    t h e

    l a r g e s t

    e x p e c t e d

    r e t u r n .

    T h e

    m i n i m a l

    e x p e c t e d t i m e p r o p e r t y i s c o v e r e d i n

    t h e t h i r d

    s e c t i o n . We

    s h o w ,

    b y

    a n e x a m i n a t i o n

    o f

    t h e

    e x c e s s i n

    W a l d ' s

    f o r m u l a ,

    t h a t

    t h e

    d e s i r e d f o r t u n e

    x

    b e c o m e s i n f i n i t e , t h a t

    t h e

    e x p e c t e d

    t i m e

    u n d e r

    A *

    t o

    a m a s s

    x

    b e c o m e s l e s s t h a n

    t h a t u n d e r a n y o t h e r

    s t r a t e g y .

    S e c t i o n

    f o u r i s i n v o l v e d

    w i t h

    t h e

    m a g n i t u d e

    p r o b l e m .

    T h e c o n t e n t

    h e r e

    i s

    t h a t

    A *

    m a g n i t u d e w i s e ,

    d o e s a s w e l l a s a n y o t h e r

    s t r a t e g y ,

    a n d

    t h a t

    i f

    o n e

    p i c k s

    a

    p o l i c y

    w h i c h i n t h e

    l o n g

    r u n d o e s

    n o t

    b e c o m e c l o s e

    t o

    A * ,

    t h e n

    w e a r e

    a s y m p t o t -

    i c a l l y

    i n f i n i t e l y

    w o r s e

    o f f .

    F i n a l l y ,

    i n

    s e c t i o n f i v e ,

    w e

    d i s c u s s

    t h e

    f i n i t e ( n o n a s v m p t o t i c )

    c a s e

    f o r

    t h e

    c o i n - t o s s i n g g a m e .

    We h a v e b e e n u n s u c c e s s f u l i n o u r e f f o r t s t o f i n d a

    s t r a t e g y

    w h i c h

    m i n i m i z e s t h e

    e x p e c t e d t i m e f o r

    x

    f i x e d ,

    b u t

    w e s t a t e a c o n j e c t u r e

    w h i c h

    e x p r e s s e s

    a

    m o d e r a t e

    f a i t h

    i n

    t h e

    s i m p l i c i t y

    o f

    t h i n g s .

    I t

    i s

    n o t

    d i f f i c u l t ,

    h o w e v e r ,

    t o f i n d

    a

    s t r a t e g y

    w h i c h m a x i m i z e s

    P { S .

    2

    x }

    f o r f i x e d n ,

    x

    a n d we s t a t e

    t h e

    r e s u l t s

    w i t h

    o n l y

    a

    s c a n t i n d i c a t i o n o f

    p r o o f ,

    a n d

    t h e n

    l a u n c h i n t o a

    c o m p a r i s o n

    w i t h

    t h e s t r a t e g y

    A * f o r

    l a r g e

    n .

    T h e

    c o n c l u s i o n o f t h e s e

    i n v e s t i g a t i o n s

    i s

    t h a t

    t h e

    s t r a t e g y

    A * s e e m s

    b y

    a l l

    r e a s o n a b l e

    s t a n d a r d s

    t o

    b e

    a s y m p t o t i c a l l y

    b e s t ,

    a n d

    t h a t ,

    i n

    t h e f i n i t e

    c a s e ,

    i t i s

    s u b o p t i m a l

    i n t h e

    s e n s e

    o f

    p r o v i d i n g

    a

    u n i f o r m l y g o o d a p p r o x i m a t i o n

    t o

    t h e

    o p t i m a l

    r e s u l t s .

    S i n c e

    c o m p l e t i n g

    t h i s

    w o r k we h a v e b e e n a l l o w e d t o e x a m i n e

    t h e

    m o s t

    s i g -

    n i f i c a n t

    m a n u s c r i p t

    o f

    L .

    D u b i n s

    a n d

    L .

    J .

    S a v a g e [ 1 ] ,

    w h i c h w i l l s o o n b e

    p u b -

    l i s h e d .

    A l t h o u g h g a m b l i n g

    h a s

    b e e n

    a s s o c i a t e d

    w i t h

    p r o b a b i l i t y

    s i n c e

    i t s

    b i r t h ,

    o n l y

    q u i t e

    r e c e n t l y

    h a s

    t h e

    q u e s t i o n

    o f

    g a m b l i n g s y s t e m s

    o p t i m a l

    w i t h

    r e s p e c t

    t o s o m e

    g o a l u t i l i t y

    b e e n

    i n v e s t i g a t e d

    c a r e f u l l y .

    T o t h e

    b e a u t i f u l

    a n d

    d e e p

    r e s u l t s

    o f

    D u b i n s

    a n d

    S a v a g e , u p o n

    w h i c h

    w o r k

    w a s c o m m e n c e d

    i n

    1 9 5 6 ,

    m u s t

    b e

    g i v e n

    p r i o r i t y

    a s t h e

    f i r s t

    t o f o r m u l a t e

    s y s t e m a t i c a l l y

    a n d

    s o l v e

    t h e

    p r o b l e m s

    o f

    o p t i m a l

    g a m b l i n g s t r a t e g i e s .

    We

    s t r o n g l y

    r e c o m m e n d

    t h e i r w o r k

    t o

    e v e r y

    s t u d e n t

    o f

    p r o b a b i l i t y t h e o r y .

    A l t h o u g h

    o u r

    o r i g i n a l i m p e t u s

    c a m e f r o m a d i f f e r e n t

    s o u r c e ,

    a n d

    a l t h o u g h

    t h e i r

    m a n u s c r i p t

    i s a l m o s t

    w h o l l y

    c o n c e r n e d

    w i t h

    u n f a v o r a b l e

    a n d

    f a i r

    g a m e s ,

    t h e r e

    a r e

    a

    f e w

    s m a l l

    a r e a s

    o f

    o v e r l a p

    w v h i c h

    I

    s h o u l d

    l i k e

    t o

    p o i n t

    o u t

    a n d

    a c k n o w l e d g e

    p r i o r i t y .

    D u b i n s

    a n d

    S a v a g e d i d ,

    o f

    c o u r s e ,

    f o r m u l a t e t h e

    c o n c e p t

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    3/14

    OPTIMAL GAMBLING

    S Y S T E M S

    6 7

    o f

    a

    f a v o r a b l e

    g a m e .

    F o r

    t h e s e

    g a m e s

    t h e y

    c o n s i d e r e d

    t h e

    c l a s s

    o f

      f r a c t i o n a l i z i n g

    s t r a t e g i e s ,

    w h i c h c o n s i s t

    i n b e t t i n g

    a

    f i x e d f r a c t i o n o f

    o n e ' s f o r t u n e a t e v e r y

    p l a y , a n d

    n o t i c e d

    t h e

    i n t e r e s t i n g

    p h e n o m e n o n

    t h a t t h e r e

    w a s a c r i t i c a l f r a c t i o n

    s u c h

    t h a t i f

    one

    b e t s a f i x e d f r a c t i o n

    l e s s

    t h a n

    t h i s c r i t i c a l

    v a l u e ,

    t h e n

    S .

    -

    a . s .

    a n d i f

    o n e

    b e t s

    a

    f i x e d

    f r a c t i o n

    g r e a t e r

    t h a n

    t h i s

    c r i t i c a l

    v a l u e ,

    t h e n

    S , ,

    0

    a . s .

    I n

    a d d i t i o n , o u r

    p r o p o s i t i o n

    3 i s a n

    a l m o s t e x a c t d u p l i c a t i o n

    o f o n e o f

    t h e i r

    t h e o r e m s .

    I n

    t h e i r

    w o r k , a l s o , w i l l b e f o u n d t h e

    s o l u t i o n t o m a x i m i z i n g P { S n

    _

    x }

    f o r a n

    u n f a v o r a b l e g a m e , a n d

    i t

    i s

    i n t e r e s t i n g

    t o o b se r v e h er e

    t h e a b r u p t

    d i s -

    c o n t i n u i t y

    i n

    s t r a t e g i e s

    a s

    t h e g a m e

    c h a n g e s

    f r o m

    u n f a v o r a b l e t o

    f a v o r a b l e .

    My

    o r i g i n a l c u r i o s i t y

    c o n c e r n i n g

    f a v o r a b l e

    g a m e s d a t e s f r o m

    a p a p e r o f

    J .

    L .

    K e l l y , J r .

    [ 2 ] i n

    w h i c h t h e r e

    i s

    a n

    i n t r i g u i n g

    i n t e r p r e t a t i o n o f i n f o r m a t i o n

    t h e o r y

    f r o m a

    g a m b l i n g

    p o i n t

    o f v i e w . F i n a l l y ,

    s o m e o f t h e l a s t s e c t i o n , i n

    p r o b -

    l e m

    a n d s o l u t i o n ,

    i s

    c l o s e l y

    r e l a t e d t o t h e

    t h e o r y

    o f d y n a m i c

    p r o g r a m m i n g

    a s

    o r i g i n a t e d

    b y

    R .

    B e l l m a n

    [ 3 ] .

    2 .

    T h e

    n a t u r e

    o f

    A*

    We

    i n t r o d u c e

    s o m e n o t a t i o n . L e t

    t h e o u t c o m e

    o f t h e

    k t h

    g a m e b e X k

    a n d

    R n

    =

    ( X , ,

      * *

    ,

    X 1 ) .

    T a k e

    t h e

    i n i t i a l

    f o r t u n e S o

    t o b e u n i t y , a n d

    S .

    t h e f o r t u n e

    a f t e r

    n

    g a m e s .

    T o

    s p e c i f y

    a

    s t r a t e g y

    A

    we s p e c i f y

    f o r e v e r y n ,

    t h e

    f r a c t i o n s

    I

    X r n + 1 ) ,

     

    X ( n + l ) ]

    =

    X , , n +

    o f

    o u r

    a v a i l a b l e

    f o r t u n e

    a f t e r t h e n t h g a m e ,

    S . ,

    t h a t

    w e

    w i l l

    b e t

    o n

    a l t e r n a t i v e

    A 1 ,   A ,

    i n

    t h e ( n + 1 ) s t

    g a m e . H e n c e

    ( 2 . 1 )

    E

    g n

    + 1 )

    =

    1 .

    j=1

    N o t e

    t h a t K ( n + l )

    may

    d e p e n d o n

    R n .

    D e n o t e

    A

    = ( X 1 , 2 ,

      * ) .

    D e f i n e

    t h e

    r a n d o m

    v a r i a b l e s

    V , ,

    b y

    ( 2 . 2 )

    V n

    =

    j

    n )

    yj

    =

    i x

    s o

    t h a t

    S + 1

    =

    V ± n + l S n .

    L e t

    Wn

    =

    l o g

    V n ,

    s o

    w e h a v e

    ( 2 . 3 )

    l o g

    S n

    =

    Wn

    + +

    W 1 .

    T o

    d e f i n e

    A * ,

    c o n s i d e r

    t h e

    s e t

    o f

    v e c t o r s

    X

    =

    ( X 1 ,

     

    * ,

    X , )

    w i t h r

    n o n n e g a t i v e

    c o m p o n e n t s

    s u c h

    t h a t X 1

    +

     

    +

    X ,

    =

    1

    a n d d e f i n e a f u n c t i o n

    W ( X )

    o n

    t h i s

    s p a c e

    a F

    b y

    ( 2 . 4 )

    W ( X )

    =

    E

    p i

    l o g

    (

    E

    X 3 o i ) .

    T h e

    f u n c t i o n W ( X )

    a c h i e v e s i t s m a x i m u m

    o n

    a

    a n d

    w e d e n o t e

    W

    =

    m a x K e g

    W ( X ) .

    P R O P O S I T I O N

    1 .

    L e t

    X ( ) ,

    X ( 2 ) b e

    i n

    9 Y

    s u c h

    t h a t W

    =

    W ( K ( 1 ) )

    =

    W ( X ( 2 ) ) ,

    t h e n

    f o r

    a l l

    i ,

    w e

    h a v e

    i E A i j ' )

    o

    =

    EAi

    X 2 )

    o 0 j

    P R O O F .

    L e t

    q ,

    #

    b e

    p o s i t i v e

    n u m b e r s

    s u c h

    t h a t

    a

    + , B

    = 1 .

    T h e n

    i f

    X

    =

    a X ( 1 )

    +

      X ( 2 ) ,

    we

    h a v e

    W ( X )

    .

    W . B u t

    b y

    t h e

    c o n c a v i t y

    o f

    l o g

    ( 2 . 5 ) W ( X )

    > _

    a W ( x ( ' ) )

    +

    3 W ( K ( 2 ) )

    w i t h

    e q u a l i t y

    i f

    a n d

    o n l y

    i f

    t h e c o n c l u s i o n

    o f

    t h e

    p r o p o s i t i o n

    h o l d s .

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    4/14

    68

    FOURTH BERKELEY

    SYMPOSIUM: BREIMAN

    No w l e t

    X *

    b e

    s u c h t h a t W

    =

    W ( X * ) a n d d e f i n e A *

    a s ( X * ,

    X * ,

     

    . ) .

    A l t h o u g h

    X *

    may n o t b e

    u n i q u e ,

    t h e

    r a n d o m v a r i a b l e s

    W 1 , W 2 ,

      * * a r i s i n g

    f r o m

    A *

    a r e

    b y

    p r o p o s i t i o n 1 u n i q u e l y d e f i n e d , a n d

    f o r m

    a

    s e q u e n c e o f i n d e p e n d e n t , i d e n t i c a l l y

    d i s t r i b u t e d

    r a n d o m v a r i a b l e s .

    Q u e s t i o n s

    o f

    u n i q u e n e s s

    a n d

    d e s c r i p t i o n

    o f

    X *

    a r e

    c o m p l i c a t e d

    i n

    t h e

    g e n e r a l

    c a s e . B u t s o m e

    i n s i g h t

    i n t o

    t h e t y p e o f s t r a t e g y w e g e t

    u s i n g

    A *

    i s a f f o r d e d

    b y

    P R O P O S I T I O N

    2 .

    L e t t h e

    s e t s

    A 1 ,   * ,

    A r

    b e d i s j o i n t , t h e n

    n o

    m a t t e r

    w h a t

    t h e

    o d d s

    o i

    a r e ,

    X *

    i s

    g i v e n b y X *

    =

    P{X E

    A i } .

    T h e

    p r o o f

    i s

    a

    s i m p l e

    c o m p u t a t i o n

    a n d i s o m i t t e d .

    Fr om n ow o n

    w e r e s t r i c t a t t e n t i o n

    t o

    f a v o r a b l e g a m e s

    a n d

    g i v e

    t h e f o l l o w i n g

    c r i t e r i o n .

    P R O P O S I T I O N

    3 .

    A

    g a m e i s

    f a v o r a b l e i f a n d

    o n l y

    i f

    W >

    0 .

    P R O O F . We

    h a v e

    n

    ( 2 . 6 )

    l o g

    S *

    =

    E n

    W.

    1

    I f

    W

    =

    EWk

    i s

    p o s i t i v e ,

    t h e n t h e

    s t r o n g

    l a w o f

    l a r g e

    n u m b e r s

    y i e l d s

    S *

    - +

    a . s .

    C o n v e r s e l y ,

    i f t h e r e

    i s a

    s t r a t e g y

    A s u c h t h a t

    S n

    -*oo

    a . s .

    w e u s e

    t h e

    r e s u l t o f

    s e c t i o n

    4 ,

    w h i c h

    s a y s

    t h a t

    f o r

    a n y s t r a t e g y

    A ,

    l i m .

    S n / S *

    e x i s t s

    a . s . f i n i t e .

    H e n c e

    S n

    a . s .

    a n d t h e r e f o r e

    W

    _

    0 .

    S u p p o s e

    W

    =

    0 ,

    t h e n

    t h e l a w o f t h e

    i t e r a t e d

    l o g a r i t h m

    comes t o o u r

    r e s c u e

    a n d

    p r o v i d e s

    a c o n t r a d i c t i o n t o

    S n

    - o .

    3 .

    T h e

    a s y m p t o t i c

    t i m e

    m i n i m i z a t i o n

    p r o b l e m

    F o r

    a n y s t r a t e g y

    A

    a n d

    a n y

    n u m b e r x

    > 1 ,

    d e f i n e t h e

    r a n d o m

    v a r i a b l e

    T ( x )

    b y

    ( 3 . 1 )

    T ( x )

    =

    { s m a l l e s t

    n

    s u c h

    t h a t

    S n

    _ x } ,

    a n d

    T * ( x )

    t h e

    c o r r e s p o n d i n g

    r a n d o m

    v a r i a b l e

    u s i n g

    t h e

    s t r a t e g y

    A * .

    T h a t

    i s ,

    T ( x ) i s t h e n u m b e r o f

    p l a y s

    n e e d e d

    u n d e r

    A t o

    a m a s s o r e x c e e d

    t h e

    f o r t u n e

    x .

    T h i s s e c t i o n

    i s

    c o n c e r n e d

    w i t h

    t h e

    p r o o f

    o f t h e

    f o l l o w i n g

    t h e o r e m .

    THEOREM

    1 .

    I f t h e

    r a n d o m

    v a r i a b l e s

    W 1 ,

    W 2 ,

     

    a r e

    n o n l a t t i c e ,

    t h e n

    f o r

    a n y

    s t r a t e g y

    ( 3 . 2 )

    l i m

    [ E T ( x )

     

    E T * ( x ) ]

    =

    (W

     

    E W n )

    a n d t h e r e i s

    a

    c o n s t a n t

    a ,

    i n d e p e , i d e n t o f

    A a n d

    x

    s u c h t h a t

    ( 3 . 3 )

    E T * ( x )

    -

    E T ( x )

    <

    a .

    N o t i c e

    t h a t

    t h e

    r i g h t

    s i d e o f

    ( 3 . 2 )

    i s

    a l w a y s n o n n e g a t i v e

    a n d

    i s

    z e r o

    o n l y

    i f

    A

    i s

    e q u i v a l e n t

    t o

    A * i n

    t h e s e n s e

    t h a t f o r

    e v e r y

    n ,

    we h a v e

    W.

    =

    W * .

    T h e

    r e a s o n

    f o r

    t h e r e s t r i c t i o n

    t h a t

    Wn

    b e

    n o n l a t t i c e

    i s

    f a i r l y a p p a r e n t .

    B u t

    a s t h i s

    r e s t r i c t i o n

    i s o n

    l o g

    V * r a t h e r

    t h a n

    o n V *

    i t s e l f ,

    t h e

    c o m m o n

    g a m e s

    w i t h

    r a t i o n a l v a l u e s o f

    t h e

    o d d s

    o j

    a n d

    p r o b a b i l i t i e s

    p i

    u s u a l l y

    w i l l

    b e

    n o n l a t t i c e .

    F o r

    i n s t a n c e ,

    a l i t t l e

    n u m b e r - t h e o r e t i c

    j u g g l i n g

    p r o v e s

    t h a t

    i n

    t h e

    c o i n - t o s s i n g

    c a s e

    t h e c o u n t a b l e

    s e t

    o f

    v a l u e s

    o f

    p

    f o r w h i c h

    W.

    i s

    l a t t i c e c o n s i s t s

    o n l y

    o f

    i r r a t i o n a l s .

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    5/14

    OPTIMAL GAMBLING

    S Y S T E M S

    69

    T h e p r o o f

    o f t h e

    a b o v e t h e o r e m

    i s

    l o n g

    a n d

    w i l l

    b e c a r r i e d

    o u t

    i n

    a

    s e q u e n c e

    o f

    p r o p o s i t i o n s . T h e h e a r t i s a n

    a s y m p t o t i c

    e s t i m a t e o f t h e

    e x c e s s i n

    W a l d ' s

    i d e n t i t y [ 4 ] .

    P R O P O S I T I O N

    4 . L e t

    X 1 , X 2 , *

    b e a

    s e q u e n c e o f

    i d e n t i c a l l y

    d i s t r i b u t e d ,

    i n d e -

    p e n d e n t

    n o n l a t t i c e

    r a n d o m

    v a r i a b l e s

    w i t h

    0

    <

    EX1

    <

    ° .

    L e t

    Y n

    =

    X 1

    +

    . .

    .

    +

    X , .

    F o r

    a n y

    r e a l n u m b e r s

    x ,

    ( ,

    w i t h

    t

    >

    0 ,

    l e t

    F _ ( Q )

    =

    P { f i r s t

    Y n _

    x

    i s

    <

    x

    + t } .

    T h e n

    t h e r e i s a

    c o n t i n u o u s

    d i s t r i b u t i o n

    G ( t )

    s u c h

    t h a t

    f o r e v e r y

    v a l u e

    o f

    t ,

    ( 3 . 4 )

    l i m

    F . ( t )

    =

    G Q ) .

    X- z

    P R O O F . T h e

    a b o v e s t a t e m e n t

    i s

    c o n t a i n e d i n

    k n o w n

    r e s u l t s

    c o n c e r n i n g

    t h e

    r e n e w a l

    t h e o r e m .

    I f X 1

    >

    0

    a . s .

    a n d

    h a s t h e d i s t r i b u t i o n

    f u n c t i o n

    F ,

    i t

    i s

    k n o w n

    ( s e e ,

    f o r

    e x a m p l e ,

    [ 5 ] )

    t h a t

    l i m x ,

    F . ( , )

    =

    ( 1 1 E X 1 )

    J '

    [ 1

    -

    F ( t ) ]

    d t . I f

    X 1

    i s

    n o t

    p o s i t i v e ,

    w e

    u s e a

    d e v i c e

    d u e

    t o

    B l a c k w e l l

    [ 6 ] .

    D e f i n e

    t h e

    i n t e g e r - v a l u e d

    r a n d o m

    v a r i a b l e s

    n i

    <

    n 2

    <

    ...

    b y

    n 1

    =

    { f i r s t

    n s u c h

    t h a t

    X 1

    +

     

    +

    X .

    >

    0 } ,

    n 2

    =

    { f i r s t

    n

    s u c h

    t h a t

    X , , , , +

    +

    . . .

    +

    X .

    >

    O } ,

    a n d s o

    f o r t h .

    T h e n

    t h e

    r a n d o m

    v a r i a b l e s

    X 1

    =

    X 1

    +

      +

    X , l ,

    X 2

    =

    Xm+

    1 +

     

    - -

    +

    X , , , ,

     

    a r e

    i n d e p e n d e n t ,

    i d e n t i c a l l y

    d i s t r i b u t e d , p o s i t i v e ,

    a n d

    E X '

    < 0 0

    ( s e e

    [ 6 ] ) .

    L e t t i n g

    Y ' n

    =

    X 1

    +

    +

    X ' ,

    n o t e

    t h a t

    P { f i r s t

    Y n

    > _

    x i s < x

    +

    t } = P { f i r s t

    Y n '

    _

    x i s

    < x

    +

    t } ,

    w h i c h

    c o m p l e t e s t h e

    p r o o f .

    We

    f i n d

    i t

    u s e f u l t o

    t r a n s f o r m t h i s

    p r o b l e m

    b y

    d e f i n i n g

    f o r

    a n y

    s t r a t e g y A ,

    a

    r a n d o m

    v a r i a b l e

    N ( y ) ,

    ( 3 . 5 )

    N ( y )

    =

    { s m a l l e s t

    n

    s u c h

    t h a t

    Wn

    +

     

    +

    W 1

    >

    y }

    w i t h

    N * ( y )

    t h e

    a n a l o g o u s

    t h i n g

    f o r

    A * .

    T o

    p r o v e

    ( 3 . 2 )

    w e

    n e e d

    t o

    p r o v e

    1

    X

    ( 3 . 6 )

    l i m

    [ E N ( y )

     

    E N * ( y ) ]

    =

    -W

    ( W

    - E W n )

    a n d w e

    u s e

    a

    r e s u l t

    v e r y c l o s e

    t o

    W a l d ' s

    i d e n t i t y .

    P R O P O S I T I O N

    5 .

    F o r

    a n y s t r a t e g y

    A

    s u c h

    t h a t

    S n

    - M *

    a . s .

    a n d

    a n y

    y

    ( 3 . 7 ) E N ( y )

    =

    W E

    [W

    -

    E ( W k I R k - l ) ] }

    +

    E

    [ E

    Wk ]

    P R O O F .

    T h e

    a b o v e

    i d e n t i t y

    i s

    d e r i v e d

    i n

    a

    v e r y

    s i m i l a r

    f a s h i o n t o

    D o o b ' s

    d e r i v a t i o n

    [ 6 ] o f

    W a l d ' s

    i d e n t i t y .

    T h e

    d i f f i c u l t

    p o i n t

    i s

    a n

    i n t e g r a b i l i t y

    c o n d i t i o n

    a n d

    w e

    g e t

    a r o u n d

    t h i s

    b y

    u s i n g ,

    i n s t e a d o f

    t h e

    s t r a t e g y A ,

    a

    m o d i f i c a t i o n

    A j

    w h i c h

    c o n s i s t s

    i n

    u s i n g

    A

    f o r

    t h e

    f i r s t

    J

    p l a y s

    a n d

    t h e n

    s w i t c h i n g

    t o

    X * .

    T h e

    c o n d i t i o n

    S n

    - * o o

    a . s .

    i m p l i e s

    t h a t

    none

    o f

    t h e W k

    may

    t a k e

    o n

    t h e

    v a l u e

    -oo

    a n d

    t h a t

    N ( y )

    i s

    w e l l

    d e f i n e d .

    L e t

    N j ( y )

    b e

    t h e

    r a n d o m v a r i a b l e

    a n a l o g o u s t o

    N ( y )

    u n d e r

    A i J

    a n d W I J )

    t o

    W k .

    D e f i n e a

    s e q u e n c e o f

    r a n d o m

    v a r i a b l e s

    Z n b y

    n

    ( 3 . 8 )

    Z n

    =

    E

    [ W P

     

    E ( W f j R k - l ) ] .

    T h i s

    s e q u e n c e i s

    a

    m a r t i n g a l e w i t h

    E Z &

    =

    0 .

    By

    W a l d ' s

    i d e n t i t y ,

    E N j ( y ) <

    o

    a n d

    i t

    i s

    s e e n

    t h a t t h e

    c o n d i t i o n s

    o f

    t h e

    o p t i o n a l

    s a m p l i n g

    t h e o r e m

    ( [ 7 ] ,

    t h e o r e m

    2 . 2 - C 3 )

    a r e

    v a l i d a t e d w i t h

    t h e

    c o n c l u s i o n

    t h a t

    E Z N ,

    =

    0 .

    T h e r e f o r e

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    6/14

    70

    FOURTH BERKELEY S YMPOSIUM:

    BREIMAN

    ( 3 . 9 )

    WENr

    =

    E [ N

    w ]

    E { k =

    [ E ( W i J ) I R k - 1 ) ] }

    + E [

    E W i ]

    =

    E{~

    E

    [ W - E ( W k I R k 1 l ) ] }

    E [

    W k = l T j .

    T h e s e c o n d t e r m o n t h e r i g h t s a t i s f i e s

    ( 3 . 1 0 ) y _E[

    E

    W V

    _

    y

    +

    a ,

    w h e r e a

    =

    m a x 3 ( l o g

    o j ) .

    H e n c e , i f EN

    =

    o o , t h e n

    l i m j

    ENs

    =

    0 0 ,

    s o t h a t

    E { E 1 ' [ W

     

    E ( W k R k - l ) ] }

    =

    X o

    a n d

    ( 3 . 7 )

    i s

    d e g e n e r a t e l y

    t r u e . No w

    as s u me

    t h a t EN

    <

    o o ,

    a n d

    l e t J

    - -

    0 0 .

    T h e f i r s t

    t e r m

    on

    t h e

    r i g h t

    i n

    ( 3 . 9 )

    c o n v e r g e s

    t o

    E { Y I

    [ W

    -

    E ( W k I R k - l ) ] }

    m o n o t o n i c a l l y .

    T h e r a n d o m

    v a r i a b l e s F J

    W ( j )

    c o n v e r g e

    a . s .

    t o

    ,

    1k

    a n d

    a r e

    b o u n d e d b e l o w

    a n d

    a b o v e

    b y y

    a n d

    y

    +

    a

    s o

    t h a t

    t h e

    e x p e c t a t i o n s

    c o n v e r g e .

    I t

    r e m a i n s t o

    s h o w

    t h a t l i m T

    ENj

    = E N . S i n c e

    ( 3 . 1 1 )

    E NJ

    =

    L N < J )

    NdP

    L N > J )

    N . , d P ,

    w e n e e d

    t o

    s h o w

    t h a t t h e

    e x t r e m e

    r i g h t t e r m c o n v e r g e s t o z e r o . L e t

    J

    n + J

    ( 3 . 1 2 )

    U J

    =

    E W k ,

    N ( U J )

    =

    { f i r s t

    n

    s u c h

    t h a t

    E

    W ' J  

    y

     

    U J }

    1 J+ 1

    s o

    t h a t

    ( 3 . 1 3 )

    f | N > J

    N J

    d P

    =

    J P ( N

    >

    J ) +

    f N > J )

    N ( U J )

    d P .

    S i n c e

    EN

    <

    o 0 ,

    we h a v e

    l i m j

    JP{N >

    J }

    =

    0 .

    We w r i t e

    t h e s e c o n d t e r m

    a s

    E { E [ N ( U j )

    U J ]

    I N

    > J }

    P { N

    >

    J } .

    By

    W a l d ' s i d e n t i t y ,

    ( 3 . 1 4 ) E [ N ( U j ) I

    U j ]

    <

    Wy

    U J

    +

    a

    w

    On

    t h e

    o t h e r

    h a n d

    s i n c e

    t h e m o s t

    we c a n

    w i n

    a t

    a n y p l a y

    i s

    a ,

    t h e

    i n e q u a l i t y

    ( 3 . 1 5 )

    N

    _

    Y

    U

    +

    a

    h o l d s o n t h e s e t

    { N

    > J } . P u t t i n g t o g e t h e r

    t h e

    p i e c e s ,

    ( 3 . 1 6 )

    N (

    j

    d P -

    <

    a

    ( N

    - J )

    d P

    +

    a

    P ( N

    >

    J .

    T h e

    r i g h t

    s i d e

    c o n v e r g e s

    t o z e r o

    a n d t h e

    p r o p o s i t i o n

    i s

    p r o v e n .

    I f

    we s u b t r a c t

    f r o m

    ( 3 . 7 )

    t h e

    a n a l o g o u s

    r e s u l t f o r

    A *

    w e

    g e t

    ( 3 . 1 7 ) E N ( y ) -EN*(y)

    E

    [W

     

    E ( W k I R k { k ) - }

    +

    E [ k

    k

    w k ] .

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    7/14

    OPTIMAL

    GAMBLING SYSTEMS

    71

    T h i s l a s t

    r e s u l t

    e s t a b l i s h e s

    i n e q u a l i t y ( 3 . 3 )

    o f t h e

    t h e o r e m . A s w e

    l e t

    y

    - *

    o o ,

    t h e n

    N ( y )

     

    o o

    a . s . a n d

    w e

    s e e

    t h a t

    { N

    ( 3 . 1 8 )

    l i m

    E

    { [W

     

    E ( W k t R k - 1 ) ] }

    (W

     

    E W k ) .

    B y

    p r o p o s i t i o n

    4 ,

    t h e

    d i s t r i b u t i o n

    F *

    o f

    Ef

    Wk -

    y

    c o n v e r g e s ,

    a s

    y

    - x

    0,

    t o

    s o m e

    c o n t i n u o u s

    d i s t r i b u t i o n

    F * a n d

    w e f i n i s h

    b y

    p r o v i n g

    t h a t t h e

    d i s t r i b u t i o n

    F y

    o f

    F

    Wk-

    y

    a l s o

    c o n v e r g e s

    t o

    F * .

    P R O P O S I T I O N

    6 . L e t

    Y , ,

    f n

    b e

    t w o

    s e q u e n c e s o f

    r a n d o n m

    v a r i a b l e s s u c h

    t h a t

    Yn° - ° ,

    Y n

    +

    en

    a . s .

    I f

    Z i s

    a n y r a n d o m

    v a r i a b l e ,

    i f

    E

    =

    s u p n , ,

    > e , n 1 ,

    a n d

    i f

    w e

    d e f i n e

    ( 3 . 1 9 )

    H y Q ( )

    = P { f i r s t Y n _

    Z+yis

    0 ,

    ( 3 . 2 1 )

    F z + u f

     

    2 u )

    -

    P { e

    >

    u }

    _ D z , ( t )

    _ D , ( t )

    _

    H y - u

    +

    2 u )

    +

    P { E

    >

    u } .

    P R O O F .

    ( 3 . 2 2 )

    D , Q ( )

    _

    P { f i r s t

    Y n

    +

    E n _

    Z

    +

    y

    i s

    <

    Z +

    Y

    +

    { ,

    E

    <

    u }

    + P { E

    >

    u }

    <

    P { f i r s t

    Y n

    >

    Z

    +

    y-u i s

    <

    Z+

    y

    +

    t +

    u ,

    E

    <

    u }

    + P { e

    _

    u }

    <

    H , _ ( u

    +

    2 u )

    +

    P { E

    >

    u } .

    ( 3 . 2 3 )

    D , Q ( )

    >

    P { f i r s t

    Y n

    +

    , e

    >

    Z

    +

    y

    i s

    <

    Z

    +

    y

    +

    S ,

    e

    <

    u }

    _

    P { f i r s t

    Y n

    >

    Z

    + y +

    u i s

    <

    Z

    + y

    + -u,

    E

    < u }

    >

    H v + u (

    -

    2 u )

     

    P { E

    _

    u } .

    P R O P O S I T I O N

    7 .

    L e t

    X i ,

    X 2 ,

     

    - -

    b e

    a

    s e q u e n c e

    o f i n d e p e n d e n t

    i d e n t i c a l l y

    d i s -

    t r i b u t e d

    n o n l a t t i c e

    r a n d o m

    v a r i a b l e s ,

    0

    <

    E X ,

    <

    c, w i t h

    Y n

    = X 1 +

    .. .

    +

    X n .

    I f

    Z i s

    a n y

    r a n d o m v a r i a b l e

    i n d e p e n d e n t

    o f

    X 1 , X 2 ,

     

    ,

    G

    t h e l i m i t i n g

    d i s t r i b u -

    t i o n

    o f

    p r o p o s i t i o n

    4 ,

    a n d

    ( 3 . 2 4 )

    F 1 , , z ( t )

    =

    P { f i r s t

    Y n

    > _

    Z

    +

    y i s

    <

    Z

     

    y

    + },

    t h e n

    l i m y

    F y , z ( Q )

    =

    G ( )

    PROOF.

    ( 3 . 2 5 )

    F y , z Q ( )

    =

    E [ P { f i r s t

    Y n _

    Z

    +

    Y

    i S

    <

    Z

    +

    y

    +

    I Z } ]

    =

    E [ F y + z ( t ) ] ,

    w h e r e

    F y Q ( )

    =

    P { f i r s t

    Y .

    >

    y

    i s

    < y

    + , } . B u t

    l i m ,

    F , + z ( ( )

    =

    G ( Q )

    a . s . w h i c h ,

    t o g e t h e r

    w i t h

    t h e

    b o u n d e d n e s s

    o f

    F + ( + z Q ) ,

    e s t a b l i s h e s

    t h e

    r e s u l t .

    We

    s t a r t

    p u t t i n g

    t h i n g s

    t o g e t h e r

    w i t h

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    8/14

    7 2

    FOURTH

    BERKELEY

    SYMPOSIUM:

    BREIMAN

    P R O P O S I T I O N 8 .

    L e t

    ,l

    Wk -

    , 1

    Wt

    c o n v e r g e

    a . s .

    t o a n e v e r y w h e r e f i n i t e

    l i m i t .

    I f

    t h e

    W* a r e n o n l a t t i c e ,

    i f

    F , ( Q )

    i s

    t h e d i s t r i b u t i o n

    f u n c t i o n

    f o r

    l

    Wk -

    y , t h e n

    l i m v

    F . ( Q )

    =

    F * Q ) .

    P R O O F .

    F i x

    m , l e t

    r - 1

    n

    n

    ( 3 . 2 6 )

    Z m

    W I ,

    e m , n

    =

    ,

    W k

    -

    W * ,

    e m

    =

    S U p

    I E m , n I ,

    1

    m

    m n

    a n d b y a s s u m p t i o n

    e m

    ->

    a . s .

    No w

    ( 3 . 2 7 )

    F , , ( )

    =

    P { f i r s t

    E

    W k

    _ y

    i s

    <

    y

    +

    }

    =

    P { f i r s t

     

    W % *

    +

    E m . , n )

    Z m + y

    i s <

    Z m + y   t } .

    I f

    ( 3 . 2 8 )

    H v ( t )

    =

    P { f i r s t

    L

    W k

    _

    Zm

    +

    Y

    i s

    <

    Zm

     

    y

    +

    ,

    m

    t h e n

    b y

    p r o p o s i t i o n

    6 ,

    f o r

    a n y

    u

    > 0 ,

    ( 3 . 2 9 )

    H , + u (

    -

    2 u )

    -

    P { e mn

    u }

    _

    F v ( t )

    _

    H y - u ( (

    +

    2 u )

    +

    P { e m

    >

    u } .

    L e t t i n g

    y

    -X

    a n d

    a p p l y i n g

    p r o p o s i t i o n

    7 ,

    ( 3 . 3 0 )

    F*

     

    2 u )

     

    P { l e

    >

    u }

    <

    l i m

    F ( )

    _

    l i m

    F y ( )

    _ F * Q (

    +

    2 u )

    +

    P { e m

    >

    u } .

    v

    v

    T a k i n g

    f i r s t

    m

    - X

    o

    a n d

    t h e n

    u

    O - 0

    w e

    g e t

    ( 3 . 3 1 )

    l i m

    F , ( Q )

    =

    l i m

    F y ( t )

    =

    F * ( - ) .

    v

    v

    T o

    f i n i s h

    t h e

    p r o o f ,

    w e

    i n v o k e

    t h e o r e m s

    2

    a n d

    3 o f

    s e c t i o n

    4 .

    T h e

    c o n t e n t

    w e

    u s e

    i s t h a t

    i f

    5 7 7

    Wk

    -

     

    Wk

    d o e s

    n o t c o n v e r g e

    a . s . t o a n

    e v e r y w h e r e

    f i n i t e

    l i m i t ,

    t h e n

    E

    [W

    -

    E ( W k j R k - l ) ]

    =

    +o

    o n

    a

    s e t

    o f

    p o s i t i v e

    p r o b a b i l i t y .

    T h e r e f o r e ,

    i f

    t h e

    c o n d i t i o n s

    o f

    p r o p o s i t i o n s

    5 a n d

    8

    a r e

    n o t v a l i d a t e d ,

    t h e n b y

    ( 3 . 1 7 )

    b o t h

    s i d e s

    o f

    ( 3 . 2 )

    a r e

    i n f i n i t e .

    T h u s t h e

    t h e o r e m

    i s

    p r o v e d .

    3 .

    A s y m p t o t i c

    m a g n i t u d e

    p r o b l e m

    T h e

    m a i n r e s u l t s

    o f

    t h i s

    s e c t i o n c a n

    b e s t a t e d

    r o u g h l y

    a s :

    a s y m p t o t i c a l l y ,

    S *

    i s

    a s

    l a r g e

    a s t h e

    S .

    p r o v i d e d

    b y

    a n y

    s t r a t e g y A ,

    a n d i f

    A

    i s

    n o t

    a s y m p t o t i c a l l y

    c l o s e

    t o

    A * ,

    t h e n

    S n

    i s

    i n f i n i t e l y

    l a r g e r

    t h a n

    S . .

    T h e r e s u l t s a r e v a l i d w h e t h e r

    o r

    n o t t h e

    g a m e s

    a r e f a v o r a b l e .

    T H E O R E M

    2 .

    L e t

    A b e

    a n y s t r a t e g y

    l e a d i n g

    t o t h e

    f o r t u n e S n

    a f t e r

    n

    p l a y s .

    T h e n

    l i m o

    S n / S n

    e x i s t s

    a . s . a n d

    E ( l i m n

    S n / S n )

    .

    1 .

    F o r t h e s t a t e m e n t

    o f

    t h e o r e m 3

    w e

    n e e d

    D E F I N I T I O N .

    A i s

    a

    n o n t e r m i n a t i n g

    s t r a t e g y

    i f

    t h e r e a r e

    n o

    v a l u e s o f X A

    s u c h

    t h a t

    Y . f E A ,

    ' X 5 n ) j

    =

    0 ,

    f o r

    a n y

    n .

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    9/14

    OPTIMAL

    GAMBLING SYSTEMS 7 3

    T H E O R E M

    3 .

    I f

    A

    i s

    a

    n o n t e r m i n a t i n g s t r a t e g y ,

    t h e n

    a l m o s t

    s u r e l y

    ( 4 . 1 )

    L

    [ W

     

    E ( W k I R k l 1 ) ]

    =

    0 0

    X

    l i m

     

    =

    ° °

    1

    n S n

    P R O O F S .

    We

    p r e s e n t t h e

    t h e o r e m s

    t o g e t h e r

    a s

    t h e i r

    p r o o f s

    a r e

    s i m i l a r

    a n d

    h i n g e

    o n

    t h e

    m a r t i n g a l e

    t h e o r e m s .

    F o r

    e v e r y

    n

    ( 4 . 2 )

    E

    ( - * R n - 1 )

    =

    E

    ( R R n - l ) S n

    I f

    w e

    p r o v e t h a t

    E ( V n / V n l R n - 1 )

    <

    1

    a . s . ,

    t h e n

    S n / S *

    i s

    a

    d e c r e a s i n g

    s e m i -

    m a r t i n g a l e w i t h

    l i m n

    S n / S n

    e x i s t i n g

    a . s .

    a n d

    ( 4 . 3 )

    E l i m

    S n *

    E

    S o

    =

    1 .

    n S = n

    S o

    By t h e

    d e f i n i t i o n

    o f

    A * ,

    f o r

    e v e r y

    e

    >

    0 ,

    ( 4 . 4 )

    E { l o g [ ( 1

    -

    e ) V n

    +

    e T n ]

    -

    l o g

    V n j R n - 1 }

    <

    0 .

    M a n i p u l a t i n g

    g i v e s

    ( 4 . 5 )

    E

    [ l o g ( 1 + 1

     

    ) R n - 1 ] < h l o g

    1

    B y

    F a t o u ' s l e m m a ; a s

    e

    - O 0

    ( 4 . 6 )

    E

     

    n l R n - 1

    =

    E

    [ l i m ( l o g

    i

    +

    e

      n ) R - 1 ]

    _

    l i m 1 o 1

    1

    =

    1 .

    e

    -

    e

    T h e o r e m 3 r e s e m b l e s a

    m a r t i n g a l e

    t h e o r e m

    g i v e n b y

    D o o b

    ( [ 6 ] , p p .

    3 2 3 - 3 2 4 ) ,

    b u t

    i n t e g r a b i l i t y

    c o n d i t i o n s

    g e t

    i n o u r

    w a y

    a n d f o r c e

    s o m e

    d e v i o u s n e s s . F i x

    a

    n u m b e r

    M

    >

    0

    a n d

    t a k e

    A

    t o

    b e t h e e v e n t

    {W

    -

    E ( W n I R n - 1 )

    >

    M

    i . o . } .

    I f

    p

    =

    m i n i

    p i ,

    t h e n

    E(W*

    -

    W n j R n 1 )

    _

    M

    i m p l i e s

    P{Wn

    -

    Wn

    > =

    M I R n l }

    >

    P .

    By

    t h e

    c o n d i t i o n a l

    v e r s i o n

    o f

    t h e B o r e l - C a n t e l l i

    l e m m a

    ( [ 7 ] ,

    p . 3 2 4 ) ,

    t h e

    s e t o n w h i c h

    E

    P{W*

    -Wn

    M I R n - 1 }

    = 0 0

    a n d t h e s e t

    {Wn

    -Wn

    >

    M

    i . o . }

    a r e

    a . s .

    t h e

    s a m e .

    T h e r e f o r e ,

    a . s .

    o n

    A ,

    we h a v e

    W n *

    -

    Wn

    >

    M

    i . o .

    a n d

    l o g

    ( S n / S n )

    =

    E

    ( W Z

    -

    W k )

    c a n n o t

    c o n v e r g e .

    We

    c o n c l u d e t h a t

    b o t h

    s i d e s

    o f

    ( 4 . 1 )

    d i v e r g e

    a . s .

    o n A .

    S t a r t i n g

    w i t h

    a

    s t r a t e g y A ,

    d e f i n e

    a n a m e n d e d

    s t r a t e g y

    AM

    b y :

    i f W

    -

    E ( W n I R n - 1 )

    < M,

    u s e

    A

    o n t h e n t h

    p l a y ,

    o t h e r w i s e

    u s e

    A *

    o n t h e n t h

    p l a y .

    T h e

    r a n d o m

    v a r i a b l e s

    S n

    ( 4 . 7 )

    U n

    =

    l o g

    - n -

    -

    E _

    [W

    -

    E ( W k i M | R k - l ) ]

    f o r m

    a

    m a r t i n g a l e s e q u e n c e

    w i t h

    ( 4 . 8 )

    Un -

    U n _ 1

    =

    Wn -

    Wn

    [W

     

    E ( W n

    m | R R n 1 ) ] -

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    10/14

    7 4

    FOURTH BERKELEY

    SYMPOSIUM:

    BREIMAN

    F o r

    A m ,

    w e

    h a v e

    E(W*

    -

    W . m 1 j R . _ )

    < M,

    l e a d i n g

    t o t h e i n e q u a l i t i e s ,

    ( 4 . 9 ) s u p

    ( W .

     

    W . , ` )

    - < p

    U .

     

    U . - , 1

    p

    p

    p

    On t h e o t h e r

    s i d e ,

    i f

    ( 4 . 1 0 )

    a

    =

    m i n

    l o g

    X *

    j o

    3j,

    =

    max

    l o g

    o j ,

    j

    EiAf

    /

    t h e n

    U .

    -

    U . - ,

    >

    a

     

    3 -

    M.

    T h e s e b o u n d s a l l o w

    t h e

    u s e o f a k n o w n m a r t i n -

    g a l e

    t h e o r e m ( [ 7 ] ,

    p p .

    3 1 9 - 3 2 0 ) t o c o n c l u d e t h a t

    l i m .

    U ,

    e x i s t s a . s .

    w h e n e v e r

    o n e o f

    l i m

    U , .

    < o o ,

    l i m

    U .

    >

    -

    o o

    i s s a t i s f i e d .

    T h i s

    i m p l i e s

    t h e

    s t a t e m e n t

    ( 4 . 1 1 )

    l i m

    S . *

     

    X E

    [ W - E ( W ( m ) | R , . _ 1 ) ]

    <

    0.

    J )

    < [W

    H o w e v e r , o n t h e c o m p l e m e n t

    o f

    t h e s e t A t h e

    c o n v e r g e n c e

    o r

    d i v e r g e n c e

    o f t h e

    a b o v e

    e x p r e s s i o n s i n v o l v e s

    t h e

    c o n v e r g e n c e

    o r

    d i v e r g e n c e

    o f t h e

    c o r r e s p o n d i n g

    q u a n t i t i e s

    i n

    ( 4 . 1 ) w h i c h

    p r o v e s

    t h e

    t h e o r e m .

    C O R O L L A R Y 1 .

    I f f o r

    s o m e

    s t r a t e g y A ,

    w e h a v e

    X ,

    [ W

    -

    E ( W k j R k - i ) ]

    =

    w i t h p r o b a b i l i t y r y >

    0 ,

    t h e n f o r

    e v e r y

    e

    > 0 ,

    t h e r e

    i s

    a

    s t r a t e g y A

    s u c h t h a t w i t h

    p r o b a b i l i t y

    a t

    l e a s t

    - y

     

    X E

    l i m

    S . I

    =

    0

    a n d

    e x c e p t f o r

    a s e t

    o f p r o b a b i l i t y

    a t

    m o s t e ,

    r i m

    S . q n / S

    <

    P R O O F .

    L e t

    E

    b e

    t h e s e t o n w h i c h

    l i m

    S I / S n

    =

    0 , w i t h P { E }

    =

    y .

    F o r

    a n y

    e > 0 , f o r

    N s u f f i c i e n t l y l a r g e , t h e r e i s

    a s e t E N , m e a s u r a b l e

    w i t h

    r e s p e c t

    t o

    t h e

    f i e l d

    g e n e r a t e d

    b y RN

    s u c h t h a t

    P { E N

    A E }

    < e , w h e r e

    A

    d e n o t e s t h e

    s y m m e t r i c

    s e t

    d i f f e r e n c e .

    D e f i n e

    A

    a s f o l l o w s :

    i f

    n

    <

    N ,

    u s e

    A ,

    i f

    R n ,

    w i t h

    n

    >

    N ,

    i s

    s u c h

    t h a t

    t h e f i r s t

    N

    o u t c o m e s

    ( X i ,

      X N )

    i s

    n o t

    i n

    E N ,

    u s e

    A ,

    o t h e r w i s e u s e

    A * .

    On

    E N ,

    w e h a v e

    E [W

    -

    E ( W k f R k l ) ]

    0

    s o

    t h a t

    l i m

    S & / S n

    =

    0

    o n

    EN

    A

    E .

    F u r t h e r ,

    P { E N

    n

    E }

    P{E}-

    e

    =

    y

    -

    e . On

    t h e

    c o m p l e m e n t

    o f

    E N ,

    w e

    h a v e

    S n

    =

    S n n l e a d i n g

    t o

    l i m

    S n / S n

    <

    1 , e x c e p t

    f o r

    a

    s e t

    w i t h

    p r o b a b i l i t y

    a t m o s t

    E .

    5 .

    P r o b l e m s

    w i t h f i n i t e

    g o a l s

    i n

    c o i n t o s s i n g

    I n t h i s

    s e c t i o n

    w e

    c o n s i d e r f i r s t

    t h e p r o b l e m :

    f i x a n

    i n t e g e r

    n

    > 0 ,

    a n d

    t w o

    n u m b e r s

    y

    >

    x

    >

    0 ,

    f i n d

    a

    s t r a t e g y

    w h i c h m a x i m i z e s

    P { S n

    _

    y I S o

    =

    x } .

    I n

    t h i s

    s i t u a t i o n , t h e n ,

    o n l y

    n

    p l a y s

    o f t h e

    g a m e

    a r e

    a l l o w e d a n d

    we w i s h

    t o

    m a x i -

    m i z e

    t h e

    p r o b a b i l i t y

    o f

    e x c e e d i n g

    a

    c e r t a i n

    r e t u r n . We w i l l a l s o

    b e

    i n t e r e s t e d

    i n

    w h a t

    h a p p e n s

    a s

    n ,

    y

    b e c o m e

    l a r g e . By c h a n g i n g

    t h e u n i t o f

    m o n e y ,

    n o t e

    t h a t

    ( 5 . 1 )

    s u p

    P { S n

    >

    y I S o

    =

    x }

    =

    s u p

    P

    {S

    >

    S o

    =

    - }

    w h e r e t h e

    s u p r e m u m

    i s

    o v e r

    a l l

    s t r a t e g i e s .

    T h u s ,

    t h e

    p r o b l e m

    r e d u c e s t o

    t h e

    u n i t

    i n t e r v a l ,

    a n d w e

    may e v i d e n t l y

    t r a n s l a t e

    b a c k

    t o t h e

    g e n e r a l

    c a s e

    i f

    we f i n d

    a n

    o p t i m u m

    s t r a t e g y

    i n

    t h e

    r e d u c e d c a s e .

    D e f i n e ,

    f o r

    t _

    0 ,

    n

    >

    1 ,

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    11/14

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    12/14

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    13/14

    OPTIMAL

    GAMBLING S Y S T E M S

    77

    l o n g

    a s

    p > 1 / 2 .

    T h e

    s t r a t e g y A * i n

    t h i s

    c a s e

    i s :

    b e t

    a

    f r a c t i o n

    p

    -

    q

    o f

    o u r

    f o r t u n e

    a t e v e r y p l a y .

    L e t

    4 n ( e )

    =

    P { S *

    >

    l l S o

    =

    t } .

    I n

    l i g h t

    o f

    t h e

    a b o v e

    r e m a r k , t h e

    f o l l o w i n g r e s u l t i s

    n o t

    w i t h o u t g r a t i f i c a t i o n .

    T H E O R F M 4 .

    I i r n

    s u p t

    [ 0 n Q ( )

    -

    e . ( 4 ) ]

    =

    0 .

    P R O O F .

    T h e

    p r o o f

    i s

    s o m e w h a t

    t e d i o u s ,

    u s i n g

    t h e

    c e n t r a l

    l i m i t

    t h e o r e m a n d

    t a i l e s t i m a t e s .

    H o w e v e r ,

    s o m e

    i n t e r e s t i n g p r o p e r t i e s

    o f

    0 ) ( t )

    w i l l b e d i s c o v e r e d

    a l o n g

    t h e

    w a y .

    L e t

    P { k l l / 2 }

    b e

    t h e

    p r o b a b i l i t y

    o f

    k

    o r

    f e w e r

    t a i l s

    i n

    t o s s i n g

    a

    f a i r c o i n

    n

    t i m e s ,

    P { k l p }

    t h e

    p r o b a b i l i t y

    o f

    k

    o r f e w e r

    t a i l s

    i n n

    t o s s e s o f a

    c o i n

    w i t h

    P { H }

    =

    p .

    I f

    t

    =

    P { k l l / 2 }

    + 2 ,

    n o t e t h a t

    , n ( t - )

    =

    P { k l p } .

    L e t

    =

    V p q , b y

    t h e

    c e n t r a l

    l i m i t

    t h e o r e m ,

    i f

    t i ,

    =

    P { q n

    +

    t o V n l 1 1 / 2 }

    + 2 - n ,

    t h e n

    ( 5 . 9 )

    l i m

    O n

    ( 4 t n - )

    = ffi |

    e - ' / 2 d x ,

    u n i f o r m l y

    i n

    t .

    T h u s ,

    i f w e

    e s t a b l i s h

    t h a t

    ( 5 . 1 0 ) l i m

    4 % , n )

    =

    1f

    e _ x 2 / 2

    d x

    n

    _ V 2 7 r

    _ c

    u n i f o r m l y

    f o r

    t

    i n

    a n y

    b o u n d e d

    i n t e r v a l , t h e n

    b y

    t h e

    m o n o t o n i c i t y

    o f

    O n

      t ,

    s ( t ) ,

    t h e t h e o r e m w i l l f o l l o w .

     

    By

    d e f i n i t i o n ,

    ( 5 . 1 1 )

    4 ( 4 )

    =

    P { W 1

    +

    * -

    +

    W .

    >

    O l W o

    =

    l o g { }

    =

    P{W* +

     

    W*

    > - l o g t } ,

    w h e r e t h e W*

    a r e i n d e p e n d e n t ,

    a n d

    i d e n t i c a l l y d i s t r i b u t e d

    w i t h

    p r o b a b i l i t i e s

    P

    { W t

    =

    l o g

    2 p }

    =

    p

    a n d

    P { W k

    =

    l o g

    2 q }

    =

    q . A g a i n u s i n g t h e

    c e n t r a l l i m i t

    t h e o r e m ,

    t h e

    p r o b l e m r e d u c e s t o

    s h o w i n g

    t h a t

    ( 5 . 1 2 )

    l i m

    l o g

    t n , t + n E W ,

    =

    t

    n

    n

    a ( W * 1 )

    u n i f o r m l y

    i n

    a n y

    b o u n d e d i n t e r v a l .

    By

    a

    t h e o r e m

    o n t a i l

    e s t i m a t e s

    [ 8 ] ,

    i f

    X 1 , X 2 , -

    -

    a r e

    i n d e p e n d e n t

    r a n d o m

    v a r i a b l e s

    w i t h P { X k

    =

    1 }

    =

    1 / 2 a n d

    P { X k

    =

    0 }

    =

    1 / 2 ,

    t h e n

    ( 5 . 1 3 )

    l o g

    P { X 1

    +  

    +

    X n _

    n a }

    =

    n O ( a )

    +

    , u ( n ,

    a )

    l o g

    n ,

    w h e r e

    I A ( n ,

    a )

    i s

    b o u n d e d f o r a l l

    n ,

    w i t h

    1 / 2

    +

    6

    _

    a

    <

    1

    -

    ,

    a n d

    0 ( a )

    =

    -a

    l o g

    ( 2 a )

     

    ( 1 - a )

    l o g [ 2 ( 1

     

    a ) ] .

    No w

    ( 5 . 1 4 )

    l o g

    t n .

    = l o g

    [ P { X 1

    +

     

    +

    X n

    _ n p

    -

    t o V i } +

    2 n ]

    s o

    t h a t

    t h e

    a p p r o p r i a t e

    a

    =

    p

    -

    t a / \ n

    w i t h

    ( 5 . 1 5 )

    0 ( a )

    =

    0 ( p )

     

    l o g

    S i n c e

    0 ( p )

    >

    - l o g

    2 ,

    w e

    may

    i g n o r e

    t h e

    2 - n

    t e r m

    a n d

    e s t i m a t e

  • 8/18/2019 BreimanOptimalGamblingFavorableOutcome Disseminate

    14/14