an introduction to numerical methods for …an introduction to numerical methods for stochastic...

19
An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione stocastica SDE lineari Metodi numerici per SDE Taylor stocastico Schema di Millstein An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Department of Mathematical Sciences Politecnico di Torino, Italy http://www.mattiazanella.eu Ferrara, May 30 2017

Upload: others

Post on 09-Jul-2020

10 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

An introduction to numerical methodsfor stochastic computations. Part II

Mattia Zanella

Department of Mathematical SciencesPolitecnico di Torino, Italy

http://www.mattiazanella.eu

Ferrara, May 30 2017

Page 2: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Programma della lezione

Seminario II

Equazioni differenziali ordinarie (ODE): metodi numericiL‘integrale stocastico: processo di ItoEquazioni differenziali stocastiche (SDE)Metodi numerici per SDE: schemi di ordine O(∆t1/2) e O(∆t).

Page 3: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Equazioni differenziali ordinarie: ODE

Consideriamo la semplice equazione differenziale

dx

dt= a(t, x)⇔ x(t) = x0 +

∫ t

t0

a(s, x(s))ds

dove x(t) = x(t;x0, t0) e una soluzione t.c. x(t0) = x0. Osserviamoche le soluzioni di una ODE sono legate tra loro, in mododeterministico, dalla proprieta di evoluzione

x(t;x0, t0) = x(t;x(s;x0, t0), s) ∀t0 ≤ s ≤ t.

Page 4: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi numerici per ODE

Consideriamo il problema di Cauchydx

dt= a(t, x), t ∈ [t0, t0 + T ]

x(t0) = x0(1)

Introduciamo quindi una discretizzazione temporale omogenea

t0 < t1 < · · · < tN = t0 + T

con ∆t = tn+1 − tn = T/N,∀n = 0, 1, 2, . . . , N − 1 e y0 = x0.Possiamo calcolare in modo ricorsivo le approssimazioni dellasoluzione di attraverso metodi numerici di vario ordine che possiamodividere in due categorie

A Metodi ad un passo

B Metodi multistep

Page 5: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi numerici a un passo

Definition (Matematica Numerica, A. Quarteroni et al.)

Un metodo numerico per l’approssimazione del problema (4) si dicead un passo se ∀n ≥ 0, yn+1 dipende solo da yn. In caso contrarioparleremo di metodi multistep.

Alcuni metodi ad un passo:Metodo di Eulero forward o esplicito

yn+1 = yn + δa(tn, yn).

Metodo del trapezio o di Crank-Nicolson

yn+1 = yn +δ

2[a(tn, yn) + a(tn+1, yn+1)]

Metodo di Heun

yn+1 = yn +δ

2[a(tn, yn) + a(tn+1, yn + δa(tn, yn))]

Page 6: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi numerici a un passo

Applichiamo il metodo di Eulero forward e di Heun al problemadx

dt= −5x, t ∈ [0, 1]

x(0) = 1,(2)

con passo temporale δ = 2−3, 2−5.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

t

x(t)

δ = 2− 3

esattaEuleroHeun

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

t

x(t)

δ = 2− 5

esattaEuleroHeun

HEconfronto.m

Page 7: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Equazioni Differenziali Stocastiche: SDE

Per studiare l’evoluzione di variabili aleatorie sfruttiamo i concettisviluppati durante lo scorso seminario, in particolare la costruzionedel processo di Wiener Wtt≥0. In altre parole studieremo equazionidifferenziali del tipo

dXt = a(t,Xt)︸ ︷︷ ︸drift

dt+ b(t,Xt)︸ ︷︷ ︸diffusion

dWt, t0 ≤ t ≤ T

Xt0 = X0 q.c.

(3)

PROBLEMA

L’equazione (3) si legge in forma integrale

Xt(ω) = Xt0(ω)+

∫ t

t0

a(s,Xs(ω))ds+

∫ t

t0

b(s,Xs(ω))dWs(ω)

Come interpreto l’oggetto in dWt?

Page 8: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Integrale di Ito

La costruzione dell’integrale di Ito verra affrontata durante le lezionidi teoria limitiamoci ora ad alcune definizioni. Dato un processo diWiener definito in una spazio di probabilita (Ω,F , P ) definiamo laclasse C come segue

Definition

Sia f : [t0, T ]× Ω→ R, diremo che f ∈ C se:

f e B[t0,T ] ⊗F−misurabile

f(t, ·) : Ω→ R e Ft−misurabile, dove Ft = σ(Ws, 0 ≤ s ≤ t)∀t ∈ [t0, T ], f(t, ·) ∈ L2(Ω,F , P ) e

∫ Tt0E[|f(t, ·)|2]dt <∞

Allora considerata una partizione di [t0, T ] definiamo

In(f)(ω) =

n−1∑j=0

f(t(n)j , ω)[W

t(n)j+1

(ω)−Wt(n)j

(ω)]

Si dimostra che se f ∈ C allora In(f)L2

→ I(f) =∫ Tt0f(t, ·)dWt

Page 9: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Alcune proprieta dell’integrale di Ito

I(f) e FT−misurabile

E[I(f)] = 0

∀α, β ∈ R e f, g ∈ C si ha

I(αf + βg) = αI(f) + βI(g)

e

E[I(f)I(g)]) =

∫ T

t0

E[f(t, ·)g(t, ·)]dt

ossia se f ≡ g si ha E[I(f)2] =∫ Tt0E[f2]dt (isometria di Ito).

Martingalita: per t0 ≤ s ≤ t ≤ T allora con probabilita 1

E[It|Fs] = Is

Esiste una versione continua del processo It.

Page 10: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Processo di Ito

Simuliamo una traiettoria del processo di Ito

It(ω) =

∫ t

0

Ws(ω)dWs(ω), 0 ≤ t ≤ 1 (4)

Verifichiamo media e varianza (tramite l’isometria di Ito) di It.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.2

0

0.2

0.4

0.6

0.8

1

1.2

1.4

1.6Una traiettor ia di It

t

I t

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.1

0

0.1

0.2

0.3

0.4

0.5

0.6

t

Confronto media e varianza, n = 103

Valore atteso stimatoValore atteso teoricoVarianza stimataVarianza teorica

mediavarianzaito.m

Page 11: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Processo di Ito

Consideriamo ancora It(ω) =∫ t0Ws(ω)dWs(ω). Con le usuali regole

di integrazione It dovrebbe coincidere conW 2

t

2 . Vediamonumericamente cosa otteniamo.

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1−0.4

−0.2

0

0.2

0.4

0.6

0.8

1Approssimazione dell’integrale stocastico

t

I(t)

W2

t /2Ito

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7Differenza tra It e integrazione alla R-S

t

|| It−W2

t /2 ||L1

ItovsRS.m

Page 12: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

SDE lineare con rumore additivo

Diremo che Xt presenta rumore additivo se il rumore non dipendedallo stato della variabile.

dXt = (α− βXt)dt+ γdWt, α, β, γ ∈ RXt0 = X0.

(5)

Possiamo scrivere equivalentemente la SDE precedente in terminiintegrali come

Xt = X0 +

∫ t

0

(α− βXs) ds+

∫ t

0

γ dWs, q.c. (6)

Se X0 e deterministico o Gaussiano il processo soluzione di (5) edetto di Ornstein-Uhlenbeck e puo venire calcolato esplicitamente

Xt =α

β+X0e

−βt + γ

∫ t

0

e−β(t−s)dWs (7)

Page 13: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

SDE lineare con rumore moltiplicativo

Se Xt dipende dallo stato della variabile parleremo di rumoremoltiplicativo.

dXt = αXtdt+ βXtdWt, α, β ∈ RXt0 = X0

(8)

Il processo soluzione e detto moto browniano geometrico e haimportanti applicazioni in finanza. Tramite il Lemma di Ito possiamoricavarne la sua soluzione esplicita

Xt = X0 exp (α− β2/2)t+ βWt (9)

Page 14: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi numerici per SDE: Eulero-Maruyama

Consideriamo la SDE

dXt = a(t,Xt)dt+ b(t,Xt)dWt, t ∈ [t0, t0 + T ]

e la discretizzazione temporale omogenea

t0 < t1 < · · · < tN = t0 + T

con ∆t = tn+1 − tn = T/N per ogni n = 0, 1, 2, . . . , N − 1. Alloradato X0 = Y0, in analogia con lo schema di Eulero forward, possiamocostruirci le approssimazioni successive

Yn+1 = Yn + a(tn, Yn)∆t+ b(tn, Yn)∆Wn

Tale metodo numerico, di ordine 1/2, e detto schema diEulero-Maruyama. A partire dalla serie di Talyor e possibile costruireschemi di ordine superiore (Kloeden-Platen).

Page 15: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi per SDE: Taylor stocastico

Per ottenere schemi con ordine di convergenza superiori a E-M epossibile utilizzare lo sviluppo di Taylor stocastico. Consideriamo laseguente SDE in forma integrale

Xn+1 = Xn +

∫ tn+1

tna(Xs)ds+

∫ tn+1

tnb(Xs)dWs

e applichiamo la formula di Ito a a(Xs) e b(Xs)

Xn+1 = Xn +

∫ tn+1

tn

[a(Xn) +

∫ s

tn(a′(Xr)a(Xr) +

1

2a′′(Xr)b

2(Xr))dr

+

∫ s

tna′(Xr)b(Xr)dWr

]ds+

∫ tn+1

tn

[b(Xn) +

∫ s

tn(b′(Xr)a(Xr)

+1

2b′′(Xr)b

2(Xr))dr +

∫ s

tnb′(Xr)b(Xr)dWr

]dWs

Page 16: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi per SDE: Taylor stocastico

Consideriamo ora le approssimazioni discrete di dW e di dt: ∆W e∆t. Ricordiamo che ∆W = O(∆t1/2), si ha quindi

∆t ·∆t = O(∆t2),

∆t ·∆W = O(∆t3/2),

∆W ·∆W = O(∆t).

Otteniamo uno schema che converge con ordine 1 eliminando quindigli integrali del tipo

dWr · ds, dWs · dr, dr · ds

Page 17: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi per SDE: schema di Millstein

Approssimiamo il processo al tempo tn+1 come

Xn+1 ≈ Xn +

∫ tn+1

tna(Xn)ds+

∫ tn+1

tn

(b(Xn)

+

∫ s

tnb′(Xr)b(Xr)dWr

)dWs

≈ Xn + a(Xn)∆t+ b(Xn)∆Wn +

∫ tn+1

tn

∫ s

tnb′(Xr)b(Xr)dWrdWs

approssimiamo quindi il termine integrale come

b′(Xn)b(Xn)

∫ tn+1

tn

∫ s

tndWrdWs ≈ b′(Xn)b(Xn)

1

2(∆W 2

n −∆t)

Page 18: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Metodi per SDE: schema di Millstein

Abbiamo ricava il seguente schema

Yn+1 = Yn + a(Yn)∆t+ b(Yn)∆Wn +1

2b′(Yn)b(Yn)(∆W 2

n −∆t)

con Y0 = X0.Applichiamo ora lo schema di Millstein per simulare la SDE

dXt = µXtdt+ σXtdWt, t ∈ [0, 1],

conX0 = 1, µ = 2, σ = 1.5

e ∆t = 10−2,−3. Rappresentare la soluzione numerica e la soluzioneesatta

Xt = X0 exp(µ− σ2/2)t+ σWt.

Page 19: An introduction to numerical methods for …An introduction to numerical methods for stochastic computations. Part II Mattia Zanella Introduzione ai metodi numerici per ODE SDE Integrazione

An introductionto numericalmethods

for stochasticcomputations.

Part II

Mattia Zanella

Introduzione aimetodi numericiper ODE

SDE

Integrazionestocastica

SDE lineari

Metodi numericiper SDE

Taylor stocastico

Schema diMillstein

Confronto Millstein - EM

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

1

2

3

4

5

6

7

8

t

Xt

Exact

EM

MIL