verkko-teoreettinen esitystapa graph-theoretic representation s. 165-174
DESCRIPTION
Verkko-teoreettinen esitystapa Graph-Theoretic Representation s. 165-174. Heikki Henttu. Sis ältö. Alustus Määrittelyalueverkot ( Domain Graphs ) Kolmioidut verkot ( Triangulated Graphs ) Leikkauspuut ( Join Trees ) Yhteenveto Kotitehtävä. Sis ältö. Alustus - PowerPoint PPT PresentationTRANSCRIPT
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 1
Verkko-teoreettinen esitystapaGraph-Theoretic Representation
s. 165-174
Heikki Henttu
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 2
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 3
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 4
Motivointi
• Todennäköisyyksien tehokas päivitettävyys välttämätöntä, jotta Bayes-verkot olisivat käyttökelpoisia
• Todennäköisyystaulukoiden koko kasvaa eksponentiaalisesti muuttujien lukumäärän kasvaessa
Tarvitaan tehokas algoritmi, jolla laskentaa voidaan tehostaaTarvitaan tehokas algoritmi, jolla laskentaa voidaan tehostaa
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 5
Ongelmanasettelu
• Pyritään laskemaan marginaalit (ПФ)↓Ai
jokaiselle verkon solmulle Ai.
• Ongelma ratkaistaan eliminoimalla verkosta vuoronperään pois kaikki muut solmut; vain Ai jää jäljelle
• Mikä on tehokkain eliminointijärjestys?
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 6
Yleistä aiheesta
• Tarkastelussa reaalipotentiaalien joukko Ф={ø1,…,øm} muuttuja-avaruudessa U={A1,…,An}. Määrittelyalueverkko (domain graph) on suunnistamaton verkko, jonka solmuina ovat U ja jonka solmujen väliset linkit kuuluvat reaalipotentiaalien joukkoon Ф
• Ts. kyseessä on tapa esittää potentiaalien määrittelyjoukko Ф verkolla G.
• Esiteltäviä keinoja voidaan soveltaa kaikenlaisiin verkkoihin ja erilaisiin tehtäviin, ei pelkästään Bayes-verkkoihin
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 7
• Selvitettävänä potentiaalien tulo projisoituna Ai:lle, (ПФ)↓Ai.• Laskentajärjestys X:n eliminoinnille Ф:stä:
1. Poistetaan kaikki potentiaalit Ф:sta, joiden kannassa X on jäljelle jää potentiaalijoukko ФX
2. Lasketaan ø-X = ∑X ПФX
3. Lisätään ø-X Ф:n ja Ф:in ja kutsutaan lopputulosta Ф-X
Suoritettava laskenta
Laskentajärjestys jää ratkaistavaksi – missä järjestyksessä Xi kannattaa eliminoida?Laskentajärjestys jää ratkaistavaksi – missä järjestyksessä Xi kannattaa eliminoida?
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 8
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 9
• Tämän graafinen esitystapa on verkko G
• Selvitettävänä P(A4) – mikä on edullisin A4:än päättyvä muuttujien eliminointijärjestys? (ПФ)↓A4?
• Haaste: Muuttujan X poisto verkosta edellyttää kaikkien niiden potentiaalien käsittelyä, joiden kannassa X esiintyy huolimattomasti valittu poistojärjestys aiheuttaa paljon turhaa työtä
Esimerkki määrittelyalueverkosta
A4
A1
A6
A2 A3
A5
Potentiaalien määrittelyalue Ф:
Ф={ø1(A1), ø2(A2, A1), ø3(A3, A1), ø4(A4, A2), ø5(A5, A2, A3), ø6(A6, A3)}
G
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 10
Potentiaalijoukon Ф määrittelyalueverkko Potentiaalijoukon Ф-A3 määrittelyalueverkko
A5
A2
• Muuttujan poiston jälkeen kaikki A3:n naapurit ovat nyt ristikkäin kytketty ja naapurit ovat toistensa kannoissa
• Muuttujan eliminointi voi edellyttää uusien linkkien (fill-ins) luomista tätä halutaan välttää
• Tehtävää voidaan täsmentää: Tavoitteena on löytää eliminointijärjestys, joka ei luo uusia linkkejä.
Esimerkki muuttujan eliminoinnista määrittelyalueverkosta
A4
A1
A6
A2 A3
A5 A6A4
A1Muuttujan A3
poisto
Notaatio: A3 poistettu potentiaalien määrittelyalueesta
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 11
Täydellinen eliminointijärjestys
• Määritelmä: täydellinen eliminointijärjestys on muuttujien poistojärjestys, joka ei vaadi uusien linkkien luomista.
A4
A1
A6
A2 A3
A5
Esimerkkiverkolle on olemassa useita täydellisiä järjestyksiä, jotka päättyvät A4:än:
•A5, A6, A3, A1, A2, A4
•A1, A5, A6, A3, A2, A4
•A6, A1, A3, A5, A2, A4
Eivät edellytä uusien linkkien tekemistä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 12
Väite 5.2
• Olk. X1,…, Xk on täydellinen eliminointijärjestys, ja solmulla Xj:llä on täydellinen (linkki kaikkiin solmuihin) naapurijoukko. Tällöin myös Xj, X1,…,Xj-
1,Xj+1,…, Xk on täydellinen eliminointijärjestys • Tod. Xj:n eliminointi ei edellytä täytelinkkien
luomista. X1:lle ei tällöin synny uusia naapureita, eikä tarvetta uusille täytelinkeille ole.
• Mikäli X:llä on täydellinen naapurijoukko, X voidaan eliminoida heti aluksi tuhoamatta täydellistä eliminointijärjestystä.
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 13
Klikit (cliques)
• Klikki on täydellinen joukko (kaikki solmut kytketty), joka ei ole minkään toisen täydellisen joukon osajoukko
• Kaikki täydelliset eliminointijärjestykset tuottavat määrittelyalueverkosta saman klikkijoukon
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 14
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 15
Kolmioitu verkko
• Määritelmä: Kolmioitu verkko on suunnistamaton verkko, jolle on olemassa täydellinen eliminointijärjestys
• Ei tekemistä verkon muodon kanssa, vrt. esim.
A
C
B
D
E
A
C
B
D
E
Täydellinen eliminointijärjestys E-muuttujaan: esim.: D, B, A, C, E
- Ei täydellistä eliminointijärjestystä
Kolmioitu verkko Ei-kolmioitu verkko
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 16
Merkintätavat
• Olk. X solmu suunnistamattomassa verkossa• X:n naapureita merkitään NX
• X ja naapurit muodostaa perheen: FX
• Jos naapurijoukko on täydellinen (suora yhteys kaikkien naapurisolmujen välillä), solmua kutsutaan yksinkertaiseksi (simplicial).
A B
D
XC
NX
FXYksinkertaiset solmut: C, D ja B
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 17
Päätelmä 5.1
Kolmioidussa verkossa jokaiselle muuttujalle A löytyy täydellinen eliminointijärjestys, joka päättyy muuttujaan A.
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 18
1. Poistetaan yksinkertainen solmu X. Väite 5.4 (todistettu väitteen 5.2 yhteydessä) takaa, että myös jäljelle jäänyt verkko on kolmioitu
2. Toistetaan kohtaa 1 ja poistetaan kaikki muut solmut lauseen 5.1 nojalla kunnes vain A on jäljellä.
Päätelmän 5.1 todistus
1. Väite 5.4: olk. G kolmioitu verkko ja X yksinkertainen solmu. Jos G’ on verkko, joka syntyy kun X eliminoidaan G:stä, G’ on kolmioitu verkko.
2. Lause 5.1: Kolmioitu verkko, jossa on vähintään kaksi solmua, sisältää vähintään kaksi yksinkertainen solmua
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 19
Päätelmän 5.1 merkitys
• Jos täydellinen eliminointijärjestys on olemassa, mille tahansa muulle muuttujalle voidaan myös löytää vastaava
• Mahdollista saada optimaalinen marginalisointijärjestys kaikkien P(A) laskemiseksi tehostaa huomattavasti todennäköisyyksien laskentaa.
• Käytännön tutustuminen aiheeseen kappaleessa 5.4
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 20
Lause 5.2
• Suunnistamaton verkko on kolmioitu, jos ja vain jos kaikki solmut voidaan poistaa eliminoimalla peräkkäin yksinkertainen solmu X.
• Lauseen avulla voidaan tarkastaa onko verkko kolmioitu vai ei.
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 21
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 22
Leikkauspuut
• Määritelmä: Olk. G joukko klikkejä, jotka voidaan järjestää puuksi T. T on leikkauspuu, jos mille tahansa V, W on koko välillä V, W yhteinen leikkauskohta V ∩ W.
BCDE
ABCD DEFI
BCDG
CHGJ
BCDE
ABCD DEFI
BCDG
CHGJ
Leikkauspuu
Kaikille W ja Vi löytyy leikkauskohta (solmu tai solmujoukko), joka säilyy koko välin
Ei-leikkauspuu
Puun solmuilla V ja W ei ole yhteistä leikkauskohtaa, joka säilyisi koko välin V, W kyseessä ei ole leikkauspuuV
WW
V1
V2
V3
V4
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 23
Ehdot klikeistä ja leikkauspuista
1. Jos suunnistamattoman verkon G klikit pystytään järjestämään leikkauspuuksi, G on kolmioitu.
2. Jos verkko G on kolmioitu, verkon klikeistä voidaan muodostaa leikkauspuu.
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 24
Leikkauspuun muodostaminen kolmioidusta verkosta
1. Aloitetaan yksinkertaisesta solmusta X FX on klikki.
2. Eliminoidaan FX:n solmut, joilla on naapureita vain FX:ssä.
3. Indeksoidaan FX eliminoitujen solmujen määrän mukaan ja nimetään jäljelle jääneiden solmujen joukko Si:ksi Si on erottaja
4. Valitaan seuraava klikki verkossa ja toistetaan toimenpiteet (siten, että indeksiarvosta i säilyy)
5. Toistetaan rutiinia kunnes kaikki klikit on eliminoitu
6. Yhdistetään klikit Vi näitä vastaaviin erottajiin Si
7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj∩
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 25
Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (1/2)
A B
C
H G
D
E
F
I
J
Suoritetaan kohdat 1-6
ABCD
V1
BCD
S1
CGHJ
V5
CG
S5
DEFI
V3
DE
S3
BCDG
V6
BCD
S6
BCDE
V10
Käytetty eliminointijärjestys: A, F, I, H, J, G, B, C, D, E
Yksi muuttuja (A) eliminoitu i saa arvo 1
2 muuttujaa (F, I) eliminoitu i saa arvo 3 (1+2)
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 26
Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (2/2)
ABCD
V1
BCD
S1
CGHJ
V5
CG
S5
DEFI
V3
DE
S3
BCDG
V6
BCD
S6
BCDE
V10
7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj
7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj
∩
Suoritetaan kohta 7
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 27
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 28
Yhteenveto
• Oikea muuttujien eliminointijärjestys on tärkeää tuntea, jotta Bayes-verkkojen laskenta olisi tehokasta
• Leikkauspuu tarjoaa välineen täydellisten eliminointijärjestysten hahmottamiseen: kaikki täydelliset eliminointijärjestykset voidaan saada poistamalla yksinkertaisia solmuja leikkauspuusta
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 29
Sisältö
1. Alustus
2. Määrittelyalueverkot (Domain Graphs)
3. Kolmioidut verkot (Triangulated Graphs)
4. Leikkauspuut (Join Trees)
5. Yhteenveto
6. Kotitehtävä
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 30
Kotitehtävä (1/2)
Avaruuden {A1, A2, A3, A4, A5, A6} potentiaalit ovat ø1(A1, A2, A3), ø2(A2, A3, A5), ø3(A1, A3, A4), ø4(A5, A6).
a) Määritä verkko potentiaalien määrittelyalueelle
b) Muodosta täydellinen eliminointijärjestys, joka päättyy A1:en.
S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu
Optimointiopin seminaari - Syksy 2005 / 31
Kotitehtävä (2/2)
c) Onko verkko kolmioitu
d) Mitkä ovat verkon yksinkertaiset (simplicial) solmut
B
C
G
D
E
F
I