eindhoven university of technology master shannon

99
Eindhoven University of Technology MASTER Shannon strategieen voor het and-channel van Dorsselaer, E.L.M.E. Award date: 1982 Link to publication Disclaimer This document contains a student thesis (bachelor's or master's), as authored by a student at Eindhoven University of Technology. Student theses are made available in the TU/e repository upon obtaining the required degree. The grade received is not published on the document as presented in the repository. The required complexity or quality of research of student theses may vary by program, and the required minimum study period may vary in duration. General rights Copyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights. • Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain

Upload: others

Post on 11-Nov-2021

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Eindhoven University of Technology MASTER Shannon

Eindhoven University of Technology

MASTER

Shannon strategieen voor het and-channel

van Dorsselaer, E.L.M.E.

Award date:1982

Link to publication

DisclaimerThis document contains a student thesis (bachelor's or master's), as authored by a student at Eindhoven University of Technology. Studenttheses are made available in the TU/e repository upon obtaining the required degree. The grade received is not published on the documentas presented in the repository. The required complexity or quality of research of student theses may vary by program, and the requiredminimum study period may vary in duration.

General rightsCopyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright ownersand it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights.

• Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain

Page 2: Eindhoven University of Technology MASTER Shannon

jl 0 1

TECHNISCHE HOGESCHOOL EINDHOVEN

Afdeling der Elektrotechniek

Vakgroep Informatie- en Communicatie Theorie .

Shannon Strategieen voor

het And-Channel

door

E.L.M.E. van Dorsselaer

Afstudeerverslag over het onderzoek

gedaan in de periode april 81-mei 82

Coach

Dr.ir. A.J. Vinck'

Page 3: Eindhoven University of Technology MASTER Shannon

INHOUD

VOCIRWOORD

1. HET AND-CHANNEL

1 • 1

1 .2

1 .3

1 .4

1 .5

Introductie

Inner- en outerbound; definitie capaciteitsgebied

Het afgeleide kanaal

Reductie van hat aantal strategieen

Berekening van Kn

1

2

6

9

13

2. HET AND-CHANNEL ALS BESLISSINGSPROBLEEM

2.1 Het and-channel als beslissingsprobleem

2.2 Opdelen van een vierkant.

3. MARKOV-CHAIN CODING-SCHEMAS

3.1 Inleiding

3.2 Het Hagelbarger coding-schema

3.3 Het Schalkwijk coding-schema

3.4 Verbetering Schalkwijk-schema met

Slepian-Wolf

3.5 Bernouilli sources en herhalings-strategieen

4. EEN COOING-SCHEMA MET K4 STRATEGIEEN

4.1 Introductie

4.2 Analyse schema

5. RESULTATEN

.16

21

27

28

31

34

37

41

42

53

Page 4: Eindhoven University of Technology MASTER Shannon

VOORWOORO

Het bepalen van het capaciteitsgebied van het and-channel

en goede coding-strategieen hiervoor is een probleem dat

reeds 20 jaar oud is.

De cod~ng-strategie van prof.dr.ir. J.P.M. Schalkwijk

is de beste die bekend is. Omdat niet bekend is of deze

oplossing optimaal is wordt er nog steeds onderzoek

aan dit kanaal verricht.

In het kader hiervan werd in dit afstudeer onderzoek

gekeken naar de mogelijkheden die de Shannon-strategiesn

bieden in het berekenen van achievable rate-pairs van

dit kanaal.

Het blijkt dat men tot een iets andere karakterisering

van het probleem moet overgaan om tot numeriake resultaten

te kunnen komen.

Verper wordt er ingegaan op Markov-chain coding-schema's;

die ontstaan als men bepaalde sub-klassen van de

Shannon-strategiesn hanteert. Oeze methode levert de beste

resultaten Ope

Page 5: Eindhoven University of Technology MASTER Shannon

1

1 •

HET AND-CHANNEL

1.1 INTRODUCTIE

Het and-channel (fig. 1.1) werd in 1961 geintroduceerd

door Shannon [1].

Het and-channel is een two-way-channel. De overdracht van

informatie geschiedt in twee richtingen. De overdracht

in de ene richting beinvloed de overdracht van informatie

in de andere richting.

X 1 E X1 ={O,1}x1 x2

zender 1 zender 2 x2 E X2 ={O,1J

={O,1}y y€Y

fig. 1.1 Het and-channel

De overgangen van het kana~l z~Jn vanwege het ontbreken

van ruis deterministisch zodat

Beide zenders willen met elkaar communiceren, hetgeen

hier betekent dat ze al dan niet simultaan moeten prober en

1 e : hun eigen bericht aan hun opponent kenbaar

maken

2e : het bericht van hun opponent foutloos

decoderen.

Hoe efficient dit kan gebeuren en op welke manier, vormt

het zwaartepunt van het onderzoek aan het and-channel •.

Page 6: Eindhoven University of Technology MASTER Shannon

2

1.2,INNER- EN OUTERBOUND; DEFINITIE CAPACITEITSGEBIED

Bij het and-channel zijn twee karakteristieke gebieden

aan te geven. Hiertoe wordt uitgegaan van een verdeling

op X1 x X2 waarvoor op elk tijdstip i geldt:

Verder worden rates gedefinieerd:

R.. is de transmissiesnelheid van zender i naar zender j.~J

De tuee gebieden worden dan:

1e: G. = C.O~{(R12,R21) / P(x1 ,x 2 ) = P(x1 )·P(x2 ) }~

2e : G = c.o. {(R 12 ,R 21 ) / P(x1 ,x2) :f. p(x1)·P(x2 ) }0

Hierin staat c.o. voor de convex omhullende

Gi is het inner-bound-gebied en Go het outer-bou~d-gebied.

Deze zijn in fig 1.2 ueergegeven.

o .25 .. 5 ,75 1.~ R12

fig.1.2 inner- en outerbound van and-channel.

Page 7: Eindhoven University of Technology MASTER Shannon

3

De grenzen van deze gebieden zullen we ook wei de inner bound

en outerbound noemen.

Deze bounds zijn eenvoudig te bepalen.

1e : de innerbound.

Stel p(x 1 = 1 ) = p; p(x 2 = 1) = q

Dan geldt:

R12 = q.h(p)

R21 = p.h(q)

en de convex omhullende van deze punten levert de inner­

bound Ope

Als p = q dan geldt voor het punt op de bound:

R12 = R21 = max p.h(p) = 0.6169486p

voor p = 0.7035.

We merken nog op dat de functie p.h(p) niet convex is.

2e : de outerbound.

De beste waarden voor R12 , R21 treden op als

p (x 1 = 0,x 2 = 0) = O.

Als

P(x1 = 1,x2 = 0) = P1

P(x, = 0,x2 = 1) = P2

p(x 1 = 1 , x2 = 1 ) = 1 - P, - P2

dan vinden we

R12 ( 1- P1 lohCP2

p,)=

Page 8: Eindhoven University of Technology MASTER Shannon

4

R21 = (1 - P2).h( P1)1 - P2

Als P1 = P2 geldt voor het punt op de bound:

R12 = R21 = max (1 - P).h( p ) = 0.69424P 1 - P

voor P = 0.618

In het meest algemene geval definieren we:

R21 = *I(M 2 ;yn/ M1 )

R12 = ~ I(M 1 ;yn/M2 )

Hierin is M1 de set berichten voor zender 1, M2 de set

berichten van zender 2.

Vanaf nu nemen we aan dat de beide zenders hun berichten

onafhankelijk van elkaar kiezen.

Het capaciteitsgebied G van het and-channel kunhen we nu

definieren door:

Deze definitie is vrij intuitief van karakter. In de par.

over de afgeleide kanalen zien we dat deze definitie

inderdaad te gebruiken is.

Opm: In Shannon [1] wordt G gedefinieerd op de meer

gebruikelijke manier, dus in termen van signalling­

rates

voor blok-codes.

De vraag is nu wat het eapaciteitsgebied Gis.

Men heeft lange tijd gedacht dat voor T.W.C.'s het inner­

bound-gebied het capaciteitsgebied was. Pas in 1978 werd

door Dueck [ 4] aangetoond dat bij een bepaald T.W.C.

Page 9: Eindhoven University of Technology MASTER Shannon

5

het capaciteitsgebied groter is dan het inner-bound­

gebied.

In het bijzonder voor het and-channel is door Schalkwijk [2,3]

een coding-schema gevonden met rate-pairs buiten het

innerbound-gebied.

Om buiten het inner-bound-gebied te komen moeten de

kanaal inputs afhankelijk worden. Hoe deze afhankelijkheid

ontstaat wordt in het volgende beschreven.

Page 10: Eindhoven University of Technology MASTER Shannon

6

1.3 HET AFGELEIDE KANAAL

We kunnen het volgende kanaal definieren.

S1

yn ny

S1€: 51

S2 E 52n n

Y E {o,n

fig 1.4 and-channel met vectoren als input

Hierbij is:

51 = { (x 11 ' f 2 ( x11 ' Y1 ) , • • • , f n ( x11 ' • • • , x1n-1 ' y 1 ' • • • y n-1 ) }

De set 52 kan op analoge manier gedefinieerd worden.

In het vervolg nemen we aan dat 51 = 52.

51 is nu een verzameling van n-tuples die Kn-strategieen

genoemd worden.

Het kanaal dat deze K - strategieen s als input heeftn

wordt het afgeleide kanaal genoemd.

De overgangswaarschijnlijkheden worden gegeven door

en kunnen eenvoudig bepaald worden uit p(y/x 1 ,x2 )

Voor de transmissie-snelheden in het afgeleide kanaal

definieren we:

R21 = ~ I(52

;yn/51 )

R12 = *I(5 1 ;yn/52 )·

Page 11: Eindhoven University of Technology MASTER Shannon

7

Om nu de grote kracht van het afgeleide kanaal te achter­

halen, bedenken we het volgende:

Beide zenders kiezen hun strategieen onafhankelijk van

elkaar. De resulterende kanaal-inputs worden echter wel

afhankelijk. Hierdoor bestaat de mogelijkheid om eventueel

rate-pairs te vinden die buiten het innerbound-gebied liggen,

We krijgen nu het schema uit fig.1.5.

r--------------.I

EM1 51 I x1 x? 52 T2E~4,..- message strategie strategie message

I

encoder I encoder encoder encoder

I

I

I

\ \ I Y 1/

II ---------... - - - - - - -- - - -

/\ .... - /\- m1~ decoder decoder ~

fig. 1.5 coding voor het afgeleide kanaal

De onafhankelijke berichten m1 , m2 worden

encoders omgezet in een sequence s1 en s2

De strategieen bepalen afhankelijk van de

outputs de inputs x1 en x2 •

in de message-

van K -strategieen.nvorige in- en

Voor het capaciteitsgebied G van het and-channel geldt

volgens Shannon [1];

G = 1 lim B •n nn_oo

Hierin is B de inner bound van het afgeleide kanaal K ~n n

. ,

Page 12: Eindhoven University of Technology MASTER Shannon

8

Hierdoor zien we dat de definitie van G in 1.2 inderdaad

een goede definitie is.

Theoretisch is deze 1imiet nag niet berekend kunnen warden.

We1 kan in principe B numeriek bepaa1d warden indien nnniet a1 te groat.

De beperkende factor in het berekenen van B wordt gevormdndoor het grate aanta1 strategieen.

van de functie f.1.

•i-1

het aanta1 functies fi(h i ) bedraagt 2 3

aantal K -strategieen is dan:n

3 3n- 1 (3n_1)/2

·2.2 ••• 2 =-2-; -

Het argument h. = (x 1 '···,x. 1'Y1'···'Y· 1)1. 1.- , 1.-

i-1kan 3 waarden aannemen.

Dus

Het

Ze1fs voor n = 3 1evert dit a1 een groot-aanta1 strategieenop. (~ ,21l»

In het vo1gende zu11en we dit aanta1 reduceren.

Page 13: Eindhoven University of Technology MASTER Shannon

9

1.4 REDUCTIE VAN HET AANTAL STRATEGIEEN

Definieer:

x.(s.) = deie input bij gebruik van 5.~ J J

h.(s.) = de voorgeschiedenis na (i-1) transmissies~ J

bij gebruik van 5 .•J

Dan heten Sj en sk equivalent indien:

"d. (1 ) ( A. . = A. k) A (x. ( 5 .) = x; (5 k») •~Eo , n ~ J, ~ ~ J ...

Dit lJordt verduidelijkt aan de hand van K2-strategieen.

x1 Y1 f 21 f 22 f 23 f 24 f 25 f 26 f 27 f 28

0 0 0 0 0 0 1 1 1 1

1 0 0 0 1 1 0 0 1 1

1 1 0 1 0 1 0 1 0 1

In het rechtergedeelte van deze tabel staan de 8 functies

volgens welke de 2e transmissie kan plaatsvinden.

Volgens de definitie van equivalente strategieen voIgt nu:

(x 1=0,f 21 ( , »

(x 1=O,f 22 ( , »

(x 1=0,f23 ( , »

(x 1=0,f 24 ( , »

zijn equivalent. Als representant kunnen we hiervoor

nemen: 51 = (0,0)

Zo is er ook een klasse die voorgesteld kan worden door

52 = (0,1).

Page 14: Eindhoven University of Technology MASTER Shannon

10

Daze klasse bestaat uit de strategieen:

(x 1=O,f 2S ( , ))

(x 1=O,f 26 ( , ))

(x 1=O,f 27 ( , ))

(x 1=O,f 2S ( , )).

Verder zijn equivalent:

(x 1=1,f 21 ( ,. )) met (x 1=1,f 2S ( , ) )

(x 1=1,f 22 ( , ) ) met (x 1=1,f26 ( , ) )

(x 1=1,f23 ( , ) ) met (x 1=1,f27 ( , ) )

(x 1=1,f24 ( , ) ) met (x 1=1,f 2S ( , ) ).

Als representant van deze klassen vinden we:

s3 = ( 1 , 0)

s4 = (1 'Y1)

Ss = (1'Y1)

s6 = ( 1 ,1)

Van de oorspronkelijke 16 strategieen blijven dus 6

equivalentie-klassen over.

Het bepalen van de equivalentie-klassen van Kn gaat als

voIgt. Ga uit van K 1 equivalentie-klassen. Bepaal voorn-elke K 1 klasse s.n- J

Dan zlJn er 2a verschillende functies f (h (s.)).n n J

Dit is tevenshet aantal equivalentie-klassen van de Kn

strategieen die een uitbreiding zijn van de K 1 strategie s .•n- J

Page 15: Eindhoven University of Technology MASTER Shannon

11

Oat dit aIleen maar verschillende strategieen en bovendien

het maximale aantal oplevert,' voIgt uit de definities.

In tabel 1 zijn op deze manier aIle K3 equivalentie-klassen

weergegeven.

Oeze reductie tot 42 klassen maak~ het mogelijk dat K3berekend kan worden.

Oeze 42 klassen dienen als inputs voor het afgeleide kanaal.

Op deze verzameling van inputs moet dan een kansverdeling

worden bepaald.

Page 16: Eindhoven University of Technology MASTER Shannon

,...

X ll Yl

511 0 0

S2{ ~0

0

53{ ~0

1

1 0

5 1 14

1 1

1 0

55 1 0

1 1

1 0

1 056

1 1

1 1

Xi2 Y2

o 0

1 0

1 1

o 0

o 0

o 0

1 0

1 1

1 0

1 1

o 0

1 0

1 1

1 0

1 1

("IOI~) (O/'J'fJ2.) (11q,O) (I/0/I) ll/~11~0~) ltIJ,,~I~)

(tJ,o,1) (ol'/~i) l1/0/':JI) (1/'11/0) (1J~lJ~I) [1/1J~;)

(0/1,0) Lo I I/l) (\ol~l) (f/~1/jZ.) (11~Il~J (1/~111)

f l f 2 f3 f4 f5 ~ f7 f8 fg ~o ~1 ~2 ~3 ~4 ~5 ~6 ~7 ~8 ~9 t;o t;1 ~2 t;3 ~4 f25 ~6 ~7 ~8 ~9 t;o t;1 t;2 t;3 ~4 ~5 t;6 f37 f38 f39 ~o ~1 ~2

o 1

0 0 1 1

0 1 0 1

0 0 1 1

0 1 0 1

0 0 0 0 1 1 1 1

0 0 1 1 0 0 1 1

0 1 0 1 0 1 0 1

0 0 0 0 ,1 1 1 1

0 0 1 1 .0 0 1 1

0 1 0 1 0 1 0 1

0 0 0 0 0 0 o 0 1 1 ,1 1 1 1 1 1

0 0 0 0 1 1 1 1 0 o 0 0 1 1 1 1

0 0 1 1 0 0 1 1 0 o 1 1 o 0 1 1

0 1 0 1 0 1 o 1 0 1 0 1 o '.1 0 1

tabel 1. K3 strategieen verdeeld in

equivalentieklassen

Page 17: Eindhoven University of Technology MASTER Shannon

13

1.5 8EREKENING VAN Kn

8ij het bepalen van het inner-bound gebied van K beperkennwe ons tot het geval dat beide zenders dezelfde verdeling

op de strategieen hanteren. Dit levert dan een punt R12 = R21op, hetgeen voldoende is om te zien of er punten buiten

de innerbound van het and-channel liggen.

Voor de rates gelden de formules 1.1 en 1.2.

In het symmetrische geval moet bepaald worden:

waarin pes) de kansverdeling op de inputs is.

In = ~. (I(5 1 ;yn/52 ) + I(5 2 ;yn/ 51 ))

= ~ (H(yn/ 52 ) + H(Vn/5,))

= - *~ ~ p(yn/ s2 )·p(s2)"·log(p(yn/ s2 )) ­yn 52-*~ ~ p(yn/ s1 )·p(s1)·lo9(p(yn/ s1 ))yn 5

1

= - ~ ~n ~ r p(yn/ s1s2 )·P(s2)·P(s1)·log ~ p(yn/ s1s2 )·P(s1)-:y 51 52 . 51-*~ ~ p(yn/ s1 )·p(s1)·lo9(p(yn/ s ,).Yn 5 .

t "......

Dit gedifferentieerd naar p(s~) levert:

Page 18: Eindhoven University of Technology MASTER Shannon

14

Als de middelste term nader wordt uitgewerkt, vindt men dat

d 1 · . k . 1eze ge 1J 15 aan - n.Hiermee wordt de afgeleide:

1 •- -n

Een analoge uitdrukking vinden we voor de afgeleide naar

een bepaalde p(s~):

1 •- ..,.n

Onder de nevenvoorwaarde 1: p(s~) = 1, worden al dezeA b· . dafgeleiden verhoogd met een term " ,waar 1J A e

Lagrange-multiplier is.

Het berekenen van het maximum van 8 12 vertoont grate

overeenkomst met het berekenen van de capaciteit van een

O.M.C., uaarbij het algoritme van 81ahut~]gebruikt kan

worden.

Hierbij worden de kansen p(s~) iteratief bepaald met de

formule:

. r+1p(s~) =

waarin c. = exp olnJ

. r~ p(s~) .cjJ

Als dit geprogrammeerd wordt dan blijkt. dat de oplossing

van K2 'naar de innerbound convergeert. Voor K3 vinden we

op deze manier oak de innerbound. Op een andere manier,

die in het volgende besproken zal worden, vinden we voor

K3 oak maxima die buiten het innerbound-gebied liggen.

Oeze kunnen met het algoritme van Blahut niet .gevonden

worden.

Page 19: Eindhoven University of Technology MASTER Shannon

15

8ij volledige random initialisatie van de verdeling P(s1)

vindt steeds convergentie naar de innerbound plaats.

Een kleine aanpassing van het probleem, waarbij toegestaan

werd dat R12 r R21 en waarbij cos(~).R12 + sin(~)~R21

werd gemaximaliseerd Ieverde ook geen convergentie op

WeI werd hierbij geconstateerd dat het punt (R 12 ,R 21 )

buiten de innerbound kwam te Iiggen.

Opm: Als we geinteresserd zijn in een niet symmetrisch

punt dan kunnen we dit vinden door

te maximaliseren, zie fig.1.6~.

o

fig. 1.6.

,~

"

Page 20: Eindhoven University of Technology MASTER Shannon

16

2.

HET AND-CHANNEL ALS BESlISSINGSPROBLEEM

In het voorgaande werd het and-channel beschreven door de

Shannon-strategieen. Hiermee komt het spel-theoretische

karakter van het and-channel reeds naar voren.

Er wordt nu een methode bekeken waarbij het and-channel

wordt opgevat als een beslissingsprobleem.

Het voordeel van deze nieuwe methode is gelegen in het feit

dat er nu veel minder variabelen nodig zijn am het probleem

te beschrijven.

Beide zenders worden geconfronteerd met een beslissings­

probleem.

Een beslissingsprobleem wordt gedefinieerd door:

1e: een toestandsruimte J

2e : een beslissingsruimte K

3e : een opbrengststructuur I

4e : een kansmechanisme

ad 1: Neem J 1 = {h1i liE (1,n)}

met h1i = (x11, ••• ,x1i-1'Y1' ••• 'Yi-1)

en J 2 = {h2iliE(1,n)} .\

met h2i = (x21, ••• ,x2i-1'Y" ••• 'Yi-1)

Op deze manier z~Jn de beslissingen gebaseerd op het

volledige verleden. Het is dus geen Markov-spel.

ad 2: In elke toestand moet worden beslist of er een 0 of

een 1 wordt gezonden. Dus K = IO,1} voor beide zenders.

ad 3: Aan elke beslissing wordt een opbrengst R(h i ) toege­

kend.

Page 21: Eindhoven University of Technology MASTER Shannon

17

Oat is in dit geval de hoeveelheid overgedragen

informatie (in bits) in die toestand h .•~

= I(X 2 ·;V./X 1 ·,h1 ·)~ ~ ~ ~

De verwachte opbrengst bij de i e beslissing is dan

voor zender 1:

l:p(h 1 ·)·R(h1 ·)I:;; ~ ~11 1 i

ad 4: Als kansmechanisme hebben we in elke toe stand h.~

(beslissingspunt) een verdeling:

P(x1i/h1i ) voor zender 1

P(x2i/h2i ) voor zender 2.

De overgangskansen p(h1i - h1i+ 1 ) worden bepaald door

1e: p ( x1if h., i) :

2e : een of meerdere verdelingen P(x2i/h2i )

Het probleem is voor te stellen in de boom van fig.2.1.

Beide zenders doorlopen elk een bepaald pad in hun eigen

boom. Dit pad is niet van te voren te kiezen, omdat een

dergelijke keuze een uitspraak doet over de beslissingen

van de andere

Voor de berekening van de gemiddelde opbrengst per beslissing

hetgeen in ons geval de gemiddelde overgedragen informatie

per transmissie is, gaan we uit van 2 zenders die

dezelfde verdeling hanteren in het overeenkomstige

beslissingspunt.

Hierdoor krijg~n beide zenders dezelfde opbrengst, waardoor

we ons kunnen beperken tot het berekenen voor een zender.

Page 22: Eindhoven University of Technology MASTER Shannon

//

//0

/

18

'-I _~~'-'~

_zend

____ on tv,

//

//0

/

,'1"-

"-\,.

'.

~/<......0

,1

'><::f±g.2.1. beslissingsbaam vaar K3

Page 23: Eindhoven University of Technology MASTER Shannon

19

De rate R21 op~de i e transmissie wordt gegeven door:

= H(Y./X 1 ·,H 1 ·)~ ~ ~

I Ip(Yi/x1i~h1i)·P(x1i/h1i)·p(h1i)·~i htj

.log(P(Yi/ x1i,h1i»

AIleen als x1i = 1 is er een bijdrage. We krijgen dan

De gemiddelde rate over n transmissies bedraagt

Het probleem is dus: bepaal voor elke i en h1i , P(x1i=1/h1i )

zodanig dat 2.2 maximaal wordt.

Voor Kn-strategieen geldt in hat symmetrische geval:

R21 = *I(S2;yn/S 1) = *H(y

n/S 1)

Als s1eS1 bekend is, dan zijn tevens de functies f i +1

tim f n , dus de functies waa~mee de (i+1)e tim dg ne

input gekozen worden bekend. Dit zegt echter niets over

Yl' tim Yi' omdat er van uitgegaan wordt dat beide zenders

hun strategieen onafhankelijk van elkaar kiezen.

Page 24: Eindhoven University of Technology MASTER Shannon

"20

Er geldt dus:

dan vinden we:

H(yn/ S1 ) = IH(Y./X1·'~1·)1 ~ ~ ~

We zien dus dat de methode van de K -strategieen en dennieuwe methode hetzelfde resultaat opleveren.

Page 25: Eindhoven University of Technology MASTER Shannon

o

21

2.2, OPDELEN VAN EEN VIERKANT

We kunnen formule 2.1 in verband brengen met de opdeling

van een.vierkant.De berichten worden nu gegeven door p~nten ~e(0,1) en

()28! (0,1). Zie fig.2.2 •

...- --,1

m.p;)

r- - --

01~

fig. 2 • 2 me s sag e- poi nt «()1' ()2) in e en heids vie r kant. -

Deze manier am het bericht voor te stellen wordt oak ge­

bruikt in Schalkwijk [2], .[3] •

We nemen aan:

()1en ()2 zijn homogeen verdeeld op (0,1)

p( ()1' ()2) = P«()1) .P«()2 )

Beide zenders moeten het message-point «()~,82) localiseren,

waarbij ze ~ priori slechts hun eigen () kennen.

Door het aannemen van een stelsel van geschikte drempels

in dit vierkant en het vergelijken van 0 met deze drempels

worden de kanaal-inputs x gegenereerd. Het gebied waarin

«()1'()2) mogelijk kan liggen wordt hierdoor stelselmatigverkleind. Hierdoor wordt er informatie overgedragen.

Op deze manier wordt het vierkant opgedeeld in een aantal

gebieden. Aan deze·gebieden kan een bepaalde voorgeschiedenis

worden toegekend, zie fig.2.3 en fig.2.4.

Page 26: Eindhoven University of Technology MASTER Shannon

22

1e transmissie.

Er is nog maar een gebied. Hierin wordt een drempel bij

d1 gelegd. (fig.2.3)

Y=o

y=o

o

fig.2.3 opdeling vierkant na 1 transmissie

We gaan uit van het symmetrische geval zodat we aIleen

moeten vastleggen wat zender 1 doet.

Zend nu:

=1:als o ~ 8~ d1

X1 als d1 < 8~ 1

De rate op de 1e transmissie is dan

Lettend op de voorgeschiedenis zijn er nu voor zender 1

drie gebieden ontstaan:

1 e : h12 = (x 11 = 0'Y1 = 0)

2e : h12 = (x 11 = 1 , Y1 = 0)

3e : h12 = (x11 = 1 , Y1 = 1 ) •

In elk van deze gebieden moet weer een beslissing worden

genomen. Dus in elk gebied komt weer een drempel te liggen.

We nemen aan:

In e,en gebied met voorgeschiedenis h1i wordt de

drempel d(h1i ) zodanig gelegd dat de kanaalinput

x. =11 a Is 8j ~d ( h 1 i)

~ 0 a Is 8. > d( h1 . ) •I ~

Page 27: Eindhoven University of Technology MASTER Shannon

23

Dit levert na twee transmissies een opdeling volgens fig.2.4

I

4a •Iy=01 • Y=01••

~- -_. --

4b Y = l'

Y=01

o

fig.2.4 opdeling na twee transmissies

/ )Oe rechthoeken 4a en 4b hebben d~zelfde voorgeschiedenis h13

o en vormen dus een gebied.

Algemeen geldt dat elk gebied met voorgeschiedenis h1i na

transmissie 3 klein ere gebieden met voorgeschiedenis h1i+1oplevert en dat elk gebied de vorm van een rechthoek

behoudt. Deze rechthoek mag eventueel zoals in fig.2.4. in

meerdere stukken uiteen vallen.

De oppervlakte van elk gebied met voorgeschiedenis h1i is

p(h1i )·

Dit is eenvoudig na te gaan voor de opdeling na 1 transmissie

De rest voIgt met inductie. Oeel hiertoe een gebied met h1iop en bereken

a

••II•

cb

p(h1 . ,x. ,y.)~ ~ ~

d

= p(x.,y./h1 ·)·p(h1 ·)·~ ~ ~ ~

fig.2.5. algemene opdeling van een .geb-ied.

Page 28: Eindhoven University of Technology MASTER Shannon

Dus p(h1i} = a.b en P(x1i =

Verder geldt: P(x 2L =1 ./x1i

24

1/h1i ) = ~.

d=1,h1 ·) = - •~ . a

Op deze manier zien we dat formule 2.1 vertaald kan worden

naar de opdeling van een vierkant.

Als A1 (h1i ) de oppervlakte is van het gebied h1i waarin

~1r ~ 1 en B1 (h1i ) het gedeelte van A1 (h1i ) is waarin Yi = 1

dan geldt voor de gemiddelde rate Rn over n transmissies:

Rn moet gemaximaliseerd worden. Hierbij worden de posities

van de drempels als variabelen beschouwd.

We merken nag op dat bij de opdeling van een vierkant

zoals hiervoor besGhreven, niet de absolute waarden van

de dTempels een rol spelen maar dat het verschil tussen

twee drempels een rol speelt. AIleen de breedte van het

stuk waarin een 1 wordt gezonden is van belang.

Er.is oak nag een kleine reductie van het aantal variabelen

mogelijk. Als namelijk op de eerste transmissie een 1 wordt

ontvangen, dan weten beide zenders dat het subvierkant

verder moet worden opgedeeld. Dit gebeurt in n-1 transmissies.

AIs het maximum van R 1 bekend is dan ·kan di t gebruiktn-

worden in het berekenen van R •- n

Dit levert dan:

waarin

Het aantal variabelen dat nag nodig is am Kn te beschrijven

is na deze reductie:

3 n - 1 •

Deze variabelen zijn weI onderworp~n aan constraints. Immers

elke drempel wordt tussen 2 andere gelegd en mag deze niet

overschr~~'den•

Page 29: Eindhoven University of Technology MASTER Shannon

25

Voor het berekenen van het capaciteitsgebied van K wordtn~ebruik gemaakt van de opdeling van een vierkant.

De nummering van de drempels komt overeeg met de nummering

van de beslissisingspunten in de boom van fig. 2.1.

Het is oak mogelijk am het verband na te gaan tussen de

waarden van de drempels en de kansen van de Shannon-strate­

g'ieen.-

Hiertoe is in fig. 2.6 de boom nag eens getekend,met langs

de takken de kansen uitgedrukt in de drempels.

Verder is aan de uiteinden vermeld met welke strategieen

volgens tabel men in dat uiteinde kan komen.

Het produkt van de kansen langs de ~zendttakken is gelijk

aan de sam van de kansen van de strategieen die aan het

uiteinde vermeld staan.

Dit levert dan op:

42d1 = r p(s.)

;=7 ~

42d2 = rp(s.)

;.:::3 ~

42d3 = r p(s.)

;=19 ~

42d4 = r p(s.)

;=2 ~

42ds = r p(s.)

;=5 • ~

P(S4)42

d6 = +rp(s.);=6 ~

p(Sg)42

d7 = + P(s10) + f. p(s.)1=15 ~

P(S23) + P(s24) + P(s2S) + P(S26)42 )

de = + r p(s.;.35 ~

dg = P(S21) + P(s22) + P(s2S) + P(s26) +

P(s31) + P(s32) + P(s33) + P(s34) +

P(s39) + P(s40) + P(s41) + P(s42)·

Page 30: Eindhoven University of Technology MASTER Shannon

,," el..

"\

"'.

26

gebruiktestrategie

1

2

Page 31: Eindhoven University of Technology MASTER Shannon

27

MARKOV-CHAIN·CODING-SCHEMA'S

3.1 II\JLEIDING

In dit hoofdstuk wordt een overzicht gegeven van twee

coding schema's die voorgesteld kunnen worden door een

Markov-chain. Aan beide kanten kan foutloos gedecodeerd

worden..

De berichten m1 en m2 worden zoals in 2.2 voorgesteld

door een punt(}1 en(}2.op het interval (0,1).

De message-region is het gebied waarvan beide zende~s

zeker weten dat daarin het gezochte punt ((}1'(}2) ligt.

Het verkleinen van deze message~region gebeurt ~odanig

dat het aantal verschillende vormen dat deze aan kan

nemen beperkt is. Hierdoor blijft het aantal toestanden

in de Markov-chain beperkt.

In termen van de. Shannon-strategie~n betekent dit dat

deze niet allemaal worden gebruikt.

Page 32: Eindhoven University of Technology MASTER Shannon

28

3.2 HET HAGELBARGER CODING-SCHEMA.

Dit coding-schema werd oorspronkelijk op een andere manier

geformuleerd. Het is echter eenvoudig in deze methode in te

passen.

I,01 I 00

00

a o()

fig.3.2 Hagelbarger sche~a na 2 transmissies.

Op de 1e transmissie moet er een vierkant gereduceerd

worden. We noemen dit toestand 9 1 • We beschouwen alleen

het symmetrische geval.

De kanaal input voor zender i is dan:

x _= 11a ls 0 ~ ej~ ()'

" 0 als a<e.~I

De rate in deze toestand is:

R1= I ( e2 ; Vii e1 , S1 )

=ah( a )

Wordt nu ontvangen y = 1, dan is de nieuwe message-region

weer een vierkant. De afmetingen zijn weliswaar kleiner

geworden, maar het is alleen de verhouding van de oppervlakte

van het gebied voor en na de transmissie die een rol speelt

bij het bepalen van de rate.

Dus als y(s1) = 1 keren we terug naar toestand s1.

Als y = 0, dan is de nieuwe message-region een L-vorm.

Dit is een nieuwe toestand, s2.

Page 33: Eindhoven University of Technology MASTER Shannon

29

Zender i zendt nu op de 2e transmissie:

x =I1 a1s a ~8i~ 1

a a1s O~~~(Y

De rate in deze toestand is:

R2 -= I(82 ;V/81 ,s2)

h( a )

1 + a

Na deze 2e transmissie kunnen beide zenders zander resterende

ambiguiteit uitmaken wat de nieuwe message-region wordt.

Dit is in ieder geval na transformatie van de schalen

weer een eenheidsvierkant, dus een toestand s1.

Het Markov-model van dit coding-schema is in fig.3.3

weergegeven.

2a

1

fig.3.3 Markov-model van Hagelbarger code

De stationaire kansen worden gegeven door:

1q1 = . 2

2 -a

1 2-aq2 = _a 2

2

Voor de gemiddelde rate van dit coding-schema geldt:

2­2-·~

Page 34: Eindhoven University of Technology MASTER Shannon

30

Dit levert na maximalisatie:

RH = 0.59305 voor

a = ct'H = 0.6259

(N -\is - \[7r~ ~::. t . \-s "Rt(~ 9: ~.d

~k-~'?i-\ e-izc r-[~C:fA/bA.·~def' d£·{AJ')

.Oit coding-schema is- dus niet optimaal.

Het Hagelbarger schema is ook te beschrijven met de

Shannon-strategieen. Het blijkt dat dit reeds kan met K2strategieen.

Van de 6 equivalentie-klassen worden aIleen gebruikt:

s2 , s3 , s4 uit par.1.4.

Hiervoor geldt dan:

P(s2) =- 1 -a

P(s3) =a(1 -a)

P(S4)2

= a

Page 35: Eindhoven University of Technology MASTER Shannon

o

31

3.3 HET SCHALKWIJK COOING-SCHEMA

oit is het eerste coding schema waarmee rate-pairs buiten

het innerbound-gebied worden gevonden.

De eerste transmissie gebeurt op dezelfde manier als in

hat Hagelbarger-schema. Deze toe stand heet hier i.

Als Y1 = O~ moet de L-vorm worden opgedeeld; dit istoe stand m. Er wordt nu een drempel gelegd bij 1-Y

1-V

1-Y

oc _°1

fig.3.4 drempels in Schalkwijk-schema

Zender i zendt als Y1 = 0:

als (}i~ a

alders

De rate in toestand m is:

Rm = I«(}2;Y/(}1~m)

h( Y )=

1 + a

Wordt nu ontvangen Y2 = 0, dan is de resterende message­

region een van de gebieden y = DO.

Beide zenders weten vanwege de side-information precies

welk van deze gebieden ve~der moet worden onde~zocht. -

De vorm is na schaalverandering weer een vierkant (tst. i).

Page 36: Eindhoven University of Technology MASTER Shannon

32

Wordt ontvangen YZ = 1, dan is het gebied met ~ = 01 "de

nieuwe message-region. Dit is een nieuwe vorm en wordt

toe stand o(uterbound) genoemd.

1

1-------+---'

1- Y

-01

fig.3.5 toestand a

In toe stand a is de i:nput voor zender i:

I: als~(Jr~ 1x. =J. alders

De rate in deze toestand is:

h (f3 )•

z - f3

Als f3= 0.61795 levert dit de outerbound-rate Ope

Na deze outerbound toestand weten beide zenders welke van

de 3 gebieden uit fig 3.5 d~ nieuwe message-region w6rdt.

Dit is weer een gebied dat overeen komt met toestand i.

In fig.3.6 wordt het Markov-model van dit schema gegeven.

cl

1-Y1-2­

1~0'

fig.3.6 Markov-model van Schalkwijk-code

Page 37: Eindhoven University of Technology MASTER Shannon

33

De overgangskansen volgen eenvoudig uit de verhouding

van de oppervlakten van de message-regions na en voor

transmissie.

De stationaire kansen worden gegeven door:

1q. =~ 1 + 2(1 -a.}(a+y)

1_ ~2

q =m 1 + 2(1 -a)(a+y)

. 2) (1 _ 2 (1 - Y ))~ 1+a

1 + 2(1 -~}(a+y)

Voor de gemiddelde rate van dit coding-schema geldt:

Rs = q.R + q.R + q .R •o 0 m moo

Maximaliseren levert op

Rs = 0.61915

a = 0.6757

f3 = 0.6172

Y = 0.5255

De gemiddelde rate ligt dus net buiten het innerboundgebied.

aeze verbetering t.o.v. het Hagelbarger-schema is mogelijk

doordat in toestand m superpositie van informatie ontstaat •

. Dit coding-schema is met K3-strategieen te beschrijven.

Ook hier worden niet aIle stDategieen gebruikt. Uit tabelworden niet gebruikt:

Met deze strategiesn kan twee keer na elkaar een 0 worden

gezonden. Dit kan in het Schalkwijk schema aIleen als er

een overgang o-i of m-i tussen zit.

Page 38: Eindhoven University of Technology MASTER Shannon

34

3.4 VERBETERING SCHALKWIJK-SCHEMA MET SLEPIAN-WOLF

Schalkwijk [31 heeft het voorgaande coding-schema nog

verbeterd. Hiertoe werd geconstateerd dat in de m-state

Oit werd geinterpreteerd als een verlies van informatie

in de encoders. Bij nader inzien is dit echter niet de

redan waardoor het schema verbeterd kan worden. Het blijkt

zelfs dat er helemaal geen informatie verloren gaat.

De ongelijkheid 3.1 wordt namelijk veroorzaakt doordat

in het rachterlid de gehele voorgeschiedenis opganomen.

In het linkerlid is slechts een gedeelte hiervan aanwezig.

Im~rs, als 81 gegeven is, dan is ook impliciet x11 gegeven

en samen met de geg~ven toestand m (Y1 = 0)' is de gehele

voorgeschiedenis bekend.

In hat linkerlid daarentegen is aIleen gegeven dat y, = o.In werkelijkheid kent zender 1 x11 ook.

Nemen we dit op in het linker lid dan wordt dit:

Het rechterlid is te herleiden:

waaruit we zien dat er geen informatie verloren gaat.

De grootheid waar het echter om gaat is:

h( Y)

1 + a

Page 39: Eindhoven University of Technology MASTER Shannon

35

Beschouwen we nu N Markov-chains die parallel werken,

onafhankelijk van elkaar, dan zijn er gemiddeld q N in dem

m-state.

In totaal worden er t.g.v. deze m-states in beide richtingen

q Nm

h( Y )

1 + abits

aan informatie overgebracht.

De sequence van inputs t.g.v. de q N m-states bestaat uitm

q N symbolen met conditionele entropiem

H( X2181 ,m).

Volgens Slepian en Wolf ~] kan deze sequence gecodeerd

worden in

qmN.H(X2181,m)

even-waarschijnlijke symbolen 0 en 1.

Deze geoodeerde sequence is als N-co op te vatten als een

nieuw punt -0'2.Dit nieuw punt is homogeen verdeeld op (0,1) omdat de

gecodeerde sequences ook homogeen verdeeld zijn.

Dus 8~ kan overgezonden worden met het coding-schema en dus

ook met de rate van het schema zelf.

Dit levert ons de winst op. Immers de hoeveelheid informatie

die overgebracht moet worden wordt gegeven door 3.2.

Dit gebeurt nu met de rate van het coding-schema zelf

(bootstrapping), zodat er nog slechts '\

transmissies nodig zijn. Dit is minder dan de q N transmissiesmdie nodig zijn als er geen extra coding wordt toegepast.

De gemiddelde rate van het coding-schema wordt nu:

q. R,., + qmR + qoRR . 1. 1. m 0= Rs q: + qo + qm m

1.

Rs

Page 40: Eindhoven University of Technology MASTER Shannon

36

Maximaiisatie ievert in het symmetrische gevai

R = 0.63056s

Door de extra coding is dus een aanzieniijke winst geboekt.

Opm: Voor de i-state heeft extra coding geen zin want

zodat er meer1bits nodig zijn voor het coderen dan

er in werkeiijkheid overgebracht moe ten worden.

Ook in de o-state heeft extra coding geen zin.

We keren.nu terug naar het Hageibarger schema.

In toestand 2 geidt:

h( a)

1 + a

Dus het is ook hier zinvoi om extra coding toe te passen.

Van N onafhankeiijke paraiieiie Markov-chains zitten Br

gemiddeid q2N in toestand 2. De sequence van q2N inputs

t.g.v. de toestanden 2 is te coderen in

bits

en over te zenden met de rate van het schema zeif.

Hiervoor geidt dan:

q1 R1 + q2 R2

Rq1 + q2~

RH.

waaruit voigt dat

max Rt:t. = 0.6169486.

Page 41: Eindhoven University of Technology MASTER Shannon

37

3.5 BERNOUILLI SOURCES EN HERHALINGS-STRATEGIEEN

Er voIgt nu een andere manier om voorgaande coding-schema's

te beschrijven. Met deze beschrijving heeft men een methode

om ingewikkelder coding-schema's nader te onderzoeken.

bernouilli-----1 source

re peat----I encoder

bernouill,',.....::=--+-..,...,.~ sou r c e"

repeat1----

0-1

-.-.-•.L.'-1-0-1-----1 enc od er

I I

fig. 3.8

Hierin is:

2$.2

r-1-

= (x 21 ,···,x2n ). , ,

= (xir1,···,X{rk), ,

£2 = (x2r1,···,x2rk)

In.dit systeem (decoders niet getekend) zenden 2 onafhankelijke

Bernouilli-sources hun bericht over het kanaal.

Elke y -component die gelijk is aan 0 veroorzaakt bij

minstens een van de zenders onzekerheid omtrent het door

de andere verzonden symbool.

Om deze onzekerheid weg te werken moe ten de x-componenten

waarbij y = 0 op een nader te bepalen manier herhaald worden.

De manier waarop dit gebeurt noemen we een herhalings­

strategie.

De vectoren £1 en £2 zijn de herhalingen.De vraag is dus hoe deze herhalngen het efficientst gebeuren.

Page 42: Eindhoven University of Technology MASTER Shannon

38

In het Hagelbarger schema bestaat de herhalings-strategie

uit het inverteren van de x-componenten waarbij y = o.

Bij de eerste serie Vqn n transmissies is de gemiddeld

overgebrachte informatie in beide richtingen:

n.p.h(p) bits.

Gemiddeld zijn er r k = (1 - p2) herhalingen.

In deze serie van herhalingen is de overgebrachte informatie

in beide richtingen:

1/x1 . = 0»r~

- n(1 - p).h(p) bits.

Dus de rate van het schema is

n.ph(p) + n(1 - p) .h(p)

n + n(1 _ p2}

=h(p)

22 - p

.-~

In het Schalkwijk-schema z~Jn de herhalingen ingewikkelder.

De herhalingen bestaan nu mogelijk uit twee series.

Bij de eerste serie herhalingen wordt:

1e : elke x-component die eerst 0 was, geinverteerd.

2e : slechts een fractie q van x-componenten x = 1••

uaarbij y = 0 wordt geinverteerd ••

-Oit betekent dat er na deze eerste serie van herhalingen

mogelijk nog een serie komt.

Immers als op de 1 e herhaling een 1 wordt ontvangen dan

weet degene die eerst een 0 zond nog niet of deze ontvangen

1 nu het gevolg is van een geinverteerde 0 of een niet

geinverteerde 1.

Page 43: Eindhoven University of Technology MASTER Shannon

39

Bij de 2e serie herhalingen wordt nu een 1 gezonden indien

in de 1e serie transmissies een 0 werd gezonden.

In de eerste serie transmissies is de overgebrachte

informatie:

11 = n.p(x1i = 1).h(p(x2i = 1»

= n.p.h(p)

De eerste serie herhalingen ( n(1 - p2» levert een bijdrage

in de overgedragen informatie:

1/x1 . =r~

= n'1 - p).h(pq) bits.

Het aantal herhalingen wit de 2e serie bedraagt:

I

= (), Y . = 1)r~

= 2(1 - p)(1 - pq)

De overgedragen informatie in deze serie is:

I I I I

1) •13 = n.p(x1 . = 1 , x1 . = 1 , x1 . =0, y . =r~ r~ r~ r~

I I I I

=1»• h(p(x2 . = 1/ x1 . = 1,x1ri = O,y .r~ r~ r~

,,Hiermee vinden we voor de gemiQdelde rate:

1 1 + 1 2 + 13

bits.

1 + (1 - p2) + 2(1 - p)(1 - pq)

Page 44: Eindhoven University of Technology MASTER Shannon

40

Deze beschrijving is voor ingewikkelder coding-schema's

waarschijnlijk handiger dan het opdelen van een vierkant.

Op een systematische manier kunnen nu een groet aantal

verschillende herhalingsstrategieen, die steeds complexer

worden, worden doorgerekend.

Page 45: Eindhoven University of Technology MASTER Shannon

41

4.

EEN CODING-SCHEMA MET K4 STRATEGIEEN

4.1 INTRODUCTIE

Daar er geen converse voor het Schalkwijk coding-schema

bestaat blijft dus de vraag of dit coding-schema nog

verbeterd kan worden.

Om hier achter te komen kunnen we gaan zoeken naar

andere schema's.

We kunnen ons hierbij laten leiden door de beste opdelingen

die verkregen zijn voor K3 en K4 • Hierbij constateren we

dat daarbij twee maal na elkaar een 0 wordt gezonden.

Dit gegeven kunnen we proberen te verwerken in een

coding-schema.

Het kan ook benaderd worden vanuit de Shannon-strategieen.

Immers het Hagelbarger schema is gebaseerd op K2en het Schalkwijk schema op K3-strategieen.

Het ligt dus voor de hand om eens te kijken naar

K4-strategieen. In het volgende wordt zorn schema gere­

presenteerd. Ten opzichte van het Schalkwijk-schema is

er een extra vrijheidsgraad.

Page 46: Eindhoven University of Technology MASTER Shannon

42

4~ 2 Ar'tAL YSE SCHEMA

De verschillende toestanden uan het schema zullen nader

bekeken worden.

De rate wordt berekend zoals in hoofdstuk 2 de bijdragen

tot de overgedragen informatie berekend werden aan de hand

van oppervlakten. Om hieruit de rate in een bepaalde

toestand (bij de coding-schema's wordt een toestand

gekarakteriseerd door het gemeenschappelijke verleden van

de twee zenders, dus door de outputs) te bepalen worden

de bijdragen tot de overgedragen informatie gedeeld door

de oppervlakte van die toestand.

Toestand 1.

Dez e toestand komt overeen met het leggen van een drempel

in een vierkant.

Zend:

elders

De rate op deze transmissie is dan

Wordt ontvangen y = 0, dan gaan we naar toestand 2 met,overgangskans:

= 1 _ d 21

Toestand 2.

d­2

1d

1

fig.4.2. opdeling in toestand 2

Page 47: Eindhoven University of Technology MASTER Shannon

43

Zend in toe stand 2 :

als d2~ e~ 1

elders.

Het gebied waar y = 1 is gearceerd. Dit is toestand 3. Het

ander~ stuk is toestand 4.

De rate in deze toestand wordt gegeven door:

en de overgangskans P23 door

(1-d2 ) (1-d2+2d3 )

P23 = 1 d2- 1

Toestand 3. ,U

d21·

d

3-[jd~!-- _

o -r1

fig. 4.3. opdeling van toestand 3.

Zend in toestand 3:

,als d3~e~1

elders.

Het gebied waar y = 1 is gearceerd. Dit is toestand 8.

Wordt y = 0 ontvangen dan gaan we terug naar toestand 1~

De rate in deze toestand wordt gegeven door:

-(1-d2)(1-d2+d3)·h(1-d2+d3-d;)/(1-d2+d3»)R3

( 1- d2 ) ( 1- d 2+2d3 )

Page 48: Eindhoven University of Technology MASTER Shannon

44

De overgangskans P38 is:

( 1-d2

) 2 • (f -1)

(1-d 2 )(1-d 2+2d 3 )

waarin f3 gegegeven wordt door:

Toestand 4.

d- ....-"""'i/3 I

1

Id2 d1

fig.4~4. opdeling van toestand 4

In toestand 4 zendt men:

\

-1 a1s d5~ 0 ~ d 4

x = lJ elders.

I n he t g.e~r c e e r de 9 e bi e d w0 r d t Y = 1 0 n t van 9en. 0 i tis

toestand 5. Als 'y = 0 dan zitten we toestand 6.

De rate in toestand 4 wordt gegeven door:

en de overgangskans P45 door:

(d2-d1)(d2+d1-2d5) + 2(d 4-d 2 )(d 2-d 3 )P45 = 2

(1-d 1 ) - (1-d 2 )(1-d 2+2d 3 )

Page 49: Eindhoven University of Technology MASTER Shannon

45

To~stand 4 is evenals toestand 3 een toestand waarin de

rate verbeterd kan warden met behulp van Slepian-Wolf.

Dit voIgt eenvoudig uit het feit dat in het gedeelte van

toestand 4 waarin een 0 wordt gezonden geen onzekerheid

heerst met betrekking tat het door de ander zijn

verzonden symbool, zodat geIdt:

en dit is voor de uiteindeIijke parameters zodanig dat R4 Rs '

met Rs de gemiddelde rate van dit schema.

Toestand 5

t t - dS

d 2 d 1

fig.4.5. opdeling van toestand 5.

In toe~tand 5 zendt men:

x = 1~ a I s d 1~. (} ~ d Z

o eiHlers.

'Als y = 1 komen we in toe stand 9 terecht en als y = 0 in

toestand 7.

De rate in toestand 5 wordt gegeven door:

waarin

+

°PP5

(d1-d3)(d4-d1)·h(d4-dZ)/(d4-d1»)

°PP5

Page 50: Eindhoven University of Technology MASTER Shannon

46

De overgangskans PS9 wordt gegeven door:

Indiend2 - d 1

d 3 = d2 -1 . -d

- 1

dan is toestand 9 gelijk aan toestand 2, vanwege de

gelijkvormigheid die dan optreedt.

Toestand 6 II

d5 - L5-d,o I t

d2 d1

fig.4.6. opdeling van toestand 6.,,Toestand 6 bestaat uit 2 L-vormen en deze zijn niet

gekoppeld. Oaarom zijn ze als 2 aparte l-vormen weergegeven.

Om het aantal toestanden enigszins beperkt te houden,

wordt elk van deze L-vormen zodanig opgedeeld dat er

ofweI een toestand 8 of een toestand 1 verschijnt, zoals

in toestand 3.

Hiertoe moet dan gelden:

en

= f3

Page 51: Eindhoven University of Technology MASTER Shannon

47

Hiermee voIgt voor de rate R6 :

(d2-d,)(1-d4+dS)·h(1-d4)/~(1-d4+dS»)R6 =

- 2(d2-d1)('-d4+dS)+2(1-d4)(d,-d3)

(1-d4)(d2-d3)·h(d2-d1)/~(d2-d3»)+

2(d2-d1)(1-d4+dS)+2(1-d4)(d1-d3)

en voor de overgangskans P6B

Oak in deze toestand is extra coding te realiseren, hetgeen

men eenvoudig na kan gaan.

Toestand 7

d3-~• - d g

d -5T Td

2d

1

o o

fig.4.7 opdeling van toestand 7.

Ook hier worden we geconfronteerd met twee L-vormen

die niet gekoppeld zijn.

De opdeling is hetzeIfde als VOGr toestand 6.

De drempels dB en dg worden ook weer zodanig gekozendat:

en

= ~

Page 52: Eindhoven University of Technology MASTER Shannon

48

De rate R7 in deze toestand wordt gegeven door:

(d2-d1)(d4-d2+d3-d5)·h(d4-d2)/~(d4-d2+d3-d5))

+

°PP7

(d4-d2)(d2-d3)·h(d2-d1)/~(d2-d3))

OPP7

en de overgangskans P79 door:

Hierin is oPP7 gelijk aan:

oPP7 =2~d2-d1)(d3-d5)+(d2-d3)(d4-d2))

Het gedeelte waar y = 1 wordt ontvangen is ook weer

gearceerd. In deze toestand is extra"coding zinvol.

Toestand 8

De toestanden van waaruit een overgang naar toestand 8

mogelijk is, zijn 3,6 en 7.

Toestand 8 en de opdeling ervan zijn gegeven in fig.3.8.L2

'\.

~L2

fig.3.8. opdeling van toe stand 8

Vanwege de speciale afmetingen hebben we hier te maKen

met een outerbound-situatie. Het gebied waarin een 1

wordt ontvangen is weer gearceerd.

De overgang van uit toestand 3 naar toestand 8 levert

een symmetrische figuur Ope Vanuit toestand 6 en 7

hebben we in beide gevallen te maken met twee niet-symme­

trische figuren. Het gaat echter om de verhouding van

de afmetingen en men kan eenvoudig nagaan dat de rate

Page 53: Eindhoven University of Technology MASTER Shannon

49

in alle voorkomende gevallen gegeven wordt door:

h (§ )Z - 13

Vanuit toestand 8 wordt een overgang gemaakt naar

toestand 1.

Toestand 9

d ­10

= /3

d - '----3 i d Td

2 1f~~~4.9. opdeling van toe stand 9.

In deze toestand"zendt men:

a 1 s d10~ 8.!S 1

elders.

Voor de rate in deze toestand geldt:

(d Z-d 1 )(d Z-d 3)·h ((d Z-d 1 )//3(d Z-d 3 ))

(dZ-d1)(d1+dZ-Zd3)

In deze toestand kan oak weer extra coding worden

toegepast.

Overgangen kunnen worden gemaakt naar toe stand 8 en

toestand 1.

Voor de overgangskans P98 geldt:(d Z-d 1 )

= (d Z-d 1)(d1-d 3+ § )P9~

(dZ-d1)(d1+dZ-Zd3)

De verschillenae toestanden zijn nu toegelicht.

Bij de berekening van de gemiddelde rate van dit schema

werd in eerste instantie uitgegaan van een paar vereen­

voudigingen, die er op neer komen dat niet alle vrijheids­

graden die dit schema levert worden benut.

Page 54: Eindhoven University of Technology MASTER Shannon

50

Zo werd aangenomen:

d4

(d 2-d1 )+ d1=

f3

dS

(d 3-d 1 )+ d1=

f3

Dit leidt na wat rekenwerk tot het coding-schema volgens

fig.4.10

fig.4.10 vereenvoudigd coding-schema.

Onder deze aanname worden de toestanden 6 en 7 beiden

een toestand 3 en toestand 9 wordt een toestand 2.

De rates worden gegeven door:

Page 55: Eindhoven University of Technology MASTER Shannon

51

h ( J3 )

2 - J3

De overgangskansen in fig.4.10 worden gegeven door:

P12 = 1 d2- 1

(1-d 2 )2

P23 =(1-d 1) 2

P38 =(1-d1)(~ -1)

1 + d1

( (d -d ) )2(d2-d

1) 1- 2 1

J3(1-d 1 )P43 =

(1-d2

) 2(1-d 1 ) -

(1-d 1 )

J3PS2 =

2 - J3 .

De toestanden waarin extra coding zinvol is zijn

aangegeven door ~ •

'\.

Page 56: Eindhoven University of Technology MASTER Shannon

52

De rate R wordt gegeven door:

R =

waarin q. de stationaire kansen zijn.~

Maximalisa tie -levert op:

R = 0.63055525

hetgeen hetzelfde is als in het Schalkwijk coding-schema.

Dit maximum wordt bereikt voor:

d 1 = 0.69071

d2 = 0.7864

f3 = 0.5828

\lerder geldt:

R1 = 0.616356 R4 = 0.589856

R2 = 0.616356 R5 = 0.691594

R3 = 0.5B9856 R8 = 0.691594

q1 = 0.36091 q4 = 0.109135

q2 = 0.20869 q5 = 0.048553

q3 = 0.18873 q8 = 0.08396

De toestanden 1 en 2 z~Jn vergelijkbaar met toestand i

uit het Schalkwijk schema. Zo zijn 3 en 4 hetzelfde als

toestand m en toestand 5 en 8 zijn hetzelfde als toestand 0

uit het Schalkwijk-schema. Ook de stationaire kansen

komen overeen.

Dus met nog slechts een extra vrijheidsgraad t.a.v.

net Schalkwijk-schema treedt geen verbetering Ope

Page 57: Eindhoven University of Technology MASTER Shannon

53

5.

RESULTATEN

In dit hoofdstuk volgen de resultaten die verkregen

werden door het opdelen van een vierkant, zoals beschreven

in hoofdstuk 2. De programma's zijn terug te vinden in

de appendix.

Het blijkt dat bij K2 de gemiddelde rate niet buiten het

inner-bound-gebied komt.

Als maximale waarde wordt gevonden

R = 0.6169486

Dit levert dus een punt o~ de inner-bound Ope

Voor K3 zijn 3 verschillende oplossingen gevonden.

R = 0.~169486

R = 0.6194622

R = 0.61965

Deze verdelingen vinden we terug in fig.5.1, fig.5.2,

fig.5.3.

De bes±e opdeling is bovendien nog eens gegeven in fig.5.4.

In fig.5.4. is ten opzichte van fig.5.3 geschoven met

bepaalde gebieden. Het zal duidelijk zijn uit hoofdstuk 2

dat het toegestaan is om met gebieden te sGhuiven omdat

:~, in fei te slechts de breedte waaraver een.1 lotordt gezonden

in dat gebied van belang is en niet de positie. We moeten

bij dit verschuiven aIleen rekening houden met de

voorgeschiedenis, die natuurlijk hetzelfde moet blijven.

In fig.5.3 zien we dat drempel d6 samenvalt met d2 •

Dit betekent dat deze oplossing op de rand van het domein

van de functie ligt. Het domein is voor K3 een 9-dimensionale

ruimte.

Dit betekent ook dat dus niet noodzakelijk de partiele

afgeleiden naar d6 en d2 6 zijn.

Page 58: Eindhoven University of Technology MASTER Shannon

54

Omdat d9 en d8 samenvallen met de rand van het vierkant, en

dus ook een waarde aannemen op de rand van het domein,

kunnen we verwachten dat decbijbehorende afgeleiden F G.

Dit wordt gedemonstreerd in fig.5.5 en fig.5.6.

Het betreft hier 1-dimensionale doorsneden~van de beste

oplossing.

Horizontaal is de waarde van de drem~els uitgezet.

Deze wa~rden zijn genormeerd. Elke drempel mag zich in een

bepaald interval bewegen (vanwege de constraints). De

lengte van dit interval is genormeerd op 1.

Verticaal komt 1.0 overeen met R = 0.62; a.o komt overeen

met R = 0.58.

Fig.5.5 betreft doorsneden van niet-samenvallende drempels.

In fig. 5.7 is een 2-dimensionale doorsnede gegeven van

de beste oplossing.

Er is ook ~agegaan welke oplossingen er voor K3 zijn

als er extra coding volgens Slepipn en Wolf wordt

toegepast. Dit is mogelijk als de drempels d2 en d4allebei de waarde 1 krijgen.

Het blijkt nu dat oak hier de gemiddelde rate toeneemt

en da~ ook in dit geval meerdere maxima optreden.

Er wordt gevonden:

R = 0.617098

R = 0.622752

Deze opdelingen vinden we terug in fig.5.8 en fig.5.9.

We zien dus nogmaals dat deze extra coding een krachtig

middel is. Tevens vestigt dit ook onze aandacht op het

feit dat er twee verschillende aspecten aan het and-channel

zitten.

Het ene is zuiver spel-theoretisch van aard en betreft het

opdelen van een vierkant. Het andere heeft een zuiver

informatie-thsoretisch karakter.

Page 59: Eindhoven University of Technology MASTER Shannon

55

De extra coding volgens Slepian en Wolf laat zich moeilijk

inpassen in het spel-theoretische karakter. Men kan het

weI expliciet in de te maximaliseten functie aanbrengen

zoals in de twee voornoemde oplossingen werd gedaan.

Voor de beste K3 opdeling is gekeken naar de rates in de

diverse toestanden (toestanden gekarakteriseerd door

outputs).

Dit levert op:

De rate op de 1e transmissie is

0.6135245.

Als Y1 = 1 dan volgen er 2 transmissies in het subvierkant

met rate

0.6169486.

Als Y1 = 0 dan is de rate op de 2e transmis ....

0.6049162.

Als Y1 = 0 en Y2 = 1 dan is de rate van de 3 e transmissie

0.6889007.

Als 0 0 dan is de rate e transmissieY1 = en Y2 = op de·3

0.6188498.

De opdeling van het vierkant is zodanig dat extra coding

in geen enkele toestand zinvol is, hetgeen men eenvoudig

nagaat door H(X 1/02 , 5 ) te berekenen voor de diverse

toestanden 5.

Om te kijken hoe de functie-waarde verandert bij een

verandering van de input parameters werden op de

oplossingen random verstoringen aangebracht.

Dit geeft een beter inzicht in de nauwkeurigheid van de,parameters. Het blijkt dat random verstoringen van de

drempelwaarden in- de orde grootte van 10-4 reeds aanleiding

geven tot veranderingen in de functiewaarden die in de

orde-grootte van 10-6 .liggen. Hierbij zijn de v.srsta.ringen

van de drempelwaarden relatief.

Daar tegen het einde van het maximaliseren de functie­

veranderingen slechts in de grootte-orde liggen van 10-11

zijn de gevonden drempelwaarden tach weI nauwkeurig tot

op 4 cijfers.

Page 60: Eindhoven University of Technology MASTER Shannon

56

Herhalen van het programma van uit een andere initialisatie

bevestigt dit.

Als zou blijken dat de drempelwaarden minder nauwkeurig

zijn, dan moeten we bedenken dat hier weinig aan te doen is.

De nauwkeurigheid van de drempels wordt hoofdzakelijk

bepaald door het al of niet vlak verlopen van de functie.

Hoe vlakker een functie verloopt, hoe slechter de nauw­

keurigheid wordt~van de parameters.

In veel mindere mate speelt ook het afbreekcriterium een

zekere role Omdat men dit zelf in de hand heeft is de

invloed van het te vroeg beeindigen van het programma

verwaarloosbaar klein te maken.

De nauwkeurighetd van de functiewaarden zelf wordt bepaald

door de nauwkeurigheid waarmee de entropie-functie berekend

wordt.

Oe random verstoringen geven bovendien een bijkomende

garantie cat de gevonden maxima inderdaad maxima z~Jn.

Als namelijk het optimaliseren afgebroken zou zijn in een

punt dat geen locaal maximum is dan zou dit door de

random verst~ringen opgemerkt kunnen worden.

Page 61: Eindhoven University of Technology MASTER Shannon

57

R = 0.6192359

R = 0.6192285

R = 0.6198974

R<= 0.6195023

R = 0.6169486

Deze opdelingen z~Jn hierna ~eerg8geven.

Ook hier i p met random verstoringen nagegaan of er

verbeteringen mogelijk waren. Dit bleek niet mogelijk

te zijn.

Page 62: Eindhoven University of Technology MASTER Shannon

58

I-'-'-'-'~ 'j-'-'-'-'-'-'-'-'-'- -. 001 . 001! . J~···········'····7··············· ..··················· _ _~

: -i'-'-: -._._._._-

· I·001' . 001I : I............ _ , ..

:-------------------------------------ii- ~...

r-'~ ,._._._.- r------'-" ,_._._._._._._._._._.-. .I : I I Ijool1 I 011 i 001 000 I 011

i I Ii~'_";-'_.L.i· -:----~r----l.----~____.-----l-I----------'1- r:

001

r-';I .jo 0 1 jIi.. ....l,

,.

·

,.._._._--I.II1. .

·,

••__-.l. :II :, :I .

I!061 :

IIIi

._---_._--

o 1 1

"1-

•.... ....• •.•

.' I

Page 63: Eindhoven University of Technology MASTER Shannon

59

I~.

00- .•o 1 0

001

000

IIIIIi

.~._ ..._.. _._.- _._._ .. -i :..011

...·l·-"....·a::l-·_·~-·_-..,.._· ,,--·_·,..·- '-'-'-"-1 -'-'-'-'-'-"-1- ._.- .. -' •.1'......... _._ _ v.v. •..••.•.••••. :- _ _._._.- ~

ii

"IIIIiiiiiiiiii

~..... .•

• '"" N ~ •. . .• • • 0 • "'lI.'." --",-;

In.•

w.••.~

!:I:..I:I:r: t--_·_·_·_·_--I; II: II:" Io.I: In I K2

i1 II: rJn ! r-

I&

. r········I.·_·_·················· ~ : .

I I _- ! . -J:.

<OIIl!......~-'Iu....--,.-I----,Ir----.,.I....L.---rI----r--I-_...-I--....,r----.,.---,.-- <5. .GO.•

fig.5.2 R = 0.619462

.' I

Page 64: Eindhoven University of Technology MASTER Shannon

011

"~;,,"'-"""'-'-o''"1"-.-'-'_._.~.-'-'-'r\'""'-'-'• "••.••~•.•.•.••• ."1•. .•••••_•.••••....••_•:-._._.~._._._.···000 :

~"1f:"'-"r-~~'-'-'-'-'1·I~P_.-.w.w.L._._._._.

i ii iti!Iiii

·!Ii·n ,----------

Iiiiiii

I il·i·······_·1 _._-_.__ .i ii ii ii I·.I Ii i·.

ou

·r-----------------;. .I :i j! ~I 001 :. .I i··

010

•·.. ••• ••'. l"-.•co••

1ft••

.-.•PI••

ftI••

...••

:.... -:

.'. ",

;. '.; ....:~.. .:,~~~{::~.. 4.

fig.5.3.

..... ,: ..

R = 0.61965

- .. .~- -'r..r

Page 65: Eindhoven University of Technology MASTER Shannon

61

X 1- 8.6723..63;.D .8

X 2- 8.;83e46"3"0 .e

X 3- '.2366617720 ..

X ..- •. 1........0 .1

X 5- ••8868835.;0 ..

X 6- '.i83."6..3..0 e.

X 7- '.5"273';130 e.x 8- 8.8882388230-11

X g- 1.153'825580-88

drempelwaarden behorende

bij fig.5.3

)( I- e.672866a7VD ..)( 2- ••88"nG?t3D ..)( 3- ••2342Wi860 ..)( ..- e.9SJ4S68763D ..)( 5- '.81331S8i4D ..)( s- e.u..nsn83D ..)( 7- e.5"32"22...0 ..)( 8- 8.19717&475D 88

X g- 8.1"568939510-e9

drempelwaarden behorende

bij fig.5.2

;I, I- e.783..n376D ..

x 2- '.912865311D ..

X 3- ....8..~3D ..

;( ..- t.9?3S26838D ..)( 5- '.8582213S60 ..j( s- '.8S8222teSD ..)( 7- '.'416&7733D ..j( 8- '.3482261330 ..

X ;- 1.3..821i125D ..

drempelwa2rden behorende

bij fig.5.1

Page 66: Eindhoven University of Technology MASTER Shannon

1

62

-

000

011.' 01 0

001

-=

-

K2

000

.-.:;-

o 1 0

1

o

'fig.S •• beste opdeling van K3

R = 0.61965

Page 67: Eindhoven University of Technology MASTER Shannon

H--h""'----......---r---.........--..-------.r------.----...---r-t---"T"-.---~

'.1

•••

'.8

1.'

ARJIltELE • 1

MIAJELE • 3••1

MJAKLE I""1) MJM£LE 1~.

10 MJM£LE ..1•tIl•tIl

••1~

I.- 0-~.

3 e.sCO::J(JI

0>•e.1 (,J

0-00~(JI ....::J«l \0- \

"CO::J

'.3

Page 68: Eindhoven University of Technology MASTER Shannon

...••

8.1

•••

1.'MIA8£LE • 2 8

APIA.ELE • ..'.1

MIMELE •-1)

MI_1.£ 8/-',

LD

• MJAKLE 8 1.8Ul• MJA8£LE()'\

•~

'.1lJlOJ •3 d.ro ~,

:J 3 I.Sc::.: roOJ :JI-' lJlI-' • 0>CD ~:J Q. 8.5Q. 0CD 0

1'10- lJlt1 :J ....CD CD3 Q. ,n CDCD :JI-'lJl c::.: '.3• OJ

:J

8.2

t'i

Page 69: Eindhoven University of Technology MASTER Shannon

',' f

Tt"1)

~.

lD•lfI•-..)

N

•Q.t-'.3(l)

:J(JJ

~

0.00t-j

,,"(JJ

":J ,(l)

/OJ / ,(l) , "," "~ , /

/,

, /,

",,,",,"

", - ~

,/

",,,~

"

Page 70: Eindhoven University of Technology MASTER Shannon

, J~

1.8 _

""1)~.

lO•Ul•Q)

•:0 '"UII

30 CD• c+en~ CD-..J XCJ c+

"\D ~, Q) l\l

"

00a......

\:1'~

1.' _I-__- ~' '_' ---- -------'-'-_ ...-,_._- -I •

I Ii i'.1 _ t------_._._._._._-------,. i-------1 i ' '__ O( iiii 0 i

j i 0 i 0 iiii iiii iiii I'.1 -r --L- .....--_---a------+---------l-----1

•.s _

'-----'---'-1iiIi

o 0o 0

o8.3 _

1.'I

••8

o

I

'.8

I._---_._---r-I_-----J

i 0 ii ii 0 i; i

'.1J

•.sI

1.5r....I

'.3

" ,

I••a.

; 'f;I,

1.1 _

"{ ."

Page 71: Eindhoven University of Technology MASTER Shannon

•• 3

'.8

e...

m......

ooo

oo

o

----------------1

.....-.._ ...--._.-.-.-

i!I

iI.I.I

.........................1 1

·._-_._ ....---'"-

1.1~ ~:__._._. ' '_'__~__'_'__

·:l·:r----------------------------i· .i ,! i· .: .I: i

ii". ,"t.1

1.8

I.S

1.1

1.5

""1).....lD•U1

•ID•

:::0 AtA

II3

0 CD• rt-0\IV CDIV X-..J rt-(Jl t1IV III

n0~.....::J

iD

..

I' o

. .".,hl'

1,' •

t.t 1.2 8.3 '.4 '.5 t.& '.7

o

'.8 '.1 1.'

Page 72: Eindhoven University of Technology MASTER Shannon

..;;;.

/. Ja '.68S686nSD ..

I. 2a ••"""gnD ..

Yo Ja ••223&76sn4D ..

X ..- •• 1........0 81

>: 5- '."'116&830 ..

X s- ••8181InSilSilD ..

X 7- '.541418'722D ..

X 8- ••18S8S1782D-e3

X I- '.536883417D-l'

drempels uit fig.5 .. 9

R '= 0 .. 622752

X 1- '.7t31e8138D II

X 2- e. ilnnliiD ..

X 3- • •136243816D II

X ..- •• 1........D .1

X 5- e.Sllli746771) ..

X s- e.88&5"34&1) ..

X 1- '.535eJ.tlS2D Ie)( .- '.13&243M11) ..

X I- '.13&243816D ..

. drempels wit fig.5.8

R = 0.617098

68

Page 73: Eindhoven University of Technology MASTER Shannon

R 2

I

•• SJ

••3

••7

e.6

1.' -..----:l"·�---------:----.- .....~'-:I·---...1 -',-"",-.-.-I1.1, :1

• I I . Ht:::::::J~==:===:!:=:jr_------~-t------~---~---Jr---~~i ---------1'--1! i 1----J-11

• 1:1 • I ~ • I1~---------t----1L·_--·---.--l'-·---·~ l-'1

I : t I' I• I: I" I • II I: I I, I,. ,:- ..4.-_,. I 11---..

I: I I I I• I I I" I I II I! " . I I• ,: ,. I 11 1I 1'/ I l------t--------l---- ]----

~.--._r.--._l.--.--. ,·--·-1-----t---i 1---1

I . 'II I ,I • I II I II • I II I I

·········1.···-..ir~~~11' .I .·---------r---11I,IIIIII_____. 1_._ __e

8.S

....

'.2

'.8-t).....to•U1•--'a

:::0 rrro

II w'et-

a ro•(J"I "N ~

aOJ 0-J U\0 0-

ro/-".....:J.to

e.l

e••

e••I

'.1

,I•1 II• I,

I1-~I I I I I I I I

,

e.2 '.3 e.4 e.5 '.6 '.7 e.8 ••8 I.' R 1

, I

Page 74: Eindhoven University of Technology MASTER Shannon

.a

.....o

1.' • 1'.1•••

ji

••••• ~ ••••• ~. _ ••••••••••• ....... o •• _. _.

II~I

!'.1•••'.1....'.3•.a•••

:i :.........._ , ! .

i 1i :i :ii:

iI

•••

t .•

t .•

'.1

'.3

•.1

•••

'.5

•••

....

•••

I.'

NCD

cTl-1III:JUl3.....UlUl.....CD

f:L,f1 .,'CD3

uCD.....Ul

-t).....lD•U1

•......-lo

1.' " I••••••••1•••'.5....•.a'.1

'-'-'-'j-'-'-'-'-'-'---'-'-'---I'-'-'--'---'--I--"-'-'_.-;j .'._._.__~. ._._._._._ I _._._._.~._.-!-iiiiii I

j -'-'-'-'-'-1-'-'-'-' i "-'1iii i

j iiii i ! iI I I I

jI j

--_._._.~._._._._.~I Ii ji ii ji ii i

ij

!Ii

I i_._._._._._._.~._.,

I ii ij i

• I

Page 75: Eindhoven University of Technology MASTER Shannon

II •

..........

I••8

I'.7

,•••

,'.1

,'.4

I'.3'.1

..------ii-------··.-----------,---------T-.--T---------i·--jI I I I I'I I • I I I.

________~ r -------~---------~----~----~----~---~________ I I I---------..---~ I •

III II :I I 1 II •

----------~----: I· H :I i I " •1 1 I 1 I •I 1 I I I •I ---------1--- I 11 ..1

I I I II :I 1 I I I •

I I I " •I , .------~-------------~~---~I I •

I I •I I •I I •I I •I 1 •I I I I

I I'. .j.____ 1---..1

I I'I 1

I II II II II I· .,----1

I II II I• &. -l

I II II I1 II II I

I I :~ 11----'

1 1 •It :1 I •I 1 •1 I •1 I •1 1 •I'II!~

'.1 I.' , I••• , ~.•'.1

••8

••a

'.1

'.1

I.'

•••

••7

....

•••

'.3

, '.1

If II.'••t

'. '

• I

Page 76: Eindhoven University of Technology MASTER Shannon

-- ~

R 2

e.3o.ae.le.e

i

e.9

e.8

e.7

e.l

1.' -f.------..i~l------T-- j---T-l-'-- I -i'I : • 1 1 • H

··':':':':':'=5~~·.:.·:=-.:=·:=-.:=·:=-.=~:t·:=-.=·:=-jr-- ~------t:==:.::!:=:.:JI.::=:W, I 'I 'I II.:: II 1:1 I 1, l:l 'I III IL ~---.:I I J ..j I ~·-·-·-·--r-·r_·-·-· 1 m-'1, I: I' I ",':' II I: I' I

i I r-------+-i I Il!---i, I: I' I II: I, I: I I I I:, I: I' I JI: II ,. , L-----r------T--- r-I

~·-·1·-·1·-·_·1·-·1·----t---i 1---1

I j I II' II , II • I rI I I

........ J.. ......i'i~~~1~ ..·. .JI ,I: I• I': I

·---------~---i~ I1 • I:I p:I ,I:I p:I ,I:1 f1: II • t:I !li~-=-~J

-·-·_·-·-·L-·-·ffi 1Ui I':i IJI: I -.......--.--.,..-----,r---""""T""I--TI--'I---r---T'I---""IoLI

&.:.,'-.,......-_.~

e.4 e.5 '.6 8.7 8.8 ••g 1.8 R 1

e.6

e.4

e.e

e.2

0.5

e.3

:0

II

o•enNo-,)

1.0CO

--I)....lO

•U1•~

U1•

, j

Page 77: Eindhoven University of Technology MASTER Shannon

R 2

~

p. •

, .

...

.I'

--------------~--------~--------~----~-------~--~--~-:':::'-=:_'-::'-=:'~:'-=:'~---- r-''::',::'-r::'1 -- i~=:':-~-~-1 - -·-f.1:~~~:.::.::.::.:~~l-.:.:.:.:.:.:l.':':'::~':'::::E::~ •.:.:j ! ~-----i.:.:~.:.:.:.:.:.:J-,.:..j'i.:...:.:·.J--I-H-- j--'-'------: .-. : i I lti II

. I I 'I II: II'- -'- J I, J: I

i : ~·---·-T--r·-·-·i Ur·.11, I: I' I II: I 'II 1 :-------1'---f 1 I:--1'~I, ,: I' 1 I': 1'1I , I I 1 I: I II• , I' 1 I': t· II I I I 1 I: I II, I I' 1 J': 1'1I I I L-----t--------T--- '__ i-J1

1 , IlI ! I:: ! I:&-.-.-',. -1---,-, ,-.--ti

I' I 'I1 I 1 II

-------;--~ --~--I

I I 1 I.I' 1 'II I ~ I.I' 1 'I1 I 1 I.I' I '

••••.••••••• J .•.••L-_ _.,J__I I:I 'I:I II:I 'I:

·--------- ..---~tlI I.:I II:I 'I:1 II:1 I"~_, I: 1I 'I:' ' .1 fa: 1 III ',: 1 'I1 ":--T-II

---'-·---'~·--ffi : ilI,: "II: I IIII: I 'II: I"It: I ,"t I'

11: 1 'Ia...-- --......-...,........,'r---....,I....--...,'...----.,,----.-,'r-----.lr------'" f '\

'.3 '.4 8.5 8.6 e.7 8.8 e.g 1.8

1.8

e••

8.8

8.1

e.2

8.7

0.5

0.6

....

-t)~,

lD•Ul•~

C\•::0

II

0•C\IV0-..]~

C\

\\

\

"

., f

Page 78: Eindhoven University of Technology MASTER Shannon

e.?

e.e

II II I III

I I I , I,J t -t---~

e.2 e.3 8." e.5 e.& e.1 e.8 '.51 1.' P. 1e.l

--!; ---! I! ;;! ~--,!II : I I I I I'I 'I' I I •

====t-===T=i------4--t------~===±-- I ---I, I ~ • I I I II 1 J I I. It---------t---1---·----T--t---·--l tt--'1, I: I' I II II I: I I I I

"

I ~-------~--1' I I ~---1I; I I I, I: I' I I 'I I: " I ,• I: I' I I'I I' I L------i--------,---- +---

I • II I'I ,II I I

I i IL. __.-, ._.

I II' I

-----T---~ ---1I' II II' II II' II II '

•• _••• _.1_ •••••• Jr-=, To "'1- .... -. _.I •I II ,

---------L---i1 ,I II .I I, .t II •I II •_______._l_._ __.

i

1.8

R 2

e.l

e.e

e.3

8.8

e.5

e.6

e.4

e.a

II

0\No0\~

0\

o

:0

U1•-'~

'.1

"i.I .'

Page 79: Eindhoven University of Technology MASTER Shannon

R 2

......01

P 11.'8.68.5....e.30.2e.l

___-----~------r------~---oy-------: I' I I' I I

~~------~--~'--T-------~----~-------t------L--l---~-1I : 1 'i 1 I I II iI,' I : I t1 • I I 1

----------i----i-·~·-·---·_y-·-·i.-.-.-.~~~----------~----1· JI : ',I I' II: I' I J ~I ~-----~----4----J I -I: I I 1I: I' 1 I II: I I II: I' I II 1 : L-------~ tI' I I L...,---------TL---- -

I •I I

..l.-.-.~.J.--JI 0 I II I II' I II I •-------1---1 t-1: i I II' II I II' • II I 'I: r-----.. I

...............L i., 1.. ·1: I I

.------------L----~ II II r

I~~-.....,_-___..--_r____:__..............--.__-__.__·-.............,--....I--.a."'I"I-4-~

e.7 •• 8 '.9

I.e

e... '

e.e, e.e

e.s

0.6

8.2

..8

'.7:;u

II

a•0\NaaN0\

-t).....to•Ul

•~

OJ•

I '

, I

Page 80: Eindhoven University of Technology MASTER Shannon

R 2

......m

8.3e.7e.6••5....e.3e.2e.l

---------------~----------.,.-...,.--~---.I : I' I I" I

--T--r---------~--t-------T------4-lI---n

------~--~.~---------,---~-------~ I -~·iI i-------------r--J I . I J-I: I I I I

I : I' I I I I. I I I I

I I i I I I II I' I I I ~I ~-------~ II I I .... l'---------TL---- -

I •

l ! II I II .

l ! I-·..J..-------T -+----- --1

I . II I---------4-; -1

i Ii Ii Ii Ir----- I..··........·..·..··..i.~= ..·I··1f I II : II : II : I

I~----r---,----r-------.----r-----.---_-__-..JL..,--~-~-~

e.e

1.e

e.l

e.e

••2

8.9

e.6

e.3

•• 7

•• S

....

'.8

II

o•0'\Nooo~

""1)

1-"to•Ul•~

'.1

Page 81: Eindhoven University of Technology MASTER Shannon

R 2

.....

.....

..>, 18.9

----------~--.------1H--T--~~-~------------t----1 H J------l---i lI ,; II I I:• . I: 1" - ,: I__......1- • 't= --..1".-- ·tl----..J...--.,.-..J-::i·······r··

----.-.-.---.-.-., '-'; 'I , - II ,i I 1----------t---t~ It---~1r----------i----i : i I- H : Ii I ~ I i I II : Ii I ~·-·---·-·...J·-·-t_t 11- ._LlI I I I I' I, I. , , .

• I; JI I' ~I I ~------------- '----~+-----~-l===~r---J-t·--·t·-+-

, 'I I: I, I :I . I: IJ ~- -- --r--:I ' ,: II I ,:: i :. II . J II I J, . I II I I, ' ,.1·········J.·_·· ..r· .. J···; ..... "-r"

, I II . II I I

·--------~---i ---~I .I II .I I, 'I ,

I i I_______1.__:f--- ~

. II III I

----......---TI--~---...-I--......1 -----.'....----....,I--·.,.I--f! te.2 0.3 8.4 e.s 8.6 8.7 8.8e.e

1.8

e.9

e.8

e.7

e.l

e.6

e.e

e.2

e.3

e.s

e.4

-t)

1-'­lD· .Ul

•No:;0

II

a

I .

. ,

Page 82: Eindhoven University of Technology MASTER Shannon

8.1

===1.....====~=~==~~~~~!==~=;~~------------~----17----t-- t~: I' I ~: I I I d1-------..+---r---·-----·-·-r---·i'-·--t-------- - I

I : I' I I I ,: I I I I

I ~-----------l-----i-----t-- I tiI : I' I I I I

: I I I t

I : I' I I I I: I I I I

I : I' I I I I: I I I I

I : l i I .). 1.1I , I: I.---------{-- -~---·-:--faI I I: 'II , I: II 1 I: III . I:'

-----,_.~._.~._.~.~

I I' 1'1I I :I I' I. II I :

'-------~t---i---~-~iI' II II' II II' II II' II II i II' I,····..·"..···..···'·..·1·"_"'Jj' ~

------ - ~

I IDI IftI I :J

: !1 ..r r '1 I if- .~

8.2 e.3 8.~ e.5 8.6 e.7 8.8 8.8 1.8 P 1e.8

1.8

e.;

P 2

e.l

e.1

8.8

1.2

1.7

1.6

e.3

e...

1.5

::tl

II

o•m~

\D~

oCD

-1).....1.0

•U1

•N~

, I

Page 83: Eindhoven University of Technology MASTER Shannon

R I1.'8.6e.5....8.38.2e.1

=J=------..-----r----.---,------w-~ i-,-~-----------~----~---------~---~---li~-------~-~---~t_~t

-- i -L,---+.·--····--···· ..·..ri.. · ·t t···------:'--t---l,.-i "l~'----4-·-·-·-·+·-·~~---------t---~---~-- 1~-1iIi I illI I· I' I, I II I~--------t---f·_·_·_·-·~·_·~·-·l·- I~:JI I ... J J I • LL· I: I .---;-- I f I II I: I I I , I• I: I' I I'llI I: I I I • I· I: I' I I ' I II I: I I I t I, I: I' I JIIJI I' I I I • i I 1-

I • I' I-------+--+---~~-~I • I' I

I I I: II . I· I

·_·_·_·~·-t-·-.~iI • I: I II I I: II • I: I I

--------r-i---~~-r1I' I: I II I I: II' I: III I I: II . ,: I II I I: II' I: I II I I: I

............... L..,L····J:··t··~i"1I . I I I II . I I I

----------r---ti-~~,: ! I : Il ! II : II I I

· ·_·_·..J·_·_1; : JI I IIJ I IIIrt1

L-_~_--;.---_--.-_---,__--.-_---, -.I__...,I__..,I_JoL-Ll....L.....i:~~

'.1 1.8 1.1t.e

R 2

e.e

e...

e.1

e.5

e.6

e.2

1.'

8.8

'.9

o•(J)~

UJUlUlCJJ

-t).....lD•Ul

•NN

;0

II

, I

Page 84: Eindhoven University of Technology MASTER Shannon

R 2

Q)

o

P 11.8I

8.8•• 7e.6e.se...e.31.2e.l

------------ j..==-..=:-..=:--==-..==-..==-..==-..:r--=:-1J--i =--=:-f=--====-===.=.i:IJ-----11

•••••••••••••••••••• - .•••[~~~~~~~T~~~~~t~. r=1= i T ••• , r:~--------------l------~-----l--J ~---~--------r-1!-11 U,:.--_._._._._-_.+._._.-t-._._.t-., I I -~_._--t-~ --H I

t ' I I 'I I • I: I'_______________~_-_-__~_-_-_-~--~ I I -----~-~-+~ ,I • I I • I I • I: I'I I I I I I I I I: ,I ' I I • I I • I: I'I I I I I I I I I: II • I I • I I . I: I'I I I I I I I 'I I • , I

----------t-t--t-~~I I 'II I I'_._._._._• ...L. ._.L.....t1

------T-.--T~ ,~I ' I: • :

------L-+-.l-i I! I: I : ---r-1'I 'I .I I I II 'J •I I I I_·_·_·-t--t--r iI 'I •I I t II 'I •I I I: II ' I' .

------t--+--+~ I: I;'_ L.....j1; I! I~ Ir I1 I=r J.j-"""""":>~

8.ge.e

I.e

e.8

e.;

8.7

8.6

e.e

e.5

e...

. e.3

II

UJN+>­oCD

o

::0

N(.,.l

""I).....lD

•Ul

I '

.,

Page 85: Eindhoven University of Technology MASTER Shannon

, I

~.....10•tfI

•N+>-::0

II

o•en.....UJNUtfIUJ

R 2

1.8

8.51

e.8

0.7

e.6

e.s

0...

e.3

8.2

e.l

e.ee.e 0.2 e.3 e... e.s

Ie.7 P. 1

(X).....

Page 86: Eindhoven University of Technology MASTER Shannon

R 2

e.l

--------- --"!---- -- - - F=~===t==----=-.,-=-=:.=-r-~--~::

~r--------------t----t-----r--: I' I___ _~--.---.---.--_J---.J.-.--~-. _• I,' I: I I

I : I' I I II______________.1 -"_1----..,...-- . If

I I j I I III I i I I I:I Ii: I III I ill III I' I I II I I , .:

, I II, I I I.---------.,-------,--nI I ,"I I' I"I I I

.-.-.---.-J---i--J.JlI I' I III I ,

, " I I'I I II .f' --.J_-lI.----------+--.. I III I III I ,

I I I'I I II I III I I

I I I'I I ,

I I "I I I

I , ", I I..............-.....:_..-.-1~~~I IlI I:I t

'--,,----r-'---rl·--"""TI---.'r-----T"I--I 4-..-.>0.3 e.4 e.5 e.6 e.7 8.8 8.9 1.' P I8.e

I.e

e.•

e.8

e.l

e.6

e.5

e...

8.7

1.0NNCDUl

o•(J\-"

-t)

1-"lD•Ul•NUl

;:0

\I

• I

Page 87: Eindhoven University of Technology MASTER Shannon

R2

P. I

-~

1.'0.2e.l

----------------------J[------------J[I------------~-~-J-.

-=:.-=:.-=:.-=:.-=:.-=:.-=:.-==t-=:.-=:.-=:.~-·~·~·==.·==.·-t=-·==.·tT-=:..==-.~.==.- - -' 1 i:'t-:-1...........~~~~ - -.I :~ , 1 I -l.,..~~:.jl .. ,-===...-r=:--=:--=~=--=:-+:--=:- , I :========z.=~-tt: I

I I :------------- ""1--- 11;- --1, ,:-.._._._._.,._. +- II:' -ll----------...---.: I I I ~ II, ,: I' I II: I', I :- • .J I 1:-iJ

I, I: ',' I I,: III' I I I: I, I I • I II: ,., I I 'I I: ,I, I I 'I 1/: "I I I 'I I: II

i ~ l i I ----------1~~~-J'·-1_._._._.,. '-T--:' / -'

/ I I : II/ . I : I'

--------~--~: i-HI I I : III 'I I'I I I III 'I I'I I I III 'I I', I I ,III 'I 'I'

. •..••••...••.•. 1. •.•. .L. J_ ••,.~-H--J/ II: II 1I ,I, I' I

~ 'I: II I----------T--- .. f: I' II 'I:'"/ j'i-H I

/ , I: I1 II: II ,I; II II: II ,I: II II: II ./; I_·_·_·_·_.L..·_·W I

I,: I,: 1

II: II: 1

II: II: I

11: IL...----,,..----,-·----.----r--...,------r---r----r---T-·I· 1I I I I J I r .

e.3 e.4 8.5 8.6 e.7 8.8 ••ge.e

'.liJ

'.1

e...

1.'

8.7

8.3

0.5

8.a

•••

'.8

'.61\

o•

•c.n•N0\

::0

4).....to

. I

Page 88: Eindhoven University of Technology MASTER Shannon

R 11.''.18.88.78.68.58.48.38.28.1

----------------~-----±---------L-:.:t:---L---------L-.:t:--ii-+L______. .__-.J._._. _._. ._1.-. l __. ._.L... __ .J..1.----------------t------r---------t---... I --------t---... I :-t': I------- I. • J., J---- ------J..-r==rr.ll..~------~.-._._._.+._.-r---------~--+----~ I -+~

iIi I i I Ii:• I 1-'-'-'-'-'-1.-·-,-,-,-.- L 1....L L .; " .J I I

"

. I: I ~ L.. I I !j..LI ~ ~_--~ I I_ul, I: I' I I 1 I' II I: I I I I II I, I: I' I I I I' II ,: I I I I II I, I: I' I I I I' II I: I I I I II I, I: I' I I I I' II I' I I I . I ,I I

---------~-+--~-i-+ ..I I II I'I , I I ,II I I I II

'---'-'-(~'+'--H, tI I , : IIII ' ,:,' II ~--T-:.h·-------r--... , :-r. I1 I 1 : tI ,I ' I : 1'11 I I: ,I.1 • I : t' I1 I I : II II • I : " II I I : "II ' I ; 1'1

----"""" -_.•.. . ,..t. ... -'-l'-tt+I , to I

l '~ d I, I' I----------L---t II II 'I' ~I I -tr I

I iii:I '1'1

I Wi" II iii:I '1'1._._._._._L___ I til

I I I,' 1I I 1

I I ',' II I I

I I II' II I II I' I

8.'

R 2

1.8

8.8

8.8

8.1

e...

8.8

e.5

8.2

8.6

8.7

8.3

o(J)~

\DUloN

N-J

:0

II

Ul

"""1)....\D•

. I

Page 89: Eindhoven University of Technology MASTER Shannon

85

'I-

lC I".

X 14-

)C as-)( II-

)( u-

)( I-...x .,.tc

X I-

~\"··I. .....7......(':":<2···· ••~ ..~~~::<3.:'> D ..

': x ';f~' 3I5D ..

X , • ., •••37 ..

••114,....70 ..

'.5'77U&474O ..

..13II&'41&5D ..

•• 14T71118ID ..

.......3lUD ..

••ntll53&SD ..

•• i'72'7S4443D ..

••Hl73IMSD ..

'.6111P2fiD ..

••1IIItI&26D ..

'.Hl73IenD ..

•••+4iSl318D ..

••114.f4,D ..

•• "'SlIUZSHD ..

••4.....19111 It

'.5251831'''D ..

'.23I&S~6T) ..

'.23~5J) ..

•• 111SItW7D ..

'.32&'71457t1l ..

••1..H12<t2D-t1

••13t'?1H'43D-1.

..~, ..••9342'J1181" ..

. ••777R'7I'tS1D"

1.tt'74714Z3D ..

1.83I212&32D ..

1.11A421,4D ..

••HN833UD ..

'.l52t13I22D ..

,.141'733S31D ..

,.,..I..ID ..

'.H'?4'l423D ..

'.H7471423D ..

'.134161111 ..

'.681114331D ..

1.7eI4SM78D ..

'.134216818D "

'.845312S31D ..

•• ll&2..21....D "

• •4i8U",331D II

1.382'o4fS53D I'..sa48811t3D ..

'.1574"'124D ..

•• ISZM3122D ..

'.256.""0'­'.3IH&41S21:l II

1.112&2<Mi.511-e1

'.3UHll36I:l-I'

/. 1·

;I. 2·

X 3·

;I. 4­

X ,­

X I·I( 7·

I( ••

X I·

Xl'·X U·

X 12·

X 13·

X 14·

X 15.

X 16­

X 17-

l( -l'.X II·X ee.X 21·

l( 22·

X 13·

)( a..•Ie as­I( H­

X 11·

drempels uit fig.S.10

R = 0.5208791

c..drempels wit fig. 5.15

R = 0.6207982

Page 90: Eindhoven University of Technology MASTER Shannon

<w., cr.,

;' a·Yo 3-·

Yo ...

X 15­:I. 6­

l( 7­

X 8­

x ~­

y. 1'­X u­Yo lC!­

:I. 13­

y. 1"­X 15­

:< 16­

X 17­

X 18­

y. 19­

X C!a­:< 21­

l( 22­

)I; 21­

)( 2..­

)( 25­

)I; 26­

~ 27-

'.688318287D ..

'.~I;7"57D ..

....86618114D ..

'.~H61""7D ..

8.836868357D ..

... g15a1378D ..

8.5781398230 ..

•• a"26853730 ..

8.1"68945650 ..

'.99D4C!6-4670 ..

8.99861....70 "

8.5172"'2870 ..

8.92g191..57D ..

8.688318287D e.

8.79282621gD ..

e .92...9827SD ee

e.8..92288....D ..

e.9158813"'D ee'.688318287D ee....866183150 ..

8.S2728~3D ..

'.242&t5373D ..

1.2<426e5373D ••

1.118687SS4D ..

'.3)M"~lD ..

•• 129485558D ..

'.2123S228eD-l1

86

"/ 1­

~ 2­

X ]li .

X ...

X 5.

)( 6­

)( 7­

X 8­

X 9-

:< 1'­X 11-

)( 12-

X 13-

X 14­

)( IS-

)( 1'-X 17·

X 18·

X 19­

)( 2e·

l( 21­

l( 22­

)( 23­

l( a..•)( 25·

Yo 26­

X 27-

e.6835Ql86D ee

•• D2S92..7....0 ..

1.3733151680 ..

l.gga711846D ..

..83H..92..9D ee••ge7Ve57810 ..

'.559287822D ..

'.1-42335111D ..

•• 1..26311 ....D ..

e.~l1"lD ..

'.5151865511820 ee

e.51g86g2..28D ..

•• 925822g2.D ..

e.&83678123D 8.

e.765C!&3937D ..

e.g25913.11D ..

e.83....5..'.2D ee•• g878S9261D ..

e.&83..68222D ..

8.377173355D ..

8.51236..131D ..

8.14.7768..0 ..

l.l"2331618D ee'.lSlMS89UD-84

'.38"286'46D ..

I. 152262286D-83

'.122331~D-es

,\.

drempels uit fig.5.16 drempels uit fig.5~'7

Page 91: Eindhoven University of Technology MASTER Shannon

.~

87

X 1= O. 6705838240 00 X 1'"' O. 669Tt:',J17'71.l 00

X 2.: 0.9661553330 00 X 2=- o. 966:10:",4350 00

X 3= O. 2645200740 00 X 3:0=; 0.2392363190 00

X 4= O. 999974983D 00 X 4= O. 1000000000 01

X 5= 0.8606435740 00 X 5=- 0 861266554D 00

X 6= O. 8785133700 00 X 6'0 O. 87B38~,0500 00

X 7= O. 5304840670 00 X 7"" O. 5300090940 00

X 8= O. 584362424D-Ol X 8= 0.3639428260-09

X 9= O. 1860982700 00 X 9"" O. 1823748260 00

X 10"" 0.1000002170 01 X 10"" O. 1000000000 01

X 11"" O. 9999745020 00 X 11 :: O. 1000000000 01

X 12= 0.9999744750 00 X 12= O. 9663054350 00----,

X 13= 0.9659533470 00 X 13= O. 9660695860 00

X 14= 0.6962851650 00 X 14= 0.6965528060 00

X 15= O. 7949067240 00 X 15= O. 82819;;0390 00

X 16= O. 9661466710 00 X 16= O. 9663054350 00 jX 17"" 0.8785218730 00 X 17"" O. 8783860500 00

X 18"". 0.8785110450 00 X 18= 0.8783860500 00

X 19= O. 6705575700 00 X 19= O. 6697466520 00

X 20= 0.3120559820 00 X 20= O. 3096978230 00'.

------..X 21= 0.4471835980 00 X 21= O. 4734310100 00 ------X 22= O. 5843656470-01 X 22= O. 7484266890-02

X 23= O. 5844732300-01 X 23= 0.3638864330-09

X 24= O. 1613245100-05 X 24"" 0.3638864330-09

X 25"" O. 1860977230 00 X 25= o. 18;;'3748270 00_.X 26"" O. 1207221830-04 X 26= 0.2183568230-0'i

X 27"" O. 1074416070-05 X 27= 0.3288267410-0'"

drempels uit fig.5.18 drempels uit fig.5.19

Page 92: Eindhoven University of Technology MASTER Shannon

88

X 1~ 0.6905789410 00 X I."'" O. 6738::>03'/60 00

X 2= O. 913~3001BO 00 X ~=- O. ?8258~034D 00

X 3 .. O. 423722273n 00 X 3= O. 23:J6856961) 00

X 4= O. 9995220950 00 X 4~ O.99999841.1D 00

X 5= O. 7759167930 00 X 5>= 0 88666531.1D 00

X 6= O. 9009997100 00 X 6= o. 8910358830 00

X 7= 0.6648389280 00 X 7= O. 5438284740 00

X 8>= O. 119518072D 00 X 8= 0.2473192170-01

X 9= 0.150693117D 00 X 9"'- O. 1679181550 00

X 10= O. 999522219D 00 X 10== O. 999'i993300 00

X 11= 0.9736898500 00 X 11= O. 9948362990 00

)( 12= O. 9995220950 00 X 12= O. 9999984110 00

X 13= 0.8718926090 00 X 13= O. 9541461850 00

X 14>= O. 7612570600 00 X 14= O. 8235460480 00

)( 15= 0, 6905789410 00 X 15= 0.8185938620 00

X 16= O. 9132300180 00 X 16= O. 982582034D 00

X 17= 0.8358444520 00 X 17"- 0.8910358830 00

X 18= 0.9009997100 00 X 18= 0.891035883D 00

X 19= 0.6816820120 00 X 19= 0.6352839270,00

X 20= O. 5964594460 00 )( 20= 0.4533380510 00

X 21= 0.6648389280 00 )(..... -.- ---~-- .. , --

21= 0.4494420580 00

X 22= - 0.3373618620 00 X 22= 0.1752194010 00

)( 23= 0.1195180710 00 X 23= 0.24731139830-01

X 24= O. 1668412850-09 X 24= 0.4180754500-11

X 25= 0.3420347000 00 X 25= O. 1679181. 550 00

X 26= O~ 3472904500-09 X 26= O. 4893751890-09

X 27= O. 1402563360-09 X 27~ O. 2706261400-09

drempels uit figS.20 drempels uit fig.S. 21

Page 93: Eindhoven University of Technology MASTER Shannon

89

X 1.. O. 6905053850 00X 1'" 0.6925268170 00

X 2= 0.8915189480 00X 2= O. 9501078080 00

X 3= O. 3614227690 00X 3= O. 5351540970 00

X 4= O. 9998080650 00X 4 .. 0.9875710280 00

X 5= 0.8624989730 00X 5= 0.8915187570 00

X 6= 0.9283244170 00X 6= 0.831917739D 00

X 7= O. 5959385540 00X 7= O. 5876543890 00

X 8= O. 5047768290-01X 8= 0.2183011660 00

X 9.. O. 1402043350 00X 9= 0.3764928720 00

X 10= O. 1000000000 01X 10=- O. 1000000000 01

X 11= O. 9849827280 00X 11=- O. 9503482920 00

X 12= 0.9765160050 00X 12= O. 9875710280 00

X 13=- 0.9240216720 00X 13= 0.8915189480 00

X 14= 0.8123933960 00X 14= O. 8548878040 00

X 15= 0.8201924030 00X 15= O. 8915187560 00

X 16= 0.9501078080 00X 16= O. 8738478150 00

X 17= 0.8555571940 00X 17= O. 7899882210 00

X 18... 0.9283244170 00X 18= O. 7899898470 00

X 19= 0.663759469D 00X 19=- 0.6499243850 00

X 20= O. 5267273870 00X 20= 0.5351540990 00

X 21= 0.5327781730 00X 21= 0.5351540970 00

X 22= O. 2696693740 00X 22= 0.4712381850 00

X 23= 0.4080471110-09X 23=- O. 4339467651>-09

X 24= O. 5047768280-01X 24= O. 367776~300-08

X 25= O. 2920315710 00X 25= 0.4881125230 00

X 26= 0.3459106780-09X 26= O. 2648660900 00

X 27= 0.4000000000-12X 27= O. 264865765D 00

uit fig.5.22 drempels uit fig.5.23drempels

Page 94: Eindhoven University of Technology MASTER Shannon

90

Page 95: Eindhoven University of Technology MASTER Shannon

'..

91

"

X 1-= O. 6905393600 00 X 1= O. 693115;></70 00

X 2= 0.9378141710 00 X 2"" 0.9469842710 00

X 3= 0.3878659390 00 X 3= O. 375~/830600 00

X 4= O. 9673113170 00 X 4'" O. 977208~200 00

X 5= 0.8771320310 00 X 5= O. 87652b2240 00

X 6= 0.9224772260 00 X 6= O. 9274724720 00

X 7"" 0.6130194480 00 X 7'" O. 5999308510 00

X 8 .. 0.3878659370 00 X 8= 0.3759827020 00

X 9= 0.1421142780 00 X 9,.- O. 1426877670 00

X 10= O. 1000000000 01 X 10.. O. 9921065570 00

X 11= 0.9673113170 00 X 11= 0.9469842790 00

X 12= 0.9585651370 00 X 12= 0.9682464620 00

X 13- 0.898077631D 00 X 13= 0.9290479380 00

X 14= 0.8771320310 00 X 14= 0.8366292080 00

X 15= 0.8218088500 00 X 15= 0.8221463380 00

X 16= 0.9319062540 00 X 16= 0.9469842710 00

X 17= 0.8546960990 00 X 17= 0.8550053270 00

X 18= 0.922477226D 00 X 18= O. 927472472D 00

X 19- 0.6460483690 00 X 19= 0.6685483550 00

X 20= 0.6130194480 00 X 20= O. 5452842130 00

' ..........., X 21= O. 5462636070 00" X 21= O. 5335319870 00

X 22= 0.3878659380 00 X 22= 0.3759830600 00

X 23= O. 5737724080-08 X 23= 0.2796439990 00

X 24= 0.2728711860 00 X 24= 0.2645142400 00

X 25= 0.3158871840 00 X 25= 0.3037720310 00

X 26= O. 127279999D 00 X 26= O. 1442450360-09

X 27'" 0.6391825860-11 X 21'= O. 4000000000-12

drempels uit fig. 5.26 drempe-ls uit fig.5.27

Page 96: Eindhoven University of Technology MASTER Shannon

92

.I 1

01 1 1I

I 0000 I 0100I

I I0001.. i"'- - - - - - - ... -.

I

_. - --Jr ----- I

II

0101 I 01 10I 0010 0000 1

I ---_ .. _---.,I

I, I,

I I l

rnl nm-- ~1-n-r - - J I,I - -- ---

l • I rO-O~~- I 0000 I, 001 1 00 t 1I I II I •~---_.

I

I I1I1

~----L\_- ------ .-I

II

III I

I II I

t--- K3

1-- --

1

fig.5.28 beste opdeling voo.r K4

R = 0.6208791

1

o

Page 97: Eindhoven University of Technology MASTER Shannon

SLOTBESCHOUWING.

Dit verslag geeft een overzicht van verschillende

methoden welke gebruikt kunnen worden am het

capaciteitsgebied van het and-channel nader te bepalen.

De methode van de Shannon-strategieen is hierbij de

minst geschikte voor numerieke berekeningen.

De methode van het and-chgnnel als beslissingsprobleem

of het opdelen van een vierkant, levert resultaten op

welke buiten het inner-bound gebied liggen.

Vanwege de vele maxima die optreden wordt oak deze

methode voor hog ere orden van het afgeleide kanaal

minder gsschikt. Het ziet er niet naar uit dat er op deze

manier rate-pairs gevonden kunnen worden die de rate van

het Schalkwijk coding-schema benaderen.

WeI kunnen de verkregen opdelingen van het vierkant

nader geanalyseerd worden.

Het blijft echter de vraag of de inzichten die hier-mee

verkregen worden representatief zijn voor hog ere orden

van het afgeleide kanaal.

Een andere mogelijkheid is am coding-schema's te zoeken

in de vorm van Markov-chains. Dit is zeker geen eenvoudige

opgave. In het coding-schema van hoofdstuk 4 kunnen

echter nag weI een paar extra vrijheidsgraden worden

,verwerkt, door minder aannamen te doen.

Page 98: Eindhoven University of Technology MASTER Shannon

REFERENCES

[1] C~E. Shannon, "TwoTway communication channels",

Proc. 4th Berkeley Symp. Math. Statist. and Prob,

vol. 1, pp. 611-644, 1961.

~1 J.P.M. Schalkwijk, "The Binary Multiplying Channel­

A Coding Schema that Operates Beyond Shannon's

Innerbound Region", IEEE TraQs. Inform. Theory,

vol. IT-2B, pp 107-110, jan 1982.

~] J.P.M. Schalkwijk, "On a Nontrivial Extension of an

Achievable Rate Region for the Binary Multiplying

Channel", to be pUblished in IEEE Trans. Inform.

Theory.

~] G. Dueck,"The Capacity Region of the Two-way Channel

can Exceed the Inner Bound", Inform. Contr., vol 40

pp. 258-266, Ma~ 1979.

~] Do Slepian and J.K.Wolf," ~oiseless Coding of

Correlated Information Sources", IEEE Trans. Inform.

Theory, vol. I~-19, ·pp.471-480, July 1973.

~] R.E. Blahut," Computation of Channel Capacity and

Rate-Distortion Functions", IEEE Trans. Inform.

Theory, vol. IT-18, pp.460-473, July 1972.

~].M. Horstein," Sequential Transmission using Noiseless

Feedback", IEEE Trans. Inform. Theory, vol. IT-9,

pp.136-143, July 1963.

~J J.P.M. Schalkwijk," A Class of Simple and Opti~al

Strategies for Block Coding on the Binary Symmetric

Channel with Noiseless Feedback", IEEE Trans. Inform.

Theory, vol. IT-17,pp.283-287, May 1971.

Page 99: Eindhoven University of Technology MASTER Shannon

DANKWOORD

Het is hier op z1Jn plaats am een dankwoord te richten

aan aIle leden van de vakgroep informatie-theorie.

Dit vanwege de collegiale omgang en het feit dat men

op elk moment be reid is am tijd ter beschikking te stellen

voor het bespreken van allerlei zaken.