kuliah3info

7/31/2019 kuliah3info

1/19


2/19

Source Coding

Indrabayu, ST, MT

Ack: L. Note Modificated Ir. Titiek Suryani, MT (ITS)

Kuliah ke -3


3/19

PENGKODEAN SUMBER

Tiap pesan terdiri dari N simbol

1 2 ... N m1

1 2 ... N m2

1 2 ... N mq

1 2 ... n1 c1

1 2 ... n2 c2

1 2 ... nq cq

......

p1

p2

pq

Pesan Peluang pesancodeword

ENKODERSUMBER

q kemungkinanpesan c i

,Codeword


4/19

PENGKODEAN SUMBER

Konversi output Discrete Memoryless Source (DMS) kederetan simbol biner disebut Pengkodean Sumber. DanPeralatan yang mengerjakannya disebut PengkodeSumber.

Tujuan Pengkodean Sumber :

Memperkecil laju bit rata-rata yang dibutuhkan untuk merepresentasikan sumber dengan cara mengurangiredundansi sumber informasi.

Sehingga penggunaan kanal dapat diefisienkan.


5/19

PENGKODEAN SUMBER

Untuk itu informasi yang harus terukur (dalam konsep matematik) adalahprobabilitas keluaran dan hrs memenuhisyarat: Informasi hrs proporsional thd keluaran yg

tdk pasti

Utk ini 3 parameter yg digunakan adalah: Kandungan informasi (I) dlm suatu simbol (x i)

dinyatakan dengan I(x i) Rata-rata informasi (entropy) H(X) Laju informasi (R)


6/19

Kandungan Informasi

Kandungan Informasi

P(x i) adalah probabilitas kejadian simbol x i I(xi) = 0 utk P(x i) = 1 b=2 biner, b=10 desimal, b=e bil natural

)(log)(

1log)( ib

ibi xP xP

x I


7/19

Kandungan Informasi rata2(Entropy)

Entropy

Jika dibangkitkan simbol 0 dan 1 dgn equal

probability

m

iiii x I xP x I E X H

1

)()()()(m

iii xP xP

12 bit/symbol)(log)(

bit/simb121log

21

21log

21)( 22 X H


8/19

Kuis

Suatu DMS X mempunyai 4 simbol x 1, x2, x3,x4 dgn probabilitas P(x 1)=0.4, P(x 2)=0.3,P(x 3)=0.2, P(x 4)=0.1. Berapa H(x)

4

12 )(log)()(

iii xP xP X H

= -0.4 log 20.4 - 0.3 log 2 0.3 - 0.2 log 2 0.2 - 0.1 log 2 0.1

= 1.85 b/simb


9/19

Laju Informasi

Laju informasi dinyatakan dengan R = r H(x) b/s Dimana:

r adalah banyaknya simbol yang dihasilkan oleh sumber per second (simb/s)

Jika dilanjutkan kuis sebelumnya dgntambahan informasi bahwa laju simbol per detik adalah 4 simb/s, maka berapakah lajuinformasi? Dik. H(x) = 1.85 b/simb

r = 4 simb/sR = 1.85 x 4 = 7.4 b/s


10/19

Kuis

Suatu tv hitam putih mempunyai resolusi2x10 6 elemen pada satu frame. Diketahui juga skala grayscale adalah 16 brightnesslevel yg berbeda. Gambar video yg dihasilkan

adalah 32 frame dalam 1 dtk. Diasumsikanlevel brightness yg dihasilkan equal likelihooddan independent. Hit. laju informasi darisumber frame pada TV.


11/19

Jawab

r = 2x10 6 x 32 = 64x10 6 elemen/ssehingga:

R = r H(X) = 64x106

x 4 = 256 Mb/s

16

12 b/element416

1log16

1)(

i X H


12/19

Jawab

r = 2x10 6 x 32 = 64x10 6 elemen/ssehingga:

R = r H(X) = 64x106

x 4 = 256 Mb/s

16

12 b/element416

1log16

1)(

i X H


13/19

Panjang Kode Rata-rata (L)

Misal X adalah DMS dengan entropy H(X)dan terdiri dari alphabet {x 1, x 2 , , x m }masing-masing dengan peluang munculP( x i )(i= 1, 2, .., m ). Misal codeword untuk

mengkodekan simbol x i mempunyaipanjang n i (satuan = bit). Panjangcodeword rata-rata per simbol sumber, L,adl:

m

i iin xP L

1


14/19

s ens an re un ancykode

Efisiensi Kode, didefinisikan sebagai:

Redundansi Kode didefinisikansebagai :

L X H

L Lmin Efisien bila = 1

1


15/19


Contoh:

Cari dan

01

Code

0.90.1

x1x2

P(x i)xi

2

1

bit11).1.0(1).9.0()(i

ii n xP L

b/simb496.01.0log1.09.0log9.0

)(log)()(

22

2

12

iii xP xP X H


16/19


Contoh:

Cari dan

01

Code

0.90.1

x1x2

P(x i)xi

%9.46469.0)(

L X H

%1.53531.01


17/19


Kuis

Cari dan

010

110

111

Code0.810.090.09

0.01

x1x2x3

x4

P(x i)xi

2

1

bit13).01.0(3).09.0(2).09.0(1).81.0()(i

ii n xP L

b/simb938.0

01.0log01.009.0log09.009.0log09.081.0log81.0

)(log)()(

2222

2

12

iii xP xP X H


18/19


Kuis

Cari dan

010

110

111

Code0.810.090.09

0.01

x1x2x3

x4

P(x i)xi

%7.72727.0)(

L X H

%3.27273.01


19/19


Kuis

Cari efisiensi dan redundancy semua kode

0

100110111

Code(D)

0

11100110

Code(C)

0

1011110

Code(B)

00

011011

Code(A)

0.45

0.350.20.1

x1

x2x3x4

P(x i)xi

kuliah3info

Documents

Transcript of kuliah3info