Teorema 6.3.2

Jika S adalah basis ortonormal untuk ruang hasil kali dalam V berdimensi n dan ),....,,()( 21 nS uuuu

,

),....,,()( 21 nS vvvv

vektor-vektor di V maka berlaku:

1. 22

3

2

2

2

1 ....... nuuuuu

2. 22

22

2

11 )(.......)()(),( nn vuvuvuvud

3. nnvuvuvuvu ........, 2211

Contoh: Menghitung Norm dengan menggunakan basis ortonormal

1. Jika u

= (1, 1, 1) maka dengan menggunakan hasil kali dalam Euclid di 3 didapat

3111 =++=•=2222

1

uuu

Jika S adalah basis ortonormal, maka didapat koordinat )5

7,

5

1,1()( Su

(dari contoh diatas).

Dengan menggunakan teorema diatas juga diperoleh 325

75)()

5

1(-1 ==

5

7++=

222u

2. Misal },,{ 321 vvvS

dengan )6

1,

6

1,

6

1(=1v

, )

6

1-,

6

1,

6

1(=2v

, )0,

6

1-,

6

2(=3v

.

Buktikan:

S adalah basis ortonormal untuk 3 dengan hasil kali dalam yang didefinisikan sebagai

332211 ++= vuvuvuvu 32,

Jika u

= (1, -1, 2), hitung norm u

secara langsung dan menggunakan vektor koordinat Su)(

Jika },......,,{ 21 nvvvS

adalah basis ortogonal untuk ruang vektor V dan setiap vektor iv

dinormalisasi, maka diperoleh basis ortonormal =2

2

1

1

n

n

v

v

v

v

v

vS

,........,,' .

Berdasarkan teorema 6.3.1, untuk sembarang Vu∈

dapat ditulis sebagai

n

n

n

n

v

v

v

vu

v

v

v

vu

v

v

v

vuu

,.......,, +++=2

2

2

2

1

1

1

1 atau

n

n

nv

v

vuv

v

vuv

v

vuu

222

2

2

12

1

1+++=

,.......

,,. Ini menyatakan u

sebagai kombinasi linier dari vektor-

vektor basis ortogonal },......,,{ 21 nvvvS

Teorema 6.3.3

Jika },......,,{ 21 nvvvS

adalah himpunan ortogonal di ruang hasil kali dalam V dengan ivi ∀,0≠

,

maka S bebas linie

Contoh:

Untuk 1v

= (0, 1, 0), )2

1,0,

2

1(=2v

dan )

2

1-,0,

2

1(=3v

, maka },,{ 321 vvvS

adalah

himpunan ortonormal terhadap hasil kali dalam Euclid di 3.

Menurut teorema 6.3.3, S bebas linier, 3 ruang vektor berdimensi 3, maka S merupakan basis dan

merupakan basis ortonormal

Teorema 6.3.4: Teorema Proyeksi

Jika W adalah sub-ruang berdimensi hingga dari ruang hasil kali dalam V, maka setiap vektor Vu∈

dapat dinyatakan ”tepat satu cara” sebagai 21 += wwu

dimana Ww ∈1

dan ⊥

2 Ww ∈

1w

disebut proyeksi ortogonal u

pada W, uw W

proj=1 dan 2w

disebut komponen u

yang ortogonal

ke W, uwW

⊥=2 proj

Sehingga dapat ditulis u

= uW

proj + u

W

⊥proj

uW

⊥proj = u

- uW

proj maka didapat u

= uW

proj + (u

- uW

proj ) yang di 3 dapat digambar seperti

gambar di bawah ini.

uu W

proj-

uW

proj

u

W

Teorema 6.3.5

Misal W adalah sub-ruang berdimensi hingga dari ruang hasil kali dalam V

1. Jika { }rvvv

,......,, 21 adalah basis ortonormal untuk W dan Vu∈

, maka uW

proj =

rr vvuvvuvvu

,......,, +++ 2211

2. Jika { }rvvv

,......,, 21 adalah basis ortogonal untuk W dan Vu∈

, maka uW

proj =

r

r

rv

v

vuv

v

vuv

v

vu

222

2

2

12

1

1+++

,.......

,,

Contoh: Perhitungan proyeksi

3 dengan hasil kali dalam Euclid, W adalah sub-ruang yang direntang oleh vektor-vektor ortonormal

1v

= (0, 1, 0) dan )5

3,0,

5

4-(=2v

. Jika u

= (1, 1, 1) maka uW

proj =

)25

3-,1,

25

4()

5

3,0,

5

4-)(

5

1-()0,1,0)(1(,, =+=+ 2211 vvuvvu

uW

⊥proj = = u

- uW

proj = (1, 1, 1) - )

25

3-,1,

25

4( = )

25

28 0, ,

25

21(

Jika diperiksa maka uW

⊥proj akan ortogonal dengan 21 vv

dan

Teorema 6.3.6

Setiap ruang hasil kali dalam V berdimensi hingga selalu mempunyai basis ortonormal

Bukti: Karena V berdimensi hingga n maka ada basis { }nuuu

,......,, 21 . Untuk menghasilkan basis

ortogonal digunakan proses Gram Schmidt berikut.

Proses Gram-Schmidt: untuk { }nuuu

,......,, 21 yang bebas linier

Step 1: Tetapkan 11 = uv

Step 2: Mencari komponen 2u

yang ortogonal terhadap ruang W1 yang direntang oleh 1v

, diperoleh

vektor 2v

yang ortogonal dengan 1v

berdasarkan rumus

2v

= 2u

- 21uW

proj = 2u

- 12

1

12v

v

vu

,

0≠

2v karena jika 0

=2v didapat 2u

= 12

1

12v

v

vu

,

= 2 1

12

1

,u vu

u yang berarti 2u

kelipatan dari

1u

. Ini kontradiksi dengan { }nuuu

,......,, 21 yang bebas linier

Step 3: Bentuk vektor 3v

yang ortogonal terhadap 1v

dan 2v

, yaitu dengan mencari komponen dari

3u

yang ortogonal terhadap ruang W2 yang direntang oleh 1v

dan 2v

. Dengan menggunakan

teorema 6.3.5 bagian 2 didapat:

3v

= 3u

- 32uW

proj = 3u

- 22

2

23

12

1

13v

v

vuv

v

vu

,

-,

Sesuai dengan step 2, karena { }nuuu

,......,, 21

yang bebas linier maka 0≠

3v

Step 4: Bentuk vektor 4v

yang ortogonal terhadap 1v

, 2v

dan 3v

, yaitu dengan mencari komponen dari

4u

yang ortogonal terhadap ruang W3 yang direntang oleh 1v

, 2v

dan 3v

. Dengan

menggunakan teorema 6.3.5 bagian 2 didapat:

4v

= 4u

- 43

uW

proj = 4u

- 32

3

34

22

2

24

12

1

14v

v

vuv

v

vuv

v

vu

,

-,

-,

Proses dilanjutkan sampai diperoleh himpunan vektor yang ortogonal { }nvvv

,......,, 21 . Karena V

berdimensi n dan setiap himpunan ortogonal bebas linier, maka didapat basis ortogonal { }nvvv

,......,, 21

Dengan menormalisasi setiap vektor di basis ortogonal akan didapatkan basis ortonormal .

Contoh:

Jika 3 dengan hasil kali dalam Euclid mempunyai basis S ={ }321 uuu

,, dengan

1u

= (1, 1, 1), 2u

= (0, 1, 1) dan 3u

= (0, 0, 1). Maka ubahlah S menjadi basis ortonormal },,{ 321 qqq

.

Jawab:

Step 1: 11 = uv

= (1, 1, 1),

Step 2: 2v

= 2u

- 21uW

proj = 2u

- 12

1

12v

v

vu

,

= (0, 1, 1) - )1 1, 1,(3

2= )

3

1,

3

1,

3

2(-

Step 3: 3v

= 3u

- 32uW

proj = 3u

- 22

2

23

12

1

13v

v

vuv

v

vu

,

-,

3v

= (0, 0, 1) - )1 1, 1,(3

1-

32

31

)3

1,

3

1,

3

2(- = )

2

1,

2

1- (0,

Sehingga didapat { }321 vvv

,, basis ortogonal 3.

)3

1,

3

1,

3

1(1) 1, 1,(

3

1===

1

1

1v

vq

)6

1,

6

1,

6

2-()

3

1 ,

3

1,

3

2-(

6

3===

2

2

2v

vq

)2

1,

2

1-,0()

2

1 ,

2

1- 0,(2 ===

3

3

3v

vq

dan },,{ 321 qqq

adalah basis ortonormal 3

Catatan:

Dari proses Gram-Schmidt dapat dilihat bahwa untuk 2≥k , },......,,{ kqqq

21 adalah basis

ortonormal untuk ruang vektor yang direntang oleh { }kuuu

,......,, 21

vektor kq

ortogonal terhadap 121 ,......,, kuuu

Dekomposisi QR

Problem: Jika A adalah matriks m x n dengan vektor-vektor kolom yang bebas linier dan Q adalah

matriks dengan vektor-vektor kolom yang ortonormal hasil dari proses Gram-Schmidt dari

vektor kolom A. Maka akan dilihat hubungan antara A dan Q

Misal vektor-vektor kolom dari A adalah nuuu

,......,, 21 dan vektor-vektor kolom yang ortonormal

dari Q adalah },......,,{ 21 nqqq

]......21 nuuuA

dan nqqqQ

,......21

Berdasarkan teorema 6.3.1 dapat ditulis:

nn qquqquqquu

,........,, 12211111

nn qquqquqquu

,........,, 22221122

:

nnnnnn qquqquqquu

,........,, 2211

Atau

]......21 nuuu

= nqqq

,......21

1 1 2 1 1

1 2 2 2 2

1 2

, , ........ ,

, , ........ ,

, , ......... ,

n

n

n n n n

u q u q u q

u q u q u q

u q u q u q

atau A = Q R

Karena vektor kq

ortogonal terhadap 121 ,......,, kuuu

untuk setiap k ≥ 2 maka didapat

R =

1 1 2 1 1

2 2 2

, , ........ ,

0 , ........ ,

0 0 ......... ,

n

n

n n

u q u q u q

u q u q

u q

Teorema 6.3.7 ( Dekomposisi QR )

Jika A adalah matriks m x n dengan vektor-vektor kolom yang bebas linier, maka A dapat dinyatakan

sebagai QRA dimana Q adalah matriks m x n dengan vektor kolomnya ortonormal dan R matriks

n x n yang berupa matriks segitiga atas yang invertible

Contoh:

Jika

111

011

001

A , dan det A ≠ 0 maka vektor-vektor kolom A bebas linier yaitu;

1

1

1

1u

,

1

1

0

2u

dan

1

0

0

3u

.

Dengan proses Gram-Schmidt diperoleh vektor-vektor ortonormal

31

31

31

1q

,

61

61

62

2q

dan

21

21

0

3q

Sehingga didapat matriks

R =

n

n

n

qu

ququ

quququ

,.........00

,........,0

,........,,

1

222

11211

=

2100

61

620

31

32

33

Dekomposisi Q R dari A adalah

111

011

001

A =

321

21

0

61

61

62

31

31

31

2100

61

620

31

32

33

6.4 Best Approximation: Least Square

Misal P adalah titik di R3, W adalah bidang yang melalui titik asal, titik Q adalah titik yang terdekat

dengan titik P

Jika u

=OP maka OQuW

proj dan uu W

proj adalah jarak minimal antara titik P dengan bidang

W

Misal u

akan di aproksimasi oleh vektor di W, berarti akan ada vektor error yaitu wu

dengan Ww

Aproksimasi terbaik dari u

adalah vektor yang mempunyai wu

minimal yaitu uW

proj

Teorema 6.4.1: Teorema Aproksimasi Terbaik

Jika W adalah subspace berdimensi hingga dari suatu ruang hasil kali dalam V, dan jika u

adalah

vektor di V maka uW

proj adalah aproksimasi terbaik dari u

di W karena wuuu W

proj

untuk Ww

yang berbeda dengan uW

proj

Bukti:

Ww

dapat ditulis )proj()proj( wuuuwu WW

dengan

Wuu W )proj(

dan WwuW )(proj

Sehingga )proj( uu W

dan )(proj wuW

saling ortogonal yang sesuai dengan teorema Pythagoras

berlaku: 222

projproj wuuuwu WW

Jika uw W

proj maka 0proj wuW

. Sehingga didapat

22proj uuwu W

atau

uuwu W

proj atau uuwu W

proj

Least Square Problem

Diberikan suatu sistem persamaan linier bxA

dengan m persamaan dan n unknown, akan dicari

vektor x

yang meminimumkan bxA

terhadap hasil kali dalam Euclid di m. Vektor x

dinamakan

solusi least-square dari persamaan bxA

Misal W ruang kolom dari A. Untuk setiap matriks x

berukuran n x 1, perkalian xA

adalah kombinasi

linier dari vektor-vektor kolom dari A.

Karena vektor x

bervariasi di n, maka vektor xA

juga bervariasi dari semua kemungkinan kombinasi

linier dari vektor-vektor kolom A yaitu vektor xA

bervariasi dari seluruh ruang kolom W.

Secara geometri, mencari vektor x

sedemikian sehingga xA

adalah vektor terdekat dengan b yaitu

bxA

minimal merupakan least-square problem atau x

adalah solusi least-square.

Teorema 6.4.1 mengatakan agar x

menjadi solusi least square dari bxA

maka bxA W

proy

bbxAb W

proy adalah ortogonal terhadap ruang kolom A.

Sesuai dengan teorema 6.2.6 maka xAb

ada di nullspace dari AT. Sehingga 0)( xAbAT atau

bAxAA TT

→ persamaan ini disebut sistem normal yang bersesuaian dengan bxA

Catatan:

Sisten normal terdiri dari n persamaan dengan n unknown

Sisten normal konsisten karena dipenuhi oleh solusi least square dari bxA

Sisten normal mungkin mempunyai banyak solusi.

Teorema 6.4.2:

Untuk sembarang sistem persamaan linier bxA

, sistem normal yang bersesuaian

bAxAA TT

selalu konsisten dan semua solusi dari sistem normal adalah solusi Least-square

dari bxA

Jika W adalah ruang kolom dari A dan x

adalah sembarang solusi Least-square dari bxA

maka proyeksi ortogonal dari b

pada W adalah xAbW

=proy

Teorema 6.4.3:

Jika A adalah matriks m x n, maka persamaan berikut ekivalen

1. A mempunyai vektor kolom yang bebas linier

2. AAT invertible

Bukti:

)2()1( →

A mempunyai vektor kolom yang bebas linier maka AAT berukuran n x n

Akan dibuktikan AAT invertible atau persamaan 0

=xAAT mempunyai solusi trivial.

Jika x

adalah solusi dari 0

=xAAT, maka

xA

ada di nullspace TA atau xA

ada di ruang kolom A

0

=xA karena null-space dari TA dan ruang kolom A saling ortogonal komplement

0

=xA dan A mempunyai vektor kolom yang bebas linier maka 0

=x .

Jadi 0

=xAAT hanya mempunyai solusi trivial atau AAT invertible

)1(→)2(

AAT invertible, maka 0

=xAAT hanya mempunyai solusi trivial 0

=x

Akan dibuktikan A mempunyai vektor kolom yang bebas linier atau 0

=xA hanya mempunyai solusi

trivial 0

=x

Misal x

adalah solusi dari 0

=xA , maka 0)0(

==TT AxAA . Karena AAT invertible maka 0

=x

atau A mempunyai vektor kolom yang bebas linier

Teorema 6.4.4 (Ketunggalan dari solusi Least Square)

Jika A adalah matriks m x n dengan vektor kolom yang bebas linier maka untuk setiap matriks b

(n x 1), sistem persamaan linier bxA

= mempunyai solusi Least Square yang unik yaitu

bAAAx TT -1)(=

Jika W ruang kolom dari A maka proyeksi ortogonal dari b

pada W adalah

bAAAAxAb TT

W

-1)(proj ==

Contoh: Cari solusi Least Square dari sistem linier

342-

123

4-

=+

=+

=

21

21

21

xx

xx

xx

dan cari proyeksi ortogonal dari b

pada ruang kolom dari A

Jawab:

1 -1

3 2

-2 4

A

dan

4

1

3

b

Vektor-vektor kolom A bebas linier, maka solusi Least Square yang unik.

1 -11 3 -2 14 -3

3 2-1 2 4 -3 21

-2 4

TA A

41 3 -2 1

1-1 2 4 10

3

TA b

Sistem normal bAxAA TT

menjadi 1

2

14 -3 1

-3 21 10

x

x

Sehingga didapat 285

143,

95

17== 21 xx dan proyeksi ortogonal b

pada ruang kolom A adalah

92-2851 -1 17

95 4393 2285143

-2 4 285 9457

Ax

1. Cari proyeksi ortogonal vektor u

= (-3, -3, 8, 9) pada subruang dari 4 yang direntang oleh vektor-

vektor 1) 0, 1, 3,(=1u

)1 1, 2, 1,(=2u

1)- 2, 0, -1,(=3u

Jawab: W subruang dari 4 yang direntang oleh vektor-vektor 321 uuu

,, adalah ruang kolom dari

matriks

3 1 -1

1 2 0

0 1 2

1 1 -1

A

dan

-3

-3

8

9

u

Proyeksi u

pada subruang tersebut xAbW

=proj (Lanjutkan)

Definisi:

Jika W adalah subruang dari m, maka transformasi WRP m →: yang memetakan setiap vektor

∈x

Rm ke proyeksi ortogonal xW

proj di W disebut proyeksi ortogonal dari m pada W.

Matriks standard untuk proyeksi ortogonal dari m pada W adalah [ ] TT AAAAP -1)(= dimana A

dibentuk dengan menggunakan sembarang basis untuk W sebagai vektor-vektor kolom.

Contoh:

Matriks standard untuk proyeksi ortogonal di 3 pada bidang xy adalah

1 0 0

0 1 0

0 0 0

P

Jika W = bid xy, ambil 1

1

0

0

u

, 2

0

1

0

u

sebagai basis untuk W maka

1 0

0 1

0 0

A

,

1 01 0 0 1 0

0 10 1 0 0 1

0 0

TA A

-1

1 01 0 0

( ) 0 10 1 0

0 0

T TP A A A A I

1 0 0

0 1 0

0 0 0

6.5 Matriks Ortogonal dan Perubahan Basis

Definisi:

Suatu matriks bujur sangkar A disebut matriks ortogonal jika bersifat TAA =-1

Matriks bujur sangkar A ortogonal ⇔ AAAA TT= = I

Contoh: 1.

1 -12 2

1 12 2

A

maka

1 -1 1 11 02 2 2 2

1 1 -1 1 0 12 2 2 2

TAA

Jadi A disebut matriks ortogonal dan -1

1 12 2

-1 12 2

A

2. Periksa ortogonalitas dari matriks dibawah ini dan cari -1A

a.

10 12

1 0 0

10 02

b.

-1 1 12 6 3

-2 106 3

1 1 12 6 3

Teorema 6.5.1

Pernyataan berikut ekivalen untuk matriks A (n x n)

(a) A ortogonal

(b) Vektor-vektor baris dari A membentuk himpunan ortonormal di n dengan hasil kali dalam Euclid

(c) Vektor-vektor kolom dari A membentuk himpunan ortonormal di n dengan hasil kali dalam

Euclid

Teorema 6.5.2

(a) Invers dari matriks ortogonal juga ortogonal

(b) Perkalian matriks-matriks ortogonal juga ortogonal

(c) Jika A ortogonal maka det (A) = 1 atau det (A) = -1

Teorema 6.5.3

Pernyataan berikut ekivalen untuk matriks A (n x n)

(a) A ortogonal

(b) nRxxxA ∈=∀,

(c) nRyxyxyAxA ∈∀•=•

,

Bukti:

)()( ba →

A ortogonal , maka IAAT=

xxxxAAxxAxAxA T =•=•=•= 2

12

12

1

)()()(

(b) (c)

Diket. nRxxxA

,

4

1 -

4

1

) (4

1 - )(

4

1

4

1 -

4

1

22

22

22

yx

yxyx

yxAyxA

yAxAyAxAyAxA

(c) (a)

Diket. nRyxyxyAxA

,

0 - yxyAAxyAAxyAxAyx TT

0 )(

0 ) (

yIAAx

yyAAx

T

T

Karena berlaku untuk sembarang x maka berlaku juga untuk

)( yIAAx T , sehingga )( yIAAT

• )( yIAAT = 0

dari sifat inner product diperoleh:

)( yIAAT = 0

Persamaan ini berlaku untuk sembarang nRy

, sehingga

0 IAAT atau IAAT A orthogonal

Jika nn RRT : adalah perkalian oleh matrix orthogonal A, maka T disebut operator orthogonal pada

nR .

Dari Teorema 6.5.3 operator orthogonal pada nR tidak mengubah panjang vektor.

pencerminan dan rotasi di 2R dan 3R mempunyai matrix standard yang orthogonal.

Misal nvvvS

,...,, 21 adalah basis untuk ruang vektor V, maka Vv

dapat dinyatakan sebagai:

nnvkvkvkv

2211

dengan

n

S

k

k

k

v

2

1

disebut matrix koordinat dari v relatif terhadap S.

Masalah Perubahan Basis:

Jika basis dari suatu ruang vector di ubah dari basis lama B menjadi basis baru B’, apa hubungan antara

Bv

dan 'Bv

?

Misal 21,uuB

dan 21,' vvB

, B = basis lama, B’ = basis baru

Misalkan

b

av

B1

dan

d

cv

B2

yaitu 212

211

uducv

ubuav

Misal Vv

dan

2

1

'k

kv B

atau 2211 vkvkv

sehingga )()( 212211 uduckubuakv

221121 )()( udkbkuckak

berarti

2

1

21

21

k

k

db

ca

dkbk

ckakv B

= BB

vv 21

'Bv

Secara umum:

Jika kita mengubah basis lama dari suatu ruang vektor V, nuuuB ,...,, 21

menjadi basis baru nvvvB ,..,,' 21 maka Bv = P 'Bv

dimana P adalah matrix yang kolom-kolomnya adalah matrix koordinat vektor-vektor basis baru

terhadap basis lama, yaitu BnBB

vvv ,...,, 21 .

P disebut matrix transisi basis dari B’ ke B.

Contoh:

21,uuB dan 21,' vvB adalah basis untuk 2R ,

dengan

4

3,

1

2,

1

0,

0

12121 vvuu

Misal P adalah matrix transisi dari B’ ke B P= BB

vv 21

4

3,

1

221

212

211

BBvv

uducv

ubuav

Maka

41

32P

Jika

5

3w cari Bw dan 'Bw

Cara I :

1113

113

5

3

21

34

11

1

41

32

5

3 '''

2211

BBBB

B

wwwPww

ukukw

Cara II : (secara langsung)

111354

113332

4

3

1

2

5

3

221

12121

2211

ccc

ccccc

vcvcw

1113

113

'Bw

Misal Q adalah matrix transisi dari B ke B’, maka

'2'1 BB

uuQ

112

111

113

114

112

113

,

11111

4

'2'1

212

211Quu

vdvcu

vbvauBB

PQ =

41

32

11

211

111

311

4=

10

01 1 PQ

Teorema 6.5.4.

Jika P adalah matrix transisi dari suatu basis B’ ke B maka:

a. P invertible

b. P-1 adalah matrix transisi dari B ke B’

Teorema 6.5.5 Jika P adalah matrix transisi dari suatu basis ortonormal ke basis ortonormal lain pada

suatu ruang vektor, maka P adalah matrix orthogonal, yaitu: P-1 = PT