Lecture 2 The Dot Product Orthogonal and Orthonormal Sets the Gram Schmidt Algorithm AMath 352 Wed Mar 31 1 10 An inner product is anything that satis es 1 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 v cid 126 u cid 105 2 cid 104 cid 126 u cid 126 v cid 126 w cid 105 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 u cid 126 w cid 105 3 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 u cid 126 v cid 105 4 cid 104 cid 126 u cid 126 u cid 105 0 with only if cid 126 u cid 126 0 For example cid 104 cid 126 u cid 126 v cid 105 w cid 80 n weighted inner product j 1 wj uj vj wj 0 j 1 n is a Dot Product or Inner Product cid 126 u cid 126 v Rn cid 126 u cid 126 v cid 104 cid 126 u cid 126 v cid 105 uj vj n cid 88 j 1 This is the standard Euclidean inner product 2 10 Dot Product or Inner Product cid 126 u cid 126 v Rn cid 126 u cid 126 v cid 104 cid 126 u cid 126 v cid 105 uj vj n cid 88 j 1 This is the standard Euclidean inner product An inner product is anything that satis es 1 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 v cid 126 u cid 105 2 cid 104 cid 126 u cid 126 v cid 126 w cid 105 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 u cid 126 w cid 105 3 cid 104 cid 126 u cid 126 v cid 105 cid 104 cid 126 u cid 126 v cid 105 4 cid 104 cid 126 u cid 126 u cid 105 0 with only if cid 126 u cid 126 0 For example cid 104 cid 126 u cid 126 v cid 105 w cid 80 n weighted inner product j 1 wj uj vj wj 0 j 1 n is a 2 10 A norm is anything that satis es 1 cid 107 cid 126 u cid 107 0 with only if cid 126 u cid 126 0 2 cid 107 cid 126 u cid 107 cid 107 cid 126 u cid 107 3 cid 107 cid 126 u cid 126 v cid 107 cid 107 cid 126 u cid 107 cid 107 cid 126 v cid 107 triangle inequality For example cid 107 cid 126 u cid 107 w j 1 wj u2 j wj 0 j 1 n is a cid 113 cid 80 n weighted norm Norms An inner product gives rise to a norm cid 107 cid 126 u cid 107 cid 104 cid 126 u cid 126 u cid 105 1 2 For the Euclidean inner product this means that cid 107 cid 126 u cid 107 cid 118 cid 117 cid 117 cid 116 n cid 88 j 1 u2 j 3 10 Norms An inner product gives rise to a norm cid 107 cid 126 u cid 107 cid 104 cid 126 u cid 126 u cid 105 1 2 For the Euclidean inner product this means that cid 107 cid 126 u cid 107 cid 118 cid 117 cid 117 cid 116 n cid 88 j 1 u2 j A norm is anything that satis es 1 cid 107 cid 126 u cid 107 0 with only if cid 126 u cid 126 0 2 cid 107 cid 126 u cid 107 cid 107 cid 126 u cid 107 3 cid 107 cid 126 u cid 126 v cid 107 cid 107 cid 126 u cid 107 cid 107 cid 126 v cid 107 triangle inequality cid 113 cid 80 n For example cid 107 cid 126 u cid 107 w weighted norm j 1 wj u2 j wj 0 j 1 n is a 3 10 Orthogonal and Orthonormal Vectors Two vectors cid 126 u and cid 126 v are orthogonal if cid 104 cid 126 u cid 126 v cid 105 0 They are orthonormal if also cid 107 cid 126 u cid 107 cid 107 cid 126 v cid 107 1 cid 20 cid 20 cid 21 cid 21 Example are orthogonal cid 20 1 2 4 2 cid 20 1 2 cid 21 1 5 1 20 cid 21 4 2 are orthonormal 4 10 Normalize the rst vector cid 126 q1 cid 126 v1 cid 107 cid 126 q1 cid 107 cid 107 cid 126 v1 cid 107 1 1 cid 107 cid 126 v1 cid 107 1 cid 107 cid 126 v1 cid 107 Orthogonalize the second vector q2 cid 126 v2 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 126 q1 cid 104 q2 cid 126 q1 cid 105 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 104 cid 126 q1 cid 126 q1 cid 105 0 Normalize the second vector cid 126 q2 1 cid 107 q2 cid 107 q2 The Gram Schmidt Algorithm Given a set of linearly independent vectors cid 126 v1 cid 126 vm construct an orthonormal set cid 126 q1 cid 126 qm where span cid 126 q1 cid 126 qk span cid 126 v1 cid 126 vk k 1 m 5 10 Orthogonalize the second vector q2 cid 126 v2 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 126 q1 cid 104 q2 cid 126 q1 cid 105 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 104 cid 126 v2 cid 126 q1 cid 105 cid 104 cid 126 q1 cid 126 q1 cid 105 0 Normalize the second vector cid 126 q2 1 cid 107 q2 cid 107 q2 The Gram Schmidt Algorithm Given a set of linearly independent vectors cid 126 v1 cid 126 vm construct an orthonormal set cid 126 q1 cid 126 qm where span cid 126 q1 cid 126 qk span cid 126 v1 cid 126 vk k 1 m Normalize the rst vector cid 126 q1 cid 126 v1 cid 107 cid 126 q1 cid 107 cid 107 cid 126 v1 cid 107 1 1 cid 107 cid 126 v1 cid 107 1 cid 107 cid 126 v1 cid 107 5 10 The Gram Schmidt Algorithm Given a set of linearly independent vectors cid 126 v1 cid 126 vm construct an orthonormal set cid 126 q1 cid 126 qm where span cid 126 q1 cid 126 qk span cid 126 v1 cid 126 vk k 1 m Normalize the rst vector cid 126 q1 cid 126 v1 cid 107 cid 126 q1 cid 107 cid 107 cid 126 v1 cid 107 1 1 cid 107 cid 126 v1 cid 107 1 cid 107 cid 126 v1 cid 107 Orthogonalize the second vector q2 cid 126 v2 cid 104 cid 126 v2 cid 126 q1 …