多項式空間中的內積

令 VV 為以 R\mathbb{R} 為純量的一向量空間，如果有一個函數 ⟨⋅,⋅⟩:V×V→R\inp{\cdot}{\cdot}: V\times V \rightarrow \mathbb{R} 滿足以下條件的話，則被稱為 VV 上的一個 內積（inner product）：

  1. 雙線性（bilinear）：⟨u+cv,w⟩=⟨u,w⟩+c⟨v,w⟩\inp{\bu + c\bv}{\bw} = \inp{\bu}{\bw} + c\inp{\bv}{\bw}
  2. 對稱（symmetric）：⟨u,v⟩=⟨v,u⟩\inp{\bu}{\bv} = \inp{\bv}{\bu}
  3. 正定（positieve definite）：如果 u≠0\bu \neq 0 則 ⟨u,u⟩>0\inp{\bu}{\bu} > 0

同一個向量空間內可以搭配不同的內積，而內積直接影響兩向量是否垂直、以及每個向量的長度等性質。接下來我們以多項式空間為例來看看不同的內積。

所有 dd 次以下的多項式可以形成一個向量空間 Pd\mathcal{P}_d，其常用的基底為 α={1,x,…,xd}\alpha = \{1, x, \ldots, x^d\}。在這個基底的觀點下，所有 Pd\mathcal{P}_d 中的多項式

p(x)=c0+c1x+⋯+cdxd p(x) = c_0 + c_1x + \cdots + c_dx^d

都可以看成一個向量

[p]α=[c0c1⋮cd]=[p(0)11!p′(0)⋮1d!p(d)(0)]. [p]_\alpha = \begin{bmatrix} c_0 \\ c_1 \\ \vdots \\ c_d \end{bmatrix} = \begin{bmatrix} p(0) \\ \frac{1}{1!}p'(0) \\ \vdots \\ \frac{1}{d!}p^{(d)}(0) \end{bmatrix}.

自然而然我們可以定義內積為

⟨p,q⟩coef=[q]α⊤[p]α \inp{p}{q}_{\rm coef} = [q]_\alpha\trans[p]_\alpha

並驗證這個定義滿足內積的所有性質。

另一種常見的內積是藉由某幾點的函數值，我們可以定義

⟨p,q⟩eval=p(0)q(0)+p(1)q(1)+⋯+p(d)q(d) \inp{p}{q}_{\rm eval} = p(0)q(0) + p(1)q(1) + \cdots + p(d)q(d)

並驗證它確實是一種內積。這時如果我們考慮 0,1,…,d0,1,\ldots,d 所對應的拉格朗日基底 β={f0,f1,…,fd}\beta = \{f_0, f_1, \ldots, f_d\}，其中

fi(x)=(x−0)⋯(x−(i−1))(x−(i+1))⋯(x−d)(i−0)⋯(i−(i−1))(i−(i+1))⋯(i−d), f_i(x) = \frac{(x - 0) \cdots (x - (i-1)) (x - (i+1)) \cdots (x - d)}{(i - 0) \cdots (i - (i-1)) (i - (i+1)) \cdots (i - d)},

則會發現 fi(x)f_i(x) 在 x=ix = i 的函數值為 11 而 x=0,…,i−1,i+1,dx = 0, \ldots, i-1, i+1, d 時的函數值均為 00。這樣也讓我們得到我們熟悉的拉格朗日插值公式

p(x)=p(0)f0(x)+p(1)f1(x)+⋯+p(d)fd(x). p(x) = p(0)f_0(x) + p(1)f_1(x) + \cdots + p(d)f_d(x).

以基底的觀點來看，就是

[p]β=[p(0)p(1)⋮p(d)]. [p]_\beta = \begin{bmatrix} p(0) \\ p(1) \\ \vdots \\ p(d) \end{bmatrix}.

因此我們得到類似的結果，我們找到一組基底 β\beta 來描述我們的內積

⟨p,q⟩eval=[q]β⊤[p]β. \inp{p}{q}_{\rm eval} = [q]_\beta\trans [p]_\beta.

如果我們堅持使用我們「常用」的那組基底 α\alpha 的話，我們也可以定義一個以 α\alpha 所形成格拉姆矩陣

G=[⟨xj,xj⟩eval], G = [\inp{x^j}{x^j}_{\rm eval}],

如此一來也能用 GG 來描述內積

⟨p,q⟩eval=⟨a0+a1x+⋯+adxd,b0+b1x+⋯+bdx⟩eval=∑i=0d∑j=0dbiaj⟨xi,xj⟩eval=[q]α⊤G[p]α. \begin{aligned} \inp{p}{q}_{\rm eval} &= \inp{a_0 + a_1x + \cdots + a_dx^d}{b_0 + b_1x + \cdots + b_dx}_{\rm eval} \\ &= \sum_{i = 0}^d \sum_{j = 0}^d b_ia_j\inp{x^i}{x^j}_{\rm eval} \\ &= [q]_\alpha\trans G [p]_\alpha. \end{aligned}

實際上 ⟨⋅,⋅⟩eval\inp{\cdot}{\cdot}_{\rm eval} 中的 0,1,…,d0, 1, \ldots, d 也可以換成任意的相異 dd 個實數。

藉由以上觀察，我們發現有限維空間 VV 上的內積 ⟨⋅,⋅⟩\inp{\cdot}{\cdot}，似乎都可以有兩種方便的表示法：

  1. 對給定的基底 α\alpha 來說，找得到一個正定矩陣 GG 使得 ⟨u,v⟩=[v]α⊤G[u]\inp{\bu}{\bv} = [\bv]_\alpha\trans G [\bu]。
  2. 可以找得一組基底 β\beta 使得 ⟨u,v⟩=[v]β⊤[u]β\inp{\bu}{\bv} = [\bv]_\beta\trans [\bu]_\beta。

最後我們考慮一種把多項式視為「函數」的內積，方便起見我們以 d=2d = 2 為例子：

⟨p,q⟩func=∫01pq dx. \inp{p}{q}_{\rm func} = \int_0^1 pq\,dx.

同樣地，我們可以依定義來驗證其為 P2\mathcal{P}_2 上的內積。令

G=[11213121314131415] G = \begin{bmatrix} 1 & \frac{1}{2} & \frac{1}{3} \\ \frac{1}{2} & \frac{1}{3} & \frac{1}{4} \\ \frac{1}{3} & \frac{1}{4} & \frac{1}{5} \end{bmatrix}

則也可以試試看 ⟨p,q⟩func=[q]α⊤G[p]α\inp{p}{q}_{\rm func} = [q]_\alpha\trans G[p]_\alpha 代入任何 p,q∈P2p,q\in\mathbb{P}_2 時都是成立的。想想看我們有辦法找到 P2\mathcal{P}_2 的一組基底 γ\gamma 使得 ⟨p,q⟩func=[q]γ⊤[p]γ\inp{p}{q}_{\rm func} = [q]_\gamma\trans [p]_\gamma 嗎？

想想以下問題：

  1. 檢查 ⟨p,q⟩coef1=p(1)q(1)+11!p′(1)11!q′(1)+⋯+1d!p(d)(1)1d!q(d)(1)\inp{p}{q}_{\rm coef1} = p(1)q(1) + \frac{1}{1!}p'(1)\frac{1}{1!}q'(1) + \cdots + \frac{1}{d!}p^{(d)}(1)\frac{1}{d!}q^{(d)}(1) 是否為 Pd\mathcal{P}_d 上的內積。若是，找一組基底 α1\alpha_1 使得 ⟨p,q⟩=[q]α1⊤[p]α1\inp{p}{q} = [q]_{\alpha_1}\trans [p]_{\alpha_1}。
  2. 說明 ⟨⋅,⋅⟩func\inp{\cdot}{\cdot}_{\rm func} 對應到 α\alpha 時的格拉姆矩陣是怎麼算出來的。