查看“︁设计矩阵”︁的源代码

'''设计矩阵'''（{{Lang-en|design matrix、model matrix、regressor matrix}}）在[[统计学]]和[[机器学习]]中，是一组观测结果中的所有[[自变量和因变量|解释变量]]的值构成的矩阵，常用'''X'''表示。设计矩阵常用于一些[[统计模型]]，如[[一般线性模型]]，[[方差分析]]中。

==定义==
通常情况下，设计矩阵的第i行代表第i次观测的结果，第j列代表第j种解释变量。如此一来，线性回归模型就可以用[[矩阵乘法]]表达为
:<math> 
y = X \beta 
</math>
其中<math>X</math>是设计矩阵，<math>\beta</math>是对应每一种解释变量的[[系数]]组成的系数向量，<math>y</math>是每一个观测对应的预测值构成的向量。<ref>{{cite book |last=Everitt |first=B. S. |year=2002 |title=Cambridge Dictionary of Statistics |url=https://archive.org/details/nlsiu.310.03.eve.18720 |edition=2nd |location=Cambridge, UK |publisher=Cambridge University Press |isbn=0-521-81099-X }}</ref>

== 例子 ==

=== 算数平均 ===
[[算术平均数|算数平均]]的设计矩阵是一个全为1的列向量。

=== 简单线性回归 ===
本节给出了一个简单线性回归的例子，其中有一个解释变量和有七个观测值。这七个数据点是<math>\left\{ y_i, x_i\right\}, i=1,2,\cdots,7</math>。该简单线性回归模型可以表示为：

: <math> y_i = \beta_0 + \beta_1 x_i +\varepsilon_i, \,</math>

其中<math> \beta_0 </math>为y轴的截距，<math>\beta_1</math>是回归线的斜率。该模型可以表示为矩阵形式：

: <math>
\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix}
= 
\begin{bmatrix}1 & x_1  \\1 & x_2  \\1 & x_3  \\1 & x_4  \\1 & x_5  \\1 & x_6 \\ 1 & x_7  \end{bmatrix}
\begin{bmatrix} \beta_0 \\ \beta_1  \end{bmatrix}
+
\begin{bmatrix} \varepsilon_1 \\ \varepsilon_2 \\ \varepsilon_3 \\
\varepsilon_4 \\ \varepsilon_5 \\ \varepsilon_6 \\ \varepsilon_7 \end{bmatrix}
</math>

其中设计矩阵中的第一列用以估计y轴的截距，而第二列包含与相应y值相关的x值。

=== 多元回归 ===
本节给出了一个有两个协变量（解释变量）的多元[[線性回歸|回归]]例子：<math> w </math>和<math> x </math>。假设数据由七个观测值组成，对于每个待预测的观测值<math>y_i</math>，两个协变量的值<math> w_i </math>和<math> x_i </math>也被观察到。该模型可以表示为：

: <math> y_i = \beta_0 + \beta_1 w_i + \beta_2 x_i + \varepsilon_i </math>

该模型可以表示为矩阵形式：

: <math>
\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} = 
\begin{bmatrix} 1 & w_1 & x_1  \\1 & w_2 & x_2  \\1 & w_3 & x_3  \\1 & w_4 & x_4  \\1 & w_5 & x_5  \\1 & w_6 & x_6 \\ 1& w_7  & x_7  \end{bmatrix}
\begin{bmatrix} \beta_0 \\ \beta_1 \\ \beta_2  \end{bmatrix}
+
\begin{bmatrix} \varepsilon_1 \\ \varepsilon_2 \\ \varepsilon_3 \\
\varepsilon_4 \\ \varepsilon_5 \\ \varepsilon_6 \\ \varepsilon_7 \end{bmatrix}
</math>

右侧的<math> 7 \times 3 </math>矩阵即为设计矩阵。

=== 单方向方差分析 ===
在单方向[[方差分析]]中，此时的模型为
:<math> y_{ij} = \mu + \tau_i + \varepsilon_{ij} </math>

限制：<math>\tau_1</math>为0

:<math>
\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} = 
\begin{bmatrix}1 &0 &0 \\1 &0  &0 \\ 1 & 0 & 0 \\ 1 & 1 & 0 \\ 1 & 1 & 0 \\ 1 & 0 & 1 \\ 1  & 0 & 1\end{bmatrix}
\begin{bmatrix}\mu \\  \tau_2 \\ \tau_3 \end{bmatrix}
+
\begin{bmatrix} \varepsilon_1 \\ \varepsilon_2 \\ \varepsilon_3 \\
\varepsilon_4 \\ \varepsilon_5 \\ \varepsilon_6 \\ \varepsilon_7 \end{bmatrix}
</math>

==参考文献==
{{reflist}}

==延伸閲讀==
{{refbegin}}
*{{cite book |first=Albert |last=Verbeek |chapter=The Geometry of Model Selection in Regression |title=Misspecification Analysis |editor-first=Theo K. |editor-last=Dijkstra |location=New York |publisher=Springer |year=1984 |pages=20–36 |isbn=0-387-13893-5 }}
{{refend}}

[[Category:矩陣]]
[[Category:回归分析]]
[[Category:實驗設計]]