Лекция 8. Линейное пространство и матрицы

В лекции 1 векторное пространство появилось в конце как следующая ступень после групп, колец и полей. Эта лекция начинает его изучать всерьёз: формулирует восемь аксиом, выводит из них первые следствия и разбирает главные примеры — строки чисел $K^n$, многочлены и матрицы. Для матриц вводятся сложение, умножение на число, транспонирование и умножение матриц, и оказывается, что квадратные матрицы образуют кольцо — с единицей, но некоммутативное и с делителями нуля.

1. Линейное пространство

1.1. Определение

Определение 1. Линейным (векторным) пространством над полем $K$ называется непустое множество $V$, элементы которого называются векторами, с двумя операциями:

• сложение векторов $+\colon V \times V \to V$;
• умножение вектора на элемент поля $\cdot\colon K \times V \to V$,

удовлетворяющими восьми аксиомам. Для любых $x, y, z \in V$ и $\alpha, \beta \in K$:

1. $x + y = y + x$ — коммутативность сложения;
2. $(x + y) + z = x + (y + z)$ — ассоциативность сложения;
3. существует нулевой вектор $\theta \in V$: $x + \theta = x$ для всех $x$;
4. для каждого $x$ существует противоположный $-x \in V$: $x + (-x) = \theta$;
5. $1 \cdot x = x$, где $1$ — единица поля, — нормировка;
6. $\alpha(\beta x) = (\alpha\beta)x$ — ассоциативность умножения на число;
7. $(\alpha + \beta)x = \alpha x + \beta x$ — дистрибутивность относительно сложения чисел;
8. $\alpha(x + y) = \alpha x + \alpha y$ — дистрибутивность относительно сложения векторов.

Аксиомы 1–4 говорят, что $(V, +)$ — абелева группа, аксиомы 5–8 связывают её с полем. Это то же определение, что в лекции 1, только расписанное по пунктам.

Нулевой вектор обозначается $\theta$, чтобы не путать его с числом $0 \in K$. Например, в $\mathbb{R}^3$ число $0$ — скаляр, а $\theta = (0, 0, 0)$ — вектор.

2. Простейшие следствия из аксиом

Утверждение 1. Нулевой вектор единственен.

Доказательство. От противного: пусть $\theta_1$ и $\theta_2$ — два нулевых вектора. Тогда

$\theta_1 = \theta_1 + \theta_2 = \theta_2 + \theta_1 = \theta_2.$

Первое равенство — аксиома 3 для нуля $\theta_2$, второе — коммутативность, третье — аксиома 3 для нуля $\theta_1$. $\blacksquare$

Утверждение 2. Противоположный вектор единственен.

Доказательство. Пусть $x_1$ и $x_2$ — два противоположных к $x$: $x + x_1 = \theta$ и $x + x_2 = \theta$. Тогда

$x_1 = x_1 + \theta = x_1 + (x + x_2) = (x_1 + x) + x_2 = \theta + x_2 = x_2.$

Здесь использованы аксиома 3, определение $x_2$, ассоциативность, определение $x_1$ вместе с коммутативностью и снова аксиома 3. $\blacksquare$

Утверждение 3. $0 \cdot x = \theta$ для любого $x \in V$.

Доказательство. По нормировке и дистрибутивности

$x + 0 \cdot x = 1 \cdot x + 0 \cdot x = (1 + 0) \cdot x = 1 \cdot x = x.$

Прибавим к обеим частям $-x$ слева: $(-x) + (x + 0 \cdot x) = (-x) + x$. По ассоциативности слева получается $\theta + 0 \cdot x = 0 \cdot x$, справа $\theta$. Итак, $0 \cdot x = \theta$. $\blacksquare$

Слева в $0 \cdot x$ стоит число $0 \in K$, а справа вектор $\theta \in V$ — это разные нули. Так же доказываются $\alpha \cdot \theta = \theta$ и $(-1) \cdot x = -x$ — они в мини-тренажёре.

3. Примеры линейных пространств

3.1. Арифметическое пространство

Определение 2. Арифметическое пространство $K^n$ — множество упорядоченных наборов из $n$ элементов поля:

$K^n = \{(a_1, a_2, \dots, a_n) \mid a_i \in K\}.$

Операции покомпонентные:

$(a_1, \dots, a_n) + (b_1, \dots, b_n) = (a_1 + b_1, \dots, a_n + b_n), \qquad \alpha (a_1, \dots, a_n) = (\alpha a_1, \dots, \alpha a_n).$

Главные примеры — $\mathbb{R}^n$ и $\mathbb{C}^n$. Нулевой вектор $\theta = (0, 0, \dots, 0)$, противоположный к $x = (x_1, \dots, x_n)$ — это $-x = (-x_1, \dots, -x_n)$.

Каждая аксиома проверяется покомпонентно и сводится к тому же свойству в поле $K$. Например, коммутативность: $i$-я компонента $x + y$ равна $x_i + y_i$, а $y + x$ — $y_i + x_i$, и они равны, потому что сложение в поле коммутативно. Остальные аксиомы — упражнение.

3.2. Пространства многочленов

• $K[x]$ — все многочлены от $x$ с коэффициентами из поля $K$ (лекция 5). Сумма многочленов и произведение многочлена на число — снова многочлены.
• $K_n[x]$ — многочлены степени не выше $n$. Это тоже линейное пространство: при сложении и умножении на число степень не растёт, и нулевой многочлен сюда входит.

4. Матрицы над полем

4.1. Определение

Определение 3. Прямоугольной матрицей размера $m \times n$ над полем $K$ называется таблица элементов $K$ из $m$ строк и $n$ столбцов:

$A = \begin{pmatrix} a_{11} & a_{12} & \dots & a_{1n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \dots & a_{mn} \end{pmatrix} = (a_{ij}), \qquad i = 1, \dots, m, \quad j = 1, \dots, n.$

Первый индекс — номер строки, второй — номер столбца. Множество всех матриц $m \times n$ обозначается $M_{m,n}$.

4.2. Линейные операции

Для $A, B \in M_{m,n}$ и $\alpha \in K$:

1. сложение: $A + B = (a_{ij} + b_{ij})$;
2. умножение на число: $\alpha A = (\alpha a_{ij})$.

Обе операции поэлементные, поэтому $M_{m,n}$ — линейное пространство: по сути это $K^{mn}$, записанное прямоугольником. Нулевой вектор — нулевая матрица $\Theta$, все элементы которой равны $0$. Складывать можно только матрицы одного размера.

4.3. Транспонирование

Определение 4. Транспонирование — отображение $M_{m,n} \to M_{n,m}$, переводящее $A = (a_{ij})$ в $A^T = (a_{ji})$: строки $A$ становятся столбцами $A^T$.

$A = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix}, \qquad A^T = \begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix}.$

Свойства транспонирования:

1. $(A^T)^T = A$;
2. $(A + B)^T = A^T + B^T$ для $A, B \in M_{m,n}$;
3. $(\alpha A)^T = \alpha A^T$.

Все три проверяются поэлементно. Например, во втором элемент $(i, j)$ слева равен $(A + B)_{ji} = a_{ji} + b_{ji}$, справа — $a_{ji} + b_{ji}$.

5. Умножение матриц

5.1. Определение

Пусть $A \in M_{m,n}$ и $B \in M_{n,p}$: число столбцов $A$ равно числу строк $B$.

Определение 5. Произведением $A$ и $B$ называется матрица $C = AB \in M_{m,p}$ с элементами

$c_{ij} = \sum_{k=1}^{n} a_{ik} b_{kj} = a_{i1} b_{1j} + a_{i2} b_{2j} + \dots + a_{in} b_{nj}.$

Элемент $c_{ij}$ — «строка на столбец»: $i$-я строка $A$ поэлементно умножается на $j$-й столбец $B$, и произведения складываются. Обе последовательности длины $n$, поэтому и нужно совпадение размеров.

$\underbrace{A}_{m \times n} \cdot \underbrace{B}_{n \times p} = \underbrace{C}_{m \times p}$

Пример. Для $A$ из раздела 4.3 возьмём $B = A^T$:

$\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix} \begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix} = \begin{pmatrix} 1 + 4 + 9 & 4 + 10 + 18 \\ 4 + 10 + 18 & 16 + 25 + 36 \end{pmatrix} = \begin{pmatrix} 14 & 32 \\ 32 & 77 \end{pmatrix}.$

Здесь $AA^T$ имеет размер $2 \times 2$, а $A^TA$ — уже $3 \times 3$. Так что даже когда определены оба произведения, они могут быть разного размера.

5.2. Ассоциативность

Теорема 1. Если $A \in M_{m,n}$, $B \in M_{n,p}$, $C \in M_{p,q}$, то $(AB)C = A(BC)$.

Доказательство. Обе части лежат в $M_{m,q}$. Сравним элемент $(i, j)$. Слева:

$\big((AB)C\big)_{ij} = \sum_{s=1}^{p} (AB)_{is}\, c_{sj} = \sum_{s=1}^{p} \sum_{k=1}^{n} a_{ik} b_{ks} c_{sj}.$

Справа:

$\big(A(BC)\big)_{ij} = \sum_{k=1}^{n} a_{ik} (BC)_{kj} = \sum_{k=1}^{n} a_{ik} \sum_{s=1}^{p} b_{ks} c_{sj} = \sum_{k=1}^{n} \sum_{s=1}^{p} a_{ik} b_{ks} c_{sj}.$

Это одна и та же конечная сумма по всем парам $(k, s)$, записанная в разном порядке, поэтому элементы равны. $\blacksquare$

На лекции доказательство проведено для квадратных матриц $n \times n$, где все суммы идут до $n$; для прямоугольных оно то же самое, меняются только пределы.

6. Кольцо квадратных матриц

6.1. Квадратные матрицы образуют кольцо

Матрицы $n \times n$ называются квадратными, их множество обозначается $M_n = M_{n,n}$. Для $A, B \in M_n$ произведение $AB$ определено и снова лежит в $M_n$, так что умножение — бинарная операция на $M_n$.

Проверим аксиомы кольца из лекции 1:

• $(M_n, +)$ — абелева группа, потому что $M_n$ — линейное пространство (раздел 4.2);
• умножение ассоциативно — теорема 1;
• дистрибутивность $A(B + C) = AB + AC$ и $(A + B)C = AC + BC$ — упражнение: элемент $(i, j)$ слева равен $\sum_k a_{ik}(b_{kj} + c_{kj})$, дальше раскрыть скобки в поле.

6.2. Единица

Определение 6. Символ Кронекера:

$\delta_{ij} = \begin{cases} 1, & i = j, \\ 0, & i \ne j. \end{cases}$

Единичная матрица $E_n = (\delta_{ij})$ — единицы на главной диагонали, нули вне её.

Утверждение 4. $AE_n = E_nA = A$ для любой $A \in M_n$.

Доказательство. $(AE_n)_{ij} = \sum_{k=1}^{n} a_{ik} \delta_{kj} = a_{ij}$: из всей суммы ненулевым остаётся только слагаемое с $k = j$. Для $E_nA$ аналогично: $\sum_k \delta_{ik} a_{kj} = a_{ij}$. $\blacksquare$

Итак, $M_n$ — кольцо с единицей $E_n$.

6.3. Некоммутативность

Утверждение 5. При $n \ge 2$ кольцо $M_n$ некоммутативно.

Доказательство. Контрпример при $n = 2$:

$A = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}, \qquad B = \begin{pmatrix} 0 & 0 \\ 1 & 0 \end{pmatrix}, \qquad AB = \begin{pmatrix} 1 & 0 \\ 0 & 0 \end{pmatrix}, \qquad BA = \begin{pmatrix} 0 & 0 \\ 0 & 1 \end{pmatrix}.$

$AB \ne BA$. Для $n > 2$ годятся те же матрицы, дополненные нулями. $\blacksquare$

6.4. Делители нуля

В $M_n$ произведение двух ненулевых матриц может оказаться нулевой матрицей. Например, для $A$ из раздела 6.3:

$A^2 = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix} = \Theta.$

Такие матрицы — делители нуля. В лекции 1 они определялись для коммутативных колец; в некоммутативном кольце ненулевой $A$ называют делителем нуля, если $AB = \Theta$ или $BA = \Theta$ для некоторой ненулевой $B$.

Частые ошибки

• Путать скаляр $0 \in K$ и нулевой вектор $\theta \in V$. В $0 \cdot x = \theta$ это разные объекты.
• Считать многочлены степени ровно $n$ линейным пространством. Правильно — степени не выше $n$.
• Умножать матрицы поэлементно. Поэлементно только складывают и умножают на число; произведение — «строка на столбец».
• Не проверять размеры: $AB$ определено, когда столбцов у $A$ столько же, сколько строк у $B$. Из того, что определено $AB$, не следует, что определено $BA$.
• Писать $(AB)^T = A^TB^T$. Верно $(AB)^T = B^TA^T$ — порядок меняется.
• Переставлять множители и сокращать: $AB \ne BA$ в общем случае, а $AB = \Theta$ возможно при ненулевых $A$ и $B$.
• Путать индексы: в $a_{ij}$ первый — строка, второй — столбец.

Мини-тренажёр

1. Докажите из аксиом, что $\alpha \cdot \theta = \theta$ для любого $\alpha \in K$.
2. Докажите, что $(-1) \cdot x = -x$.
3. Является ли линейным пространством множество векторов $(x_1, x_2) \in \mathbb{R}^2$ с $x_1 + x_2 = 1$? А с $x_1 + x_2 = 0$?
4. $A \in M_{2,3}$, $B \in M_{3,4}$. Какие из произведений $AB$, $BA$, $A^TB$, $B^TA^T$ определены и какого они размера?
5. Найдите $AB$ и $BA$ для $A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}$, $B = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$. Что делает $B$ при умножении справа и слева?
6. Подберите ненулевую $B \in M_2$, для которой $\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix} B = \Theta$.
7. Докажите, что $(AB)^T = B^TA^T$ для $A \in M_{m,n}$, $B \in M_{n,p}$.

Ответы

1. $\alpha\theta = \alpha(\theta + \theta) = \alpha\theta + \alpha\theta$ по аксиомам 3 и 8. Прибавив $-\alpha\theta$ к обеим частям, получаем $\theta = \alpha\theta$.
2. $x + (-1)x = 1 \cdot x + (-1) x = (1 + (-1))x = 0 \cdot x = \theta$ по нормировке, дистрибутивности и утверждению 3. Значит, $(-1)x$ — противоположный к $x$, а он единственен (утверждение 2).
3. Первое — нет: в нём нет $\theta = (0, 0)$, и сумма $(1, 0) + (0, 1) = (1, 1)$ из него выходит. Второе — да: условие $x_1 + x_2 = 0$ сохраняется при сложении и умножении на число, а аксиомы наследуются из $\mathbb{R}^2$.
4. $AB$ — да, $2 \times 4$. $BA$ — нет ($4 \ne 2$). $A^TB$ — нет: $A^T$ размера $3 \times 2$, а у $B$ три строки. $B^TA^T$ — да: $(4 \times 3)(3 \times 2) = 4 \times 2$.
5. $AB = \begin{pmatrix} 2 & 1 \\ 4 & 3 \end{pmatrix}$ — справа $B$ меняет местами столбцы. $BA = \begin{pmatrix} 3 & 4 \\ 1 & 2 \end{pmatrix}$ — слева меняет местами строки. $AB \ne BA$.
6. Например, $B = \begin{pmatrix} 1 & 1 \\ -1 & -1 \end{pmatrix}$: каждая строка $(1, 1)$ на столбец $(1, -1)^T$ даёт $0$. Обе матрицы ненулевые — делители нуля.
7. $\big((AB)^T\big)_{ij} = (AB)_{ji} = \sum_{k} a_{jk} b_{ki} = \sum_{k} (B^T)_{ik} (A^T)_{kj} = (B^TA^T)_{ij}$, и размеры совпадают: обе матрицы $p \times m$.

Шпаргалка