Норма (математика)

Норма — функционал, заданный на векторном пространстве и обобщающий понятие длины вектора или абсолютного значения числа.

Определение

Норма вектора

Основная статья: Нормированное пространство

Норма в векторном пространстве $V\$ над полем вещественных или комплексных чисел — это функционал $p\colon V\to \mathbb {R_{+}}$, обладающий следующими свойствами:

1. $p(x)=0\Rightarrow x=0_{V};$
2. $\forall x,y\in V,p(x+y)\leqslant p(x)+p(y)$ (неравенство треугольника);
3. $\forall \alpha \in \mathbb {C} ,\forall x\in V,p(\alpha \,x)=|\alpha |p(x).$

Эти условия являются аксиомами нормы.

Векторное пространство с нормой называется нормированным пространством, а условия (1—3) — также аксиомами нормированного пространства.

Из аксиом нормы очевидным образом вытекает свойство неотрицательности нормы:

$\forall x\in V,p(x)\geqslant 0$.

Действительно, из третьего свойства следует: $p(0_{V})=p(0\cdot 0_{V})=0\cdot p(0_{V})=0$, а из свойства 2 — $\forall x\in V\colon 0=p(0_{V})=p(x-x)\leqslant p(x)+p(-x)=2p(x)$.

Чаще всего норму обозначают в виде: $\|\cdot \|$. В частности, $\|x\|$ — это норма элемента $x$ векторного пространства $\mathbb {R}$.

Вектор с единичной нормой $\left(\|x\|=1\right)$ называется единичным или нормированным.

Любой ненулевой вектор $x$ можно нормировать, то есть разделить его на свою норму: вектор ${\frac {x}{\|x\|}}$ имеет единичную норму. С геометрической точки зрения это значит, что мы берем сонаправленный вектор единичной длины.

Норма матрицы

Основная статья: Норма матрицы

Нормой матрицы $A$ называется вещественное число $\|A\|$, удовлетворяющее первым трём из следующих условий:

1. $\|A\|\geqslant 0$, причём $\|A\|=0$ только при $A=0\$;
2. $\|\alpha A\|=|\alpha |\cdot \|A\|$, где $\alpha \in \mathbb {R}$;
3. $\|A+B\|\leqslant \|A\|+\|B\|$;
4. $\|AB\|\leqslant \|A\|\cdot \|B\|$.

Если выполняется также и четвёртое свойство, норма называется субмультипликативной. Матричная норма, составленная как операторная, называется подчинённой по отношению к норме, использованной в пространствах векторов. Очевидно, что все подчинённые матричные нормы субмультипликативны.

Матричная норма $\|\cdot \|_{ab}$ из $K^{m\times n}$ называется согласованной с векторной нормой $\|\cdot \|_{a}$ из $K^{n}$ и векторной нормой $\|\cdot \|_{b}$ из $K^{m}$ если справедливо:

$\|Ax\|_{b}\leqslant \|A\|_{ab}\|x\|_{a}$

для всех $A\in K^{m\times n},x\in K^{n}$.

Норма оператора

Основная статья: Операторная норма

Норма оператора $A$ — число, которое определяется так:

$\|A\|=\sup _{\|x\|=1}\|Ax\|$,

где $A$ — оператор, действующий из нормированного пространства $L$ в нормированное пространство $K$.

Это определение эквивалентно следующему:

$\|A\|=\sup _{x\neq 0}{\frac {\|Ax\|}{\|x\|}}$

• Свойства операторных норм:

1. $\|A\|\geqslant 0$, причём $\|A\|=0$ только при $A=0$;
2. $\|\alpha A\|=|\alpha |\cdot \|A\|$, где $\alpha \in \mathbb {R}$;
3. $\|A+B\|\leqslant \|A\|+\|B\|$;
4. $\|AB\|\leqslant \|A\|\cdot \|B\|$.

В конечномерном случае, оператору в некотором базисе соответствует матрица — матрица оператора. Если норма на пространстве(пространствах), где действует оператор, допускает одно из стандартных выражений в базисе, то свойства нормы оператора повторяют аналогичные свойства нормы матрицы.

Свойства нормы

1. $\|x\|-\|y\|\ \leqslant \|x\pm y\|\leqslant \|x\|+\|y\|$
2. ${{\bigl (}\|x\|-\|y\|{\bigr )}}^{2}\leqslant {\|x\pm y\|}^{2}\leqslant {{\bigr (}\|x\|+\|y\|{\bigl )}}^{2}$
3. ${\frac {\|x\|^{2}+\|y\|^{2}-\|x-y\|^{2}}{2\|x\|\|y\|}}\in [-1,1]$ [косинус угла]
4. $\|0_{V}\|=\|x-x\|=\|0x\|=0\cdot \|x\|=0$
5. $0=\|x-x\|\leqslant \|x\|+\|-x\|=2\|x\|\Rightarrow \|x\|\geqslant 0$

Эквивалентность норм

• Две нормы $p$ и $q$ на пространстве $V$ называются эквивалентными, если существует две положительные константы $C_{1}$ и $C_{2}$ такие, что для любого $x\in V$ выполняется $C_{1}p(x)\leqslant q(x)\leqslant C_{2}p(x)$. Эквивалентные нормы задают на пространстве одинаковую топологию. В конечномерном пространстве все нормы эквивалентны.

Примеры

Линейные нормированные пространства

Изображение единичных окружностей для различных норм.

• Любое предгильбертово пространство можно считать нормированным, так как скалярное произведение порождает естественную норму

$\|x\|={\sqrt {\langle x,x\rangle }},\quad x\in X.$

• Гёльдеровы нормы $n$-мерных векторов (семейство): $\|x\|_{p}={\left(\sum _{i}|x_{i}|^{p}\right)}^{\frac {1}{p}}$,

где $p\geqslant 1$ (обычно подразумевается, что это натуральное число). В частности:

• $\|x\|_{1}=\sum _{i}|x_{i}|$, что также имеет название метрика L1, норма $\ell _{1}$ или манхэттенское расстояние. Для вектора представляет собой сумму модулей всех его элементов.
• $\|x\|_{2}={\sqrt {\sum _{i}|x_{i}|^{2}}}$, что также имеет название метрика L2, норма $\ell _{2}$ или евклидова норма. Является геометрическим расстоянием между двумя точками в многомерном пространстве, вычисляемым по теореме Пифагора.
• $\|x\|_{\infty }=\max |x_{i}|$ (это предельный случай $p\rightarrow \infty$).

• Нормы функций в $C[0,1]$ — пространстве вещественных (или комплексных) непрерывных функций на отрезке [0,1]:
  • $\|f\|_{C[0,1]}=\sup _{x\in [0,1]}|f(x)|$ — в смысле этой нормы пространство $C[0,1]$ непрерывных на отрезке функций образует полное линейное пространство. Этого нельзя сказать о следующих двух примерах нормы на этом пространстве, тем не менее, законных:
  • $\|f\|_{1}=\int \limits _{0}^{1}|f(t)|\,dt$
  • $\|f\|_{2}={\sqrt {\int \limits _{0}^{1}|f(t)|^{2}\,dt}}$
• Аналогично можно ввести нормы для конечномерных векторных функций конечномерных векторных аргументов, заменив $|f(x)|\$ на $\|f(x)\|\$, а интегрирование по отрезку интегрированием по области (максимум же на отрезке — в соответствующем случае — максимумом на области).

L0-«норма»

Особым случаем является $\ell _{0}$ (L0-«норма»), определяемая как количество ненулевых элементов вектора. Строго говоря, это не является нормой, так как не выполняется третья аксиома нормы. В основном таким видом «нормы» пользуются в задачах разреженного кодирования, в частности в Compressive sensing, где нужно найти наиболее разреженное представление вектора (с наибольшим количеством нулей), то есть с наименьшей $\ell _{0}$-нормой. С помощью этой «нормы» может быть определённо расстояние Хэмминга.

Некоторые виды матричных норм

• Порожденные нормы $\|A\|_{p}=\sup _{\|x\|_{p}=1}\|Ax\|_{p}$:
  • $p=1$: $m$-норма, $\|A\|_{m}=\max _{j}\sum _{i}|a_{ij}|$
  • $p=2$ (евклидова норма) и $m=n$ (квадратные матрицы), подчиненная норма матрицы называется спектральная норма. Спектральная норма матрицы $A$ равна наибольшему сингулярному числу матрицы $A$ или квадратному корню из наибольшего собственного числа положительно полуопределённой матрицы $A^{\dagger }A$: $\left\|A\right\|_{2}={\sqrt {\lambda _{\text{max}}(A^{\dagger }A)}}$, где $A^{\dagger }$ обозначает матрицу, сопряжённую к матрице $A$.
  • $p=\infty$: $l$-норма $\|A\|_{l}=\max _{i}\sum _{j}|a_{ij}|$

Здесь $A^{\dagger }$ — сопряжённая к $A$ матрица, $\mathrm {Tr}$ — след матрицы.

• Поэлементная $p$-норма ($p>0$): $\|A\|_{p}=\left(\sum _{i,j}|a_{ij}|^{p}\right)^{\frac {1}{p}}$
  • Норма Фробениуса: $\|A\|_{F}=\|A\|_{2}={\sqrt {\sum _{i,j}|a_{ij}|^{2}}}={\sqrt {\mathrm {Tr} \,A^{\dagger }A}}$.

Связанные понятия

Топология пространства и норма

Норма задаёт на пространстве метрику (в смысле — функцию расстояния метрического пространства), порождая таким образом метрическое пространство, а значит топологию, базой которой являются всевозможные открытые шары, то есть множества вида $B(x,r)=\{y\colon \|x-y\|<r\}$. Понятия сходимости, определённой на языке теоретико-множественной топологии в такой топологии и определённой на языке нормы, при этом совпадают.

См. также

• Полунорма
• Метрика
• Скалярное произведение