2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Уравнение гиперплоскости
Сообщение07.12.2022, 20:49 


28/01/15
670
В методе опорных векторов (SVM) как примере линейных дискриминантных функций приводится уравнение разделяющей гиперплоскости.
Если записать уравнение гиперплоскости в общем виде, то получается для n-мерного случая что-то типа: $a_1x_1 + a_2x_2 + ... + a_nx_n + b = 0$
Обычно вместо буквы $a$ используют $w$, чтобы намекнуть на то, что множитель перед $x$ - это весовой коэффициент.
Далее, для сокращения записи представляют выражение $w_1x_1 + w_2x_2 + ... + w_nx_n$ как выраженное в координатах скалярное произведение некоторых векторов $\mathbf{w} = (w_1, w_2, ..., w_n)$ и $\mathbf{x} = (x_1, x_2, ..., x_n)$
Таким образом, получается $(\mathbf{w},\mathbf{x}) + b = 0$
Это всё понятно.
Также встречается другая запись, которая меня и смущает.
Запись это такая: $\mathbf{w}^\mathbf{T}\mathbf{x}+b=0$
Судя по записи, тут речь о матричном представлении векторов: $\mathbf{w}$ - вектор-строка, $\mathbf{w}^\mathbf{T}$ - вектор-столбец, $\mathbf{x}$ - вектор-строка, а транспонирование необходимо чисто формально для возможности перемножения матриц.
Что тут неясно:
1. В названиях матриц обычно прописные буквы, а тут строчные, разве это допустимо?
2. Названия матриц обычно напечатаны обычным шрифтом, а тут жирным, как у обозначений векторов, да и пояснениях указывают, что это векторы, то есть получается что тут как бы транспонируют вектор, хотя транспонирование векторов вне контекста матриц для меня непонятная операция... В общем, как понимать транспонированный вектор - всегда как матрицу?
3. По идее, изначально оба вектора были обозначены как векторы-строки, первый вектор после транспонирования стал вектором-столбцом, но тогда после умножения вектора-столбца на вектор-строку получается квадратная матрица $n \times n$, а не то выражение, которое должно получиться (матрица $1 \times 1$ c единственным элементом $w_1x_1 + w_2x_2 + ... + w_nx_n$)... Как это тогда понимать?
4. Почему транспонировали именно матрицу $\mathbf{w}$, а не $\mathbf{x}$, ведь при любом из транспонирований результат одинаковый?

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение07.12.2022, 22:49 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Шрифты и прописные/строчные буквы могут быть разные в разных источниках.
При фиксированном базисе (точнее при заданном скалярном произведении) для векторов определена операция транспонирования. Если закопаться чуть глубже, то она сопоставляет вектору линейный функционал (элемент сопряженного пространства).
При работе с матрицами вектора часто по умолчанию считаются столбцами, чтобы при умножении матрицы на вектор вектор писать справа от матрицы, а не слева. Но иногда пишут и наоборот, важно, чтобы это было консистентно.
Если $x$ и $w$ - вектора-столбцы, то написать $wx^T$ нельзя, а $x^T w$ будет как раз матрицей (произведением Кронекера), а не числом.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 01:20 


10/03/16
4444
Aeroport
mihaild в сообщении #1573026 писал(а):
то написать $wx^T$ нельзя

Почему?

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 01:39 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
ozheredov в сообщении #1573036 писал(а):
Почему?
Потому что мне надо перечитывать сообщения прежде чем отправлять:)
$wx^T$ как раз будет матрицей, а $x^T w = (w^T x)^T$, но т.к. транспонирование числа ничего не меняет, что $x^T w = w^T x$. Важно что транспонируем ровно один вектор, и его пишем слева.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 05:38 
Заслуженный участник


18/01/15
3237
Solaris86 в сообщении #1573013 писал(а):
В названиях матриц обычно прописные буквы, а тут строчные, разве это допустимо?
2. Названия матриц обычно напечатаны обычным шрифтом, а тут жирным,
Как выразился один персонаж из "Золотого теленка",
Никита Пряхин писал(а):
Как пожелаем, так и сделаем !
Неважно, где там строчная жирным шрифтом, где прописная обычным. Главное, чтоб смысл был понятен, и общая гармоничность изложения не нарушалась. Я, например, жирный шрифт вообще не использую никогда. Это у прикладников традиция вектор жирным писать (и то не всегда), а у математиков --- нет.

-- 08.12.2022, 04:42 --

Solaris86 в сообщении #1573013 писал(а):
По идее, изначально оба вектора были обозначены как векторы-строки, первый вектор после транспонирования стал вектором-столбцом, но тогда после умножения вектора-столбца на вектор-строку получается квадратная матрица $n \times n$, а не то выражение, которое должно получиться (матрица $1 \times 1$ c единственным элементом $w_1x_1 + w_2x_2 + ... + w_nx_n$)... Как это тогда понимать?
А иногда знак транспонирования пишут не справа от вектора или матрицы, а слева (например, чтоб невзначай со знаком степени не спутать). Т.е. в данном случае, возможно, $T$ относится к $x$, а не к $w$.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 06:42 
Заслуженный участник
Аватара пользователя


11/03/08
9967
Москва
w и x векторы, не матрицы. Векторы-столбцы. После транспонирования - строка. После умножения "строка на столбец" получается число (которое можно трактовать, как матрицу 1х1, но "на фига"?

(Оффтоп)

Андрей Вознесенский, мааалчать!

Число можно складывать с числом b, или приравнивать к нулю.
То есть всё правильно, никаких противоречий, или даже нестандартных обозначений не видно.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 07:37 
Заслуженный участник
Аватара пользователя


15/10/08
30/12/24
12599
Есть ещё нотация Дирака. Там точно вектор с ковектором не спутаешь.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 7 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: YandexBot [bot]


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group