2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


Посмотреть правила форума



Начать новую тему Ответить на тему
 
 Уравнение гиперплоскости
Сообщение07.12.2022, 20:49 


28/01/15
662
В методе опорных векторов (SVM) как примере линейных дискриминантных функций приводится уравнение разделяющей гиперплоскости.
Если записать уравнение гиперплоскости в общем виде, то получается для n-мерного случая что-то типа: $a_1x_1 + a_2x_2 + ... + a_nx_n + b = 0$
Обычно вместо буквы $a$ используют $w$, чтобы намекнуть на то, что множитель перед $x$ - это весовой коэффициент.
Далее, для сокращения записи представляют выражение $w_1x_1 + w_2x_2 + ... + w_nx_n$ как выраженное в координатах скалярное произведение некоторых векторов $\mathbf{w} = (w_1, w_2, ..., w_n)$ и $\mathbf{x} = (x_1, x_2, ..., x_n)$
Таким образом, получается $(\mathbf{w},\mathbf{x}) + b = 0$
Это всё понятно.
Также встречается другая запись, которая меня и смущает.
Запись это такая: $\mathbf{w}^\mathbf{T}\mathbf{x}+b=0$
Судя по записи, тут речь о матричном представлении векторов: $\mathbf{w}$ - вектор-строка, $\mathbf{w}^\mathbf{T}$ - вектор-столбец, $\mathbf{x}$ - вектор-строка, а транспонирование необходимо чисто формально для возможности перемножения матриц.
Что тут неясно:
1. В названиях матриц обычно прописные буквы, а тут строчные, разве это допустимо?
2. Названия матриц обычно напечатаны обычным шрифтом, а тут жирным, как у обозначений векторов, да и пояснениях указывают, что это векторы, то есть получается что тут как бы транспонируют вектор, хотя транспонирование векторов вне контекста матриц для меня непонятная операция... В общем, как понимать транспонированный вектор - всегда как матрицу?
3. По идее, изначально оба вектора были обозначены как векторы-строки, первый вектор после транспонирования стал вектором-столбцом, но тогда после умножения вектора-столбца на вектор-строку получается квадратная матрица $n \times n$, а не то выражение, которое должно получиться (матрица $1 \times 1$ c единственным элементом $w_1x_1 + w_2x_2 + ... + w_nx_n$)... Как это тогда понимать?
4. Почему транспонировали именно матрицу $\mathbf{w}$, а не $\mathbf{x}$, ведь при любом из транспонирований результат одинаковый?

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение07.12.2022, 22:49 
Заслуженный участник
Аватара пользователя


16/07/14
8667
Цюрих
Шрифты и прописные/строчные буквы могут быть разные в разных источниках.
При фиксированном базисе (точнее при заданном скалярном произведении) для векторов определена операция транспонирования. Если закопаться чуть глубже, то она сопоставляет вектору линейный функционал (элемент сопряженного пространства).
При работе с матрицами вектора часто по умолчанию считаются столбцами, чтобы при умножении матрицы на вектор вектор писать справа от матрицы, а не слева. Но иногда пишут и наоборот, важно, чтобы это было консистентно.
Если $x$ и $w$ - вектора-столбцы, то написать $wx^T$ нельзя, а $x^T w$ будет как раз матрицей (произведением Кронекера), а не числом.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 01:20 


10/03/16
4074
Aeroport
mihaild в сообщении #1573026 писал(а):
то написать $wx^T$ нельзя

Почему?

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 01:39 
Заслуженный участник
Аватара пользователя


16/07/14
8667
Цюрих
ozheredov в сообщении #1573036 писал(а):
Почему?
Потому что мне надо перечитывать сообщения прежде чем отправлять:)
$wx^T$ как раз будет матрицей, а $x^T w = (w^T x)^T$, но т.к. транспонирование числа ничего не меняет, что $x^T w = w^T x$. Важно что транспонируем ровно один вектор, и его пишем слева.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 05:38 
Заслуженный участник


18/01/15
3142
Solaris86 в сообщении #1573013 писал(а):
В названиях матриц обычно прописные буквы, а тут строчные, разве это допустимо?
2. Названия матриц обычно напечатаны обычным шрифтом, а тут жирным,
Как выразился один персонаж из "Золотого теленка",
Никита Пряхин писал(а):
Как пожелаем, так и сделаем !
Неважно, где там строчная жирным шрифтом, где прописная обычным. Главное, чтоб смысл был понятен, и общая гармоничность изложения не нарушалась. Я, например, жирный шрифт вообще не использую никогда. Это у прикладников традиция вектор жирным писать (и то не всегда), а у математиков --- нет.

-- 08.12.2022, 04:42 --

Solaris86 в сообщении #1573013 писал(а):
По идее, изначально оба вектора были обозначены как векторы-строки, первый вектор после транспонирования стал вектором-столбцом, но тогда после умножения вектора-столбца на вектор-строку получается квадратная матрица $n \times n$, а не то выражение, которое должно получиться (матрица $1 \times 1$ c единственным элементом $w_1x_1 + w_2x_2 + ... + w_nx_n$)... Как это тогда понимать?
А иногда знак транспонирования пишут не справа от вектора или матрицы, а слева (например, чтоб невзначай со знаком степени не спутать). Т.е. в данном случае, возможно, $T$ относится к $x$, а не к $w$.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 06:42 
Заслуженный участник
Аватара пользователя


11/03/08
9614
Москва
w и x векторы, не матрицы. Векторы-столбцы. После транспонирования - строка. После умножения "строка на столбец" получается число (которое можно трактовать, как матрицу 1х1, но "на фига"?

(Оффтоп)

Андрей Вознесенский, мааалчать!

Число можно складывать с числом b, или приравнивать к нулю.
То есть всё правильно, никаких противоречий, или даже нестандартных обозначений не видно.

 Профиль  
                  
 
 Re: Уравнение гиперплоскости
Сообщение08.12.2022, 07:37 
Заслуженный участник
Аватара пользователя


15/10/08
11637
Есть ещё нотация Дирака. Там точно вектор с ковектором не спутаешь.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 7 ] 

Модераторы: Модераторы Математики, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group