У вас же написана формула, как это делать.
Вектор

однозначно представляется в виде суммы базисных векторов, поэтому для них достаточно проверить (если вы знаете, что преобразование линейное). Линейность нужно честно проверить:

и

, где

вектора и

элемент поля.
Раскройте левую часть по той формуле, которая у вас есть, а потом правую.
Чтобы ответить на вопрос про матрицу, нужно знать: а чем являются столбцы матрицы оператора в базисе

?