Sashamandra писал(а):
Скажите, пожалуйста, а M - это функция от трех аргументов?
Если очень хочется, можете интерпретировать

как функцию, которая упорядоченной тройке чисел ставит в соответствие точку пространства. Но в оригинале имеется в виду просто обозначение: "точка

имеет координаты

,

,

".
Sashamandra писал(а):
А фигурные скобки обозначают список (или упорядоченную тройку) или тоже функцию со значениями в множестве векторов?
А запись вектора в виде

означает, что вектор имеет (в подразумеваемом базисе) координаты

,

,

.
Не озадачивайтесь слишком сильно обозначениями. Нет "правильных" или "неправильных" обозначений. Есть широко распространённые, употребляемые чаще всего, и есть более редкие или совсем редко употребляемые обозначения. Желательно пользоваться наиболее распространёнными обозначениями, поскольку это облегчает взаимопонимание, однако создать универсальные обозначения, удобные всем и всегда, невозможно. Поэтому не удивляйтесь, что в теории множеств

обозначает (неупорядоченное) множество с элементами

,

,

(не обязательно различными), а в аналитической геометрии то же самое может использоваться для обозначения вектора.
Если задачник Д.В.Клетеника кажется Вам недостаточно авторитетным, я могу сослаться на так называемый "кирпич". Его автор академик П.С.Александров преподавал на механико-математическом факультете МГУ и обозначал векторы точно так же:
П.С,Александров. Курс аналитической геометрии и линейной алгебры. "Наука", Москва, 1979.