Я бы написал

, или

, или

, или
$ $S_t[f](x)$](https://dxdy-03.korotkov.co.uk/f/e/e/5/ee524c2bf04c56865c9dbf14d1f91a9882.png)
.
-- Ср окт 12, 2011 23:28:47 --А ещё можно

или, опустив ненужные скобки,

, хотя последнее выглядит неудобно несмотря на то, что прочитать это можно только одним образом.
-- Ср окт 12, 2011 23:39:24 --Хотелось бы узнать есть ли разница и что лучше?
Разницы никакой нет, когда вы знаете, что конкретно формально записанное подразумевается под той или иной более-менее неформальной записью. Скорее всего, наиболее точным описанием ваших вещей будет

. Правда, это недостаточно формально. Тут скобки имеют два значения — группировки выражений в одно и применения функции (вторые можно опустить все здесь, хотя

тоже выглядит непривычно).
-- Ср окт 12, 2011 23:50:32 --

.
Вот так достаточно формально.
-- Ср окт 12, 2011 23:58:22 --А ещё формальнее будет



, но так вообще нигде не принято. Зато скобки только группирующие.
P. S. Я где-то скобку потерял.
-- Чт окт 13, 2011 00:09:01 --Мне тут шепнули, что вы неверно записали, откуда и куда

(а я просмотрел). На самом деле это будет выглядеть вот так:

. Штрих от балды лишь для различения. В самом деле, на многочленах

, но только у вас запись

двусмысленная, а при других

может быть

.