Можно конечно сказать, что на самом деле полка может быть и длинней, и при нахождении количества положений просто не учитываем пустые места между книгами, а лишь положение книг друг относительно друга.
Вот именно, учитываем только последовательность книг на полке, не выдумывая никаких ячеек.
Ну, тогда и в задаче с 3-мя полками так можно. Единственно, что необходимо учесть, что длина каждой из трёх полок такова, что позволяет уместить все 12 книг.
Да.
Хотя это тоже не оговорено в условии. Но такая оговорка позволяет уже законно применять формулу размещений (даже мысленно не деля на ячейки).
Нет. Если книг две, полок три, то "ячеек" получится шесть. Размещений из шести по два - тридцать. Способов расставить две книги на трёх полках, учитывая только порядок - двенадцать (их легко все перечислить).
Учитывайте также то, что не всякая книга будет стоять на полке, ни на что не опираясь. Предположим, что мы ставим книги на полку, начиная с левой стенки, чтобы первая книга опиралась на эту стенку, вторая - на первую и так далее. Я обычно так делаю.