На форумах по моему везде растры, а вот в PDF нет, в векторном виде должно быть.
Конечно. Броузеры не слишком разумны, им резко проще просто подставлять картинку, но для просмотровщиков PDF это не так.
все испортил Acrobat Reader.
Да нет, это просто случайное совпадение. Главное в такой ситуации - вы заранее не знаете, как будет выглядеть результат в произвольном случае.
Таким, это о том, что в Scribus?
Да.
Выходит, что альтернативы верстки именно в LaTeX, для вывода формул в векторном виде, нет?
Скорее всего. Ручаться не буду, но тут дело именно в специфике потребностей: делать столь странную штуку ранее приходило в голову явно очень немногим, поэтому и решение, даже если существует, широко известным точно не является.
Так что во всех точек зрения проще перейти на LaTeX полностью.
Поставил сегодня Gummi, но пока в этом совершенно ничего не понимаю.
Редактор не так уж важен, но все равно лучше используйте TeXstudio (или Kile, если любите KDE).