Ну мы же тут не шибко всерьёз...
Думаю, что часто бывает так - сперва пишут процедуру, которая сама по себе не критична по времени, а потом, забывая о неоптимальности, вызывают её несчётное количество раз... По крайней мере, я такое часто вижу вокруг. С тем же графиком - сперва напишут неоптимальную процедуру анализа данных, а потом заюзают её из другой процедуры, к графику отношения не имеющей.
По большому счёту Вы, конечно, правы - если есть архитектура проекта и есть возможность отслеживания её изменений и планирования эффективности. Хотя по себе знаю, что оптимизация программы (без фанатизма) часто позволяет её упростить. Если начать лепить затычки (в надежде на то, что это малозначимый участок), то логика теряется и потом ошибки отыскать очень непросто, так же как и расширить функциональность.
Хотя это несколько не о том и к примеру
littledespair отношения не имеет - он хорош, но объяснить его было бы труднее.