Попробую все же разъяснить, в чем дело.
На самом деле, BibTeX'у регистр по барабану. Но вот что происходит: LaTeX преобразует колонтитул в верхний регистр (впрочем, в данном случае этого не видно, так как он преобразует только латиницу). И LaTeX'у регистр не по барабану. Поэтому он пишет одну и ту же ссылку в aux дважды. Теперь BiBTeX в недоумении, потому что видит одну ссылку дважды (для него это одна и та же ссылка) и к тому же написанную в разных регистрах. Поэтому, если, например, написать
\section{Некоторые заметки по книге \cite{MALLAT_S_A_WAVELET_TOUR_OF_SIGNAL_PROCESSING_ENG_1999}}
Формула Парсеваля (\cite{MALLAT_S_A_WAVELET_TOUR_OF_SIGNAL_PROCESSING_ENG_1999}, стр. 4)
то все будет вообще в порядке, а если
\section{Некоторые заметки по книге \cite{Mallat_S_A_wavelet_tour_of_signal_processing_Eng_1999}}
Формула Парсеваля (\cite{MALLAT_S_A_WAVELET_TOUR_OF_SIGNAL_PROCESSING_ENG_1999}, стр. 4)
то [?] возникнет лишь в заголовке раздела.
Вот "нормальное" решение (оно универсально в том смысле, что не зависит от того, что LaTeX еще чего плохого в следующий захочет сделать с колонтитулом и/или заголовком и/или оглавлением):
\def\boo{\cite{Mallat_S_A_wavelet_tour_of_signal_processing_Eng_1999}}
\begin{document}
\section{Некоторые заметки по книге \protect\boo}
Формула Парсеваля (\cite{Mallat_S_A_wavelet_tour_of_signal_processing_Eng_1999}, стр. 4)
-- Чт ноя 04, 2010 23:53:52 --Вообще, \protect -- мощное оружие, позволяющее решить очень много проблем с LaTeXом.