Дж.Макконнелл - "Анализ алгоритмов" из серии "Мир программирования". Есть про конечные автоматы, машины Тьюринга, синтаксический анализ принадлежности к языку на их основе и многие алгоритмические задачи. Думаю, не все что ищете, но полезного много найдете.
И вообще Вам советую книжки этой серии - мне они очень нравятся, и главное - помогают
