Есть ли общие методы, исходя из которых можно сказать, что траектория хаотическая или в каждом случае свой подход, а в некоторых уравнениях и вовсе неизвестно, являются решения хаотическими или нет?
Начнем с того, что понятие хаоса не имеет единого определения. Подход к определению хаоса может быть статистический: метрическая энтропия, эргодичность, перемешивание, а может быть топологический: топологическая энтропия, топологическое перемешивание, показатели Ляпунова, хаос в смысле Девани, Ли-Йорка и т. д. Что считать хаосом --- зависит от наших предпочтений и конкретной ситуации.
Всякое ли уравнение, в котором траектория или предельный цикл имеют дробную размерность, является хаотическим?
Само утверждение бессмысленно, пока не указан класс уравнений, метрика и определение хаоса. Потому что понятия размерности, которые приводят к дробным значениям (например хаусдорфова или фрактальная размерность), могут меняться при замене метрики, сохраняющей топологию, а многие понятия хаоса --- топологические инварианты системы. Но даже при фиксации вышеуказанных вещей, что-то содержательное вряд ли удастся доказать.
Другое дело, что, если рассматривать естественные метрики, то дробное значение размерности аттрактора может намекать на сложное поведение системы. Теория размерностей динамических систем как раз занимается оценками размерностей аттракторов и других их характеристик типа топологической энтропии или показателей Ляпунова. Основная идея тут в том, что сам аттрактор мы не знаем, но можем знать область, где он лежит (ее можно найти, используя функцию Ляпунова) и проанализировав векторное поле в этой области и поведение функции Ляпунова можно дать некоторые оценки (в основном верхние) на вышеуказанные величины.