Посмотрите логистическое отображение, треугольное отображение. Последовательности Спротта
http://sprott.physics.wisc.edu/fractals.htm http://mathworld.wolfram.com/StrangeAttractor.html
http://dxdy.ru/topic12956.html ссылка от
maxal и есть хорошая книжка Шустера "Детерминированный хаос".