Мне вольфрам математика говорит, что при

и

, например, в моей задаче произведение будет стремиться к нулю.
Можете привести код? А то мне она говорит, что не к нулю

Хмммм......
Код:
Limit[Product[(x^2 - 3 x - 2)/(x^2 - 3 x), {x, 5, n}], n -> Infinity]
Я на этом основывался...
Но если написать
Код:
Product[(x^2 - 3 x - 2)/(x^2 - 3 x), {x, 5, Infinity}]
то уже не нуль. Я видимо что-то не догоняю в работе вольфрама...