Но говорить в этом случае про поток ротора скорости, через элементарную площадку расположенную на оси вращения, уже не приходится. И вроде как движение становится безвихревым...
Давайте начнем с определений (за строгость бъёмся без фанатизма).
Поле

называется безвихревым в некоторой области, если в этой области

Поле

называется потенциальным в области

, если

где

не зависит от кривой, лежащей в области

Ясно, что в этом случае интеграл по замкнутому контуру, лежащем в

равен нулю.
Бывают ли безвихревые непотенциальные поля? Бывают. Пример такого поля Вы, собственно, привели. Условие

является необходимым условием потенциальности. Достаточным оно становится, если область, в которой задано поле, односвязна. Это значит, что на любой контур можно натянуть поверхность, целиком лежащую в

или, что эквивалентно, любой контур можно стянуть в точку. В Вашем случае коаксиальной трубы это не так. Контур, охватывающий внутреннюю трубу, нельзя стянуть в точку.
А что же с линиями ротора в такой ситуации? В этом месте помогает аналогия с электродинамикой (во времена Максвелла гидродинамику знали лучше, поэтому Максвелл приводил механические аналогии, сейчас - наоборот). Вашему полю скоростей

в электродинамике (магнитостатике) соответствует поле уединенного бесконечно тонкого провода

Это можно интерпретировать как то, что мощность вихря

является источником поля скоростей так же как ток

является источником магнитного поля. Теперь попробуем создать магнитное поле вокруг конечного цилиндра такое, что внутри цилиндра оно - ноль, а снаружи такое же, как у провода, проходящего по оси цилиндра. Легко проверить, что такое поле создаст постоянный поверхностный ток, интеграл от которого кольцу равен

(Применяем теорему Стокса для окружности внутри и снаружи цилиндра.) То есть, источником такого поля являются поверхностные токи. Значит источником Вашего поля скоростей являются "поверхностные вихревые линии", плотно заполняющие поверхность внутреннего цилиндра. Аналогично с внешним цилиндром - там такие токи нужны, что бы уничтожить поле скоростей вне цилиндра. Если где-то геометрия поменяется, то эти линии могут либо оторваться от поверхности и собраться в вихревую линию в жидкости, либо прилипнуть к новой внутренней геометрии, либо и то, и другое. В реальной жидкости это одна из причин образования пограничного слоя вблизи стенок.