Соображения есть такие. Зададим эллипс параметрически через угол

:

,

. Напишем расстояние от точки эллипса до центра окружности (точнее, его квадрат):

.
Найдем производную этого выражения и приравняем к нулю:
Решение этого уравнения даст нам две точки на эллипсе: самую дальнюю от центра окружности и самую ближнюю. По крайней мере, это будет так, если центр окружности не лежит внутри эллипса, иначе будет две точки минимума и две - максимума.
Точку минимума надо найти и сравнить расстояние до центра окружности с радиусом.
На самом деле видно также, что это уравнение равносильно тому, что отрезок, соединяющий точку эллипса с центром окружности, перпендикулярен касательной к эллипсу в этой точке.
Явного решения этого уравнения я сходу не вижу. В крайнем случае можно решить численно.