Ещё можно придумать такую вещь, если эллипс один и зафиксирован на плоскости. Если так, то большинство точек можно отбросить на предварительном проходе, если построить гистограмму - мысленно разделить этот эллипс на

вертикальных сегментов и для каждого из сегментов заранее посчитать и поместить в массив 2 значения:

и

. Все значения, меньшие по модулю

(для заданной координаты

) автоматически принадлежат эллипсу, те, что больше по модулю

- автоматически не принадлежат, а с остальными - разбираться поштучно...