Не уверен, что так проще всего, но всё же:
Надо проверить, что точки

и

лежат по разные стороны от прямой

, и точки

и

- по разные стороны прямой

. Для того, чтобы проверить первую вещь, надо посчитать векторные произведения
![$[BA,\,BD]$ $[BA,\,BD]$](https://dxdy-01.korotkov.co.uk/f/c/d/0/cd096a14015dbe7ed1b87c6d4b354b4b82.png)
и
![$[BD,\,BC]$ $[BD,\,BC]$](https://dxdy-02.korotkov.co.uk/f/9/f/3/9f3a3e26ae0b44b0fee3fe626e84ac1d82.png)
и посмотреть, одинаковый ли у них знак.