Мне больше по душе то, что написал Brukvalub, возможно потому, что и сам подумал то же самое.
А реализация здесь очень простая.
1) Пересчёт параметров прямой при аффинном преобразовании (которое и находить не обязательно)
требует решения двух линейных систем с тремя неизвестными.
Это и есть простая, но самая трудоёмкая часть.

Остальное ещё проще - это просто логика, которая на компе производится
наиболее быстро.
2) Просто давайте распишем то "совсем просто", о котором говорил Brukvalub. Итак пусть дан единичный куб,
одна вершина которого в начале координат, а три ей смежные - на осях. Прямая пусть проходит через
точку (a,b,c) с направляющим вектором (m,n,k).
Положим
Тогда условие пересечения прямой с кубом равносильно истинности формулы:
Содержательно здесь просто написано, что если прямая пересекает куб, то она пересекает
некоторую грань под ненулевым углом - этим и объясняется отсутстве в формуле дизъюнктов, содержащих m=0, n=0 и k=0.
Разумеется в успешном случае вычисляются и точки пересечения с гранями, но это для этого надо
явно выписать аффинный переход, что впрочем тоже просто.