вектор - Пересечение луча с отрезком

Если Вам нужен именно луч, лучше не использовать $%tg$%, так как он одинаковый и для луча, и для его продолжения в противоположную сторону. А чем Вам не нравится мой ответ на предыдущий вопрос?

Луч, исходящий из M, задается параметрическими уравнениями
$$\begin{cases} x = x_2 + t\cdot \cos \alpha\\ y = y_2 + t\cdot \sin \alpha\end{cases}$$ где $%t \ge 0$%
Отрезок $%AB$% в виде $$\begin{cases} x = x_0 + \lambda (x_1 -x_0)\\ y = y_0 + \lambda (y_1 -y_0)\end{cases}$$ Здесь произвольное $%\lambda$% дает точку прямой, а отрезку соответствуют значения от 0 (точка A) до 1 (точка B).
Приравнивая иксы и игреки, получим систему уравнений для $%(t; \lambda)$%. Ограничение $%0 \le \lambda \le 1$% задает условие пересечения с отрезком AB.
$$\begin{cases} t\cos \alpha = {x_0-x_2 + \lambda(x_1-x_0)}\\ t\sin \alpha = {y_0-y_2 + \lambda(y_1-y_0)}\end{cases}.$$
Исключаем t, находим $%\lambda$% и задаем ограничение на него. Получаем условие на $%\alpha$%. Да, еще надо учесть, что $%t > 0$%.

Можно и по-другому. Находим угол $%\alpha$%, соответствующий направлению MA и другой, соответствующий MB. Искомый угол будет лежать между этими. Правда, непонятно, что значит "между"?
Например, если углы есть $%170$% и $%-30$% градусов, то какие значения находятся "между"? Из промежутка $%(-30, 170)$% или $%(170, 330)$%, ведь угол 330 градусов соответствует тому же направлению! Надо выбирать тот промежуток, который меньше 180 градусов.

Только для отыскания $%\alpha$% не ограничивайтесь тангенсом! Учтите и знаки sin, cos.

Второе решение требует использования обратных тригонометрических функций и описания разных подслучаев. Для первого нужны только $%\sin\alpha$% и $%\cos\alpha$%, их находить проще.