При каких параметрах прямая пересекает прямоугольник?

При $%b=1$% получается прямая $%y=x+1$%. Она пересекает контур прямоугольника в точках $%(0;1)$% и $%(1;2)$%. Отрезок, получающийся в пересечении, имеет длину $%\sqrt2$%.

Выясним, при каких $%b$% прямая не пересекает прямоугольник ни в одной точке, а затем перейдём к дополнению. Запишем уравнение прямой в виде $%F(x;y)=(b^2+2b-2)x+b-y=0$%. Если значение этой функции больше нуля, то точка $%(x;y)$% лежит в одной из открытых полуплоскостей, а если оно меньше нуля, то в другой. Чтобы прямая не пересекала прямоугольник, необходимо и достаточно, чтобы все четыре вершины принадлежали одной и той же открытой полуплоскости.

Значения функции в вершинах прямоугольника таковы: $%F(0;0)=b$%; $%F(0;2)=b-2$%; $%F(3;0)=3b^2+7b-6$%; $%F(3;2)=3b^2+7b-8$%. Корнями квадратного уравнения $%F(3;0)=0$% будут числа $%-3$% и $%\frac23$%, а корнями уравнения $%F(3;2)=0$% -- числа $%\frac{-7\pm\sqrt{145}}6$%.

Рассмотрим первый случай, когда все четыре значения функции положительны. Ясно, что $%b > 2$% будет необходимым и достаточным условием (число 2 больше каждого из корней обоих квадратных уравнений). Во втором случае, когда все четыре значения функции отрицательны, получается $%b < 0$%, и при этом $%b$% лежит строго между корнями каждого из квадратных уравнений. Для первого уравнения это влечёт $%b > -3$%, и тогда интервал $%b\in(-3;0)$% автоматически попадает между корнями второго квадратного уравнения (больший корень положителен, а для меньшего имеют место неравенства $%\frac{-7\pm\sqrt{145}}6 < -\frac{19}6 < -3$%).

В итоге получается, что прямая не пересекает прямоугольник при $%b\in(-3;0)\cup(2;+\infty)$%, то есть пересечение имеет место при $%b\in(-\infty;-3]\cup[0;2]$%.