аналитическая-геометрия - Как найти единичный вектор?

Получить вектор единичной длины проще в самом конце. Для начала надо учесть условие компланарности. Оно означает, что $%d$% выражается через $%a$% и $%b$% с какими-то коэффициентами: $%d=xa+yb=(8x+2y,4x-2y,x+y)$%. (Выписанное Вами условие $%(d,a)=(d,b)$% означает совсем другое: что $%d$% ортогонален разности $%a-b$%. В условии про это ничего не сказано.)

Теперь учитываем то, что $%d$% ортогонален $%c$%. Это значит, что сумма координат равна нулю: $%13x+y=0$%. Сами числа $%x$% и $%y$% из этих условий не найти (любой пропорциональный вектор пока что подходит), поэтому положим $%x=1$%, $%y=-13$%. Вектор $%d$% примет вид $%(-18;30;-12)$%. Разделим его для удобства на $%-6$%, считая, что $%d=(3;-5;2)$%. Теперь $%d=(-1/6)a+(13/6)b$%.

Выясним теперь вопрос об ориентации. Можно составить два определителя (из координат) и сравнить их знаки. Можно поступить проще: у тройки $%(a,d,c)=(a,(-1/6)a+(13/6)b,c)$% ориентация та же, что и у $%(a,(13/6)b,c)$%, то есть она совпадает с ориентацией тройки $%(a,b,c)$%. (Здесь, фактически, были использованы свойства определителей.) По условию, должно быть наоборот, поэтому $%d$% меняем на противоположный вектор $%(-3;5;-2)$%. Наконец, делим этот вектор на его длину, равную $%\sqrt{38}$%, чтобы получить единичный вектор того же направления.