Задача X*a = y, где нужно найти вектор a размера N, X и y - известны, X - матрица размером M×N, y - вектор размера M.

Данную задачу можно представить в виде задачи оптимизации: L = ||X*a - y|| -> min

Как задача оптимизации, так и линейное уравнение, имеют бесконечное количество решений, если матрица X_транспониров * X имеет хотя бы одно нулевое собственное значение.

С точки зрения оптимизационного процесса, все решения этой задачи оптимизации хороши, однако с точки зрения здравого смысла, слишком большие значения в векторе a не нужны, если имеется решение с меньшими весами.

Добавим регуляризацию в приведенную выше задачу оптимизации:

L = ||Xa - y||^2 + lambda||a||^2 -> min a

Необходимо записать производную функции потерь по вектору a, dL*/da.

Ответ представить в матричном виде.

lambda обозначить как reg, единичную матрицу (у которой по диагонали стоят единицы, а в остальных позициях - нули) обозначить как I, транспонирование обозначить как .T.

Мой вариант ответа: 2X.T(Xa-y)+Ireg - неправильный.

ПОДСКАЖИТЕ ПОЖАЛУЙСТА, каким должен быть правильный ответ?

задан 17 Дек '19 23:58

10|600 символов нужно символов осталось
Знаете, кто может ответить? Поделитесь вопросом в Twitter или ВКонтакте.

Ваш ответ

Если вы не нашли ответ, задайте вопрос.

Здравствуйте

Математика - это совместно редактируемый форум вопросов и ответов для начинающих и опытных математиков, с особенным акцентом на компьютерные науки.

Присоединяйтесь!

отмечен:

×412
×99

задан
17 Дек '19 23:58

показан
87 раз

обновлен
17 Дек '19 23:58

Отслеживать вопрос

по почте:

Зарегистрировавшись, вы сможете подписаться на любые обновления

по RSS:

Ответы

Ответы и Комментарии

Дизайн сайта/логотип © «Сеть Знаний». Контент распространяется под лицензией cc by-sa 3.0 с обязательным указанием авторства.
Рейтинг@Mail.ru