You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
Посчитаем, как будет выглядеть элемент градиента $$\frac{\partial R}{\partial\beta_{i}}$$
Перепишем его в векторном виде, чтобы считался сразу весь градиент $\nabla R$
Используя $\mathbf{X}$ из Сгенерировать многомерные данные #2, сгенерируем $\mathbf{y}$, однако не будем зашумлять. Попробуем восстановить сгенерированную гиперплоскость.
Напишем функцию gd_step, реализующую шаг градиентного спуска для заданного вектора параметров b.
Попробуем для случайного вектора $\boldsymbol{\beta}_{\mathrm{init}}$ прогнать шаг спуска. Считает?
Попробуем запустить в цикле gd_step (шагов 200). $\alpha$ можно положить равным 1e-2. Полученный вектор похож на тот, который использовался для генерации $\mathbf{y}$? Сколько разница?
Кстати говоря, не стоит ли попробовать запустить оптимизацию на другом $\boldsymbol{\beta}_\mathrm{init}$ - а ну как попали в локальный минимум?
The text was updated successfully, but these errors were encountered:
x1o
changed the title
Реализовать шаг градиентного спуска
Реализовать градиентный спуск
Sep 30, 2022
gd_step
, реализующую шаг градиентного спуска для заданного вектора параметровb
.gd_step
(шагов 200).The text was updated successfully, but these errors were encountered: