You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
В курсе статистики доказывается, что оптимальная оценка $\hat{\boldsymbol{\beta}}$ может быть получена аналитически: $$\hat{\boldsymbol{\beta}}=(\mathbf{X}^{\intercal}\mathbf{X})^{-1}\mathbf{X}^{\intercal}\mathbf{y}$$
Аналитический метод предпочтительней для случаев, когда данные помещаются в память. Ясно, что если $\mathbf{X}$ больше объема оперативной памяти, то посчитать аналитически не получится. Вдобавок, считать matrix inverse вычислительно тоже очень дорого (кстати, сколько?).
Посчитайте сложность градиентного спуска и сравните со сложностью аналитического метода.
Наконец, градиентный спуск можно легко запараллелить, что будем делать в следующих тикетах.
The text was updated successfully, but these errors were encountered:
В курсе статистики доказывается, что оптимальная оценка$\hat{\boldsymbol{\beta}}$ может быть получена аналитически: $$\hat{\boldsymbol{\beta}}=(\mathbf{X}^{\intercal}\mathbf{X})^{-1}\mathbf{X}^{\intercal}\mathbf{y}$$
Аналитический метод предпочтительней для случаев, когда данные помещаются в память. Ясно, что если$\mathbf{X}$ больше объема оперативной памяти, то посчитать аналитически не получится. Вдобавок, считать matrix inverse вычислительно тоже очень дорого (кстати, сколько?).
Наконец, градиентный спуск можно легко запараллелить, что будем делать в следующих тикетах.
The text was updated successfully, but these errors were encountered: