Задать вопрос
ogregor
@ogregor
арендатор vpn сервера debian

Как сформировать правильный алгоритм стохастического градиентного спуска?

Здравствуйте, не получается реализовать выполнение алгоритма шага для стохастического градиентного спуска.

Вот модель которой пользовался:
33c354eb086d44dd8a7548fe4ece0e1e.png
Вот алгоритм шага:
def stochastic_gradient_step(X, y, w, train_ind, eta=0.01):
    r = []
    X_train = X[train_ind]
   
    r.append(w[0] - 0.5 * eta * X_train[0] * (w[0] * X_train[0] + w[1] * X_train[1] + w[2] * X_train[2] + w[3]* X_train[3] - y[train_ind]))
    r.append(w[1] - 0.5 * eta * X_train[1] * (w[0] * X_train[0] + w[1] * X_train[1] + w[2] * X_train[2] + w[3]* X_train[3] - y[train_ind]))
    r.append(w[2] - 0.5 * eta * X_train[2] * (w[0] * X_train[0] + w[1] * X_train[1] + w[2] * X_train[2] + w[3]* X_train[3] - y[train_ind]))
    r.append(w[3] - 0.5 * eta * X_train[3] * (w[0] * X_train[0] + w[1] * X_train[1] + w[2] * X_train[2] + w[3]* X_train[3] - y[train_ind]))
    return r


Подозреваю что формула составлена не верно.
  • Вопрос задан
  • 4028 просмотров
Подписаться 1 Оценить 2 комментария
Ответ пользователя PavelBortnikov К ответам на вопрос (4)
@PavelBortnikov
матрунич сергей Тоже столкнулся с этой задачей. Можете поделиться в чем была проблема? Уже все перепроверил...
Ответ написан