У чому полягає метод градієнтного спуску?
Градієнтний спуск – це алгоритм оптимізації, що використовується для різноманітного навчання моделі машинного навчання. Він найкраще підходить для завдань, в яких є велика кількість функцій і дуже багато зразків, щоб поміститися в пам'яті моделі машинного навчання.
Чому градієнтний спуск сходиться?
Швидкість спуску градієнта сходиться, коли він не може зменшити функцію витрат, і залишається на тому ж рівні. Кількість ітерацій, необхідних збіжності градієнта, сильно варіюється.