روش رایج که دستی همه استفاده می کنند میان معمولا آزمایش و خطا می کنن از lr بالا شروع می کنن و کمش می کنند تا زمانیکه loss روندش کاهشی باشه در روش های خودار برعکس عمل می کنن ابتدا lr را خیلی کوجک در نظر میگیرن چند اپک تکرار می کنن میانگین می گیرن بخاطر نویز بعد روندشو بررسی می کنن اگر نزولی باشه با step مورد نظر که معمولا لگاریتمیه lr را افزایش میدن اینکار تا زمانی ادامه میدن که loss کاهشی باشه به محض اینکه افزایشی شد lr قبلی میشه lr ثابت تا آخر ترین .