Попробуйте убрать ip_hash и посмотрите что получится.
При этом второй бекенд загружен практически под завязку, а первый
стоит холодный. Такое ощущение что 90% запросов идут на второй бекенд.
Это нормально? Как сделать чтобы нагрузка была более-менее
равномерной?