Я мало понял в вашем потоке сознания, если честно. Насчет документации скажу вам, что там отражены далеко не все функции и директивы nginx, взять хоть worker_connections. И, само собой, я ее изучал перед тем, как задать вопрос.
В таком случае можно было обойтись документацией.
Я вот убей бог не понимаю, почему, если есть число "А" приложений которые нормально обслуживаются в пиках числом "Б" бекендами, нужно это "А" раскладывать на составляющие и раздавать на разные бекенды. Я бы понял, если бы бы бекенды были разные - "В" умеет приложение "Ц", а "Г" - нет, но вы же говорите, что даже тяжелое приложение умеет работать на всех бекендах. Не... не улавливаю логику. Но если уж хотите, можно сделать так.
На "тяжелых" бекендах число процессов жестко лимитировано (не более, чем бекенд может без проблем выполнять при пиковых запросах). Таймаут - время ожидания бекенда. "Легкие" бекенды - как бакапные. В этом случае, правда, будет логика "1-й тяжелый, 2-й тяжелый, 3-й тяжелый, бакапный легкий", что не очень хорошо... но тут уже можно что-то и попатчить.
