Мне кажется правильным было бы не учить машину устанавливать сотни тыщ
исходящих соединений
а научить nginx ограничивать кол-во соединений с бэкендами.
Да и по опыту если бэкенд заткнулся то установка еще большего кол-ва
соединений его тока добивает.
Из моего опыта при средней скорости 3000 req/sec и среднего времени
ответа
backend'а в районе 100-300 мсек это как раз в районе 100.000 соединений.
При
подвисании бэкендов из-за общей причины, например, задумавшегося mysql
имеем
всего ~20 секунд на то, чтобы кончились все 65000 портов.
Это внештатная, даже может быть немного надуманная ситуация, но все равно
хорошо когда отказоустойчивость продумана на всех этапах обработки
запроса.
