Есть желание использовать nginx mail как фронтенд с авторизацией
пользователей smtp, с последующим соединением с smtp сервером, не
поддерживающим авторизацию. Это возможно ?
Да.
Желательно чтобы этот сервер поддерживал XCLIENT (можно и без этого, но тогда в логах будет меньше полезной
информации и не будет возможностей использовать какие то ограничения для отдельных ip внутри этого сервера).