Насколько я понима, очередные проблемы с if.
Я бы сделал так:
proxy_set_header X-Real-IP $remote_addr;
location / {
if ($http_referer ~* "^http://(.*)/fw-in/(.*)$" ) { return 412; }
if ($http_referer ~* "^http://(.*)/webrelay/(.*)$" ) { return 413;}
error_page 412 =@in;
error_page 413 =@web