При небольшой атаке это сможет помочь, но при сильной - нет.

Пакеты все равно доходят до сервера и забивают канал. Здесь iptables не поможет.