Primero de todo, debes tener en cuenta que el firewall incorporado de Windows XP no tiene la capacidad de aplicar las reglas que describiste. Además, incluso si lo hiciera, los paquetes seguirían siendo soltados por la misma máquina que maneja las conexiones FTP reales, por lo que aún sería recomendable colocar un cortafuegos (o una caja de Linux) separado delante de él , solo para propósitos de firewall / NAT.
Además de eso, el uso del servidor FTP incorporado de Windows XP tampoco es una buena idea, ya que está demasiado integrado con el sistema operativo y lo obligaría a crear perfiles de usuario del sistema operativo y administrar las ACL a través de los permisos NTFS. Por lo tanto, optaría por un tipo diferente de servidor, con FileZilla Server y Syncplify.me Server! son dos de estas opciones.
FileZilla Server es gratuito para cualquier uso y le permite limitar la cantidad de conexiones simultáneas. Servidor Syncplify.me! es gratuito para uso personal, pero las ediciones de pago le permiten limitar no solo la cantidad de conexiones simultáneas, sino también la cantidad de ellas permitidas desde la misma dirección IP y la cantidad de "intentos" permitidos en la cantidad de tiempo (ventana) antes de la inclusión automática de listas negras permanentes / temporales.
(Descargo de responsabilidad: Soy el autor de Syncplify.me Server)