nmap.h es un archivo de encabezado. Encontrará el nmap.h predeterminado en el github repo .
Para cambiar el número máximo de señuelos que necesita compilar e instalar desde el código fuente. Si ya lo ha hecho, puede ir al directorio con el código fuente, editar nmap.h, luego compilar y listo.
Si instaló un paquete, necesitará obtener el código fuente de enlace . Luego puede eliminar el paquete o instalar el el último junto con el paquete al pasar la opción --prefix para configurarlo e instalarlo donde no se interponga en su camino. La compilación e instalación de nmap ha sido bastante indolora para mí. En FreeBSD las únicas dependencias son gnupg (para verificar el tarball) y gmake (para construir nmap). En Linux, creo que solo necesita un entorno de compilación, en Debian el paquete build-essential debería ser todo lo que necesita.
Hay un libro en nmap con mucha buena información. Aquí está el capítulo sobre compilación e instalación enlace