¿Hay un ataque que de alguna manera inunde un proceso objetivo (por ejemplo, al llamar repetidamente a una función WinAPI que involucra el proceso) y, por lo tanto, falla o lo desactiva temporalmente?
Estrictamente hablando, lo que estás preguntando es sobre una Fork Bomba .
... en donde un proceso se replica continuamente para agotarse recursos disponibles del sistema, lo que provoca la falta de recursos y la ralentización o estrellar el sistema.
En Windows (porque pregunta específicamente sobre ese sistema operativo) no puede generar nuevas bifurcaciones a nivel del sistema operativo, pero puede crear una cascada de nuevos procesos. Esa técnica aún cae bajo el término "Bomba de horquilla".
Lea otras preguntas en las etiquetas denial-of-service flooding process