Respaldo lo que Adnan dijo acerca de la caja virtual y el Monitor de red para un análisis de nivel superior. Específico de Windows: para el acceso al disco, el acceso al registro, el uso de la memoria y los eventos, debe examinar las herramientas internas del sistema desarrolladas por Mark Russinovitch, especialmente el monitor de procesos, que absorbió la funcionalidad que regmon y otros solían tener. Hay muchos videos que muestran el poder de este conjunto de herramientas, incluyendo algunos del creador .
Para un análisis más profundo, estás ingresando a un territorio de ingeniería inversa y tendrás que aprender a usar un depurador. Incluso hay un sitio de intercambio de pila dedicado a la inversión . Algunos ejemplos son: Inmunidad, Ollydbg , IDA, y WinDBG . Un depurador es lo que usaría un analista de malware. (Estoy simplemente perdiendo el nombre aquí. No tengo experiencia con ningún depurador).
También, para que los binarios practiquen, hay crackmes . Un beneficio es que existen soluciones publicadas para todos ellos, por lo que puede comparar sus resultados con otros y ver lo que se perdió. He hecho algunos de los más sencillos e incluso esos me proporcionan mucha información.