Si alimento AES y un IV generado por MD5 usando la clave, ¿causará un riesgo de seguridad? Entiendo que el MD5 se puede descifrar en un período de tiempo lamentablemente corto, ¿pero eso afectará la integridad del cifrado? La única debilidad que veo es que el hash se puede usar para encontrar la clave; pero ¿no es básicamente imposible encontrar el IV de un cifrado utilizando solo el texto cifrado?
En resumen, sí. El uso de un vector de inicialización derivado de la clave es un riesgo de seguridad, independientemente del algoritmo de hash que utilice. Siempre debe usar un generador de números aleatorios criptográficamente seguro para crear IV's.
Un gran problema con la obtención de una IV mediante el uso de un algoritmo de hash es que el hash siempre será el mismo para cualquier clave.
Nunca se debe usar un IV varias veces con la misma tecla. El punto de una IV es proporcionar unicidad a un mensaje y evitar que se cifre en el mismo texto cifrado varias veces. Aquí es una publicación que da un buen ejemplo de cómo un atacante podría aprovecharse de esto.
LosIV's se envían junto con el mensaje cifrado en el claro. Esto está bien, porque no se supone que sean un secreto. El receptor necesita el IV para descifrar correctamente el mensaje. Enviar la clave de hash como el IV significa que cualquier persona que reciba su mensaje verá la clave de hash. Por lo tanto, es muy posible que un atacante descubra la clave a través de una tabla de arco iris o incluso de fuerza bruta.
Lea otras preguntas en las etiquetas passwords cryptography aes md5