Una clave de esa longitud probablemente no sea una clave asimétrica (incluso las claves de curva elíptica suelen ser más largas que eso, aunque supongo que podría ser una). Probablemente sea una clave simétrica para un algoritmo como DES (que técnicamente solo usa 56 bits de material clave; el último byte es una suma de comprobación que la mayoría de las implementaciones ignoran y es trivial reparar si es necesario).
Sin embargo, si está cifrado, realmente no importa el tipo de clave que es; No hay absolutamente ninguna manera de decirlo. Con el cifrado simétrico (que es lo que usaría para cifrar una clave), sin la clave de descifrado, cualquier texto cifrado dado puede descifrar a cualquier texto plano determinado. Además, a menos que tenga alguna forma de verificar la clave, no tiene idea de cuándo ha pulsado la correcta. Con las claves DES, el byte de suma de comprobación (si era correcto de antemano) puede indicarle si el descifrado está mal, pero no si está correcto; 1/256 de los descifrados incorrectos pasarán la suma de comprobación de todos modos, mientras que solo 1 / (72 cuatrillones) es en realidad el descifrado correcto.
Ahora, si tiene alguna forma de verificar realmente la clave, como un hash criptográfico, o algo para descifrar con esa clave y el hash criptográfico del texto simple, puede ser capaz de forzar una clave DES. Será lento sin hardware especializado, probablemente semanas de cómputo constante, aunque el hardware especializado puede hacerlo en un día o más si la función de verificación es lo suficientemente rápida. Sin embargo, eso es hacer algunas suposiciones serias (como que es una clave DES, no otro tipo de clave de 64 bits) y si en realidad es una clave de 64 bits (no una clave de 56 bits más suma de comprobación), su espacio de búsqueda es 256 tiempos tan grandes sin hardware dedicado, estaría buscando años de trabajo para forzar la fuerza bruta de esa clave.
Solo comprobando: ¿por qué esperas que esta sea una clave cifrada? 64 bits es tan corto que no esperaría por defecto que fuera una clave, y mucho menos una cifrada. Incluso 64 bytes sería una clave pública muy, muy corta (512 bits), completamente insegura (aunque dentro del rango que podría usar para un problema de práctica) si fuera por un algoritmo como RSA.
En cualquier caso, no hay una forma inherente de saber qué tipo de clave es algo. Especialmente para claves simétricas, donde literalmente cualquier valor de la longitud correcta es una clave válida para cualquier algoritmo que use el tamaño de clave en cuestión.