Makecert y OpenSSL siguen a X.509 , por lo que son compatibles, en teoría. X.509 es extensible, varias formas arbitrarias, y se ha extendido en varias formas arbitrarias y exóticas, para que cualquier cosa pueda suceder.
En la práctica, OpenSSL alimenta una gran cantidad de sitios web HTTPS existentes (según estas estadísticas , Apache alimenta más del 50% de todos los sitios web, y cuando Apache hace HTTPS, lo hace así que con OpenSSL (*)) es probable que Microsoft haya intentado no romper la compatibilidad en ese asunto. En mi experiencia, .NET y OpenSSL se comunican entre sí con bastante amabilidad.
(*) Bueno, Apache también puede usar GnuTLS , pero parece ser bastante raro.