conjuntos de cifrados que no necesitan certifcados, RSA, SHA1 y usan AES entre las listas 1.0.2j, lista de cifrados compatibles con TLS1.2

Sí, las suites DSS necesitan certificados. En la práctica, muchas bibliotecas TLS no admiten estos conjuntos de cifrado de todos modos, por lo que probablemente no importa.

Básicamente, se limitará a las suites PSK (clave precompartida). Hay varias de estas suites que admiten DHE y AES. El soporte para estas suites de cifrado, aunque más extendido que el soporte para DSS, seguirá siendo más limitado que para las suites más populares, por lo que tendrá que hacer una investigación para determinar si esta es una opción viable para su aplicación. No sé de antemano si están disponibles en OpenSSL 1.0.2j, pero si no, probablemente no tengas suerte.