¿Hay un nombre general para este tipo de protocolo criptográfico?
Si es así, ¿qué tipo de funciones de cifrado asimétrico / simétrico se utilizan para este protocolo?
Lo que estás describiendo puede denominarse cryptosystem híbrido donde se utilizan sistemas de cifrado asimétricos como RSA para intercambiar claves de cifrado que luego se utilizará con cifras simétricas como AES.
El principal problema con el método que describe es que el cliente solicita la clave pública del servidor , que puede ser reemplazada por un atacante que se encuentra entre ellos realizando una MITM ataque. Esto se puede superar con algo como el sistema de CA x509, que lo lleva a un sistema conocido como PKI . Esta es la columna vertebral de SSL / TLS.
Lea otras preguntas en las etiquetas cryptography