Supongo que tendrás un panel de control donde puedes gestionar los subdominios. Al crear el subdominio te tiene que dar la opción de decirle a que ruta o IP se dirige o apunta. En tu caso le tendrías que poner la IP de tu VPS.
La manera de hacerlo cambia de unos gestores a otros, por lo que no te puedo dar más detalles.
Como ya te dije, si tienes dudas concretas de como hacerlo, pregunta a tu proveedor, el que te da el dominio.
