mascara para Video Mapping

Holas, tengo un par de dias experimentando con el tema de ser Vj, estoy empezando hacer video mapping (projection mapping), me sale bien todo, el encuadre, el after effects, el resulme (uso pc), etc, el unico problema que tengo es que el proyector (sony 2500 lumens) se nota el area proyectada, osea los contornos, ya previamente mapee en el photoshop el area que se debe proyectar y el area que no (blanco y negro), pero me sigue proyectando el negro de la mascara, ya intente bajando el brillo del proyector, el contraste (subi y baje), lo que quiero exactamente es que proyecte solo el area mapeada, he visto videos de modulos de djs donde solo se ve el area mapeada, nada mas, no se nota el cuadrado proyectado por el proyector. Porfavor necesito su ayuda, ya que ustedes son expertos en este tema y tengo solo el proyector por 3 dias mas…ayudenme porfavor.