Creo que has cometido el error "típico" de conectar un equipo doméstico a uno profesional; los niveles. En el mundo doméstico están los niveles dBV y en el profesional dBU y no son los mismos.
Si quieres, puedes ver un artículo de mi antigua web de hace años donde explica el por qué y una solución barata, aunque no efectiva para tu caso.
LAS SEALES DE AUDIO

La solución efectiva es muy sencilla. Pon un convertidor de no balanceado a balanceado de la salida de tu procesador (no balanceado) a tu monitor (balanceado); así adaptas las señales de un equipo a otro.
FP-UBC2 ‐ Unbalanced to Balanced Converter ‐ 2 Channel
TX-AFC1M ‐ Unbalanced to Balanced Audio Transformer ‐ RCA, XLR
O si te atreves a hacerlo en kit.