Lo único que un autor cobra por ser autor es el porcentaje de derechos de autor que genere la venta de su libro.

La editorial no paga por comprar tu libro ni por quedarse los derechos.

Lo que paga es un adelanto de los derechos, que es exactamente lo que su nombre indica: en lugar de cobrar lo que te toque de derechos de autor, la editorial te adelanta parte de ese dinero y lo paga a la entrega del manuscrito, o cuando se publica.

Si la editorial no te ofrece ningún adelanto, sospecha. 

Una modalidad es un co-pago disfrazado: le compras 50 ejemplares a precio de costo, y ellos se hacen cargo de la publicación, pero, ese dinero que pusiste por los 50 ejemplares, no entra en el cobro de regalías, pero si como "adelanto", es decir: estas pagandote la publicación, con otro nombre.

A algunos les conviene, cuando ya tienen un nombre y necesitan tener el libro en la librerías, porque la venta les retornará la inversión en regalías, o no, según cuál es el propósito. Pagar por  imprimir 50 números es menos que pagar por 300.