Looking around for papers on the topic in Spanish, I've seen that the term is taken directly from English. That said, I did find it the underlying concept translated as canales alternos de comunicación (source).
This seems to me to express the concept pretty well, but as is common when using coined terms from other languages that aren't fully adapted, you should probably mention note the term in the original and work from there. A possible way would be:
Yngve desarrolló la idea de back-channel communication (canales alternos de comunicación). Los canales alternos constituyen un medio por que el escuchante activo puede indicar al locutor con respuestas tanto verbales como físicas que entiende o que tiene prestada la atención. Las respuestas en este tipo de comunicación … Una formulación típica de una respuesta en el canal alterno … etcétera
You can see how a professor in Argentina used the term in English in a pedagogical paper, but still used many terms in Spanish to refer to the distinct elements within the concept, for another example of how to work with it.
Edit:
Buscando más posibilidades, he encontrado en algunos artículos el término «turno de apoyo» (que constrasta con «turno de habla») para significar una instancia de comunicación «back-channel» (de apoyo) y de «front-channel» (de habla). He aquí algunos: 1º, 2º y 3º (parece que el término disfruta de un uso bastante amplio)