Como se puede comprobar en el DLE, la palabra cuyo es un adjetivo. Eso quiere decir que necesariamente deberá modificar a un sustantivo. Para usar la voz cuyo la frase debería estar estructurada así:
... encontrar editorial para los libros a cuyos autores representa...
De esta forma, el adjetivo cuyos modificaría a autores. Sin embargo, en el ejemplo dado después de la palabra a insertar va un verbo: representar. Luego podemos descartar cuyo, y nos pasamos a la otra opción: que. Esta voz constituye un pronombre relativo que introduce oraciones relativas y hace referencia a un antecedente expreso. En este caso el antecedente es escritores. La oración se podría presentar de dos formas:
... encontrar editorial para los libros de los escritores que representa...
... encontrar editorial para los libros de los escritores a los que representa...
La segunda forma tiene la estructura de complemento preposicional, que necesita una preposición más un artículo (como en jugar a los dados). Dado que la oración de ejemplo deja claro que la preposición debe estar ahí, la única opción válida es la segunda:
Un agente es quien se encarga de encontrar editorial para los libros de los escritores a los que
representa: quien negocia y...