En términos más técnicos, "que no repite ninguna letra" es una proposición subordinada adjetiva en función de complemento de "palabra" (en inglés, a restrictive clause). A partir de ello, pueden encontrarse muchas referencias online sobre el uso del subjuntivo en subordinadas adjetivas. En este libro se explica que:
"El indicativo representa al antecedente como algo o alguien existente y definido [...]. En el subjuntivo, el antecedente se representa como algo o alguien inexistente, dudoso o/e inconcreto"
Luego en tu ejemplo, si se quiere dar la idea de que el antecedente ("palabra") es una palabra concreta, se debe usar el indicativo. Ello tendría sentido pues se pide no una palabra cualquiera, sino "la más larga". Si en cambio se quiere expresar la idea de que la palabra podría ser cualquier palabra, esto es, algo indefinido, se deberá usar el subjuntivo. Ello también tiene sentido ya que, al momento de hacer la pregunta, la palabra aun se desconoce.
En resumen, ambas opciones son válidas, con una pequeña diferencia que no afecta al significado general de la pregunta. Como nativa, puedo asegurar que ambas suenan igual de correctas.
Para una mayor comprensión del uso del subjuntivo en subordinadas adjetivas, véase esta respuesta (en Subjuntivo vs Indicativo: "estación que me sirve/sirva)