El problema es el subjuntivo. Por lo general, la respuesta correcta es tal y como señala Alenanno: "habría". Y lo correcto (por lo general) es "habría" pues debemos tener en cuenta que una frase con todos los verbos en modo subjuntivo es una frase incompleta (a menos que se pueda completar tácitamente por el contexto) que deja al interlocutor esperando que termine la frase.
Antonio: «Si yo hubiera comido»
Enrique: «¿Qué? ¿Qué pasaría si tú hubieras comido? ¿Estarías más gordo? ¿no tendrías hambre?
Antonio: «No, que digo que si yo hubiera comido entonces ya no me habría sentado mal ese whisky»
Enrique: ¡Ah, vale! Ahora ya sí te entiendo.
Con las frases aisladas que nos trae Nicolás obtenemos lo siguiente:
Si lo hubieran anotado, después no les habría costado tanto recordarlo. [OK tiene sentido por sí sola]
Si lo hubieran anotado, después no les hubiera costado tanto recordarlo. [Incompleta, suena raro, como si la dijera mi hijo de 9 años]
No obstante, es posible que la segunda frase tenga sentido y esté correctamente dicha si se dice en un contexto que lo permita, por ejemplo ...
Juan: «Si no les hubiera costado tanto recordarlo, habrían llegado a tiempo para ver el eclipse de Sol.»
José: «Si lo hubieran anotado, después no les hubiera costado tanto recordarlo [y habrían visto el eclipse]»
En ambos casos es exactamente la misma frase, pero la primera carece de sentido (o por lo menos suena bastante rara) al tener todos los verbos en modo subjuntivo, y en cambio la segunda está bien pues existe un verbo (omitido pero que se sabe por el contexto) que no está en modo subjuntivo.